本文教學說明如何在 TWCC VCS 上安裝 Open WebUI,並串接 AFS (AI Foundry Service) 服務之 ModelSpace 公用模式 API,讓使用者可透過瀏覽器介面測試多個語言模型回應,適合需快速體驗 AFS 模型的開發者與研究人員。
Step 1. 建置一台 VCS Linux 主機
首先,請建立一台 Linux 主機,以下以建立一台 TWS VCS Ubuntu 24.04 做為本教學的操作範例。
測試結束後,建議停止或刪除 VCS 避免持續計費,狀態與收費關係請參考個體生命週期。
Step 2. 在 VCS 上安裝 Docker
請依照 Docker 官方教學 於,在 Ubuntu 上安裝 Docker 環境。
Step 3. 安裝 Open WebUI (Docker 版本)
執行以下指令啟動 Open WebUI:
sudo docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Step 4. 設定 VCS 安全性群組
請於 VCS 安全性群組設定頁面中新增開放 TCP 3000 port 的規則:
Step 5. 連線至 Open WebUI
- 開啟瀏覽器,輸入:
http://VCS_Public_IP:3000
- 點選下方 「開始使用」
Step 6. 建立管理員帳號
- 首次登入時,系統會要求建立管理員帳號,請填寫基本資訊後完成註冊。
若需新增其他使用者或管理員帳號,可點選右上角使用者名稱 > 設定 > 管理員設定 > 使用者 > + 建立
Step 7. 介接 AFS AFS ModelSpace 模型 API
- 點選右上角使用者名稱 > 設定 > 連線 > + 新增
- 填寫以下資訊:
- URL:https://api-ams.twcc.ai/api/models
- API金鑰:請填寫 AFS 公用模式的 API 金鑰
- 模型ID:AFS 可用模型列表
填寫完成後請點選「儲存」。
Step 8. 測試對話功能
- 新增對話 > 選擇一個或多個模型,進行對話比較
- 輸入 prompt 後,即可查看各模型的回應差異
AFS ModelSpace 公用模式 計費資訊