AFS (AI Foundry Service)

台灣第一個企業大語言模型解決方案,從訓練到部署一站到位
提供市場唯一企業大語言模型地端部署方案

AFS (AI Foundry Service)

台智雲結合AIHPC算力與No-code大模型優化平台,推出全方位的企業級生成式AI解決方案,提供快速調動AI超級電腦算力、容易優化模型與彈性部署模型的 AFS (AI Foundry Service)系列服務,包含:「AFS Platform (大型語言模型優化服務)」、「全球首創AFS Appliance (大型語言模型地端部署解決方案)」、「AFS Cloud (優化後大型語言模型雲端部署服務)」、「AFS ModelSpace (公用大型語言模型雲端部署服務)」。

台智雲提供可信賴、節能且可自由遷移部署的優化AI模型,使企業能夠在公有雲、私有雲之間無縫移動或調整AI工作負載,且低啟動軟體工程的門檻及費用,相較於租用雲端服務是數十倍以上、自建AIHPC系統是數千倍以上的高投資效益,協助企業快速進入AI 2.0應用趨勢和落地實踐。

AFS (AI Foundry Service) Pipeline:一站式解決方案

AFS ModelSpace

公用大型語言模型雲端部署服務

提供企業多種開源大語言模型選擇,靈活配置模型運算資源

✓ 操作便捷可快速在雲端部署與啟動原生大語言模型AI服務。

✓ 成本透明用多少付多少,計價方式單純,易於評估及控制成本。

✓ 雲端託管自動化工具和管理服務,簡化大語言模型的管理工作。

商品類別基礎模型系列商品代表型號
部署原生模型FFM-MistralAFS.MS.FFM-Mixtral-8x7B
部署原生模型FFM-Llama2-v2AFS.MS.FFM-Llama2-v2-70B
部署原生模型FFM-Llama2AFS.MS.FFM-Llama2-70B
部署原生模型FFM-BLOOMZAFS.MS.FFM-BLOOMZ-176B
部署原生模型FFM-embeddingAFS.MS.FFM-embedding
部署原生模型Meta-Llama2AFS.MS.Meta-Llama2-70B
部署原生模型Meta-CodeLlamaAFS.MS.Meta-CodeLlama-34B-8K

*完整模型列表與價格,詳見本公司商品價目表

AFS Platform

大型語言模型優化服務

提供企業〝成本最低〞且 〝效率最高〞的大語言模型訓練環境

✓ 減少訓練時間和成本:提供FFM預訓練模型,無須從零開始訓練,只需準備資料即可快速完成自有繁中LLM

✓ 降低啟動門檻:無需自建AI超級電腦,用多少付多少,數千元 ~ 數萬元即可開始大語言模型訓練任務。

✓ 參數高效微調:提供LoRA優化模型,減少所需訓練的參數量和記憶體使用量,權衡模型效能與效率

優化策略基礎模型系列最高規格商品型號效能
(Tokens / 小時)
全參數優化FFM-Llama2-v2-70BAFS.plt.FFM-Llama2-v2-70B.12M1,200 萬
全參數優化FFM-Llama2-70BAFS.plt.FFM-Llama2-70B.12M1,200 萬
全參數優化FFM-BLOOMZ-176BAFS.plt.FFM-BLOOMZ-176B.45M4,500 萬
全參數優化Meta-Llama2-70BAFS.plt.Meta-Llama2-70B.12M1,200 萬
LoRA優化FFM-Llama2-v2-70BAFS.plt.FFM-Llama2-v2-LoRA-70B.16M1,600 萬
LoRA優化FFM-Llama2-70BAFS.plt.FFM-Llama2-LoRA-70B.16M1,600 萬
LoRA優化Meta-Llama2-70BAFS.plt.Meta-Llama2-LoRA-70B.16M1,600 萬

*完整商品與價格,詳見本公司商品價目表

專為巨量算力需求打造 – 超優惠企業大腦算力方案
重度使用者有福啦!綁約越久,賺越大

方案名稱約期優惠總價
(萬,NT$,未稅價)
年繳費用
(萬,NT$,未稅價)
可抵用總算力金額
(萬,NT$,未稅價)
企業大腦 95 方案一年95

95109
*現賺NT$14萬*
企業大腦 95 方案三年28595342
*現賺NT$57萬*
企業大腦 150 方案一年150150180
*現賺NT$30萬*
企業大腦 150 方案三年450150570
*現賺NT$120萬*
企業大腦 250 方案一年250250330
*現賺NT$80萬*
企業大腦 250 方案三年7502501050
*現賺NT$300萬*

*完整商品與價格,詳見本公司商品價目表

FFM 176B vs. FFM 7B

FFM 176B vs. FFM 7B

企業級大模型優化方案

AFS Shuttle

大型語言模型優化共乘服務

低成本快速投入,概念性驗證 (Proof of Concept,POC) 的最佳選擇

產品功能特色

✓ 容易上手的 No-code Portal

✓ 多種預訓練模型可供選擇

根據客戶需求和可讀取 token 總量排定製程

✓ 國家級的資安防護與租戶環境隔離

能進一步與安全線路環境整合(含 VPN )

✓ 提供包套固定價格給企業用戶快速取得 GPU 資源進行 POC 驗證

 

AFS Cloud

優化後大型語言模型雲端部署服務

提供企業彈性模式部署方案,用多少付多少,免除不必要的成本浪費

✓ 簡單快速可快速在雲端部署優化後的大語言模型AI服務。

✓ 省時省力雲端託管可立刻檢驗優化模型或投入生產環境,無需費心機房管理議題,或是龐大的建置成本。

✓ 經濟實惠用多少付多少,最佳化的推論軟體部署整合,輕易控管成本。

商品類別基礎模型系列商品代表型號
部署優化後模型FFM-Llama2-v2AFS.cld.FFM-Llama2-v2-70B.ft
部署優化後模型FFM-Llama2AFS.cld.FFM-Llama2-70B.ft
部署優化後模型FFM-BLOOMZAFS.cld.FFM-BLOOMZ-176B.ft
部署優化後模型Meta-Llama2AFS.cld.Meta-Llama2-70B.ft

*完整模型列表與價格,詳見本公司商品價目表

AFS Appliance

大型語言模型地端部署方案

提供企業直接在地端資料中心/私有雲部署自有專屬大語言模型,兼具資安及隱私

✓ 資料儲存好安全符合企業地端的安全性、合規性和可用性,輸入、輸出皆在企業自己的推論環境,保障用戶與資料的安全和隱私,減少資安風險。

✓ 機密資訊不外洩企業可直接在自己的伺服器上落地部署自有大模型,不須與他人用戶共享環境,無須擔心機敏資料外洩,隱私有保障。

✓ 方案彈性享優惠提供不同規格方案,滿足各種需求,最高(DGX H100)可提供每分鐘3.4萬個Tokens的文字生成效能。

型號主要 GPU 規格與配置伺服器定價
(萬,NT$,未稅價)
dgxh8x NVIDIA H100 SMXNVIDIA DGX H100專案報價
8L40s8x NVIDIA L40s PCIeASUS ESC8000A 雙 CPU397
4L40s4x NVIDIA L40s PCIeASUS ESC4000A 單 CPU203
2L40s2x NVIDIA L40s PCIeASUS ESC4000A 單 CPU130

*完整商品與價格,詳見本公司商品價目表

搭配企業大腦算力方案,最高折扣 204 萬
依約加贈 AFS Appliance 完整安裝開通服務,每季軟體更新 & 5x8 到場硬體維護服務

Appliance 型號企業大腦 95 方案
一年合約
95 萬
(NT$,未稅價)
企業大腦 95 方案
三年合約
285 萬
(NT$,未稅價)
企業大腦 150 方案
一年合約
150 萬
(NT$,未稅價)
企業大腦 150 方案
三年合約
450 萬
(NT$,未稅價)
企業大腦 250 方案
一年合約
250 萬
(NT$,未稅價)
企業大腦 250 方案
三年合約
750 萬
(NT$,未稅價)
dgxh優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價
8L40s優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價
4L40s優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價
2L40s優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價優惠合購價

*完整商品與價格,詳見本公司商品價目表

「AFS (AI Foundry Service)」提供一站式整合服務,協助企業開發專屬的企業級生成式AI大模型

立即填表諮詢

免費諮詢服務

聯絡台智雲專家,了解並開始使用適合您的解決方案。

AFS (AI Foundry Service)
方案申請

請協助填寫下方資訊
我們將有專人與您聯繫並安排測試資源

AFS (AI Foundry Service)
方案諮詢

訂閱活動及行銷 EDM