台智雲推AI Foundry Service 助企業打造AI 2.0腦核心

台智雲技術長陳忠誠在「AIHPCcon 台灣 AI 超算年會」,演講「Taiwan Number One-台灣自有大語言模型的突破與機會」主題

根據ResumeBuilder 針對美國1,000位商業領袖進行的調查報告指出,目前有49%公司已導入生成式AI、有30%預計導入,而在已完成導入的公司中,有99%已成功節省成本,其中48%公司已省下5萬美元以上。

台智雲克服大運算資源、大量訓練資料、大AI模型等三大挑戰,推出開放式架構的福爾摩沙大模型,訓練參數量可媲美GPT 3.5,企業可擁有自己大模型和串聯內外部系統發展。台智雲提供的AFS(AI Foundry Service)系列服務包含,AFS Platform有多種大型語言模型,可供企業選擇來訓練專屬模型。而AFS Shuttle具備低門檻的特色,非常適合企業模型 POC 快速驗證使用。

台智雲技術長陳忠誠指出,AFS Appliance主打企業可直接在地端資料中心 / 私有雲中,部署企業專屬大語言模型與推論服務,且可搭配AFS appliance伺服器使用。而AFS Cloud提供企業能在台智雲平台上管理自有的大型語言模型和使用推論服務。

「為協助企業降低引進大語言模型門檻,我們特別推出AFS Pipeline一站式解決方案,助企業完成模型優化,乃至於後續部署上線等工作。」台智雲產業數位轉型發展處副總經理黃世民解釋:「台智雲AI 2.0顧問服務非常完整,可協助企業了解AFS產品系列,建立公司專屬的大語言模型,及客製化適合使用情境,輕鬆享受引進大語言模型帶來的各種效益。」

大語言模型應用多元 台智雲提供多元客製化服務

AI大語言模型席捲全球市場的關鍵,在於擁有絕佳的自然語言理解能力,且能廣泛融合各領域知識,擁有舉一反三、懂得拒絕、人性化等特性,且創造能力優於小模型。但大語言模型也有使用上限制,如針對知識型問題的回答結果不一定正確,且回答內容不一定符合使用者期望。而台智雲推出的福爾摩沙大模型則能結合台智雲AIHPC算力與No-code大模型優化平台,搭配專業團隊的微調優化工程,可改善前述傳統大語言模型的缺點,更貼近產業使用需求。

華碩電腦經理呂道誠說,目前大語言模型的應用範圍,大致上有檢索系統、客服問答、程式撰寫,在金融、法律、教育等產業都有不錯的口碑。在金融業應用情境上,可用於合規審查、加速放貸款的程序。法律部分可協助訴狀撰寫、法律條文總結、法律文件修改。在教育應用部分,可協助老師出考題,扮演學生學習的最佳小幫手。

華碩電腦處長楊宗穎指出,考量到大語言模型都是用過去知識進行訓練,所以福爾摩沙大模型提供透過外掛LangChain應用程序開發架構方式,能將最新的相關內容匯入知識庫,增加AI服務可檢索知識範圍,能滿足更多元領域的產業應用需求。

【文章擷取自DIGITIMES

訂閱活動及行銷 EDM