FFM Turnkey Solution
滿足企業快速導入 LLM 應用需求
1
AI Assistant
透過 Chat Web 介面及各種任務 prompt 範本 完成 LLM 任務 (摘要、邏輯推理、意圖分析、結構化資料處理等)
2
RAG Application
針對 RAG/KM 企業需求 導入台智雲 FFM 夥伴的 Turnkey 方案以及協助 POC
3
AFS Coder
4 大 Coder 系列服務，加速程式碼開發需求
ChatCoder、VSCoder、GitCoder、MyCoder
4
Insight & Predict
透過微調企業資料
建立 BI 決策洞察分析與預測的大型語言模型應用
4 大 FFM Turnkey Solution
1
AI Assistant
透過 Chat 介面 (prompt template) 解決企業大型語言模型任務
內建 FFM 大語言模型，直接與 AI Chat 互動
特色與效益
✓ 提供 FFM 各種任務 prompt template：提高用戶對於模型輸出的滿意度，減少自我摸索時間
✓ 提供建議的 prompt engineering 格式：企業可以直接使用 FFM-Llama2，快速解決企業問題
✓ 提供簡便的 AI Chat 介面：一般行政人員即可操作，無須透過工程師才能使用語言模型 (No code)
✓ 提供例句管理功能：方便 prompt template 的重複使用與編輯，加速作業效率
應用情境
基礎
- 社群小編
- 寫劇本
- 邀請函/電子郵件
- 行銷文案生成
- 翻譯
- 摘要
進階
- 翻譯 (no verbose)
- 去識別化
- 行銷 EDM 生成 (AIDA)
- 產生程式碼進行資料整理
- 生成 RPG 遊戲人物
- Function Call
Markdown 理解
- 意圖分析 + JSON格式輸出
- 資料表關聯理解
- 資料表文本混和數值理解
JSON 格式輸出
- 意圖分析
- 文本理解對答
- 文本內容解析
2
RAG Application
基於 FFM 的大型語言模型 Ready-to-Go 應用方案
藉由 FFM 夥伴 RAG Application 方案，快速導入 LLM 應用系統
台智雲 sample codes：網頁內容分析機器人
透過使用 Scrapy 進行網頁爬蟲，將所蒐集的資訊透過 Embeddings 的方式轉乘向量存放在 DB，作為大語言模型與使用者互動的索引資料來源
特色與效益
✓ 快速建立 index 索引 embedding：減少資料整理時間
✓ 隨時新增資料進資料庫：方便擴充知識庫
台智雲夥伴方案：KM (knowledge management) 知識管理與服務
第二大腦方案 (Second Brain) 整合了雲端空間及 LLM 大語言模型，透過 RAG 檢索增強生成應用，提升知識探索精準性及靈活度，提供企業輕鬆管理、擷取、整理、尋找及翻譯相關資料，輔助繁瑣的文件任務，加速工作流程，實現高效的企業知識管理及服務應用，讓用戶專注於核心業務。
特色與效益
✓ 消弭 AI 知識幻覺：強大的 RAG 檢索生成架構，保障知識來源真實性
✓ 為知識賦予新意：理解用戶自然語意，從累積知識中淬煉生成回應
✓ 消除跨語言隔閡：可透過本地語言提問外語文章，中文回覆降低溝通訊息差
✓ 透過AI與知識對話：人機協作，創造與用戶深度互動，有感提升工作效率
應用情境
生成應用
用自然對話搜尋關鍵資料
零門檻快速取得需求文件資訊，提升查找精準度與工作效率
從文件中摘要焦點資訊
可選定文件自動摘錄關鍵的核心資訊，協助迅速理解文件要點
將文件翻譯成指定語言
可選定文件自動進行多國語言翻譯，快速輔助跨語言溝通
雲端空間
完整的存取控制
可針對特定文件與資料夾設定協作者的權限，保護資料隱私
資料集中管理多元存取
可透過多元的裝置隨時存取、同步及分享個人或團隊的檔案
安全分享協作
可針對知識與資訊的分享設定密碼、到期日等加密安全機制
台智雲夥伴方案：Customer Service ChatBot (客服機器人)
Retrieval-Augmented Generation (RAG) 應用系統
特色與效益
✓ 基礎版：一般人員適用，資料來源可使用靜態檔案：如 Excel, Word…等，且可隨時更新資料入資料庫，擴充語言模型的知識
✓ 進階版：技術人員適用，可透過網頁可隨時更新資料入資料庫，擁有完善後台系統控管資源，並能保存對話內容記錄，確保每一次的客服紀錄皆可被追朔
台智雲夥伴方案：文件/知識搜尋引擎
AI Search for KM
特色與效益
✓ 支援多種企業常用檔案格式：含網頁、壓縮檔、PDF、郵件檔、Openoffice 3.x 等
✓ 檔案權限控管安全機制：可控管使用者查詢檢視的檔案文件資料權限
✓ 支援廣泛彈性的檢索模式：可透過檔案標題、內文、作者資訊檢索，或自行選擇檢索範圍
✓ 支援口語化文字進行問答：輕鬆使用口語表達方式的文字，對文件的知識點提問
台智雲夥伴方案：LLM 會議紀錄系統
快速產製優質詳盡的語音紀錄逐字稿，有效縮短會議記錄製作時間，提高工作效率
特色與效益
✓ 具國、台、英語語音辨識能力：快速提供翻譯轉換的逐字稿
✓ 具AI語者標記和客製化辨識模組：可調整語者名稱，方便識別
✓ 友善的校正介面：提供段落音檔回放、關鍵字搜尋和文字編輯頁面功能，方便修調
✓ 具檔案管理功能：可快速查找回朔歷史紀錄
3
AFS Coder
最懂你的程式開發智慧助手 – 無縫整合現有軟體開發流程
在開發環境上即時協助程式開發者快速生成code、除錯、註解...等
特色與效益
✓ 快速部署應用：內建 Chat UI 快速體驗，提供 REST API 進行串整
✓ 支援 Local 開發：(Visual Studio Code / CLI) 及 Git 程式碼版本控制流程 (GitLab CI/CD pipeline)
✓ 多樣化開發情境 : Write Function、Bug Fixer、Generate Docs / Test…
✓ 彈性化部署：根據企業內部需求提供雲端/地端部署方案
應用情境
提升生產力&效率
具備大量程式碼的知識，協助開發人員進行程式開發、除錯、測試與自動審閱等相關作業以提升生產力，同時減輕開發人員負擔。
高度資料安全性
整套應用可根據需求，部署於雲端或是企業地端資料中心，讓企業使用過程中無需連結對外網路，解決公司機密外漏的疑慮。
強化程式碼健全
藉由AFS Coder產出的程式碼，無論在撰寫或是審閱的風格上，均符合客製化與高度一致性，以確保高質量、品質的程式碼產出。
高度整合性
可直接融入現有的程式開發環境，如Visual Studio Code或是GitLab中應用，使開發人員無論在進行程式開發或自動化程式審閱，皆無額外的使用成本。
4
Insight & Predict
藉由分析資料進行洞察以及目標預測，提供 BI 決策判斷參考
協助企業透過 LLＭ 進行如產品使用期限與維修成本預測，助營運成長
特色與效益
✓ 可針對 `結構` 與 `非結構` 化的資料進行預測
✓ 透過大語言模型 LLM 進行趨勢預測，數十萬筆資料僅需數小時，即可快速打造「企業專屬的X任務預測模型」
✓ 檢視歷史資料和過往模式，進行更精確的維運、行銷和營運決策
✓ 人員可更有效地管理作業、控管資源和成本、提升銷量收益
應用情境
智慧製造
預防性保修模型
可以透過產品的 ”模組類別” 、 ”組件類別” 和 ”銷售日期”，來判斷該產品售出後經過多久會需要進行維修。用來評估給予產品的保固條件，以及作為評估維修品所需的庫存量。
智慧電商
消費購買行為預測
可以透過消費者的 ”購買類別” 、 ”購買物品” 、 ”購買數量” 和 ”購買日期”，來判斷消費者購買同類型產品的頻率和數量。用來評估產品的銷售條件，以及作為評估所需的數量。
智慧企業
採購項目預測
可以透過採購單位的 ”購買類別” 、 ”購買物品” 、 ”購買數量” 和 ”購買日期”，來判斷企業需購置的產品或耗材頻率和數量。用來評估企業採購相關產品的規劃條件，以及作為評估購入所需的庫存量。