運算

台智雲推一站式 AI 2.0 大算力顧問服務 成為企業啟動大型語言模型專案最佳夥伴

近年來人工智慧(AI)在自然語言處理(Natural Language Processing,NLP)上獲得重大進展,而最近ChatGPT 的風潮更讓大家見識到了大型語言模型(Large Language Model,LLM)的威力,ChatGPT 使用的語言模型參數量高達1750億個,需要大量的GPU卡做高速平行運算,一般企業很難擁有這樣的環境及能力。

如何擁有CPU計算資源的容器化環境

目前TWCC的容器環境均搭配了GPU的運算資源,對於部分情境需要使用CPU運算資源與容器化環境的用戶來說,啟用開發行型容器僅為了使用其容器化環境來說,無法滿足他們的需求,因此本文提供了如何使用TWCC虛擬運算個體架設容器化環境的方法,來滿足此類的使用情境。

容器多帳號登入設定

TWCC開發型容器現行的登入方是透過ssh或使用者介面上的Jupyter Notebook連結連線進入容器。近期我們收到的需求為供多人共享與編輯的方法,本文將要教學如何於TWCC容器中設定多個帳號,滿足多個用戶在同一個容器與開發環境下進行開發的解決方案。

修改Jupyter 預設目錄

TWCC容器有提供Jupyter Notebook讓用戶在瀏覽器中撰寫與執行程式,預設的儲存空間是在home目錄底下,有些用戶有特殊的需求,需要將儲存空間進行更改,本篇文章將提供修改預設儲存空間的方式,提供用戶進行參考。

VScode 連線至 開發型容器

若已有在使用 VScode 開發您的程式,也可以直接使用此軟體連線您的開發型容器。VScode 支援多種平台,並有許多外掛軟體套件可使用,安裝方便,也相當適合新手。

訂閱活動及行銷 EDM