採用輝達頂級晶片,數發部打造 AI 算力計畫 7 月開跑

2024-06-03 09:40:00    編輯: 中央社
導讀 數發部力拚台灣成為 AI 之島,今年斥資新台幣數千萬元購買輝達(NVIDIA)、超微(AMD)頂級算力晶片,建構「算力池」提供給產業運用,最快 7 月免費對外開放資服業者申請 AI 算力,包括基因排...


數發部力拚台灣成為 AI 之島,今年斥資新台幣數千萬元購買輝達(NVIDIA)、超微(AMD)頂級算力晶片,建構「算力池」提供給產業運用,最快 7 月免費對外開放資服業者申請 AI 算力,包括基因排序、氣候變遷、長照行為偵測等模擬運算,可望讓創新點子「跑得更快」。

生成式人工智慧影響廣泛,各行各業對AI應用愈加渴求,數發部數位產業署啟動透過為期4年、總經費22億元的數位公共建設「數位產業跨域軟體基盤暨數位服務躍升計畫」,希望為軟體業打地基,今年計畫總經費約4億元。

數發部數位產業署副署長胡貝蒂接受《中央社》採訪時表示,「數位產業跨域軟體基盤暨數位服務躍升計畫」屬於數位公共建設,透過打造AI算力、數據、程式碼3大元件庫,讓許多模型與應用不用從零開始,有需求者可以到3間倉庫取用有需要的元件,加速業者的創新應用。

近年蔚為熱潮的生成式AI應用,需要大量資料與算力,也帶動AI產業鏈蓬勃發展。胡貝蒂說,AI算力要價不菲,企業就算想用,一來可能買不到足夠算力,二來階段性使用完畢,也可能有剩餘算力沒被善加運用,數產署打造「AI算力池」,透過算力共享概念,有需求的團隊就可以申請AI算力。

數位產業署打造的AI算力池,首年度規劃採用輝達的H100晶片32片、AMD的MI300X晶片8片,展示強大運算火力,後續逐年視需求增購繪圖處理器(GPU)算力。

至於哪些題目可以運算,胡貝蒂表示,考量新創團隊初期資源較少,因此可能做為加分項目,樂見產業帶著題目組隊申請,希望主題對社會影響力高。規劃7月開放業者可以申請AI算力,後續由審查小組審核計畫,申請一次約可使用6週算力,目標今年讓60家業者使用AI算力。

例如,金融業可能在客服上會需要大型語言模型,機構針對照護者行為偵測可能也有對AI運算的需求,部分社福單位礙於人力,也希望透過AI提升工作效率。

胡貝蒂舉例,基金會可能有不少照顧服務員在拜訪老人時都需要記錄、回答提問等,但照服員可能光查閱手冊資料就需要不少時間,若彙整照服員的相關知識,訓練為具備特定知識背景的聊天機器人,有望讓新手照服員快速上手,藉此投入更多心力做關懷服務。若開發這類模型,也有機會擴散到其他有類似需求的單位。

藉由AI算力計畫,胡貝蒂表示,希望可以更了解民間對於AI算力的需求,未來規劃AI生態園區時,也可以回饋相關意見。

(作者:蘇思雲;首圖來源:)



關鍵字: , , , , ,


標題:採用輝達頂級晶片,數發部打造 AI 算力計畫 7 月開跑

地址:https://www.utechfun.com/post/378979.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡