回顧 2022 年 ChatGPT 問世之後，引爆企業加速推動 AI 專案的浪潮。只是要運用生成式 AI 技術推動數位轉型，企業勢必得先克服「資訊安全與商業機密」、「企業資料來源眾多且繁雜，搜尋、統整耗時費力」、「人力與成本的浪費」、「台灣在地文化脈絡」、「企業資訊更迭、AI 難以永續」、「不知該如何結合特定情境」等六大難題。

為協助人力不足的企業，能在安心無虞狀況下推動生成式 AI 專案，Taiwan AI Labs（台灣人工智慧實驗室）推出運用台灣語料訓練而成的可信任負責任生成式 AI 產品 FedGPT。當此方案安裝在專為 AI 應用設計的 HPE ProLiant DL320 Gen11 / DL380a Gen11 伺服器時，藉由 Intel Xeon Scalable 系列處理器與 NVIDIA GPU 晶片之間搭配，企業能在確保資料隱私的前提下，打造落地 GPT 知識庫與大語言模型，以輕鬆無痛、最簡單推動轉型專案。

專為 AI 應用而生的 HPE ProLiant Gen11 伺服器

HPE 在人工智慧領域也投入大量資源，推動多項創新和應用。其中，HPE ProLiant DL320 Gen11 / DL380a Gen11 伺服器是專門為應對生成式 AI 應用的需求而設計的，主打可以消除開發和部署生成式人工智慧 （GenAI） 基礎架構帶來的複雜性，助企業加速完成對話式搜尋、業務流程自動化和內容創作等生成式 AI 模型的部署時間。而 HPE ProLiant DL320 Gen11 伺服器是專為邊緣 AI 應用設計，最多可安裝四張 NVIDIA L4 GPU 卡，同時內建 NVIDIA Metropolis 工具。至於 HPE ProLiant DL380a Gen11 伺服器是為生成式視覺 AI、自然語言 AI 模型等應用設計，最多可安裝四張 NVIDIA H100 GPU 卡，同時提供 NVIDIA AI Enterprise 軟體套件。

FedGPT 落地部署，降低資料外洩風險

目前市面上商用大語言模型多以雲端服務推出，當企業要進行 AI 模型微調時，往往得將自身資料上傳到雲端平台，部分用戶擔心資料外洩。尤其若沒有持續更新資料，最終 AI 模型將難以滿足企業營運所需。

訴求可在地端執行的 Taiwan AI Labs FedGPT 可信任負責任生成式 AI 產品，企業可不接外網直接使用存放在公司內部資料直接進行微調，自然不會有商業機密外流的問題，成為推動生成式 AI 專案首選。此外， FedGPT 大語言模型已運用超過繁中語料 600 億個 Token 完成訓練，回答方式自然貼近台灣民眾的習慣，因此應用場景非常專業且多元，如在醫療健康產業的病歷／影像、護理交班、健保申報、醫療法規、臨牀教育等情境。至於金融服務產業部分，亦在智慧客服、輿情分析、防詐洗錢、員工教育、主動行銷等領域有非常優異表現。

鑑於市面上生成式 AI 專案都有胡說八道狀況，Taiwan AI Labs FedGPT 產品採用 RAG 保護機制，具備可信任責任檢測機制，能確保提升答案的正確性。考量到部分企業的特殊應用需求與人才不足問題，Taiwan AI Labs 也提供可客製化服務，加速啟動數位轉型之旅。

具備負責任 AI 特性的 Taiwan AI Labs FedGPT 生成式 AI 產品，搭配 HPE ProLiant DL320 Gen11 / DL380a Gen11 伺服器，可讓生成式 AI 快速在企業內部落地，扮演公司永續經營的智慧大腦。

（首圖來源：Shutterstock；資料來源：Taiwan AI Labs & HPE & Intel）