隨著各國政府和機構對資安問題的⽇益重視，離線型 AI 的發展逐漸浮上檯⾯，墨⽯資本旗下玉山 AI（Yushan AI）開發離線版 LLM（⼤語⾔模型），具離線操作、手機直接跑、去中心化、垂直領域與私有等特性，獲得微軟投資 2,000 萬美元。

美國眾議院⾏政長 Catherine Szpindor 要求美國國會，移除微軟 Copilot ⼈⼯智慧服務，充分反映各國政府在資訊安全⽅⾯的共同關注，因為美國網絡安全辦公室認定，Copilot 服務可能導致內部資訊外洩⾄未獲批准的雲端服務，因此決定對其 PC 設備採取必要限制措施。

Yushan AI 對此提供⼀個全⾯的解決⽅案，包括通⽤的 7b（70 億參數）⼤語⾔模型，並加強對繁體中⽂及其它亞洲國家的語⾔的訓練，並正在訓練 1.5b、3b、13b 等語⾔模型，以利⽤於不同的硬體設備與場景，使⽤離線 AI 技術來處理敏感資訊，徹底解決因連網⽽導致資訊外洩的風險。

Yushan AI 的解決⽅案可以離線運⾏，包括⼿機（如 iPhone 或 Android）、筆電、Desktop 或私⼈區域網絡的伺服器在斷網的環境中運⾏，並提供⾼度的靈活性、可靠性和可擴展性，解決政府、⾦融機構、醫療院所導入 AI 服務時資訊外洩問題。

Yushan AI 暨墨⽯資本董事長張義發表⽰，這個解決⽅案能確保敏感資訊的安全，並提供⾼效率和準確性，使其成為防⽌資訊外洩的理想選擇，解決美國眾議院內部資訊外洩的問題，還可以為其他國家的政府和機構提供安全保障，確保其敏感資訊不受外部威脅的影響。

這次合作有望為 Yushan AI 取得 Microsoft Azure 雲算⼒的解決⽅案，並進⼀步鞏固微軟在 AI 領域的布局與地位，這是微軟繼投資歐洲 Mistral 開源 LLM 後，奠定 Mistral 為歐洲 OpenAI 的地位，再次補強亞洲地區 LLM ⼤模型，並提供離線 AI 的選擇。

美國微軟投資 Yushan AI 的 2000 萬美元，預計將被⽤來購買更多的算⼒，以訓練各種不同參數的離線 Yushan AI ⼤語⾔模型，這⼀舉措將幫助 Yushan AI 加速其離線⼤語⾔模型的研發和優化，以滿⾜不同應⽤場景的需求。

（首圖來源：Yushan AI）

延伸閱讀：