軟銀採購英偉達GPU开發AI服務 投資9.6億美元升級計算設施

2024-04-24 18:00:16    編輯: robot
導讀 據報道,日本電信巨頭軟銀集團將在未來兩年投資1500億日元(9.6億美元)升級其計算設施,該計劃包括大量採購英偉達GPU。除了採用GPU來驅動其內部的大型語言模型(LLM),軟銀還將爲需要超算服務的...

據報道,日本電信巨頭軟銀集團將在未來兩年投資1500億日元(9.6億美元)升級其計算設施,該計劃包括大量採購英偉達GPU。除了採用GPU來驅動其內部的大型語言模型(LLM),軟銀還將爲需要超算服務的企業客戶提供訪問權限。

這筆投資將使軟銀去年在計算基礎設施投入的200億日元(1.3億美元)相形見絀,據日經新聞報道,這是日本公司中規模最大的此類投資。

GenAI的發展和應用並沒有放緩的跡象,軟銀因此希望开發日語版GenAI滿足用戶需求。


軟銀在去年3月成立了一個新部門,負責开發LLM和提供GenAI服務。該部門隨後於去年8月作爲軟銀的一家子公司SBIntuitions成立。

SBIntuitions在去年10月完成了其計算平台的部署,並正在开發其首個國產LLM,該項目將在今年推出,擁有3500億個參數。這將使其功能比OpenAI擁有1750億個參數的GPT-3更強大,但遠低於據稱有100萬億個參數的GPT-4。

令人關注的是,OpenAI在本月早些時候表示在東京开設了一個新的辦事處,並开始向日本企業提供日語版GPT-4的早期服務。軟銀因此面臨着加快提供可行替代方案的壓力。

軟銀的AI計算平台運行在英偉達的硬件上,特別是採用2000多個英偉達TensorCoreGPU構建的NvidiaDGXSuperPODAI超級計算機。鑑於這兩家公司的良好合作,軟銀有理由在其AI超級計算擴張計劃中選擇英偉達。

此外,法國電信集團伊利亞特集團(Iliad)在去年9月展示了一台SuperPOD,該公司聲稱這是歐洲最強大的AI超級計算機。但正在致力搶佔GenAI硬件市場份額的英偉達推出了性能更強的AI超級計算機。

去年5月,英偉達將GraceGPU與HopperGPU結合在一起創建了GraceHopper芯片,這是一條專門爲GenAI設計的芯片。英偉達即將推出的DGXGH200超級計算機將使用256個GraceHopper,並將計劃向那些希望自己構建LLM的公司銷售。

雖然目前還沒有GraceHopper定價的消息,但肯定會貴得令人瞠目。然而,考慮到目前競爭激烈的GenAI市場,像軟銀這樣的公司可能會認爲在AI方面加大投資將會物有所值。

標題:軟銀採購英偉達GPU开發AI服務 投資9.6億美元升級計算設施

地址:https://www.utechfun.com/post/361920.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡