馬斯克:準備買 30 萬顆輝達 B200,提升 Grok 效能

2024-06-04 14:15:00    編輯: MoneyDJ
導讀 特斯拉(Tesla Inc.)執行長馬斯克(Elon Musk)透露,他打算採購 300,000 顆輝達(Nvidia Corp.)Blackwell 架構「B200」AI 繪圖處理器(GPU),以...


特斯拉(Tesla Inc.)執行長馬斯克(Elon Musk)透露,他打算採購 300,000 顆輝達(Nvidia Corp.)Blackwell 架構「B200」AI 繪圖處理器(GPU),以提升「Grok」AI 聊天機器人的表現。

馬斯克3日透過社交平台X指出,鑒於科技進步的速度,將1GW的電力投入H100已不再值得。他說,旗下AI新創xAI由100,000顆H100集結而成的水冷式(liquid-cooled)訓練叢集,將在幾個月後上線。

Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s.

The 100k H100 liquid-cooled training cluster will be online in a few months.

Next big step would probably be ~300k B200s with CX8 networking next summer.

— Elon Musk (@elonmusk)

馬斯克並表示,下個重要一步,大概是明(2025)年夏季前使用CX8網路的300,000顆B200叢集。

Tom’s Hardware、Barron’s隨後報導,馬斯克的邏輯有其道理。與H100相較,輝達最新Blackwell B200的AI訓練效能提升四倍、推論表現提升30倍。

技術上來說,B200確實較為耗電,但效能大幅改善,意味著執行效率將顯著優於H100。就馬斯克的情況來說,將100,000顆H100換成數量多三倍、耗電量更高的B200依舊相當劃算,因為B200增添的AI效能非常驚人。

輝達執行長黃仁勳(Jensen Huang)曾說過,Blackwell GPU每顆要價30,000~40,000美元。以此來計算,馬斯克的計畫可能得耗資90~120億美元。

(本文由 授權轉載;首圖來源:達志影像)

延伸閱讀:



關鍵字: , , ,


標題:馬斯克:準備買 30 萬顆輝達 B200,提升 Grok 效能

地址:https://www.utechfun.com/post/379435.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡