特斯拉(Tesla Inc.)執行長馬斯克(Elon Musk)透露,他打算採購 300,000 顆輝達(Nvidia Corp.)Blackwell 架構「B200」AI 繪圖處理器(GPU),以提升「Grok」AI 聊天機器人的表現。
馬斯克3日透過社交平台X指出,鑒於科技進步的速度,將1GW的電力投入H100已不再值得。他說,旗下AI新創xAI由100,000顆H100集結而成的水冷式(liquid-cooled)訓練叢集,將在幾個月後上線。
Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s.
The 100k H100 liquid-cooled training cluster will be online in a few months.
Next big step would probably be ~300k B200s with CX8 networking next summer.
— Elon Musk (@elonmusk)
馬斯克並表示,下個重要一步,大概是明(2025)年夏季前使用CX8網路的300,000顆B200叢集。
Tom’s Hardware、Barron’s隨後報導,馬斯克的邏輯有其道理。與H100相較,輝達最新Blackwell B200的AI訓練效能提升四倍、推論表現提升30倍。
技術上來說,B200確實較為耗電,但效能大幅改善,意味著執行效率將顯著優於H100。就馬斯克的情況來說,將100,000顆H100換成數量多三倍、耗電量更高的B200依舊相當劃算,因為B200增添的AI效能非常驚人。
輝達執行長黃仁勳(Jensen Huang)曾說過,Blackwell GPU每顆要價30,000~40,000美元。以此來計算,馬斯克的計畫可能得耗資90~120億美元。
(本文由 授權轉載;首圖來源:達志影像)
延伸閱讀:
標題:馬斯克:準備買 30 萬顆輝達 B200,提升 Grok 效能
地址:https://www.utechfun.com/post/379435.html