AMD 新 AI 晶片 MI300X 即將量產,帶動先進封裝、高頻寬記憶體到伺服器新競賽;輝達也升級記憶體規格反制,這場大戰讓 AI 伺服器供應鏈愈來愈旺。
《財訊》報導,輝達(Nvidia)是AI晶片主流,不過年中開始,挑戰者超微(AMD)AI晶片MI300X即將出貨,分食部分輝達市場,也再次影響從晶圓代工到伺服器的AI供應鏈。
AMD反擊,下半年將推新品
日本瑞穗證券報告,輝達AI晶片市佔率高達95%,「遠比AMD和英特爾相加還高」,輝達財報光2023年第四季,資料中心營收就高達184億美元,約新台幣5,400億元,較前一年同期增加409%。
但AMD反擊下半年就會現身。《財訊》採訪業界人士表示AMD和輝達H100晶片同級的產品MI300X晶片已小量出貨,微軟等正在測試。「這款晶片下半年會有量。」主要買家是微軟等有大型資料中心的公司,「5或6月開始,就會有一批拉貨潮。」
微軟、Meta、甲骨文、OpenAI等都會採購這款晶片,於資料中心提供服務,美超微、華碩、技嘉、鴻佰科技、英業達、雲達等伺服器廠也在設計解決方案。去年第三季法說會,AMD執行長蘇姿豐表示,資料中心收入2024年可達20億美元,這代表MI300會是AMD史上最快營收達10億美元的產品。
AMD反擊輝達的武器,是利用高頻寬記憶體和先進封裝提高AI運算效率。AI晶片挑戰在於,要在記憶體和處理器間搬動大量資料,故AMD採台積電先進封裝,放在晶片外的記憶體直接搬進晶片,讓大量資料不用再透過網路,直接晶片內就能將資料從記憶體搬到處理器計算。
《財訊》指出,發表會時蘇姿豐展示,只用一顆晶片,就執行資料量高達40GB的AI模型,為舊金山寫一首詩。「這顆晶片最高可執行80GB AI模型。」蘇姿豐說。
瑞穗證券報告,MI300X高頻寬記憶體高達192GB,比輝達H100 SXM晶片80GB高一倍多,多項算力測試性能也高於輝達H100 SXM晶片。輝達也拿出數字表示,輝達H100晶片性能比MI300X明顯更快,並公布測試細節,讓使用者自行比較兩顆晶片性能。兩強競爭的煙硝味明顯上升。
市場期待,不樂見輝達獨霸
超微另一個優勢是,買家並不希望市場被輝達獨佔。業界人士觀察,「AI晶片問題不是產能不夠,是輝達賣很貴。」微軟等不希望市場只有一家供應商很正常,自研晶片又無法像半導體公司,性能保持領先,自然希望有競爭者出現,性能和價格都能和輝達匹敵。
下半年AMD新晶片會讓AI供應鏈競爭加速,輝達將推H200晶片,就把高頻寬記憶體從前代80G增至141G,並改用速度更快的HBM3E記憶體;今年還會推出B100晶片,效能是H200兩倍。但AMD下代新品MI350也會採新HBM3E新型高頻寬記憶體,明年推出。因兩強競爭,帶動高頻寬記憶體供應喫緊,SK海力士今年生產量已銷售一空。
台積電先進封裝供應鏈也急速擴增,因要將更多記憶體和加速器結合,勢必用到先進封裝,各家廠商也開始認證其他供應商的先進封裝能力,使日月光等封裝廠股價大漲。台積電更和海力士結盟,大力布局高頻寬記憶體。
不過,AMD加入將讓整個供應鏈從晶圓製造到伺服器生產,增加新動能和需求。業界人士預測,接下來AI晶片會愈來愈多元,從高階一路到中低階,配合從模型訓練到AI邊緣運算需求,「如果用來推論,X86和ARM處理器也有機會。」
《財訊》報導,今年台北國際電腦展的開展主題演講者就是AMD執行長蘇姿豐,英特爾執行長基辛格也將在台北國際電腦展公開演講,黃仁勳也會來台參與盛會,加上輝達3月GTC大會宣布一系列新品,可想見AMD和輝達的AI競賽將上升至新高峰,市場也會因競爭再擴大。
(本文由 授權轉載;首圖來源:)
延伸閱讀:
標題:業界不樂見一家獨大,兩虎相爭煙硝味濃;AMD 挑戰輝達,供應鏈下半年開新局
地址:https://www.utechfun.com/post/346320.html