南韓著名入口搜尋引擎網站 Naver 上週宣布,旗下 Naver Place 店家與餐廳搜尋推薦服務,決定將推論(inference)過程 AI 伺服器晶片供應商輝達(Nvidia Corp.)改成英特爾(Intel Corp.),主要是因供貨喫緊及漲價。分析人士相信,雖然可行,但應用範圍有限,賽局並未出現重大變化。
Seeking Alpha、Investing.com報導,Bernstein由Bokyung Suh帶領的分析師團隊6日研究報告指出,Naver以英特爾Sapphire Rapids CPU及AI加速器取代輝達H100雖然可行,卻非「理想」狀態,因訓練大型語言模型(LLM)等AI任務成本非常高。
Bernstein指出,截至目前,輝達H100依舊是全世界效能最佳AI晶片,執行推論任務效果比前代A100提升1.5~4.5倍,推論測試結果也優於Google、高通(Qualcomm)、英特爾旗下Habana Labs的AI加速器。
報告稱把GPU改換成CPU並非理想選擇,因AI任務成本非常高,尤其LLM模型訓練方面。即便H100售價貴許多,且面臨生產與供給窘境,但「訓練」(training)與「推論」的總成本依舊較低。
該證券相信,中長期而言,Naver恐怕無法以英特爾CPU代替GPU訓練微調LLM模型。結論是,Naver英特爾合作案雖可行,但應用範圍相當窄,或許只能推論用或參數(parameter)調得夠低,這樣就無法改變賽局(definitely not the game changer yet)。
報告指出,Naver生成式AI LLM模型參數約200B,但Naver Place LLM參數僅佔整個模型不到5%,不是訓練或微調用途。
輝達6日聞訊上漲1.66%,收457.51美元,創10月16日以來收盤新高;年初迄今飆漲213.06%。輝達預定11月21日美股盤後公布財報。
Barron′s 6日報導,FactSet統計顯示,分析師普遍預測輝達今年營收有望成長接近一倍至525億美元,每股盈餘有望成長近三倍。FactSet預測,拜未來幾年雲端支出雙位數成長之賜,輝達五年內每年營收可望成長超過20%,2028年達近1,500億美元,使每股盈餘年成長率逼近30%。
(本文由 授權轉載;首圖來源:)
延伸閱讀:
標題:輝達 H100 難取代,Naver 應用英特爾 CPU 範圍有限?成功搶走輝達 GPU 訂單!傳 Naver AI 伺服器改用英特爾 CPU
地址:https://www.utechfun.com/post/287473.html