導讀 專業雲端服務供應商興起，其中如 CoreWeave、Lambda、Voltage Park 等已使用數萬個 Nvidia GPU 建構雲端基礎設施，但有些參與者轉向 AMD。 例子之一是 Bit B...
專業雲端服務供應商興起，其中如 CoreWeave、Lambda、Voltage Park 等已使用數萬個 Nvidia GPU 建構雲端基礎設施，但有些參與者轉向 AMD。
例子之一是 Bit Barn 新創 TensorWave，聯合創辦人 Jeff Tatarchuk 認為 AMD 最新加速器品質優良，本月稍早部署 AMD Instinct MI300X 驅動系統，年底目標兩座設施部署 20,000 台 MI300X 加速器，並明年上線更多液冷系統。
Jeff Tatarchuk 指 AMD 最新 AI 晶片比 Nvidia 令人垂涎的 H100 晶片更快， 「僅原始規格而言，MI300X 優於 H100。」
MI300X 去年底 Advancing AI 活動推出，750W 晶片採先進封裝組合，將 12 個小晶片（若算入 HBM3 模組為 20 個）拼成一個 GPU，據稱比 Nvidia H100 快 32%。
除了浮點運算更高，MI300X 晶片還有更大 192GB HBM3，5.3TB/s 頻寬，H100 頻寬為 80GB 和 3.35TB/s，記憶體頻寬越高 AI 效能也越好，尤其大型語言模型推理。
不過 Tatarchuk 也表示，客戶對 AMD 性能的信心還未高於 Nvidia，不確定能否享受到相同性能。
（首圖來源：）
關鍵字: , , , ,
標題：AI 雲端新創公司 TensorWave，押注 AMD 能擊敗 NVIDIA
地址：https://www.utechfun.com/post/358988.html