微軟力挺 AMD,成 Instinct MI300X AI 晶片最大客戶

2024-02-06 07:00:00    編輯: Atkinson
導讀 AMD 去年 12 月 6 日舉辦主題 Advancing AI 的活動,推出新資料中心 Instinct MI300 系列 AI 晶片。Instinct MI300X 為純 GPU 設計,採 CD...


AMD 去年 12 月 6 日舉辦主題 Advancing AI 的活動,推出新資料中心 Instinct MI300 系列 AI 晶片。Instinct MI300X 為純 GPU 設計,採 CDNA 3 架構,可為 HPC 和 AI 提供突破性性能。

外媒 Seeking Alpha 報導,外資花旗集團報告指,微軟資料中心部門是 AMD Instinct MI300X 晶片最大買家,開始為 GPT-4 這類大型語言模型(LLM)工作。AMD 執行長蘇姿豐表示,AMD 2024 年 AI 晶片銷售金額預估達 35 億美元,高於 20 億美元預測。

AMD 沒有公開 Instinct MI300X 定價,但知情人士透露,每片內建 Instinct MI300X 晶片的運算卡售價約 1.5 萬美元,相較競爭對手輝達 (NVIDIA) 同等級產品較經濟實惠。輝達 H100 PCIe 80GB HBM2E 版售價約 3 萬至 4 萬美元,甚至更高。性能更強 H100 SXM5 80GB HBM3 版定價更高。

AMD Instinct MI300X 採小晶片架構,混用 5 和 6 奈米製程,電晶體數量達 1,530 億個,第四代 Infinity Fabric 解決方案,共 28 個模組晶片,包括 8 個 HBM 和 4 個計算晶片,每個計算晶片有 2 個基於 CDNA 3 架構的預算單元,共計 80 個計算單元。

這也代表整個晶片有 320 個運算單元和 20,480 個串流處理器。出於良率考慮,AMD 削減部分運算單元,實際使用數量為 304 個和 19,456 個串流處理器。HBM3 容量達 192GB,提供 5.3TB/s 記憶體頻寬和 896GB/s 的 Infinity Fabric 頻寬。

AMD 性能測試,Instinct MI300X 表現優於市面 Nvidia H100 80GB,甚至可能對即將上市的 H200 141GB 構成威脅。除傳出微軟 Instinct MI300X 最大買家外,Meta 也採購大量 AMD Instinct MI300 系列產品,LaminiAI 則是首家公開使用 MI300X 的公司。

(首圖來源:AMD)



關鍵字: , , , ,


標題:微軟力挺 AMD,成 Instinct MI300X AI 晶片最大客戶

地址:https://www.utechfun.com/post/328742.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡