研調機構 TrendForce 於 5/17 舉辦 AI 伺服器串聯供應鏈商機，會中邀請多位重量級業界人士開講。AMD 台灣區商用業務處資深技術顧問張歐佑豪指出，隨著生成式 AI 興起，全球對於 AI 運算力的需求急速上升，目前模型參數量已達上百億、上千億，未來運算能耗值得關注，若發電技術無法突破，AI 算力恐無法達到所需的提升。
張歐佑豪指出，AMD 針對每個應用場景所需，提供不同加速晶片，最適合的加速器晶片有助於優化能耗，使效能達最好平衡。因此，AMD 提供從資料中心（Data center）、邊緣（Edge）到終端（End-point）都有不同產品相對應。
首先是資料中心，還有很多企業尚未導入，過去舊資料中心電力嚴重不足，企業更新需要盤查舊設備，才能更新並騰出更多 AI 空間進行運算。星展銀行在 2019 年與 AMD 合作，選擇 AMD 作為核心業務系統 x86 供應商，就是看到系統只需要一半電力，剩餘空間可承載未來 10 倍成長等優勢。
在最新案例中，第 4 代 AMD EPYC™ 處理器對比英特爾第 5 代 Xeon 處理器，可大幅減少所需裝置數，支援最節能的 x86 伺服器，提供卓越效能並協助降低能源成本和降低客戶採購成本。AMD EPYC™ 處理器在伺服器市佔達 31%，張歐佑豪認為，「對客戶來說，AMD 省錢、省電、省空間的這些價值主張就特別重要」。
此外，目前美國橡樹嶺國家實驗室（ORNL）的 Frontier 超級電腦搭載 AMD EPYC™ 處理器與 AMD Instinct 加速器，連續三屆稱霸全球最快電腦榜首。
另針對 AI 晶片，AMD 提供「Instinct MI300X」解決方案 ，與台積電合作採用 3D 小晶片（Chiplets）堆疊架構。AMD 表示，公司未來也將持續使用 3D 封裝技術，而這款晶片在訓練和推論上可與 H100 有相同效能，但所需的 GPU 伺服器數量更少，有助採購成本下降，減少設備數量，使能源更有效運用。
目前 AMD Instinct MI300X 加速器和技嘉、華碩、英業達、緯創、緯穎、聯想等 OEM 和合作夥伴合作。
（首圖來源：科技新報）
標題：發電技術若無法突破「AI 算力恐難提升」，AMD 三價值成關鍵
地址：https://www.utechfun.com/post/385623.html