微軟在 AI 晶片創新取得重大進展，搭載 的虛擬機器已推出，可運用多種場景，微軟自家 Microsoft Teams 媒體處理功能也完全在 Azure Cobalt 100 上完成。微軟更在 Microsoft Ignite 2024 大會，推出自研晶片「Azure Boost DPU」和「Azure Integrated HSM」。

微軟第一款 DPU（data processing unit，數據處理單元）Azure Boost DPU 推出，將傳統伺服器的多個元件整合至單晶片中，能夠高效率和低功耗執行 Azure 以數據為中心的工作負載。微軟預估未來配備 DPU 的 Azure 伺服器執行工作負載的效能將是現有伺服器 4 倍，同時功耗降低 3 倍。

Azure Boost DPU 的開發可能起源於 ，它是微軟去年 12 月收購的 DPU 製造商。外媒報導指出，微軟斥資約 1.9 億美元收購 Fungible，團隊在併購後加入微軟的基礎設施工程部門。

DPU 是一種專用硬體，用於處理某些資料處理任務，可能包括資料流量的安全性和網路路由，DPU 可減少用於核心運算任務的 CPU 和其他晶片工作負載（包括 AI 工作負載）。

DPU 市場在過去幾年漸受重視，NVIDIA 2019 年開始提供 DPU，而 AMD 自 2022 年以來則有 DPU。NVIDIA 執行長黃仁勳認為，CPU、GPU 及 DPU 將構成資料中心的基礎，在他的願景下，CPU 將處理資料中心一般任務，GPU 支援加速運算，DPU 則管理資料流。

▲ Azure Boost DPU。

微軟也推出首款加強雲端資料安全的自研晶片 Azure Integrated HSM，將簽署金鑰和加密金鑰包含在安全模組中，讓資料傳輸更安全，Azure Integrated HSM 是微軟繼 Pluton 安全處理器後的第二款安全晶片。

「從明年起，微軟資料中心每一台新伺服器將安裝 Azure Integrated HSM，強化 Azure 硬體群集對機密和通用工作負載的保護」，微軟表示。

▲ Azure Integrated HSM。

微軟研發、用於資料中心的 AI 晶片 ，也在美國資料中心正式上線，為 Azure OpenAI 的應用提供算力支援。

在 AI 算力上，微軟持續深化 NVIDIA 與 AMD 的合作。微軟發表 NVIDIA Blackwell on Azure，以 ND GB200 v6 虛擬機器最大化 AI 基礎架構，目前提供預覽。微軟也成為第一個提供 AMD MI300X GPU 的公有雲，為 Azure OpenAI 服務提供算力支援；不只如此，微軟發表與 AMD 共同研發的 Azure HBv5，為高效能運算樹立新標準，預計明年上市。

（圖片來源：）

文章看完覺得有幫助，何不給我們一個鼓勵