本文源自:IT之家
韓國Chosun Biz報道稱，除了大量預定台積電產能外，英偉達還斥巨資拿下了 HBM3 內存的供應合同。
消息人士稱，該公司從美光和 SK 海力士那裏預購了 700 億至 1 萬億韓元（IT之家備注：當前約 3.84 億至 54.9 億元人民幣）的 HBM3 內存。雖然沒有關於這些款項具體用途的信息，但業界普遍認爲其目的在於確保 2024 年 HBM 供應穩定，避免新一代 AI 和 HPC GPU 發布後因爲這種事而掉鏈子。
此外，還有業內人士透露，三星電子、SK 海力士、美光三大存儲公司明年的 HBM 產能已完全售罄。業界認爲，由於 AI 行業半導體公司之間的激烈競爭，HBM 市場預計將在未來兩年內實現快速增長。
根據現有爆料信息，英偉達正准備推出兩款配備 HBM3E 內存的產品：配備 141GB HBM3E 的 H200 GPU 以及 GH200 超級芯片，因此英偉達需要大量 HBM 內存。
H200 是目前世界上最強的 AI 芯片，也是世界上首款採用 HBM3e 的 GPU，基於 NVIDIAHopper架構打造，與 H100 相互兼容，可提供 4.8 TB / s 速度。
在人工智能方面，英偉達表示，HGX H200 在 Llama 2（700 億參數 LLM）上的推理速度比 H100 快了一倍。HGX H200 將以 4 路和 8 路的配置提供，與 H100 系統中的軟件和硬件兼容。它將適用於每一種類型的數據中心（本地、雲、混合雲和邊緣），並由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等部署，將於 2024 年第二季度推出。
標題：消息稱英偉達已向 SK 海力士、美光支付大筆預付款，確保 HBM3 內存供應無虞
地址：https://www.utechfun.com/post/311788.html