GPU市場需求旺盛，導致英偉達H100GPU供不應求。根據《金融時報》最近的報道，英偉達預計其最新的H100GPU今年在全球的銷量達到55萬塊。

對GPU的需求顯然來自生成式AI的开發熱潮，但高性能計算市場也在盡力搶購。目前尚不清楚這個數字是否包括中國專用的A800和H800GPU。

另據行業KOL透露，英偉達制造一塊H100GPU的成本爲3320美元，而平均零售價約爲3萬美元，利潤高達9倍。

英偉達GPU大部分流向美國公司，中東也在搶購

報道指出，雖然大部分GPU流向美國科技公司，但沙特阿拉伯已經購买了3000多塊，阿聯酋也購买了數千塊。

阿聯酋已經在阿布扎比馬斯達爾城的國有技術創新研究所开發了自己的开源大型語言模型，這個名爲Falcon模型使用了384塊A100GPU。

沙特阿卜杜拉國王科技大學正在建造自己的基於GPU的超級計算機ShaheenIII，它採用了700個GraceHopper芯片，結合了GraceCPU和H100TensorCoreGPU。這些GPU被用來創建一個LLM。

H100GPU是英偉達的旗艦產品，具有14592個CUDA內核、80GBHBM3容量、5120位內存總线，平均售價高達3萬美元。黃仁勳曾聲稱，這是公司第一款爲生成式AI設計的芯片。

據報道，2023年上半年與2022年全年相比，生成式AI初創企業的投資增長了5倍以上。自從2022年第三季度以來，生成式AI基礎設施類別的投資增長已經超過70%。

3320美元成本賣30000，英偉達GPU利潤驚人

NvidiaH100GPU的成本取決於其封裝方式以及用戶購买的數量。目前(2023年8月)H100PCIeGPU的零售價約爲3萬美元(交貨時間也可能有所不同)。

粗略估計，到2023年，全球GPU市場支出將達到165億美元，其中很大一部分資金將流向英偉達。

據《巴倫周刊》資深作家TaeKim在最近發布的一篇社交媒體帖子中估計，英偉達制造一塊H100GPU的成本爲3320美元，而根據其零售價格，這意味獲得將近9倍的利潤。

有媒體報道，英偉達的合作夥伴台積電的產能，已幾乎無法滿足GPU的市場需求。GPU需要採用更復雜的CoWoS制造工藝(台積電的一種“2.5D”封裝技術，其中多個有源硅芯片，通常是GPU和HBM堆棧，集成在無源硅中間層上)。使用CoWoS增加了一個復雜的多步驟、高精度的工藝過程，減慢了GPU的生產速度。

英偉達DGX系統副總裁兼總經理CharlieBoyle證實了這一點。Boyle表示，生產的延遲並不是由於台積電的需求計算錯誤或晶圓產量問題，而是受到芯片封裝CoWoS技術的限制。

此外由於可用性降低、大量採購和價格上漲，GPU的供不應求已經开始影響HPC（高性能計算）市場的發展。

---

標題：英偉達今年預計賣出55萬塊H100GPU：平均售價3萬美元，利潤高達9倍

地址：https://www.utechfun.com/post/254182.html