人工智能、液體冷卻和未來的數據中心

生成式人工智能(AI)的迅速崛起，凸顯了企業採用人工智能的非凡速度。Accenture最近的一份報告指出，98%的企業領導人表示，人工智能將在未來三到五年的战略中發揮重要作用。McKinsey分析師發現，近65%的企業計劃在未來三年內增加對人工智能的投資。

這種勢頭才剛剛开始。NVIDIA、AMD和Intel正在推出專爲生成式人工智能和高性能計算(HPC)設計的新芯片。公共雲提供商和新興芯片企業也參與了競爭。IDC分析師預測，人工智能軟件、硬件和服務的全球支出將達到3000億美元，高於今年預計的1540億美元。

然而，擴展人工智能仍然存在挑战，其中最重要的是涉及支持這些工作負載所需的數據中心基礎設施的挑战。

數據中心越來越“熱”

圖形處理單元(GPU)，是人工智能和機器學習(ML)最常見的芯片，可以極大地加速人工智能應用的計算過程。其非常強大，如NVIDIA的H100 GPU包含800億個晶體管，因此會產生大量熱量，必須對其進行有效冷卻。

傳統上，在單個數據中心機架中達到10千瓦的配置被認爲是高密度，但空氣冷卻仍然是冷卻這些服務器的有效方法。盡管Uptime Institute發現很少有數據中心擁有超過30千瓦的機架，但極端密度正在出現。高性能計算的商品化和生成式人工智能的興起正在增加電力需求，並使傳統的空氣冷卻方法負擔過重。

例如，NVIDIA最新的GPU的最大功耗比上一代芯片高出160%。機架配置很容易超過40千瓦範圍，這對於傳統的風冷方法而言是難以管理的。當今的數據中心必須不斷發展，以有效管理這些升高的熱負荷。

冷卻技術越來越重要

好在，有多種液體冷卻技術可以應對這一挑战，包括日益流行的後門熱交換和直接芯片技術。新興的浸入式冷卻技術也有不同的風格，這些技術本質上是將IT組件浸入充滿液體冷卻劑的容器中。

盡管浸入式冷卻尚處於早期採用階段，但分析師預測，該技術將在未來四年內成爲主流，市場規模將從2021年的2.51億美元增長到2027年的超過16億美元。這將極大地影響數據中心基礎設施需求，並且企業領導者必須知道他其數據中心運營商是否愿意在短期內進行必要的投資來支持這種轉變。

液體冷卻的優點和缺點

液體作爲熱導體的效率是空氣的1,000倍，而且運行所需的基礎設施更少。風冷系統需要一個復雜的制冷基礎設施，其中包括冷卻器、氣泵、電纜、溼度控制和過濾系統，以及冗余備份系統，以確保在停電時服務器不會處於不冷卻狀態。

相比之下，液體冷卻系統相對簡單，但在當前數據中心基礎設施中實施其的前期投資和復雜性可能會帶來重大挑战。設置可能很復雜，並且可能需要專門的維護。此外，服務器設計可能需要調整，浸入式方法可能會使OEM保修失效，並且冷卻系統泄漏可能會造成損壞和停機。數據中心運營商還必須考慮在數據中心使用液體的新法規和環境標准。

也就是說，液體或浸入式冷卻系統不需要太多的備份或特殊的地板或通道密封策略。對能源消耗和成本的總體影響可能是巨大的。最近的一項研究結果發現，實施液體冷卻可以減少近20%的設施電力，總數據中心電力減少10%以上。總使用效率(TUE)是一項新指標，旨在比較高性能計算環境中液體冷卻與空氣冷卻的效率，結果顯示，液體冷卻的能源效率提高了15%以上。

過渡到液體冷卻還有其他可持續發展的好處。液體冷卻系統比空氣冷卻系統需要更少的水。改造數據中心可以採用新的思維方式來縮小其物理足跡和碳足跡。熱再利用策略可以爲周圍的企業和社區提供能源。這些可能性令人興奮，並且可能會像生成人工智能本身一樣具有變革性。

現在需要了解什么

對於大多數企業而言，實現本地數據中心的轉型可能過於復雜且昂貴。另一方面，當今的大部分公共雲基礎設施並不是爲運行大規模人工智能應用而構建的，而大容量工作負載的雲成本不斷上升，促使許多組織尋找其他選擇。

考慮到這些挑战和機遇，擁有處理無數客戶用例的基礎設施經驗的托管數據中心提供商，可能會爲許多企業提供最佳解決方案。這個領域的領導者可以提供專業知識和支持，以指導組織完成轉型。還與許多硬件原始設備制造商和液體冷卻供應商建立了重要的關系，這些供應商將推動數據中心的發展，提供多樣化的選擇來滿足客戶的獨特需求。

組織現在需要知道其數據中心運營商是否已經在計劃，也許更重要的是，是否擁有可用的物理容量或適合安裝所需的技術，以使下一代數據中心的發展成爲可能。數據中心已經面臨着將工作負載轉移到滿足其要求的最佳服務器的復雜挑战。隨着人工智能和高性能計算工作負載的需求不斷增加，添加根本上不同的冷卻系統的額外挑战肯定會使這些障礙變得更加復雜。

現在正在投資這些策略的數據中心運營商將處於有利地位，可以幫助其客戶正面應對這些挑战。人工智能正在改變一切，包括數據中心。現在是开始這次對話的時候了。

---

標題：人工智能、液體冷卻和未來的數據中心

地址：https://www.utechfun.com/post/260957.html