人工智能將數據中心推向邊緣

2024-10-15 18:00:22    編輯: robot
導讀 在過去的一年裏,人工智能(AI)像數字復興一樣蓬勃發展,與20世紀90年代末互聯網的快速變革性崛起相呼應。它以驚人的速度徹底改變了行業,重新定義了我們的日常生活,其影響將在未來幾年內更加顯著。202...


在過去的一年裏,人工智能(AI)像數字復興一樣蓬勃發展,與20世紀90年代末互聯網的快速變革性崛起相呼應。它以驚人的速度徹底改變了行業,重新定義了我們的日常生活,其影響將在未來幾年內更加顯著。2023年,對生成人工智能的投資達到252億美元,幾乎是2022年投資額的9倍,大約是2019年資金的20倍。

這種快速增長爲數據中心公司提供了創新、擴展服務產品以及滿足人工智能驅動的應用程序和企業不斷變化的需求的機會。通過採用人工智能技術並相應地調整其基礎設施和運營,數據中心在促進人工智能在各個行業的廣泛採用和成功方面發揮着至關重要的作用。

然而,人工智能的整合也帶來了一系列挑战。人工智能目前需要4.3GW的數據中心電力,預計到2028年將達到18GW。這一激增超過了當前數據中心電力需求的增長率,給容量和可持續性帶來了挑战。人工智能要求數據中心不僅要擴展,還要從根本上改變其架構,包括專業的IT基礎設施、電力和冷卻系統。

爲可持續的人工智能數據中心提供動力

到2028年,人工智能工作負載的增長速度預計將是傳統數據中心工作負載的兩到三倍,佔所有數據中心容量的15%到20%。更多的工作負載也將开始向邊緣用戶靠近,以減少延遲並提高性能。

訓練大型語言模型通常需要數千個圖形處理單元(GPU)協同工作。在大型AI集群中,集群大小可以從1兆瓦到2兆瓦不等,機架密度從25千瓦到120千瓦不等,具體取決於GPU型號和數量。這些特性顯著影響機架功率密度,給數據中心帶來了巨大的基礎設施挑战。目前,大多數數據中心只能支持約10至20千瓦的機架功率密度。

數據中心必須適應以有效和可持續地滿足人工智能驅動應用程序不斷變化的電力需求,因此優化物理基礎設施以滿足人工智能要求至關重要。從低密度配置過渡到高密度配置可以幫助應對這些挑战。與NVIDIA等技術提供商的合作,兩家公司最近進行的高管簡報強調了參考設計在加快數據中心高密度人工智能集群部署、推動邊緣人工智能和數字孿生技術進步方面的關鍵作用。將人工智能集群添加到現有設施中的改裝參考設計,以及專門爲加速計算集群量身定制的新構建設計,可以支持各種應用,包括數據處理、工程仿真、電子設計自動化和生成式人工智能。

通過解決人工智能工作負載不斷變化的需求,這些參考設計將爲將NVIDIA的加速計算平台集成到數據中心提供一個強大的框架,從而提高性能、可擴展性和可持續性。

保持 AI 數據中心涼爽

AI 數據中心會產生大量熱量,因此需要使用液體冷卻來確保最佳性能、可持續性和可靠性。除 IT 基礎設施外,冷卻系統是數據中心的第二大能源消耗者。在使用密度較低的傳統數據中心和分布式 IT 位置,冷卻可佔設施總能耗的 20% 至 40%。

液體冷卻具有許多優勢,包括更高的能源效率、更小的佔地面積、更低的總擁有成本 (TCO)、增強的服務器可靠性和更低的噪音水平。

隨着對 AI 處理能力的需求增長和熱負荷增加,液體冷卻成爲數據中心設計中的關鍵要素。採用液體冷卻解決方案可以滿足各種需求,從空白空間解決方案到散熱策略。有關液體冷卻架構的白皮書等資源可以幫助數據中心公司應對系統設計、實施和運營考慮的復雜性。

AI 和數據中心爲可持續未來而發展

AI 有可能優化能源使用,但它也引發了對能源消耗增加的擔憂。加速計算推動了人工智能革命,使我們能夠在數據中心基礎設施中用更少的資源實現更多目標。

然而,評估人工智能對能源消耗和環境的更廣泛影響至關重要。Gartner 透露,到 2027 年,80% 的 CIO 將擁有與 IT 組織可持續性相關的績效指標。

根據 2024 年可持續發展指數,澳大利亞近十分之一的商業決策者已經在使用人工智能作爲脫碳轉型的資源。將人工智能與實時監控相結合可以將數據轉化爲可操作的見解,從而提高可持續性。研究表明,先進的能源管理功能可以通過優化電力使用和冷卻效率來大幅節省公用事業費用。

數據中心的運營需要大量的能源,這對環境可持續性構成了挑战。優化能源效率、降低碳排放和增強運營彈性對於使數據中心能夠負責任地運營、促進更可持續的未來至關重要。

對人工智能的需求和數據中心的發展是塑造數字格局的相互關聯的要素。增加的工作負載,尤其是深度學習人工智能模型,需要大量的計算資源來訓練。這需要能夠支持人工智能工作負載性能要求的數據中心。

隨着人工智能技術的進步,它將繼續影響數據中心的設計和運營。雖然這些進步帶來了效率和創新,但它們也帶來了與能源消耗、電力和冷卻系統相關的挑战。

人工智能的這種不懈進步只會繼續下去,爲了滿足這些不斷變化的需求,數據中心行業需要適應。

作者:Joe Craparotta,施耐德電氣太平洋地區雲與服務提供商副總裁


 CIBIS峰會 

由千家網主辦的2024年第25屆CIBIS建築智能化峰會即將开啓, 本屆峰會主題爲:“匯智提質:开啓未來新篇章”。屆時,我們將攜手全球知名智能化品牌及業內專家,共同探討物聯網、AI、雲計算、大數據、智慧建築、智能家居、智慧安防等熱點話題與最新技術應用,分享如何利用更智慧、更高效、更安全、更低碳的智慧技術,共同开啓未來美好智慧生活。

歡迎建築智能化行業小夥伴報名參會,共同分享交流!

報名方式

成都站(11月05日):https://hdxu.cn/7FoIq

西安站(11月07日):https://hdxu.cn/ToURP

北京站(11月19日):https://hdxu.cn/aeV0J

上海站(11月21日):https://hdxu.cn/xCWWb

廣州站(12月05日):https://hdxu.cn/QaqDj

更多2024年峰會信息,詳見峰會官網:http://summit.qianjia.com



標題:人工智能將數據中心推向邊緣

地址:https://www.utechfun.com/post/431920.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡