隨着人工智能 (AI) 的不斷發展，對高性能計算基礎設施的需求變得越來越重要。外圍組件互連 Express (PCIe) 5.0 標准在數據傳輸速度和系統性能方面取得了顯著進步。同樣，Compute Express Link (CXL) 2.0 增強了內存共享並降低了延遲，使其成爲 AI 工作負載的寶貴工具。
了解何時使用 PCIe 5.0、CXL 2.0 或同時支持兩者的混合交換機可以優化各種應用的 AI 系統，並實現長期系統可行性。
PCIe 5.0 互連的最佳用例
外圍組件互連 Express，通常稱爲 PCIe，是一種高速接口標准，用於將各種硬件組件連接到計算機主板。PCIe 因其卓越的性能、可擴展性和多功能性而被現代計算系統廣泛採用。
其最新一代 PCIe 5.0 旨在以最小的延遲處理大量數據傳輸，使其成爲數據密集型應用程序的理想選擇。它是一種流行的標准，未來市場將呈現高增長態勢。事實上，根據 Allied Market Research 的數據，2020 年全球 PCIe 市場價值爲 35.6 億美元，預計到 2030 年將達到 75.8 億美元，2021 年至 2030 年的復合年增長率爲 7.6%。這一增長是由人工智能和其他數據密集型應用對高速數據傳輸和低延遲通信日益增長的需求推動的。考慮以下非常適合 PCIe 的應用程序：
- 機器學習訓練：PCIe 5.0 的高帶寬允許在存儲和 GPU 之間快速傳輸大型數據集，從而加速訓練過程。這對於在更短的時間內开發復雜模型至關重要。
- 高性能計算 (HPC)：科學模擬和復雜計算受益於 PCIe 5.0 快速移動大量數據的能力，確保高效的處理和分析。
- 實時數據處理：金融交易平台和電信網絡等實時數據分析至關重要的應用程序可以利用 PCIe 5.0 的速度來減少延遲並提高性能。
Compute Express Link (CXL) 是一種开放的行業標准互連，旨在增強 CPU、GPU、內存和其他加速器之間的通信。CXL 旨在滿足現代計算工作負載日益增長的需求，旨在提供高速、低延遲通信和跨不同計算組件的高效內存共享。
CXL 2.0 在不同處理單元之間共享內存和低延遲通信至關重要的場景中表現出色。與 PCIe 一樣，CXL 標准的採用正在迅速增加。根據 IDC 的一份報告，到 2025 年，60% 的新數據中心部署將採用支持 CXL 的設備。這種採用是由工作負載的復雜性和規模不斷增加所驅動的，這需要更高效的內存共享和低延遲通信。從 CXL 標准中受益最多的應用程序和工作負載包括：
- 內存密集型工作負載：CXL 2.0 允許 CPU、GPU 和其他加速器（如數據處理單元 (DPU) 和基礎設施處理單元 (IPU)）無縫共享內存資源，使其成爲內存數據庫和大規模數據分析等應用程序的理想選擇。
- AI 推理：對於 AI 推理任務，部署模型以對新數據進行預測，CXL 2.0 的高效內存共享通過減少處理單元之間數據移動的开銷來提高性能。
- 雲計算：數據中心受益於 CXL 2.0 優化資源利用率和改善服務器之間通信的能力，從而提高整體效率並降低成本。
支持 PCIe 5.0 和 CXL 2.0 的混合交換機提供了利用兩種標准優勢的靈活性。這對於需要高速數據傳輸和高效內存共享的復雜 AI 系統尤其有益。
需要一次性設計所有高性能應用的系統設計人員也可以從混合交換機中受益，這種交換機可以在單一設計中實現各種應用。最先進的混合交換機尤其如此，它可以提供高達 2,048 GB/s 的總帶寬和 256 個通道，爲任何應用提供前所未有的靈活性。
隨着現代工作負載變得越來越復雜，這類混合交換機的需求也在不斷增加。根據 Grand View Research 的一份報告，混合交換機市場（包括支持 PCIe 和 CXL 的設備）預計到 2026 年將達到 22 億美元，從 2021 年到 2026 年的復合年增長率爲 12.3%。這種增長是由數據中心和企業環境中對多功能高性能計算解決方案的需求推動的。考慮以下可以從混合交換機策略中受益的苛刻應用：
- 醫療分析：醫療保健領域的人工智能驅動診斷和預測分析依賴於快速的數據處理和高效的內存利用率。混合交換機可以提高這些應用程序的速度和准確性，從而改善患者的治療效果。
- 混合工作負載：混合工作負載共存的環境（例如同時支持 HPC 和 AI 推理任務的數據中心）可從混合交換機的多功能性中受益。它們可以根據需要動態利用 PCIe 5.0 和 CXL 2.0，從而優化不同類型應用程序的性能。
- 基因組學研究：基因組學需要分析大量數據集以識別模式和突變。混合交換機可以通過實現快速數據傳輸（通過 PCIe 5.0）和處理單元之間的高效內存共享（通過 CXL 2.0）來加速這一過程，從而實現更快、更准確的結果。
決定使用 PCIe 5.0、CXL 2.0 還是混合交換機取決於您的 AI 應用程序的具體要求。PCIe 5.0 在需要高帶寬和低延遲數據傳輸的場景中表現出色，而 CXL 2.0 則是需要高效內存共享和降低通信延遲的應用程序的理想選擇。混合交換機兼具兩全其美的優勢，可以靈活地優化復雜的 AI 系統以適應各種用例。
隨着 AI 的不斷發展和演變，利用這些先進技術對於滿足下一代應用程序的需求、推動創新和提高各行業的性能至關重要。未來的現代系統可能會使用混合方法來支持所有應用程序需求和變化，從而消除做出選擇的需要，從而避免當今快速變化的應用程序環境中的限制。
CIBIS峰會
由千家網主辦的2024年第25屆CIBIS建築智能化峰會即將开啓， 本屆峰會主題爲：“匯智提質：开啓未來新篇章”。屆時，我們將攜手全球知名智能化品牌及業內專家，共同探討物聯網、AI、雲計算、大數據、智慧建築、智能家居、智慧安防等熱點話題與最新技術應用，分享如何利用更智慧、更高效、更安全、更低碳的智慧技術，共同开啓未來美好智慧生活。
歡迎建築智能化行業小夥伴報名參會，共同分享交流！
報名方式
長沙站（10月24日）：https://hdxu.cn/MrRqa
成都站（11月05日）：https://hdxu.cn/7FoIq
西安站（11月07日）：https://hdxu.cn/ToURP
北京站（11月19日）：https://hdxu.cn/aeV0J
上海站（11月21日）：https://hdxu.cn/xCWWb
廣州站（12月05日）：https://hdxu.cn/QaqDj
更多2024年峰會信息，詳見峰會官網：http://summit.qianjia.com
標題：爲未來的人工智能應用選擇正確的互連
地址：https://www.utechfun.com/post/422856.html