導讀 在現代計算架構中,從芯片到處理器再到數據中心,每個層級都涉及不同的互連技術。這些技術不僅保證了數據的快速、安全傳輸,還爲新興的計算需求提供了強有力的支持。本文主要介紹不同層級的網絡互連技術,並揭示其...
在現代計算架構中,從芯片到處理器再到數據中心,每個層級都涉及不同的互連技術。這些技術不僅保證了數據的快速、安全傳輸,還爲新興的計算需求提供了強有力的支持。本文主要介紹不同層級的網絡互連技術,並揭示其在當前計算架構中是如何運作的。整篇文章可分爲三個部分:系統級芯片Soc互連、處理器互連和數據中心互連。
SoC互連
互連創新始於最基本的層面:芯片上的系統。無論是位於芯片還是封裝上,先進的互連意味着數據傳輸更快,性能更容易擴展。
PIPE(外圍組件互連快速物理層協議)
PIPE是PCIe(外圍設備互連快速通道)的物理層協議。PCIe是一種通用計算機總线標准,用於連接計算機內部的硬件設備,例如顯卡、固態硬盤等。物理層協議定義了電氣特性和信號傳輸方式,以確保硬件設備之間能夠正確傳輸數據。PCIe通過提供不同的數據傳輸速率和接口來支持具有各種性能要求的設備的連接。
LPIF(邏輯物理層接口)
LPIF是處理器之間、處理器與加速器之間以及芯片與芯片(die-to-die)之間高速互連的接口標准。LPIF旨在提供一種靈活且可擴展的方式來支持不同的數據傳輸需求,並允許不同頻率的設備之間進行通信。它支持多種協議,包括PCIe6.0、CXL3.0和UPI3.0。
CPI(CXLCache-Mem協議接口)
CPI是ComputeExpressLink(CXL)的一個組件,CXL是一種專門用於處理緩存和內存的通信協議。CXL是一種开放的高速互連技術,旨在連接CPU、GPU和其他加速器,實現它們之間的高速數據傳輸和資源共享。作爲CXL的一部分,CPI定義了緩存和內存之間的接口標准,以支持高效的數據交換和一致性協議。
UFI(通用閃存存儲接口)
UFI是一種通用的閃存存儲接口標准,允許不同的存儲設備以統一的方式進行通信和傳輸數據。UFI標准旨在提高存儲設備的兼容性和性能,使設備能夠快速高效地工作。
UCIe(通用晶片互連快线)
UCIe是一種新興的开放行業標准互連技術,專專門爲芯片到芯片的連接而設計。UCIe支持多種協議,包括標准的PCIe和CXL,以及通用的流協議或自定義協議。它的目標是採用標准的物理層和鏈路層對芯片間通信協議進行標准化,同時保持上層協議的靈活性。UCIe技術的出現是爲了迎接摩爾定律減速帶來的挑战。它通過封裝和集成多個Chiplet來構建大型系統,以降低成本並提高效率。
處理器互連
在不同計算引擎、內存、I/O和其他外圍設備之間移動數據需要一套專門的高帶寬和低延遲互連技術。NVlink、PCIe、CXL和UPI等處理器互連技術使所有這些元素能夠作爲一個整體運行,支持設備之間的快速數據傳輸。
NVLink
NVLink是一種高速互連技術,專爲連接NVIDIAgpu而設計。它允許gpu之間以點對點的方式進行通信,繞過傳統的PCIe總线,實現更高的帶寬和更低的延遲。NVLINK可以連接兩個或多個gpu,實現高速數據傳輸和共享,爲多gpu系統提供更高的性能和效率。
PCIe(外圍組件互連快速標准)
它是一種通用的計算機總线標准,用於連接計算機內部的硬件設備,例如顯卡、固態硬盤等。PCIe技術因其高速串行數據傳輸能力而被廣泛使用,支持各種設備和廣泛的應用場景,包括數據中心、人工智能和處理器互連。PCIe接口允許設備發起DMA操作來訪問內存,只要知道目標物理地址即可。目前可用到6.0版本,7.0版本計劃於2025年發布。
CXL(計算快速鏈路)
它是英特爾、AMD等公司聯合推出的一種新型高速互連技術,旨在提供更高的數據吞吐量和更低的延遲,滿足現代計算和存儲系統的需求。CXL技術允許在CPU與設備之間、設備與設備之間共享內存,實現更快、更靈活的數據交換和處理。CXL包含三個子協議:CXL.io、CXL.cache、CXL.memory,分別用於不同的數據傳輸和內存共享任務。目前已發布到3.1版本。
CXL的一個顯著特點是支持內存一致性,這意味着數據可以在不同設備之間共享,而無需復雜的數據復制。這種一致性對於多處理器系統和大規模計算任務尤其重要,因爲它可以提高數據訪問效率、減少延遲,從而加快計算速度。此外,CXL還具有在各種設備和應用程序中使用的靈活性,使其成爲一種通用互連解決方案。
UPI(超級路徑互連)
它是英特爾爲多核處理器和/或多個處理器之間的高速通信而开發的點對點連接協議,旨在取代之前的QPI(QuickPathInterconnect)技術,提供更高的帶寬、更低的延遲和更好的能效。
Infinity Fabric
它是AMD开發的高速互連技術,用於連接AMD處理器內部的各個核心、緩存和其他組件,實現高效的數據傳輸和通信。InfinityFabric採用分布式架構,包含多個獨立通道,每個通道都可以進行雙向數據傳輸。這種設計允許不同核心之間實現快速、低延遲的通信,從而提高整體性能。此外,InfinityFabric具有可擴展性和靈活性,允許不同芯片之間進行連接,並支持將多個處理器組合成更強大的系統。
數據中心互連
超大規模數據中心的佔地面積相當於幾個足球場,對架構速度和智能處理能力提出了前所未有的要求。高速、長距離互聯技術可以大幅提升性能,同時實現低延遲計算。數據中心級互聯技術是支撐現代互聯網服務和雲計算的基礎。從機架層的高速數據傳輸到數據中心的網絡連接,這些技術共同保障了數據中心的效率、穩定性和可擴展性。
軟件定義網絡(SDN)
軟件定義網絡(SDN)是一種網絡架構概念,它將網絡的控制平面與數據平面分離,允許網絡管理員通過軟件程序集中管理和配置網絡行爲。SDN的核心思想是將網絡的智能控制功能從網絡設備中抽象出來,實現網絡流量的動態管理和優化。
以太網和RoCE
以太網是目前應用最爲廣泛、最爲成熟的網絡技術,起源於施樂PARC,能夠在數據中心的服務器之間傳輸大量數據,這對於很多加速計算任務至關重要。在RoCE協議下,以太網集成了RDMA功能,大大提升了高性能計算場景下的通信性能。爲了應對AI、HPC等工作負載帶來的新挑战,網絡巨頭聯合成立了超級以太網聯盟(UEC),超級以太網解決方案堆棧將利用以太網的普遍性和靈活性來處理各種工作負載,同時具有可擴展性和成本效益,爲以太網注入新的活力。
RoCE(RDMAoverConvergedEthernet):RoCE技術允許在標准以太網上進行遠程直接內存訪問,通過優化以太網交換機支持RDMA,在保持與傳統以太網兼容性的同時,提供高性能的網絡連接。
無限帶寬
InfiniBand:一種專爲高性能計算(HPC)設計的網絡技術,提供高帶寬、低延遲的網絡連接,支持點對點連接和遠程直接內存訪問(RDMA),適用於大規模計算和數據中心環境。
網絡拓撲
常見的拓撲結構有星型網絡拓撲、Fat-tree拓撲、Leaf-Spine拓撲、分層拓撲等,這裏主要介紹Fat-tree和leaf-spine,它們都是基於CLOS網絡模型的數據中心網絡架構。
葉脊拓撲
它是一種扁平的網絡設計,由Spine層(骨幹層)和Leaf層(接入層)組成。每個Leaf交換機連接到所有Spine交換機,形成全網狀拓撲。這種設計提供高帶寬、低延遲和無阻塞的服務器到服務器連接,易於水平擴展,並且具有高可靠性和易於管理的特點。Leaf-Spine架構的優點包括扁平設計以降低延遲、易於擴展、低收斂率、簡化管理和多雲管理。
Fat-Tree拓撲
它是一種樹形結構的網絡設計,通常由核心層、匯聚層和接入層三層組成。Fat-Tree拓撲結構的主要特點在於不存在帶寬收斂,即網絡帶寬不會從葉子向根收斂,這爲構建大規模無阻塞網絡提供了基礎。其各個節點(根節點除外)需要保證上下行帶寬相等,所有交換機可以相同,從而降低成本。但是Fat-Tree拓撲結構也有其局限性,例如可擴展性有限、容錯性較差、不利於部署某些高性能分布式應用、成本較高等。
核心/邊緣網絡
核心網是高速率、高可靠的網絡主幹,負責網絡各主要節點之間傳輸大量數據並提供路由服務;邊緣網是網絡的接入層,直接連接終端用戶和設備,提供多樣化服務,優化用戶體驗。
標題:網絡互連技術有哪些
地址:https://www.utechfun.com/post/412047.html