和碩今年參與 NVIDIA GTC 大會,展示 AI 伺服器、GenAI 平台及如何運用智慧 AI 協助生產製造等解決方案,而 NVIDIA 宣布和碩為其先進 GPU 計算技術的全球合作夥伴之一,尤其是最新發表的 NVIDIA GB200 Grace Blackwell 超級晶片。
和碩目前積極開發的 GB200 NVL36 是多節點、液冷、機櫃級平台,專用於處理計算密集型工作負載,還配備 NVIDIA BlueField-3 數據處理單元,可以在超大規模 AI 雲端實現網路加速和滿足 GPU 計算彈性各種功能。
和碩在人工智慧加速領域一直致力於推動硬體創新和提升使用者體驗,隨著大語言模型(LLM)的發展,和碩的研發團隊積極開發專為智慧製造領域設計的 AI 伺服器,藉由 AI 伺服器提高 LLM 的訓練效率,替企業實現工業數位轉型。
和碩這次在 GTC 2024 亮相的三大重點,包括與 NVIDIA 攜手合作打造企業 AI 伺服器,共同塑造人工智慧和加速運算的未來,並推出 AS201-1N0 一款搭載 NVIDIA GH200 Grace Hopper 超級晶片的 AI 伺服器,能夠無縫配合 LLM 訓練。
再來是基於 NVIDIA MGX 架構的模組化設計,提供更大的靈活性,以滿足數據中心多樣化的加速運算需求,並兼具高效能、可靈活配置與 可擴充的特點,特別適合需要大規模平行運算處理和 NVIDIA GPU 加速的應用。
AI 伺服器採用直達晶片液冷的解決方案,和碩 GS200-2T0 採用 Intel 第 5/4 代 Xeon 2P 處理器,可搭配 2 個 NVIDIAA100TensorCoreGPUs,並受到 2U 既有機箱空間限制,CPU 和 GPU 採用直達晶片(Direct-to-Chip)液冷,能大幅增加硬體運算效率來降低總成本,從數位孿生到生成式人工智慧、訓練和推理,提供頂級的圖形和運算效能,支援資料中心內各種 AI 驅動的工作負載。
和碩現場將演示機械手臂在人工智慧輔助,如何模擬智慧工廠環境中檢知包裝物件與作業反應能力,透過演示強調自然語言如何幫助操作者,可以直觀向機器提供精確的指令,透過和碩伺服器和 PEGAVERSE 的協同運作,有望提高效率,並提供全面的解決方案。
(首圖來源:和碩)
延伸閱讀:
標題:和碩參與 NVIDIA GTC 大會!秀加速運算、生成式 AI 方案
地址:https://www.utechfun.com/post/347682.html