NVIDIA 創始人兼首席執行官黃仁勳在 COMPUTEX 大會开幕前發表主題演講,他表示:“生成式 AI 正在重塑行業,並爲創新和增長帶來新機遇。”
“今天,我們正處於計算領域重大轉變的最前沿,”黃仁勳表示,“人工智能和加速計算的交匯將重新定義未來。”
NVIDIA 加速平台已經全面投入生產,不僅通過搭載 NVIDIA RTX 技術的 AI PC和消費級設備爲遊戲玩家和創作者帶來全新體驗,還支持企業利用 NVIDIA 全棧計算平台構建和部署的 AI 工廠。
“加速計算是計算行業的未來,”黃仁勳表示,“憑借 NVIDIA 在 AI 和加速計算領域的創新,我們正在創造更多可能,推動新一輪技術進步。”
每年更新路线圖
黃仁勳分享了新半導體技術路线圖,該路线圖將每年更新。 他首次宣布了Rubin 平台,它將配備新 GPU、基於 Arm 的新 CPU — Vera,以及採用 NVLink 6、CX9 SuperNIC 和 X1600、並融合 InfiniBand/以太網交換機的高級網絡平台。Rubin 將作爲 Blackwell 的下一代平台。
“我們公司的更新節奏是以年爲單位。我們的基本理念非常簡單:打造數據中心規模,以每年的節奏分步驟實現、並向客戶交付產品,在各個領域實現技術突破,”黃仁勳解釋道。
NVIDIA 創意團隊使用 NVIDIA Inception 初創計劃成員提供的 AI 工具來創作 COMPUTEX 主題演講,該工具基於 NVIDIA NIM 和 NVIDIA 加速計算。本次演講演示了各種 demo,重點介紹了上述創新工具以及 NVIDIA 技術帶來的變革性影響。
加速計算實現可持續增長
黃仁勳在演講开始時表示,NVIDIA 正在降低將數據轉化爲智能的成本。
他強調:“加速計算能夠實現可持續增長。” 他同時介紹了 GPU 和 CPU 組合如何實現高達 100 倍的加速計算,同時功耗僅增加三倍,每瓦性能比單獨使用 CPU 提高 25 倍。买的越多,省的越多。” 他強調了這種方法可顯著節約成本和能源。
業界攜手 NVIDIA 打造 AI 工廠
不少計算機制造商已經开始採用 NVIDIA GPU 和網絡解決方案。永擎電子(ASRock Rack)、華碩(ASUS)、技嘉科技(GIGABYTE)、鴻佰科技(Ingrasys)、英業達(Inventec)、和碩(Pegatron)、雲達科技(QCT)、超微(Supermicro)、緯創(Wistron)和緯穎科技(Wiwynn)等企業正在打造基於NVIDIA技術的雲、專用系統和邊緣AI系統。
NVIDIA MGX 模塊化參考設計平台加入了對Blackwell產品的支持,包括GB200 NVL2平台,該平台專爲大語言模型推理、檢索增強生成和數據處理提供卓越的性能而打造。
AMD 和英特爾均支持MGX架構,並首次計劃推出基於他們自己CPU主機處理器的模塊設計。任何服務器系統制造商都可以使用這些參考設計節省开發時間,並確保設計和性能的一致性。
採用Spectrum-X 的下一代網絡平台
爲了滿足AI對高性能以太網網絡平台日益增長的需求,黃仁勳宣布了每年推出新的 Spectrum-X產品的計劃。
NVIDIA Spectrum-X 是全球首款專爲 AI 打造的以太網網絡平台,可將網絡性能較傳統以太網網絡平台提升1.6倍。Spectrum-X 能夠加快 AI 工作負載的處理、分析和執行速度,進而加快 AI 解決方案的开發和部署速度。
率先採用 Spectrum-X 的 AI 雲服務提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他們的 AI 基礎設施因此而獲得了超強的網絡性能。
NVIDIA NIM 讓數百萬人成爲生成式 AI 开發者
現在,全球 2800 萬开發者都可以借助 NVIDIA NIM 輕松地創建生成式 AI 應用。NIM 是一種推理微服務,通過以經過優化的容器的形式提供模型,以部署在雲、數據中心或工作站上。
NIM 還能幫助企業實現基礎設施投資的效果最大化。例如,與未使用 NIM 的情況相比,在 NIM 中運行 Meta Llama 3-8B 所能生成的加速基礎設施 AI token 可以提升 3 倍。
Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技術合作夥伴正將 NIM 集成到他們的平台中,加快生成式 AI 部署到特定領域應用中的速度,例如copilots、代碼助手、數字人虛擬形象等。從 Meta Llama 3 开始,在 Hugging Face上現已开始提供 NIM。
“今天我們在 Hugging Face上發布了全面優化的 Llama 3,”黃仁勳表示。“您可以在任何雲中運行它。下載該容器,並將其存入數據中心,然後就可以托管,並提供給客戶使用。”
NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生
搭載 RTX 技術的 NVIDIA RTX AI PC 將通過 200 多款 RTX AI 筆記本電腦和 500 多款採用 AI 技術的應用和遊戲徹底改變消費者的體驗。
RTX 套件和爲NVIDIA ACE 數字人平台最新推出的基於 PC 的 NIM 推理微服務,將進一步提高 AI 的可訪問性。
另外,NVIDIA 還發布了搭載 RTX 的 AI 助手技術演示 G-Assist 項目,展示了針對 PC 遊戲和應用的上下文感知輔助功能。
Microsoft 和 NVIDIA 正在一起幫助开發者將新的生成式 AI 功能加入到他們的 Windows 原生和 Web 應用程序中,使开發者能夠通過 API 輕松訪問由 RTX 加速的 SLM,作爲 Windows Copilot Runtime 的一部分實現在設備上運行的 RAG 功能。
NVIDIA 機器人技術:用機器人制造機器人
NVIDIA 正引領價值 50 萬億美元的工業數字化變革,各行各業都在採用自主運營和數字孿生,通過虛擬模型提高效率並降低成本。NVIDIA 通過其开發者計劃提供對 NIM 的訪問權限,以促進 AI 創新。
制造商們正在利用 NVIDIA 的技術改造他們的工廠。黃仁勳展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 創建數字孿生,通過結合視覺 AI 與機器人开發工具來實現增強的機器人設施。
“AI 的新一波浪潮是物理 AI。AI 能夠理解物理定律,並與人類並肩作战,”黃仁勳表示,他強調了機器人和人工智能在未來發展中的重要性。
NVIDIA Isaac 平台爲开發者構建 AI 機器人提供強大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超級計算機驅動的 AMR、工業機械臂和人形機器人。
“機器人和物理 AI 正在成爲現實,而不僅是出現在科幻小說。這真的令人興奮,”黃仁勳補充道。
全球電子行業領導企業正在將 NVIDIA 自主機器人技術集成到他們的工廠中,利用 Omniverse 中的模擬功能來測試和驗證物理世界的新一代 AI。全球 500 多萬台預編程機器人也在此行列中。
“機器人將遍布所有工廠。工廠將實現對機器人的統籌,而這些機器人將制造新的機器人產品,”黃仁勳解釋道。
黃仁勳強調了 NVIDIA Isaac 在提高工廠和倉庫效率方面的作用,比亞迪電子、西門子、泰瑞達、Intrinsic 等全球領先企業都在使用 NVIDIA Isaac 的高級程序庫和 AI 模型。
IGX 平台上的 NVIDIA AI Enterprise與凌華科技(ADLINK)、研華科技(Advantech)、ONYX 等合作夥伴共同打造符合嚴格監管標准的邊緣 AI 解決方案,以滿足醫療技術等行業的關鍵需求。
最後,黃仁勳向 NVIDIA 合作夥伴再次表示感謝。
標題:“加速一切”,NVIDIA CEO黃仁勳在COMPUTEX开幕前發表主題演講
地址:https://www.utechfun.com/post/378999.html