美國拉斯維加斯—CES—2024年1月8日—NVIDIA發布具有高性能生成式AI功能的GeForce RTX™ SUPER桌面端GPU，來自OEM合作夥伴的全新AI筆記本電腦，及面向开發者和消費者的全新NVIDIA RTX™加速的AI應用和工具。
數十年來，NVIDIA在PC領域一直處於領軍地位，現已有超1億RTX GPU在推動着AI PC時代的發展，NVIDIA正通過提供工具以提升PC上的生成式 AI體驗：NVIDIA TensorRT™加速用於文本生成圖像工作流的熱門Stable Diffusion XL模型、NVIDIA RTX Remix與生成式AI紋理工具、NVIDIA ACE微服務以及更多使用DLSS 3幀生成技術(Frame Generation)的遊戲。
此外，NVIDIA TensorRT-LLM (TRT-LLM) 是一個开源庫，可加速和優化最新大語言模型 (LLMs) 的推理性能，現已支持更多面向PC的預優化模型。本月，NVIDIA發布由TRT-LLM加速的Chat with RTX技術Demo，讓AI愛好者能與他們的筆記、文檔和其他內容進行交互。
NVIDIA創始人兼首席執行官黃仁勳表示："生成式AI是計算史上最重要的平台轉變，它將改變包括遊戲在內的所有行業。NVIDIA擁有超過1億台RTX AI PC和工作站的用戶基礎，爲开發者和玩家提供保證，讓他們盡享生成式AI的魔力。”
在 PC 上本地運行生成式AI對於隱私、延遲和成本敏感型應用至關重要。但這需要大量AI系統安裝基礎，以及合適的开發者工具來調優PC平台的AI模型。
爲滿足這些需求，NVIDIA正通過其整個技術棧提供創新，推動新體驗，並在現已支持超過 500 款NVIDIA RTX遊戲和應用的AI PC基礎上更進一步。
RTX AI PC 和工作站
NVIDIA RTX GPU能以最高性能運行各種應用，充分釋放 PC上生成式AI的潛力。RTX GPU 中的Tensor Core可顯著加速工作和娛樂應用中要求最嚴苛的AI功能。
今天在 CES 發布的全新 GeForce RTX 40 SUPER 系列GPU包括GeForce RTX 4080 SUPER、4070 Ti SUPER 和 4070 SUPER，提供出色的 AI 性能。在AI工作負載方面，GeForce RTX 4080 SUPER 生成視頻的速度比 RTX 3080 Ti 快1.5 倍，生成圖像的速度比 RTX 3080 Ti 快 1.7 倍。SUPER GPU 的Tensor Core可提供最高可達 836 AI TOPS，在遊戲、創作和日常工作等方面提供革命性的AI性能。
包括宏碁、華碩、戴爾、惠普、聯想、微星等合作夥伴發布全新 RTX AI 筆記本電腦，爲用戶帶來开箱即用的生成式 AI體驗。與使用NPU相比，RTX AI筆記本電腦的性能可提升 20-60 倍。
配備RTX GPU的移動工作站可運行NVIDIA AI Enterprise軟件，包括TensorRT和NVIDIA RAPIDS™，用於簡化、安全的生成式AI和數據科學开發。每台NVIDIA A800 40GB Active GPU都包含爲期三年的NVIDIA AI Enterprise許可證，爲AI和數據科學提供理想的工作站开發平台。
用於構建AI模型的全新 PC 开發者工具
爲幫助开發者使用 PC 級的性能和顯存快速創建、測試和定制預訓練生成式 AI 模型和LLM，NVIDIA於近期發布統一、易用的工具包NVIDIA AI Workbench。
AI Workbench 將於本月底推出測試版，提供對Hugging Face、GitHub 和NVIDIA NGC™ 等熱門資源庫的流暢訪問、簡化用戶界面，使开發者能輕松復制、協作和遷移項目。
項目可擴展到數據中心、公有雲或 NVIDIA DGX™ Cloud等任何地方，然後再回到PC或工作站上的本地 RTX 系統進行推理和輕量定制。
NVIDIA通過與惠普的合作，將 NVIDIA AI Foundation Models and Endpoints(包括RTX加速的AI模型和軟件开發工具包)集成到惠普AI Studio中，這是一個集成化的數據科學平台，從而簡化AI模型的开發。這將使用戶能跨 PC 和雲輕松搜索、導入和部署優化後的模型。
爲PC使用場景構建AI模型之後，开發者可使用NVIDIA TensorRT 對其進行優化，以充分利用 RTX GPU 的Tensor Core。
最近，NVIDIA通過TensorRT-LLM for Windows將TensorRT擴展到基於文本的應用，TensorRT-LLM for Windows是一個用於加速LLM的开源庫。TensorRT-LLM 最新更新現已發布，將Phi-2加入不斷增長的 PC 預優化模型列表，與其他backend相比，推理速度提升5倍。
RTX 加速生成式AI爲全新 PC 體驗提供動力
在CES 2024上，NVIDIA及其开發者合作夥伴發布全新生成式AI驅動的 PC 應用和服務，包括：
● NVIDIA RTX Remix，用於創建令人驚嘆的經典遊戲 RTX 重制版的平台。測試版將於本月底發布，提供生成式AI工具，可將經典遊戲中的基本紋理轉化物理精准的4K高精度材質。
● NVIDIA ACE 微服務，包括生成式AI驅動的語音和動畫模型，使开發者能爲遊戲添加智能、動態的虛擬數字人物。
● TensorRT 加速Stable Diffusion XL (SDXL) Turbo 和LCM，這是兩種最熱門的Stable Diffusion加速方法。與之前最快的實現相比，TensorRT 將這兩種方法的性能提升 60%。Stable Diffusion WebUI TensorRT 擴展的更新版現在也已發布，包括 SDXL、SDXL Turbo、LCM-LoRA加速以及優化的 LoRA支持。
● NVIDIA DLSS 3 支持幀生成技術(Frame Generation)，可利用AI將幀率提高到原生渲染的 4 倍，將用於已發布的 14 款全新 RTX 遊戲中的十幾款遊戲中，包括《地平线：西之絕境》(Horizon Forbidden West)、Pax Dei和《龍之信條 2》(Dragon’s Dogma 2)。
● NVIDIA技術Demo "Chat with RTX"將於本月晚些時候發布，讓AI愛好者使用名爲 " 檢索增強生成retrieval-augmented generation(RAG)"的熱門技術，輕松地將PC LLM連接到自己的數據。該Demo由 TensorRT-LLM 加速，使用戶快速與自己的筆記、文檔和其他內容進行交互。作爲开源參考項目，开發者可輕松地在自己的應用中實現相同的功能。
歡迎參加 NVIDIA在美國拉斯維加斯舉行的CES 2024，進一步了解生成式AI的最新突破。
標題：CES 2024：NVIDIA爲數百萬用戶帶來生成式AI
地址：https://www.utechfun.com/post/315786.html