導讀 輝達（NVIDIA）日前推出個人化 AI 聊天機器人 Chat with RTX，使用者不用連網就能將文件、筆記等資料連結大語言模型（LLM）。NVIDIA 表示，Chat with RTX 所有操...
輝達（NVIDIA）日前推出個人化 AI 聊天機器人 Chat with RTX，使用者不用連網就能將文件、筆記等資料連結大語言模型（LLM）。NVIDIA 表示，Chat with RTX 所有操作均在 Windows RTX PC 或工作站終端執行，因此非常安全。
使用者可用 Chat With RTX 使用檢索增強生成（RAG）、TensorRT-LLM 和 RTX 加速。要用 Chat with RTX 的話，需要配備 GeForce RTX 30、40 系列以上 GPU，或 RTX Ampere、Ada Generation GPU。除此之外，顯示卡記憶體最少需 8GB 。
Chat with RTX 支援各種文件格式，Word 檔、PDF、Doc / Docx 和 Xml。只需將應用程式指向包含檔案的資料夾，數秒內就可使用。使用者也可用 Chat with RTX「收看」YouTube 影片，整合影片內容。
NVIDIA 強調，由於 Chat with RTX 本機運作，無需連接網絡，因此查詢速度非常快，使用者資料也存在裝置，所以非常安全，使用者可安心處理敏感資料。
（本文由 授權轉載；首圖來源：）
關鍵字: , , ,
標題：輝達 Chat with RTX 聊天機器人，不用連線即可使用 AI
地址：https://www.utechfun.com/post/333021.html