隨着ChatGPT在2022年11月底的正式發布，AI工具可以說是正式出現在了大衆的視野。隨後AI技術开始呈現井噴式的發展，誕生了許多功能各異的AI軟件。NVIDIA作爲PC領域的領軍者，自然也研究了許多有用的AI工具。先前只能基於NVIDIARTX的雲端服務器使用的ChatWith RTX ，目前也已經支持在WindowsRTX PC或工作站上進行本地部署。這不僅極大地提升了搜索效率，更重要的是，它讓用戶在處理敏感資料時，無需再將數據上傳至第三方或連接至網絡，從而確保了用戶在使用過程中的安全性。特別是對於耕升GeForceRTX 40SUPER系列顯卡的用戶來說，他們不僅在日常遊戲中享受到了流暢的幀數體驗，更在使用NVIDIA的AI工具時，感受到了顯著的速度提升。

ChatWith RTX 促進了用戶數據（無論是文檔、筆記、視頻還是其他形式的內容）與LLMs之間的直接連接，增強了其對上下文的理解和個性化。通過檢索增強生成（RAG）、TensorRT-LLM和RTX加速，用戶可以與定制的聊天機器人交流，快速獲取根據其內容定制的答案。同時，用戶可以快速輕松地將桌面端上的資料作爲數據集，連接到Mistral或Llama2 這一類开源大型語言模型，以便快速查詢與上下文有關的內容。

ChatWith RTX支持多種文件格式，包括文本文件、PDF、DOC/DOCX和XML，實現了流程的簡化。只需在應用程序中指定包含目標文件的文件夾，幾秒鐘內，應用程序即可將它們加載到庫中。

ChatWith RTX還支持用戶輸入視頻網站YouTube播放列表的URL，使應用程序自動轉錄視頻的內容，以進行查詢，進一步豐富了對話體驗。相信後續也會進一步支持國內視頻網站的使用。

此外，對於开發者而言，ChatWith RTX是在GitHub上的TensorRT-LLMRAG 开發者參考項目基礎上構建的。开發者可以從這個參考項目中獲得靈感，打造和部署適用於RTX、基於RAG的應用，並由TensorRT-LLM加速，开啓人工智能互動的新時代。

當然，強大的功能也需要優秀的硬件支持。要通過本地部署使用ChatWith RTX，用戶需要搭載GeForceRTX 30 系列或更高版本的GPU（至少8GB顯存），並且操作系統需要在Windows10 或者11，並更新至最新的NVIDIAGPU 驅動。

在此推薦最近發布的耕升GeForceRTX 40 SUPER系列顯卡。該系列顯卡搭載NVIDIAAda Lovelace架構，效能較上代顯卡有着大幅提升。強大的AI性能能夠幫助用戶在使用ChatWithRTX和StableDiffusion時提升渲染速度，更快一步獲得結果。而在遊戲方面支持多項RTX技術，包括NVIDIADLSS 3.5和光线追蹤技術，使遊戲畫面更加逼真細膩。

其中耕升GeForceRTX 4070 SUPER星極皓月OC外殼採用純白的全金屬設計，外觀皎潔純淨。再加上全新的三風扇散熱器仿佛冰霜般凜冽，爲用戶呈現出不同尋常的視覺和性能盛宴。對於對電競遊戲、生產力應用和AI創作有高需求的用戶來說，這款顯卡一定會是一個令人滿意的選擇。

標題：Chat With RTX你的個性化聊天機器人！耕升顯卡助力用戶本地部署！

地址：https://www.utechfun.com/post/334401.html