近年來，人工智能技術的飛速發展，催生了各種各樣的創新應用。在這之中，AI聊天機器人的發展在各個行業領域中都展現出了巨大的潛力。那最近，作爲全球領先的顯卡制造商NVIDIA則宣布推出一款AI聊天機器人“Chatwith RTX”。根據描述，該機器人能夠與用戶進行自然、流暢的對話，最重要的是只需本地的RTX顯卡即可運行。

Chat withRTX借助檢索增強生成（RAG）、NVIDIATensorRT-LLM軟件及NVIDIARTX加速技術，將生成式AI功能引入由GeForce賦能的本地WindowsPC。相比於現在市面上主流的AI聊天，它並非是在網頁和APP中運行，用戶需要將其下載到個人電腦中。這樣在效果上不僅運行速度會更快，在使用上也不會受太多外部因素的限制，真正意義上的本地運行。

用戶可快速輕松地將桌面端上的資料當成數據集，連接到Mistral或Llama2這一類开源大型語言模型，以便快速查詢與上下文有關的內容。

這款AI聊天機器人不僅具備了出色的語義理解和自然語言的生成能力，還能夠根據用戶的需求提供個性化的服務和答復。用戶可以加入YouTube視頻和播放列表裏的信息，在ChatwithRTX裏加入視頻網址，並根據視頻中的內容進行你想要的提問，它便會以極快的速度進行回復。這一突破性的技術將進一步推動人機交互的革新，並有望在智能助手、在线客服、教育輔助等領域發揮重要作用。

作爲人工智能領域的巨頭之一，OpenAI一直以其先進的技術和研究成果著稱，其开發的GPT系列模型在自然語言處理領域表現出了驚人的能力。然而如今，NVIDIA推出的最新AI聊天機器人Chatwith RTX也展現出了強大的競爭實力，尤其是其能夠在本地運行的特點，爲用戶提供了更多的選擇和便利。

Chat WithRTX的用法很簡單，只需一個下載安裝的動作，就可以在自家的電腦上進行使用。當然除了要搭配30系以上的GPU之外，使用Chatwith RTX還需要搭配操作系統Windows10或11以及最新的NVIDIAGPU驅動。在大小上也需要用戶空出約至少35G以上的空間大小，各位在安裝上還請不要忘記檢查下自己的硬盤空間是否充足。此外安裝的過程對於網絡也有嚴格的限制，想要體驗的朋友可以看看自己是否滿足以上條件。

如果說之前人們不使用Chatgpt等AI對話的技術，是擔心泄露私人隱私於雲端服務器。那ChatwithRTX是基於深度學習技術和大規模數據訓練而成的，借助於強大的RTX顯卡，在本地環境下即可運行，無需依賴於雲端服務器。你唯一需要的或許就只是配備好GeForceRTX 30系列或更高版本的GPU（至少8GB顯存）即可。

全新影馳GeForceRTX 40 SUPER系列GPU包括GeForceRTX 4070 SUPER、4070Ti SUPER 和4080 SUPER，在AI工作負載方面，GeForceRTX 4080 SUPER生成視頻的速度比RTX3080 Ti快1.5倍，生成圖像的速度比RTX3080 Ti快1.7倍。作爲在PC上體驗AI最佳的顯卡系列，專用AITensor Core可提供高達836AI TOPS，在遊戲、創作和日常工作等方面提供革命性的AI性能。

Chat WithRTX的橫空出世引發了業界的熱議，也展現出了人工智能技術在日常生活中的巨大潛力。隨着技術的不斷創新和應用，相信AI聊天機器人將成爲未來智能化生活的重要組成部分，爲用戶帶來更加便捷、智能的體驗。

標題：挑战OpenAI！NVIDIA官宣AI聊天機器人，本地RTX就可運行

地址：https://www.utechfun.com/post/335957.html