英伟达(NVIDIA)正在更新其实验性ChatRTX聊天机器人,为RTXGPU用户引入更多人工智能模型。这个在WindowsPC上本地运行的聊天机器人已经可以使用Mistral或Llama2来查询个人文档,但现在支持的AI模型列表正在不断扩大,包括Google的Gemma、ChatGLM3,甚至还有OpenAI的CLIP模型,让它更容易搜索机器上的照片。

NVIDIA在今年2月首次推出了ChatRTX,当时名为"ChatwithRTX",它是一款演示应用,需要配备8GB或更大VRAM的RTX30或40系列GPU才能运行。该应用本质上是创建一个本地聊天机器人服务器,可以通过浏览器访问该服务器,并输入本地文档甚至YouTube视频,从而获得一个强大的搜索工具,其中包含对您自己数据的总结和问题解答。

Google的Gemma模型专为直接在高配笔记本电脑或台式电脑上运行而设计,因此将其纳入ChatRTX非常合适。NVIDIA的应用消除了在本地运行这些模型的一些复杂性,由此产生的聊天机器人界面可让您在不同模型之间进行选择,以便找到最适合您想要分析或搜索的数据的模型。

ChatRTX可从NVIDIA网站下载,容量为36GB,现在还支持基于通用语言模型框架的开放式双语(英语和中文)大型语言模型ChatGLM3。此外,还添加了OpenAI的对比语言-图像预训练(CLIP),可让您搜索本地照片数据并与之交互,从而对模型进行图像识别训练。

最后,NVIDIA还更新了ChatRTX,以支持语音查询。NVIDIA集成了人工智能语音识别系统Whisper,可让用户使用语音搜索数据。