NVIDIA 发布“Chat with RTX”的器用，Windows用户可自主锻练ai
NVIDIA 最近发布了一款名为「Chat with RTX」的免费手艺演示器用，初度将基于NVIDIA RTX的生成式AI手艺带入腹地Windows个东说念主电脑中，让用户大约快速定制聊天机器东说念主体验。
Chat with RTX 器用诈欺 NVIDIA 的 TensorRT-LLM 软件和 RTX 加速手艺，并蚁集了文档检索增强生成（RAG），使得用户大约在我方的PC上实行生成式AI应用。用户只需领有一块 GeForce RTX 30系列或更高端的显卡，并确保显卡至少有8GB的显存（VRAM），就不错激活并使用这项功能。
用户大约浅薄地将个东说念主电脑中的腹地文献行动数据集，联贯到开源的大型话语模子（举例Mistral或Llama 2），从而连忙获取关系的谜底。举例，当用户提议问题“我的伴侣在拉斯维加斯推选的餐厅有哪些？”时，Chat with RTX将自动检索指定的腹地文献，并给出包含凹凸文的回复。
复旧多种文献花样和视频处置这款器用复旧多种文献花样，包括.txt、.pdf、.doc/.docx和.xml等，用户只需将文献尊府夹指向应用规律，便能连忙加载数据。此外，它还复旧整合YouTube视频本色，用户只需输入视频网址，就能将视频信息纳入问答本色中，举例左证旅游博主的推选来筹算行程，或者从纯属资源中快速获取素质指南。
腹地运作安全保险Chat with RTX 在用户我方的汲引上运转，幸免了将数据上传到云表，这不仅加速了反馈速率，还保护了用户的诡秘，卓越符合处置明锐信息。此外，该应用无需联网即可使用，进一步提升了使用的浅薄性和数据的安全性。