NVIDIA выпустила Chat with RTX, новую нейросеть, которая работает локально на вашем ПК и может предоставлять информацию на основе ваших файлов.
Используя генерацию с расширенным поиском (RAG), TensorRT-LLM и ускорение RTX, вы можете отправлять запросы к чат-боту, чтобы быстро получать ответы, основанные на вашем собственном контенте — документами, заметками, видео или другими данными. А поскольку все это выполняется локально на вашем ПК, подразумевается, что ваши данные будут в безопасности.
Помимо документов, бот может смотреть видео на YouTube и извлекать контекст оттуда. В настоящее время доступна демо версия, которую можно загрузить с официального сайта NVIDIA. Работает только на GeForce RTX 30 или 40 серии.