Nvidia выпустила аналог ChatGPT, который работает на ПК и без интернета

Компания Nvidia представила бесплатный аналог ChatGPT под названием Chat with RTX. Чат-бот умеет работать без интернета и доступен в виде демонстрационного приложения для Windows 11.

Chat with RTX запускает чат-бота локально на вашем ПК. Он может делать выжимки, анализировать информацию и давать ответы на основе данных, которые вы ему передадите (файлы, документы, видео и т.п.). Для работы Chat with RTX нужны видеокарта RTX 30-й или 40-й серии с минимум 8ГБ видеопамяти, а также от 16ГБ ОЗУ.

Nvidia отмечает, что утечка личных данных исключена, т.к. Chat with RTX работает локально и не обращается к облачным серверам.

Отмечается, что Chat with RTX не запоминает контекст (возможно, пока), что не позволяет задавать ему дополнительные вопросы на основе контекста предыдущего. Также он создает файлы JSON внутри папок, которые вы просите его проиндексировать.

Дополнительные сценарий использования Chat with RTX:

Обработка видео с YouTube. Для этого нужно указать URL-адрес, Chat with RTX сможет найти конкретные упоминания в ролике или сделать резюме.
Сканирование PDF-файлов. Сервис практически мгновенно извлекает ключевую информацию, без каких-либо задержек, которые обычно бывают при использовании облачных чат-ботов, например, ChatGPT.

Загрузить Chat with RTX можно на сайте Nvidia.

Источник: The Verge