NVIDIA представила ChatRTX: новые модели, распознавание голоса и поиск мультимедиа

Переведено с помощью DeepL

Если вы задаетесь вопросом, почему NVIDIA выпустила ChatRTX сегодня, когда аналогичный инструмент уже был выпущен, то путаница может возникнуть из-за того, что «Chart with RTX» был лишь предварительным техническим демо, в то время как ChatRTX - это новое приложение.

В отличие от таких онлайн-инструментов, как ChatGPT, Google Bard или Microsoft Copilot, ИИ-ассистент работает локально и не требует подключения к Интернету. Этот аспект существенно влияет на конфиденциальность и контроль над анализируемыми данными.

NVIDIA особо отметила возможность сканирования и анализа данных в локальных директориях (текстовые файлы, документы и т. д.). Это, несомненно, одна из самых крутых особенностей инструмента, которая позволяет пользователям использовать существующие модели с открытым кодом и локальные данные.

Новые функции в ChatRTX включают распознавание голоса для подсказок на нескольких языках и возможность вывода на разных языках.

Кроме того, появилась поддержка новых LLM, таких как Mistral 7B INT4 или Llama 2 7B INT4, а также поддержка Gemma, последней модели ИИ от Google.

Новой интересной функцией является возможность поиска изображений в локальных каталогах на основе CLIP (Contrastive Language-Image Pre-training), модели OpenAI.

К сожалению, одна из самых востребованных функций - возможность задавать повторные вопросы - пока недоступна в ChatRTX.

На данный момент инструмент может понимать только одиночные запросы. Кроме того, веб-интерфейс пока не работает корректно в Firefox.

Также стоит отметить, что установочная программа весит 11 ГБ, а все приложение после установки требует 35 ГБ пространства, так что убедитесь, что у вас достаточно места перед загрузкой.

Стоит также отметить, что пока оно работает только на видеокартах RTX 30 и RTX 40, с не менее чем 8 ГБ видеопамяти и 16 ГБ ОЗУ.