NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM, поиском изображений и распознаванием речи

NVIDIA обновила своего AI-чат-бота ChatRTX, который выводит работу AI-ПК на новый уровень с улучшениями по всем направлениям. NVIDIA ChatRTX теперь поставляется с несколькими расширенными опциями ввода, включая голосовые и видеоподсказки

Чат-бот ChatRTX от NVIDIA добился огромных успехов с момента его первоначального запуска под брендом Chat With RTX. Отличительным фактором между такими вариантами, как ChatGPT от OpenAI и ChatRTX от NVIDIA, является то, что последний ориентирован на более персонализированный опыт, поскольку он предназначен для работы в локальной системе, а это означает, что у вас будет постоянно доступный чат-бот GPT на вашем компьютере без необходимости выходить в Интернет.

• ChatRTX пополняет свой растущий список поддерживаемых программ LLM, включая Gemma, последнюю версию LLM от Google, и ChatGLM3, открытую двуязычную (английскую и китайскую) программу LLM, предоставляющую пользователям дополнительную гибкость.
• Новая поддержка фотографий позволяет пользователям ChatRTX легко искать и локально взаимодействовать со своими фотоданными без необходимости сложной маркировки метаданных благодаря предварительному обучению OpenAI Contrastive Language-Image (CLIP).
• Пользователи ChatRTX теперь могут говорить со своими данными благодаря дополнительной поддержке Whisper, системы автоматического распознавания речи с искусственным интеллектом, которая теперь позволяет ChatRTX понимать устную речь.

Конфиденциальность — огромный бонус NVIDIA ChatRTX, поскольку вы даже можете разрешить ему доступ к локальным файлам. Благодаря передовой среде искусственного интеллекта он должен работать намного быстрее, чем существующие альтернативы.

Если углубляться в особенности, ChatRTX позволяет вам подключаться к нескольким крупным языковым моделям, таким как Mistral и Llama 2. Чат-бот с искусственным интеллектом использует возможности вашего графического процессора с помощью программного обеспечения NVIDIA TensorRT-LLM и Retrival Augmented Generated (RAG) для обеспечения ускоренной производительности за счет встроенного оборудования RTX. Если сравнивать его с облачными вариантами, ChatRTX будет доминировать над ними с точки зрения скорости обработки.

Поскольку ChatRTX — это скорее персонализированный ресурс, вы можете обучать его с помощью своих наборов данных, включая файлы, указав им соответствующий каталог. Еще одним интересным дополнением в обновленном ChatRTX от NVIDIA является возможность работы с изображениями, поскольку в чат-бот интегрирован OpenAI CLIP (предварительное обучение контрастному языку и изображению). Благодаря этому ChatRTX может самостоятельно перемещаться по изображениям, что является огромным бонусом для персонализированной среды. Вы даже можете сортировать изображения в зависимости от конкретной подсказки, выделять определенные из них и делать все что угодно с помощью простой подсказки.

Системные Требования

• Графический процессор: NVIDIA GeForce RTX 30 или 40 или NVIDIA RTX Ampere или графический процессор поколения Ada с видеопамятью не менее 8 ГБ
• ОЗУ: 16 ГБ или больше
• ОС: Windows 11
• Драйвер 535.11 или новее
• Размер файла: 35 ГБ

Говоря о подсказках, ChatRTX позволяет вам вводить голос и распознавать его с помощью искусственного интеллекта, что является еще одним бонусом. В целом, безусловно, интересно увидеть появление чат-ботов для более приватной среды, а благодаря поддержке NVIDIA RTX вы, несомненно, станете свидетелем высокой производительности ChatRTX. Вы можете загрузить приложение со страницы NVIDIA по ссылке.