Сегодня компания NVIDIA представила ChatRTX, помощника искусственного интеллекта, который работает локально на вашем компьютере и ускоряется графическим процессором GeForce RTX. Первоначально NVIDIA запустила это как «Чат с RTX» еще в феврале 2024 года, тогда это рассматривалось скорее как общедоступная технологическая демонстрация. Ребрендинг ChatRTX, вероятно, направлен на то, чтобы название больше походило на ChatGPT, которым и должно быть приложение, за исключением того, что оно полностью работает на вашем компьютере и полностью настраивается. Самым очевидным преимуществом локально управляемого ИИ-помощника является конфиденциальность: вы взаимодействуете с помощником, который обрабатывает ваше приглашение локально и ускоряется вашим графическим процессором; во-вторых, вас не сдерживают проблемы с производительностью облачных помощников.
ChatRTX — это крупное обновление февральской технической демо-версии Chat с RTX. Начнем с того, что приложение имеет несколько улучшений стабильности по сравнению с Chat with RTX, которые кажутся немного грубоватыми. NVIDIA значительно обновила LLM, включенные в приложение, включая Mistral 7B INT4 и Llama 2 7B INT4. Также добавлена поддержка дополнительных LLM, включая Gemma, местного LLM, обученного Google, на основе той же технологии, которая использовалась для создания флагманской модели Google Gemini. ChatRTX теперь также поддерживает ChatGLM3 для команд на английском и китайском языках. Возможно, самым большим обновлением ChatRTX является его способность распознавать изображения на вашем компьютере, поскольку он включает в себя CLIP (предварительное обучение контрастному языку-изображению) от OpenAI. CLIP — это LLM, который распознает то, что он видит в коллекциях изображений. Используя эту функцию, вы можете взаимодействовать со своей библиотекой изображений без необходимости использования метаданных. ChatRTX принимает не только текстовый ввод, но и естественный голосовой ввод, поскольку он интегрирует модель NLI преобразования речи в текст Whisper.
Как и в оригинальной технической демонстрации Chat with RTX, самой большой особенностью нового приложения ChatRTX является его способность позволять пользователям переключаться между моделями ИИ или создавать и обучать собственный набор данных на основе текста и изображений на вашем локальном компьютере. машина. Вы можете указать папку с такими документами, как обычный текст, Word (doc) и PDF-файлы, а также изображениями; и он научится отвечать на запросы, связанные с набором данных.
ChatRTX остаются некоторые серьезные ограничения, которые, как мы надеялись, будут исправлены с момента его февральского выпуска, а именно контекст — возможность задавать дополнительные вопросы. По-видимому, реализовать последующие действия сложнее, чем кажется, поскольку модель должна связать новый вопрос с предыдущими и ответами на них. Он также неточно приписывает свои ответы правильным текстовым плиткам. Браузерный интерфейс поддерживает только Chrome и Edge, в Firefox есть ошибки.
Скачать чат СhatRTX
Системные требования
| Platform | Windows |
| GPU | NVIDIA GeForce RTX 30 or 40 Series GPU or NVIDIA RTX Ampere or Ada Generation GPU with at least 8GB of VRAM |
| RAM | 16GB or greater |
| OS | Windows 11 |
| Driver | 535.11 or later |
| File Size | 35GB |
0 Комментариев