NVIDIA выпустила три открытые модели ИИ Nemotron 3.5 с возможностью локального запуска и настройки

Запуск новых открытых моделей искусственного интеллекта Nemotron

Как сообщает НВ — Техно: Компания NVIDIA представила линейку из трёх моделей Nemotron 3.5 - Nemotron 3.5 Super VL и Nemotron 3.5 Bolt, ориентированных на работу автономных ИИ-агентов. Различия в мощности и требованиях к аппаратному обеспечению позволяют использовать эти модели в самых разных сферах. Флагманская версия, Nemotron 3.5 Super VL, включает 120 миллиардов параметров и превосходит конкурентов по скорости выполнения задач в пять раз.

Ключевые характеристики Nemotron 3.5

Nemotron 3.5 Super VL способна анализировать изображения, выполнять сложные инструкции и работать с внешними инструментами. Для обучения использовалось около 26 триллионов токенов, включая текстовые и мультимодальные данные. Дальнейшее обучение включало примерно 3,8 миллиона примеров и использовало методы обучения с подкреплением в десятках сред. Настроить и адаптировать эту модель можно с помощью инструментов NVIDIA NeMo и скриптов на Python. Она доступна на платформах Hugging Face, OpenRouter, ModelScope и через сервис NVIDIA NIM.

Семейство Nemotron 3.5 Bolt состоит из двух моделей с разными аппаратными требованиями:

• Nemotron 3.5 Bolt 74B-A9B поддерживает 2-битное квантование и требует 24 ГБ памяти. Эта модель занимает первое место среди открытых решений своего класса по рейтингу PinchBench и второе - в BrowseComp.
• Nemotron 3.5 Bolt E4B, требующая около 4 ГБ памяти, предназначена для быстрого построения диалоговых систем и физически встроенных ИИ на базе NVIDIA Jetson. Релиз Bolt E4B запланирован на 16 октября 2026 года, тогда как более крупная версия уже доступна для использования.

Крупные компании, включая Scale AI, применяют эти модели для создания ИИ-агентов, которые помогают в финансовых операциях Skydance и проверке сделок по слияниям и поглощениям для EY. AfterQuery адаптировала модель для анализа кредитных договоров в Hebbia. Другие проекты направлены на внедрение искусственного интеллекта в области кибербезопасности и программирования.

Выпуск Nemotron от NVIDIA отражает растущую потребность в мощных и гибких ИИ-решениях, способных эффективно решать разнообразные бизнес-задачи.

Источник: NVIDIA

Особенности Nemotron 3.5 Super VL могут значительно повысить уровень автоматизации в различных индустриях - от финансового сектора до сферы кибербезопасности. Возможность тонкой настройки моделей под конкретные задачи открывает новые перспективы для компаний, заинтересованных в интеграции передовых технологий искусственного интеллекта.

Для российской аудитории важно отметить, что локальный запуск и адаптация подобных моделей позволяют повысить безопасность данных и снизить зависимость от облачных сервисов иностранных провайдеров.