NVIDIA выпустила открытые модели Nemotron 3.5 Super VL и Bolt для агентов
NVIDIA выпустила три открытые модели семейства Nemotron 3.5 для агентов: крупную Super VL на 120 млрд параметров и две компактные Bolt для локального запуска и периферийных устройств. По заявлению компании, Super VL по точности на мультимодальных агентских задачах сопоставима с самой крупной reasoning-моделью NVIDIA при размере примерно в пять раз меньше.
Главное в цифрах
- Параметры Super VL: 120 млрд
- Скорость Super VL: до 5x быстрее ближайших аналогов в классе
- Память Bolt 74B-A9B 24GB: 24 ГБ
- Дата выхода Bolt E4B 4GB: 23 октября
- Объём обучения Super VL: около 26 трлн токенов
Super VL доступна уже сейчас. По данным NVIDIA, она работает до пяти раз быстрее ближайших аналогов в своём классе и показывает лучшие результаты среди открытых моделей на Artificial Analysis Intelligence Index. Модель рассчитана на задачи, которые длятся днями или неделями, например на поиск по приложениям вроде Jira и Confluence, работу с таблицами и графиками в документах и анализ веб-страниц и PDF.
Bolt 74B-A9B 24GB сжимается до 24 ГБ памяти благодаря нативной 2-битной квантизации и предназначена для локального запуска на RTX и DGX Spark. По словам компании, это первая открытая модель в своём классе на PinchBench и вторая на BrowseComp. Bolt E4B 4GB, которая появится 23 октября, ориентирована на голосовых и разговорных агентов на периферии, в том числе на GeForce RTX и Jetson.
Дообучение и контроль
Все три модели открыты: веса, наборы данных и рецепты обучения доступны. Компании могут дообучать Super VL на собственных данных и разворачивать её на своей инфраструктуре. NVIDIA подчёркивает, что это важно для организаций с требованиями к безопасности и хранению данных. Например, в страховании агент может искать признаки мошенничества в страховых случаях, а в финансах проверять активность по собственным кредитным критериям, и при этом модель и данные остаются на площадке компании.
Среди организаций, которые дообучают Super VL, названы Scale AI, AfterQuery, AI21, Mercor, ModelScope, Ramp и другие. Интеграцию модели объявили Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce и Synopsys.
Контекст линейки
Super VL и Bolt дополняют семейство Nemotron, в которое уже входят Lightning и Ultra. Lightning, выпущенная в августе, отвечает за высокопроизводительные задачи, Ultra решает самые сложные задачи на рассуждения. По данным NVIDIA, модель Super VL обучена примерно на 26 триллионах токенов, а затем дообучена на примерно 3,8 миллиона примеров с обучением с подкреплением.
