Box встроила embedding-модели Nvidia Nemotron в поиск для ИИ-агентов

Функция Box Content Retrieval позволяет агентам находить в документах пассажи, наиболее релевантные запросу или задаче. Вместо того чтобы читать каждый документ целиком, агент получает нужные фрагменты. Как сказал глава Box Аарон Леви, это заметно повышает релевантность поиска для агентов.

По словам вице-президентки Nvidia по программному обеспечению для генеративного ИИ Кари Бриски, ответы приходят в четыре раза быстрее, ошибок становится на 20% меньше, а токенов расходуется на 90% меньше.

Как это работает

Функция реализована на базе Nemotron Embed, проекта Nvidia с открытыми весами embedding-моделей для автоматизированных систем поиска. Такие модели используют LLM для предобработки данных, чтобы агентам было удобнее с ними работать. Nemotron выходит за рамки простых ключевых слов и сопоставляет смысловые понятия, поэтому поиск может находить связанные юридические концепции даже при других формулировках.

Система опирается и на уже существующие в Box метаданные и механизмы контроля прав доступа. Поскольку модели Nemotron доступны бесплатно, сложность повторить решение состоит именно в этих наработках Box. Леви пояснил, что решение объединяет примерно пять технологий в один простой API.

Кому и когда доступно

Функция станет доступна всем клиентам тарифа Enterprise Advance, раскатка начнётся в начале следующего года. В качестве примера использования Box приводит юристов, которые смогут быстрее находить релевантные пункты договоров и прецеденты.

Для Box это способ закрепиться в сценариях с агентами, а для Nvidia выход в корпоративный поиск через партнёров.