IBM выпустила Granite Speech 5.0 с открытой лицензией Apache 2.0

IBM обновила линейку речевых моделей Granite Speech: добавила новую granite-speech-5.0-2b и переработала две уже используемые модели. Новая модель распознаёт речь на шести языках и переводит на английский, итальянский и мандаринский, а все три модели выходят под лицензией Apache 2.0.

IBM выпустила Granite Speech 5.0 с открытой лицензией Apache 2.0
Иллюстрация: huggingface.co

Главное в цифрах

  • WER по английскому у granite-speech-5.0-2b: 5,06%
  • Скорость Turbo CTC: 19 870 RTFx против примерно 12 600 при запуске
  • Обучающая выборка: 390 000 часов публичного аудио
  • Лицензия: Apache 2.0

Что выпустила IBM

В линейку вошли три модели: granite-speech-5.0-2b, переработанные granite-speech-5.0-470m-turboctc и granite-speech-4.1-2b-plus. Новая granite-speech-5.0-2b стала преемником granite-speech-4.1-2b с тем же количеством параметров.

Granite Speech 5.0 распознаёт английский, французский, немецкий, испанский, португальский и японский языки и переводит на английский и с него на этих языках. Кроме того, модель переводит с английского на итальянский и мандаринский. Обучение проводилось на 390 000 часах публичного аудио, а также на синтетических данных для распознавания японского, коррекции по ключевым словам и перевода.

Качество и скорость

Средняя ошибка WER по английскому у granite-speech-5.0-2b составила 5,06%. По неофициальным данным на 15 октября, это второе место среди открытых моделей в Open ASR Leaderboard.

Turbo CTC, модель на 470 млн параметров для английского, ускорилась примерно в 1,6 раза: с около 12 600 до 19 870 RTFx. По словам IBM, точность при этом осталась на том же уровне. Ускорение достигнуто компиляцией одного блока Conformer с повторным использованием графа по всей модели.

Что это значит для рынка

Модель распространяется под Apache 2.0 и поддерживается в Transformers, vLLM, llama.cpp и mlx-audio для Apple Silicon. Лицензия упрощает встраивание моделей в собственные продукты компаний.

По мнению автора поста в Telegram-канале, корпоративное распознавание речи всё чаще строится на открытых моделях, а не только на закрытых API. IBM рекомендует использовать модели вместе с Granite Guardian в продакшене, где нужна дополнительная проверка рисков.

Источник: huggingface.co
Веса и деньги
Такие новости первыми, в Telegram
Подписаться