Baidu выложила открытую базовую модель ERNIE 5.5 Flash Base на 280 млрд параметров
Baidu открыла доступ к базовой модели ERNIE-5.5-Flash-Base с 280 млрд параметров. Модель выложена без дообучения и пост-обучения, поэтому разработчики сами решают, как её использовать.
Главное в цифрах
- Параметров всего: 280 млрд, активных на запрос: 14 млрд
- Объём предобучения: 33,5 трлн токенов
- Контекст при предобучении: до 128 000 токенов
- Веса на Hugging Face: форматы FP8 и BF16
Модель построена на архитектуре mixture-of-experts: всего у неё 280 млрд параметров, а на каждый запрос активны 14 млрд. Предобучение прошло на 33,5 трлн токенов с контекстом до 128 000 токенов. По замыслу разработчиков, при дообучении и инференсе модель поддерживает контекст до миллиона токенов.
Веса доступны на Hugging Face в форматах FP8 и BF16. Версия после пост-обучения, по информации компании, появится позже.
Результаты и конкуренты
По данным Baidu, в задачах на рассуждения, код и работу с длинным контекстом ERNIE-5.5-Flash-Base сопоставима с открытыми базовыми моделями близкого размера, в том числе DeepSeek V4 Flash и MiMo V2.5. Независимых проверок в материале не приводится, поэтому оценки стоит считать заявлениями компании.
Для разработчиков это ещё одна крупная открытая основа, на которой можно строить собственные решения.
