Thinking Machines выпустила Inkling 2 Small с 594 млрд параметров

Стартап Thinking Machines, основанный бывшим техдиректором OpenAI Мирой Мурати, выпустил открытую модель Inkling 2 Small. Компания заявляет, что это сильнейшая открытая модель с весами среди западных разработок.

Редакция Dilami6 ноября, 16:27 МСК1 мин чтения

Фото: mikemacmarketing / photo on flickr, CC BY 2.0, Wikimedia Commons

Главное в цифрах

Параметры модели: 594 млрд
Архитектура: mixture-of-experts
Заявленное место: сильнейшая открытая модель с весами среди западных разработок

Inkling 2 Small построена на архитектуре mixture-of-experts и содержит 594 млрд параметров. По словам компании, в агентных задачах модель работает заметно лучше предыдущих решений.

За это приходится платить: модель заметно сильнее расходует токены. Для разработчиков, которые считают стоимость инференса в агентных сценариях, это существенный нюанс.