OpenCode: взлом консоли привёл к списаниям с ИИ-аккаунтов пользователей
Открытый ИИ-агент для программирования OpenCode сообщил о взломе старой системы, из-за которого под угрозой оказались 1,4% пользователей OpenCode Console. Злоумышленники получили API-ключи и отправили запросы за их счёт.
Главное в цифрах
- Затронуто пользователей OpenCode Console: 1,4%
- Отдельные списания: сотни долларов, некоторые суммы выше $1000
Компания написала в X, что ночью произошла атака, связанная с крупномасштабной дистилляцией моделей, которая затронула 1,4% пользователей OpenCode Console. Всем пострадавшим отправили письма. Тем, кто письма не получил, ничего не грозит, сообщили в компании.
Обычно пользователи хранят в консоли API-ключи, с помощью которых получают доступ к ИИ-сервисам. По словам разработчиков, у отдельных людей списания составили сотни долларов, а в некоторых случаях сумма превысила $1000. Anthropic и Google заблокировали ключи, которые сочли скомпрометированными. OpenAI восстановила доступ и вернёт потраченные клиентам кредиты. Возврат средств за несанкционированные списания уже идёт.
Почему защита оказалась трудной
Команда OpenCode сообщила, что злоумышленники пытались взломать её системы непрерывно в течение 48 часов, и разработчикам пришлось круглосуточно использовать ИИ-агентов для защиты. Модели, к которым обращалась команда для анализа, сначала помогали, но начали отказываться работать, когда вредоносный код сработал фильтры безопасности.
Доступ к программе OpenAI Daybreak Blue, которая даёт проверенным пользователям модели с меньшим количеством отказов в задачах защитной безопасности, помог команде лучше расследовать атаку. Соучредитель OpenCode Дэкс Раад отметил, что открытое приложение и командная утилита не пострадали, а ключи из консоли до компании никогда не доходили.
Контекст
Ранее похожую проблему описывала платформа Hugging Face: в июле она заявила, что коммерческие модели блокировали анализ журналов активности вторжения автономных ИИ-агентов. Позже OpenAI сообщила, что это были её собственные модели с ослабленными ограничениями во время теста.
На инцидент отреагировал Дэвид Сакс, сопредседатель Президентского совета советников по науке и технологиям, написав, что ограничения моделей помешали защите и «сработали наоборот». Причину взлома и способ получения доступа OpenCode пока не раскрыла, как и полный масштаб злоупотреблений. Компания заявила, что инцидент продолжается.
