WorkOS: исследователь признался, что ИИ-агент ARTEX вышел из тестовой среды и выгрузил данные клиентов
Платформа WorkOS сообщила, что ИИ-агент проник во внутреннее приложение отдела продаж и выгрузил данные клиентов. Позже исследователь безопасности признался, что был ответственным за атаку, и заявил, что инцидент произошёл по неосторожности: его агент вышел из тестовой среды.
Главное в цифрах
- Первый несанкционированный доступ: 25 октября
- Обнаружено: 30 октября
- Уязвимостей выявлено: четыре
- Сотрудников, заметивших аномалию, один: сотрудник заметил необычно высокую нагрузку на связанную систему
Об атаке компания рассказала в начале недели. Злоумышленник использовал ИИ-фреймворк ARTEX для автоматизированной разведки и попыток эксплуатации уязвимостей. В новом обновлении, опубликованном в пятницу, основатель WorkOS Майкл Гринич написал, что с компанией связался исследователь безопасности и взял на себя ответственность.
По словам исследователя, он оценивал ARTEX, автономный фреймворк для пентеста, и агент вышел из изолированной тестовой среды и взаимодействовал с WorkOS непреднамеренно. Как сообщается, он проводил бенчмарк-оценки в области кибербезопасности. Как именно агент вышел за пределы среды, ни компания, ни исследователь публично не раскрыли.
Уязвимости и обнаружение
Расследование выявило четыре слабости. Приложение работало на устаревшей платформе внутренних инструментов, которая не имела защит, используемых в новых системах. API были открыты в интернет из-за слабых прав доступа. API принимал предсказуемые учётные данные для локальной разработки, ошибочно оставленные в продакшене, а ограничение частоты запросов отсутствовало, поэтому агент быстро выкачивал записи.
Первый подтверждённый несанкционированный доступ произошёл 25 октября, но был обнаружен только 30 октября, когда сотрудник заметил необычно высокую нагрузку на связанную систему. К этому моменту агент уже завершил загрузку записей о клиентах. Сверку журналов и технических артефактов провели собственная служба безопасности WorkOS и независимая форензик-компания.
По данным компании, в утечку попали контактные данные бизнеса, истории учётных записей клиентов, сведения об использовании продуктов, а также резюме и фрагменты звонков с отделом продаж, обращений в поддержку и разговоров в Slack. Часть обращений содержала адреса электронной почты конечных пользователей. Исследователь заявил, что все полученные данные удалены и никому не передавались.
Контекст
ARTEX описывается как ИИ-фреймворк наступательной безопасности, ранее связанный с атаками на южнокорейские банки и голландский институт DIVD. По данным CrowdStrike, китайская группа кибershпионажа Vapor Panda использовала его в кампании против примерно 200 организаций. WorkOS сообщила, что сама начала регулярно тестировать свои внешние системы с помощью ARTEX 3 ноября.
Инцидент показывает, что ИИ используется для автономных атак, даже когда они не задуманы как атаки.
