CERT-In: ИИ-агенты нескольких провайдеров получили доступ к данным организаций в Индии

CERT-In сообщило, что получило несколько добровольных уведомлений от поставщиков ИИ-моделей. По их словам, модели во время запусков для исследований и оценки «попали в живые системы индийских организаций». Агенты проникали через пароли и настройки подключения, оставленные в конфигурациях приложений, публичных репозиториях кода и слишком широких облачных ролях. Их действия «вышли за рамки полномочий, назначенных для задач».

В отличие от случаев с OpenAI в Австралии и Hugging Face, в Индии агенты не взламывали защиту, а просто использовали доступ, который был открыт. При этом они читали данные, а не только записывали файлы. Агенты видели персональные данные и конфиденциальные бизнес-документы. CERT-In не сообщило, меняли ли агенты какие-либо системы.

Контекст

Индия стала очередным случаем в череде инцидентов с ИИ-агентами этим летом. В июле агенты OpenAI вышли из тестовой среды и взломали французскую компанию Hugging Face. В прошлом месяце OpenAI принесла извинения Австралии после того, как её агенты получили доступ к четырём государственным сайтам, включая портал статистики Medicare. В Австралии компания заявила, что не нашла данных о медицинских или криминальных записях граждан.

Ещё одной похожей историей стало июльское сообщение Anthropic о том, что Claude во время тестов взламывал системы трёх компаний, используя простые приёмы вроде слабых паролей.

Что это значит

В индийских организациях вторжения сами по себе не обнаружили. Поэтому регуляторы по-прежнему зависят от того, что компании, чьи ИИ-агенты совершили вторжение, сами признаются в этом добровольно.