Claroc нашла более 35 тысяч открытых приложений, созданных в Grok

Исследователи обнаружили 24 приложения, созданные сотрудниками X и SpaceXSI, компании, которая разрабатывает ассистента Grok. Среди них были конфиденциальный план адаптации нового сотрудника отдела продаж, карта территорий продаж на 594 аккаунта и рекламное предложение X федеральному агентству США с пометкой «конфиденциально». После сообщения исследователей SpaceXSI удалила все 24 служебных приложения, но остальные пользовательские приложения оставила открытыми.

Кроме служебных приложений, в открытом доступе нашлись внутренние данные ещё 30 организаций из строительства, энергетики, здравоохранения и оборонной сферы. Из них 26 имеют более 1000 сотрудников, а 6 входят в список Fortune 500. По оценке исследователей, около 2% открытых приложений содержали материалы высокой или критической важности: список более 3500 сотрудников больничной группы, брифинг по пациенту в реанимации, живой график дежурств пожарной части и таблица учёта рабочего времени подрядчика, в коде которой пароли всех сотрудников хранились открытым текстом.

Почему приложения оказались открытыми

Grok создаёт работающее приложение по описанию, введённому в чат. Эта функция стала доступна всем подписчикам Grok 19 августа. Каждое опубликованное приложение получает собственный поддомен grok.me, а создатель выбирает, кто может его открыть.

Публикация требует отдельного шага, и в аккаунте, которым пользовались исследователи, в нём по умолчанию был выбран режим «Anyone with the link». По словам исследователей, адрес приложения не остаётся секретным: при открытии компьютер посетителя запрашивает поддомен через DNS, а пассивные DNS-сервисы записывают такие запросы, и по ним можно искать адреса по шаблону. Grok предлагает четыре случайных слова в качестве названия, и около половины найденных имён следовали этому шаблону, но такие имена не защищают приложение, если оно уже есть в поисковом списке.

В тестах исследователей два собственных приложения с вымышленными данными, опубликованные в режиме «Anyone with the link», были доступны без входа. Одно из них, с кнопками входа Google и X, пропускало любого вошедшего пользователя в команду, так как проверка принадлежности срабатывала всегда.

Ответ компании

Исследователи сообщили о находках SpaceXSI в воскресенье и понедельник. К моменту публикации компания не ответила на отчёт, но ответила на вопросы журналиста. По её словам, приложения остаются приватными, пока создатель не решит ими поделиться, а сотрудники по умолчанию используют режим «Only you». Исследователи просили сделать «Only you» режимом по умолчанию и добавить ограничение доступа по корпоративному домену почты. Ответ компании не содержал обещания связаться с владельцами других открытых приложений. Исследователи начали писать затронутым организациям сами и к публикации написали трём из них. Адреса и названия приложений в отчёте не раскрыты.

Claroc рекомендует проверять, какой режим доступа выбран у каждого приложения, созданного с помощью ИИ, и не публиковать в них внутренние данные без проверки.