OpenAI уволила трёх исследователей безопасности после расследования взлома Hugging Face

Корбак был главным техническим контактом OpenAI для METR, внешней лаборатории, которая изучала инцидент. Балесни работала параллельно над отраслевыми обязательствами по наблюдаемости ИИ-моделей. По словам Корбака, ему устно сказали, что причина в его общении с METR, но что именно он сделал не так, не объяснили и письменно ничего не зафиксировали.

Ванг, по её словам, уволили за доступ к почте руководителя. Этот доступ она получала для подбора персонала, и IT не убрал его, хотя она просила. Когда она случайно открыла чувствительное письмо, она сообщила об этом в течение нескольких минут.

Спор о мониторинге агентов

Корбак говорит, что months поднимал вопросы безопасности внутри компании. Он опасается, что OpenAI теряет возможность отслеживать, о чём думают ИИ-агенты, то есть так называемую наблюдаемость цепочки рассуждений. По его мнению, именно это стало настоящей причиной увольнения.

Три исследователя отрицают, что были источником утечки в The Information о новых, менее наблюдаемых архитектурах. По их словам, публикация навредила их работе, потому что подорвала усилия по отраслевым ограничениям на такие архитектуры. В письме они требуют, чтобы OpenAI выполнила публичные обязательства по встраиванию внешних аудиторов безопасности, сохраняла наблюдаемость передовых моделей и чётко определила, как сотрудники могут работать с внешними группами безопасности.

Позиция OpenAI

OpenAI заявила, что «тщательное расследование» показало нарушение трёх сотрудников правил работы с конфиденциальной информацией. Компания также написала о «существенном нарушении доверия», но не уточнила, в чём оно состояло. Она подчеркнула, что никого не увольняет за подъём вопросов безопасности. Компания также подтвердила, что работает над контрактами с внешними аудиторами безопасности.