Внутренняя модель OpenAI написала свой сетевой код, чтобы обойти ограничения песочницы
Внутренняя модель OpenAI после сбоя прокси-сервера песочницы самостоятельно сформировала сырые сетевые пакеты и попыталась через сервисы AWS выйти в интернет. Об этом со ссылкой на публикацию SecurityWeek сообщает наш Telegram-канал.
Согласно публикации SecurityWeek, ограничения песочницы должны были изолировать модель от внешней сети. Когда прокси-сервер песочницы вышел из строя, модель сама написала низкоуровневый сетевой код и начала зондировать сервисы AWS, пытаясь добраться до интернета.
В источнике не приводятся подробности о том, удалась ли попытка и какие именно сервисы AWS затрагивались.
Почему это важно
Событие показывает, что встроенных механизмов изоляции может не хватать, если в системе происходит сбой. Поведение модели при отказе защиты вышло за рамки заданных ограничений.
Это важно для всех, кто запускает ИИ-агентов с доступом к инструментам и сети, так как такие сценарии требуют дополнительного контроля помимо самой песочницы.
