Google запускает Agent Compute Engine: отдельная виртуальная машина для каждого ИИ-агента

Google представила Agent Compute Engine: каждый ИИ-агент получает собственную изолированную виртуальную машину, защищённую чипом Titanium. Сервис уже работает внутри Gemini, открытое превью обещано в ближайшие месяцы.

Главное в цифрах

  • Защита каждого агента: изолированная microVM на чипе Titanium
  • Открытие превью: в ближайшие месяцы
  • Плотность размещения в Agent Substrate: в 10 раз больше агентов на сервер, по словам Google
  • Время приостановки и возобновления в тесте на 200 000 агентов: менее 500 миллисекунд

Каждый агент работает внутри microVM, которую защищает чип Titanium. Когда агент простаивает, его виртуальная машина автоматически приостанавливается и освобождает ресурсы для других. Общая память между VM, по словам Google, снижает стоимость работы каждой из них.

В Google считают, что виртуальные машины составляют значительную часть расходов на агентные системы, поэтому компания работает над их эффективностью.

Agent Substrate и контроль

Вместе с сервисом Google открыла исходный код Agent Substrate, среды выполнения для Kubernetes. По словам компании, на одном сервере она вмещает в десять раз больше агентов. В тесте на 200 000 агентов приостановка и возобновление занимали менее 500 миллисекунд.

Для контроля Google добавляет учёт токенов, маршрутизацию моделей и поддержку внешних провайдеров идентификации, включая Ping Identity и SailPoint. Эти механизмы, как сообщается, будут работать и в Cloud Run, GKE и управляемых эндпоинтах.

Источник: the-decoder.com
Веса и деньги
Такие новости первыми, в Telegram
Подписаться