NVIDIA выпустила Confidential Bare Metal для защищённых ИИ-моделей
NVIDIA выпустила Confidential Bare Metal, новый вариант развёртывания Confidential Computing для разработчиков frontier-моделей. Решение позволяет запускать чувствительные нагрузки на сторонней инфраструктуре и сохранять контроль над моделями и данными.
Главное в цифрах
- Варианты развёртывания Confidential Computing: три
- Клиент с подтверждённой интеграцией: Cohere (Cohere Model Vault)
- Новые инстансы Google Cloud: A4X Max на NVIDIA GB300 NVL72
Confidential Bare Metal рассчитан на сценарии, где разработчики моделей работают на выделенных bare-metal серверах у сторонних провайдеров. Новые средства защищают данные при передаче, проверяют целостность платформы и ограничивают доступ на уровне железа. Это позволяет владеть и эксплуатировать собственный программный стек, включая системное и платформенное ПО хоста, на инфраструктуре NVIDIA в облаках сторонних провайдеров, neocloud и корпоративных дата-центрах.
Что входит в линейку
Теперь NVIDIA Confidential Computing включает три варианта развёртывания: Confidential Bare Metal для bare-metal инфраструктуры, Confidential Containers для сред Kubernetes и Confidential Virtual Machines для виртуализированных сред. Поддержка расширяется на системы NVIDIA Grace Blackwell и Rubin, а также на NVL72 и HGX Rubin NVL8 и DGX Rubin NVL8.
Написано, что NVIDIA DSX OS будет поддерживать все режимы Confidential Computing и станет эталонной архитектурой для облачных провайдеров, строящих ИИ-фабрики.
Партнёры и клиенты
Cohere планирует встроить Confidential Bare Metal в Cohere Model Vault и защищать модели и данные в памяти GPU и при обмене между ускорителями во время выполнения. Google Cloud расширит поддержку на инстансы A4X Max с NVIDIA GB300 NVL72.
Среди провайдеров, поддерживающих развёртывания, компания называет CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure, Nebius, Nscale и Vultr. Системные партнёры Cisco, Dell Technologies, HPE, Lenovo, Supermicro и Bull будут поставлять системы NVIDIA-Certified Systems с этими возможностями.
