Intel представила GPU D-series с 480 ГБ памяти для агентного ИИ
Intel раскрыла технические характеристики ускорителя GPU D-series, ранее известного под кодовым именем Crescent Island, и представила стойки на процессорах Xeon. Образцы ускорителя уже отправляются заказчикам.
Главное в цифрах
- Память: до 480 ГБ LPDDR5X
- Пропускная способность памяти: 1,5 ТБ/с
- Производительность FP8: 1,3 петафлопса
- Энергопотребление: 350 Вт
- Максимум параметров на одной карте: 300 млрд
Ускоритель построен на архитектуре Xe3P и поддерживает до 480 ГБ памяти LPDDR5X с пропускной способностью 1,5 ТБ/с. Заявленная производительность составляет 1,3 петафлопса в FP8 при тепловом пакете 350 Вт.
На одной карте можно запустить модели до 300 млрд параметров, а в конфигурации из восьми GPU Intel заявляет поддержку более триллиона параметров. Карта выполнена в стандартном PCIe-формате с воздушным охлаждением, поэтому, по словам компании, её можно установить в существующие дата-центры без специальных стоек и систем охлаждения.
Стойки на Xeon
Intel также показала стоечные конфигурации на процессорах Xeon, многие из которых построены по стандарту Open Compute Project Open Rack v3. Отдельные конфигурации Xeon 6+ позволяют разместить более 46 000 ядер в одной стойке при общей мощности около 133,45 кВт.
Компания объясняет такой подход тем, что агентные сценарии требуют не только вычислений на ускорителях, но и оркестрации, обработки данных и управления вводом-выводом, которые берут на себя процессоры Xeon.
Партнёры и программное обеспечение
Intel работает с OEM-производителями, ODM, облачными провайдерами и разработчиками ПО над проверенными платформами. Компания также заявляет поддержку популярных ИИ-фреймворков и обещает обеспечивать поддержку новых открытых моделей в день их выхода (Day 0) на GPU D-series и Xeon.
AI for Enterprise Agent Toolkit от Intel уже оптимизирован для Xeon, а в будущем его архитектура должна работать и с GPU.