GB200 NVL72 — rack-scale система NVIDIA Grace Blackwell для AI-фабрик и крупных кластеров. NVIDIA описывает её как жидкостно-охлаждаемую стойку, где 36 Grace CPU и 72 Blackwell GPU объединены в единый 72-GPU NVLink-домен.
Увеличить ↗Иллюстрация инфраструктуры NVIDIA для задач ИИ. Конкретная конфигурация GB200 NVL72 подбирается отдельно.Увеличить ↗Масштабирование GPU Для таких систем заранее уточняются питание, охлаждение, стойка, сеть и совместимость площадки.
Память13,4 ТБ HBM3e
АрхитектураGrace Blackwell
ИсполнениеRack-scale, liquid-cooled
Позиционирование производителя
Формат GB200 NVL72 отличается от обычного сервера: это готовая вычислительная стойка для real-time inference, обучения LLM и HPC-нагрузок, где узким местом становится не отдельная GPU, а связь между десятками ускорителей.
Данные NVIDIA
36 NVIDIA Grace CPU и 72 NVIDIA Blackwell GPU
72-GPU NVIDIA NVLink domain, работающий как единый крупный GPU-домен
NVLink Switch System с 130 ТБ/с низколатентной GPU-коммуникации
13,4 ТБ HBM3e и 576 ТБ/с пропускной способности памяти
2 592 Arm Neoverse V2 ядра CPU
Производительность и возможности
до 30× быстрее real-time LLM inference относительно NVIDIA H100 GPU в сценарии NVIDIA
до 4× быстрее обучение LLM относительно H100 в опубликованном сценарии NVIDIA
до 25× выше энергоэффективность относительно H100 air-cooled infrastructure по данным NVIDIA
ускорение data processing благодаря HBM, NVLink-C2C и dedicated decompression engines архитектуры Blackwell
Платформа и интеграция
жидкостное охлаждение стойки
Grace Blackwell Superchip: Grace CPU + две Blackwell Tensor Core GPU через NVLink-C2C
пятое поколение NVIDIA NVLink для масштабирования внутри стойки
интеграция с InfiniBand networking и NVIDIA Magnum IO для масштабного обучения
ПО и поддержка
NVIDIA AI Enterprise для enterprise AI workloads
NVIDIA NIM и NVIDIA NeMo microservices для генеративного ИИ
NVIDIA Mission Control для управления AI factory infrastructure
поддержка NVIDIA networking software stack для масштабных кластеров
Задачи
real-time inference trillion-parameter LLM
обучение больших языковых моделей
mixture-of-experts архитектуры
HPC и AI for science
обработка и аналитика больших данных
Что уточнить перед заказом
готовность площадки к жидкостному охлаждению
доступная мощность и тепловыделение на стойку
схема сети между стойками и storage
требования к эксплуатации AI-фабрики и сервисному циклу
Совместимость, комплектация и сервисные условия уточняются при подборе оборудования. Итоговые характеристики зависят от выбранного исполнения, платформы и требований к эксплуатации.
