H200 — дата-центровая GPU NVIDIA Hopper с 141 ГБ HBM3e и 4,8 ТБ/с пропускной способности памяти. NVIDIA выделяет её как ускоритель для генеративного ИИ, HPC и production inference.
Увеличить ↗На изображении — связка H200 NVL. Комплектация зависит от выбранной платформы.Увеличить ↗Платформа HGX H200 Пример платформы с несколькими ускорителями. Это отдельная серверная конфигурация.
Память141 ГБ HBM3e
АрхитектураHopper
ИсполнениеSXM / NVL
Позиционирование производителя
H200 особенно важна для задач, где модель или batch упираются в объём и скорость памяти. Версии SXM и NVL отличаются платформой, теплопакетом и схемой межсоединения.
Данные NVIDIA
141 ГБ HBM3e
4,8 ТБ/с GPU memory bandwidth
FP8 Tensor Core: 3 958 TFLOPS для H200 SXM и 3 341 TFLOPS для H200 NVL с sparsity
7 NVDEC и 7 JPEG decoders
Confidential Computing поддерживается
до 7 MIG-инстансов: 18 ГБ для SXM или 16,5 ГБ для NVL
Производительность и возможности
TF32 Tensor Core до 989 TFLOPS для SXM с sparsity
BFLOAT16/FP16 Tensor Core до 1 979 TFLOPS для SXM с sparsity
INT8 Tensor Core до 3 958 TOPS для SXM с sparsity
H200 NVL включает пятилетнюю подписку NVIDIA AI Enterprise
Платформа и интеграция
H200 SXM: форм-фактор SXM, TDP до 700 Вт configurable
H200 NVL: PCIe dual-slot air-cooled, TDP до 600 Вт configurable
NVLink до 900 ГБ/с и PCIe Gen5 до 128 ГБ/с
HGX H200 partner и NVIDIA-Certified Systems с 4 или 8 GPU
MGX H200 NVL partner и NVIDIA-Certified Systems до 8 GPU
ПО и поддержка
NVIDIA AI Enterprise как add-on для SXM и included для H200 NVL
NVIDIA NIM microservices для ускорения enterprise generative AI deployment
поддержка production-ready сценариев computer vision, speech AI и RAG
Задачи
генеративный ИИ и LLM inference
RAG и корпоративные AI-сервисы
HPC и научные вычисления
обработка больших batch-нагрузок
виртуальное разделение GPU через MIG
Что уточнить перед заказом
SXM или PCIe/NVL исполнение
совместимость с HGX/MGX/NVIDIA-Certified Systems
требования к NVLink bridge и PCIe Gen5
теплопакет 600–700 Вт на GPU
нужна ли NVIDIA AI Enterprise подписка
Совместимость, комплектация и сервисные условия уточняются при подборе оборудования. Итоговые характеристики зависят от выбранного исполнения, платформы и требований к эксплуатации.