H100 — GPU NVIDIA Hopper для дата-центровых AI, аналитики и HPC-нагрузок. На официальной странице NVIDIA указаны варианты SXM и NVL с разным объёмом памяти, межсоединением и теплопакетом.
Увеличить ↗Иллюстрация платформы NVIDIA HGX. Конкретная комплектация H100 зависит от выбранного сервера.Увеличить ↗AI и HPC Для H100 обычно важны количество GPU, межсоединение, сеть и требования к программной среде.
Память80 / 94 ГБ
АрхитектураHopper
ИсполнениеSXM / NVL
Позиционирование производителя
H100 остаётся базовой платформой для многих корпоративных AI-кластеров: обучение, инференс, аналитика данных и HPC. Выбор между SXM и NVL зависит от сервера, схемы NVLink и требований к плотности.
Данные NVIDIA
80 ГБ GPU Memory для H100 SXM и 94 ГБ для H100 NVL
3,35 ТБ/с bandwidth для SXM и 3,9 ТБ/с для NVL
FP8 Tensor Core до 3 958 TFLOPS для SXM и 3 341 TFLOPS для NVL с sparsity
7 NVDEC и 7 JPEG decoders
до 7 MIG-инстансов: 10 ГБ для SXM или 12 ГБ для NVL
Производительность и возможности
FP64 до 34 TFLOPS для SXM и 30 TFLOPS для NVL
TF32 Tensor Core до 989 TFLOPS для SXM с sparsity
BFLOAT16/FP16 Tensor Core до 1 979 TFLOPS для SXM с sparsity
HGX H100 partner и NVIDIA-Certified Systems с 4 или 8 GPU
DGX H100 с 8 GPU как отдельный вариант платформы
ПО и поддержка
NVIDIA AI Enterprise как add-on для SXM и included для H100 NVL
поддержка production generative AI решений, включая computer vision, speech AI и RAG через NVIDIA AI Enterprise/NIM
Задачи
обучение AI-моделей
инференс и serving моделей
аналитика данных
HPC-задачи
разделение GPU для нескольких команд через MIG
Что уточнить перед заказом
количество GPU: 1–8 или HGX/DGX-конфигурация
доступное питание и охлаждение
нужна ли плотная NVLink-связь
требования к памяти модели
режим лицензирования AI Enterprise/vGPU
Совместимость, комплектация и сервисные условия уточняются при подборе оборудования. Итоговые характеристики зависят от выбранного исполнения, платформы и требований к эксплуатации.
