NVIDIA H200 NVL
Видеокарта для генеративного ИИ и HPC в серверных стойках с воздушным охлаждением.
141 ГБ памяти HBM3e с пропускной способностью 4,8 ТБ/с. До четырех карт объединяются мостами NVLink, подписка NVIDIA AI Enterprise на пять лет — в комплекте.

Быстрее H100 NVL в тех же стойках
| — | Было | H200 NVL |
|---|---|---|
| Инференс LLM против H100 NVL | 1× | 1,7× |
| HPC против H100 NVL | 1× | 1,3× |
| HPC против поколения Ampere | 1× | 2,5× |
По данным NVIDIA (ноябрь 2024): сравнение с H100 NVL и с поколением Ampere. Предварительные данные, могут измениться.
Больше памяти — больше модели на одной карте
H200 — первый GPU с памятью HBM3e: 141 ГБ с пропускной способностью 4,8 ТБ/с. Модель целиком помещается в память одной карты, а задачи HPC, которые упираются в скорость памяти, быстрее приходят к результату.
Память работает на частоте 3 201 МГц по шине 6 016 бит. По MIG карту можно разделить на 7 изолированных экземпляров по 16,5 ГБ.
| — | H100 NVL | H200 NVL |
|---|---|---|
| Объем памяти | 1× | 1,5× |
| Пропускная способность | 1× | 1,2× |
H200 NVL относительно H100 NVL, H100 NVL = 1: 141 ГБ HBM3e и 4,8 ТБ/с. Данные NVIDIA, ноябрь 2024.
H200 NVL и H200 SXM
| Параметр | H200 NVL | H200 SXM |
|---|---|---|
| Производительность | ||
| FP64 | 30 TFLOPS | 34 TFLOPS |
| FP64 Tensor Core | 60 TFLOPS | 67 TFLOPS |
| FP32 | 60 TFLOPS | 67 TFLOPS |
| TF32 Tensor Core* | 835 TFLOPS | 989 TFLOPS |
| BFLOAT16 Tensor Core* | 1 671 TFLOPS | 1 979 TFLOPS |
| FP16 Tensor Core* | 1 671 TFLOPS | 1 979 TFLOPS |
| FP8 Tensor Core* | 3 341 TFLOPS | 3 958 TFLOPS |
| INT8 Tensor Core* | 3 341 TOPS | 3 958 TOPS |
| Память | ||
| Память GPU | 141 ГБ HBM3e | 141 ГБ HBM3e |
| Пропускная способность памяти | 4,8 ТБ/с | 4,8 ТБ/с |
| Конструктив | ||
| Артикул производителя | TCSH200NVLPCIE-PB | — |
| Форм-фактор | PCIe, 2 слота, воздушное охлаждение | SXM |
| Максимальный TDP | до 600 Вт (настраивается) | до 700 Вт (настраивается) |
| Связь GPU | Мост NVLink на 2 или 4 GPU: 900 ГБ/с на GPU; PCIe Gen5: 128 ГБ/с | NVLink: 900 ГБ/с; PCIe Gen5: 128 ГБ/с |
| Multi-Instance GPU | до 7 MIG по 16,5 ГБ | до 7 MIG по 18 ГБ |
| Декодеры | 7 NVDEC, 7 JPEG | 7 NVDEC, 7 JPEG |
| Конфиденциальные вычисления | Поддерживаются | Поддерживаются |
| Платформа | ||
| Серверы | NVIDIA MGX H200 NVL и NVIDIA-Certified Systems до 8 GPU | NVIDIA HGX H200, 4 или 8 GPU |
| NVIDIA AI Enterprise | Входит, подписка на 5 лет | Приобретается отдельно |
* С разреженностью. Предварительные характеристики NVIDIA, могут измениться. Источник — даташит NVIDIA H200.
Параметры карты из Product Brief NVIDIA
Данные, которые нужны при подборе сервера: питание, размеры, интерфейс и режимы работы.
- до 600 ВтМощность платы
- 1 785 МГцЧастота Boost
- PCIe Gen5 ×16Интерфейс
- 1 217 гВес платы
- Мощность: режимы
- 600 Вт максимум (по умолчанию), 350 Вт — предел соответствия, 200 Вт минимум
- Охлаждение
- Пассивный радиатор, поток воздуха в обе стороны
- Форм-фактор
- Полная высота, полная длина (FHFL) 10,5″, 2 слота
- PCI Express
- Gen5 ×16, Gen5 ×8 или Gen4 ×16; реверс линий и полярности
- Разъем питания
- Один PCIe 16-pin (12VHPWR)
- Базовая частота GPU
- 1 230 МГц
- Частота памяти
- 3 201 МГц
- Шина памяти
- 6 016 бит
- Multi-Instance GPU
- До 7 изолированных экземпляров
- Безопасная загрузка
- Аппаратный корень доверия CEC1736
- SR-IOV
- 32 виртуальные функции
- Прерывания
- Только MSI-X
- Удлинитель
- NVPN 151-0398-000, карта с удлинителем — 312 мм
Источник — NVIDIA H200 NVL GPU Product Brief, PB-12128-001_v01, апрель 2025.
Для обычных стоек с воздушным охлаждением
По оценке NVIDIA, около 70% корпоративных стоек рассчитаны на 20 кВт и меньше и охлаждаются воздухом. PCIe-карты позволяют поставить в узел столько GPU, сколько нужно задаче, — в уже работающие стойки.
Подходит для чат-ботов и визуальных ИИ-агентов, финансовых алгоритмов, медицинских изображений, распознавания в производстве и сейсмических расчетов.
- ≈70%
- корпоративных стоек — до 20 кВт
- 1–8
- GPU в узле


До четырех карт как один ускоритель
У H200 NVL один широкий мост NVLink на карту, в отличие от H100 и H100 NVL. Мост на две или четыре карты дает 900 ГБ/с в обе стороны на GPU — в 14 раз больше, чем PCIe Gen5 ×16.
Мост держится на соседних картах; когда карта стоит без моста, разъем закрыт съемной крышкой.
- 900 ГБ/с
- на GPU через NVLink
- 18
- линий NVLink
- 50 ГБ/с
- на линию в каждую сторону
- 1 800 ГБ/с
- мост на четыре карты
Как соединять карты мостами
Рекомендации NVIDIA из Product Brief: карты одного моста должны быть в одном домене CPU.
Рекомендуется
- Мост между GPU под одним CPU или одним PCIe-коммутатором.
- Число GPU в системе — степень двойки: 1, 2, 4, 8.
- Одинаковое четное число GPU под каждым сокетом CPU.
- Одинаковое соотношение CPU:GPU:NIC в каждой группе.
- Одинаковая ширина мостов во всех доменах CPU.
Допустимо
- Мост между GPU под разными PCIe-коммутаторами, но одним CPU.
- Одинаковое число GPU и сетевых карт под каждым сокетом, но не степень двойки.
- Одинаковая ширина мостов во всех доменах CPU.
Не рекомендуется
- Мост между GPU под разными CPU.
- Нечетное число GPU под CPU.
- Разное соотношение CPU:GPU:NIC в группах.
Исключение — система с двумя CPU и одной картой под каждым: эти две карты можно соединить.
Мосты и номера
Мост на две карты — 900-23945-xx00-xxx, 900 ГБ/с. Мост на четыре карты — 900-23946-xx00-xxx, 1 800 ГБ/с. Вес: 49 и 128 г.
Инференс LLM по данным NVIDIA
Производительность H200 относительно H100 на задачах инференса. Замеры NVIDIA на версиях SXM.
| — | H100 | H200 |
|---|---|---|
| Llama2 70B | 1× | 1,9× |
| GPT-3 175B | 1× | 1,6× |
| Llama2 13B | 1× | 1,4× |
Llama2 70B: ISL 2K, OSL 128, 1 GPU, BS 8 и 32. GPT-3 175B: ISL 80, OSL 200, 8 GPU, BS 64 и 128. Llama2 13B: ISL 128, OSL 2K, 1 GPU, BS 64 и 128. Источник — даташит NVIDIA H200, предварительные данные.
Вдвое меньше энергии на ту же работу
На инференсе Llama2 70B H200 тратит вдвое меньше энергии и стоимости владения, чем H100, в том же профиле мощности. В приложениях HPC — до 2× быстрее A100.
| — | A100 | H100 | H200 |
|---|---|---|---|
| Стоимость владения | 100% | 50% | |
| Энергопотребление | 100% | 50% | |
| Производительность HPC | 100% | 170% | 200% |
Стоимость владения и энергопотребление: Llama2 70B, ISL 2K, OSL 128, H100 = 100%. HPC: среднее геометрическое по CP2K, GROMACS, ICON, MILC, Chroma, Quantum Espresso, A100 = 100%. Источник — даташит NVIDIA H200, версии SXM, предварительные данные.
Перед первым включением
Порядок по Product Brief NVIDIA H200 NVL.
-
Слот
PCIe Gen5 ×16, Gen5 ×8 или Gen4 ×16. Карта двухслотовая, полной высоты и длины.
-
Питание
Кабель PCIe 16-pin от блока питания, который по сигнальным контактам сообщает уровень 451–600 Вт. С кабелем меньшего уровня карта не загрузится, даже если мощность ограничена ниже.
-
Место под мост
Не меньше 2,5 мм над верхней кромкой карты и 2,67 мм за обратной стороной платы.
-
Мост NVLink
Соединяйте соседние карты под одним CPU. На карте без моста оставьте защитную крышку разъема.
-
Охлаждение
Радиатор пассивный: нужен поток воздуха сервера. Направление — в любую сторону вдоль карты.
-
Драйвер и проверка
Драйвер R565 TRD1 или новее, CUDA 12.7 или новее. Мощность настраивается командой nvidia-smi -pl, по умолчанию — 600 Вт.
Драйверы, CUDA и виртуализация
Драйверы
- Linux
- R565 TRD1 или новее
- Windows
- R565 TRD1 или новее; WHQL для Windows 10, 11, Server 2019, 2022
Вычисления
- NVIDIA CUDA
- 12.7 или новее (x86)
- NVIDIA AI Enterprise
- Подписка на 5 лет в комплекте, NIM; поддерживается с VMware
- ECC
- Включена
Виртуализация
- vGPU
- 18.1 или новее, NVIDIA Virtual Compute Server
- SR-IOV
- 32 виртуальные функции
- Multi-Instance GPU
- До 7 экземпляров
Серверы
- NVIDIA-Certified Systems
- 2.8 или новее
- Прошивка CEC
- 2.0185 или новее; NVFlash 5.842 или новее
Условия работы и надежность
Температура
- При работе
- От 10 до 45 °C
- При хранении
- От −40 до 75 °C
Влажность
- При работе
- 5–85% относительной влажности
- Кратковременно
- 5–93%: не дольше 96 часов подряд и 15 дней в год
- При хранении
- 5–95%
Надежность
- Наработка на отказ, обычные условия
- 294 332 часа при 35 °C
- Наработка на отказ, контролируемые условия
- 316 369 часов при 35 °C
Значения действуют на высоте до 6 000 футов (около 1 830 м). Источник — NVIDIA H200 NVL GPU Product Brief.
От заявки до поставки
-
Заявка
Опишите задачу и нужное число карт.
-
Подбор конфигурации
Проверим совместимость с сервером, питанием и охлаждением.
-
Счет и договор
Фиксируем состав, сроки и условия поставки.
-
Поставка
Передаем оборудование с документами.
Серверы с H200 NVL выпускают
Платформы NVIDIA MGX H200 NVL и NVIDIA-Certified Systems до 8 GPU. Также QCT, Aivres, Ingrasys, Inventec, Pegatron, Wistron.
Сертификаты и стандарты
Перечень из Product Brief NVIDIA H200 NVL.
-
WHQL
Windows 10, 11, Server 2019, Server 2022
-
EU RoHS
Ограничение опасных веществ
-
REACH
Регистрация и оценка химических веществ
-
Halogen Free
Без галогенов
-
WEEE
Утилизация электронного оборудования
-
ISO 9241
Эргономика
-
CE · FCC · ICES
Европа, США, Канада
-
UL · RCM · KCC · VCCI · BSMI
США, Австралия и Новая Зеландия, Корея, Япония, Тайвань
Гарантия, оплата и доставка
Гарантия
Срок и порядок гарантийного обслуживания указываются в договоре поставки. Для обращения нужны счет, товарная накладная и серийный номер карты.
Оплата
Безналичная оплата по счету для юридических лиц.
Доставка
Доставка по России, сроки — в договоре. При получении проверьте упаковку, серийный номер и комплектность: мосты NVLink и удлинитель заказываются отдельно.
Документы
Счет-фактура, товарная накладная, гарантийный талон.
Частые вопросы о H200 NVL
Чем H200 NVL отличается от H200 SXM?
H200 NVL — карта PCIe на два слота с воздушным охлаждением и TDP до 600 Вт; карты соединяются мостами NVLink на 2 или 4 GPU. H200 SXM ставится в платформы HGX и потребляет до 700 Вт. Память у обеих — 141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с.
Сколько памяти у H200 NVL?
141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с — в 1,5 раза больше памяти, чем у H100 NVL.
Сколько карт можно объединить?
Мосты NVLink объединяют 2 или 4 GPU, 900 ГБ/с на GPU. Серверы NVIDIA MGX и NVIDIA-Certified Systems вмещают до 8 карт.
Какой блок питания нужен?
Кабель PCIe 16-pin, который сообщает карте уровень 451–600 Вт. Карта потребляет до 600 Вт; ограничение снижается командой nvidia-smi до 200 Вт, но с кабелем меньшего уровня карта не загрузится.
Нужно ли водяное охлаждение?
Нет. У карты пассивный радиатор, ее охлаждает поток воздуха сервера в любом направлении вдоль карты.
Что входит в NVIDIA AI Enterprise?
С H200 NVL идет подписка на NVIDIA AI Enterprise на пять лет. В нее входят микросервисы NVIDIA NIM для развертывания моделей.
Файлы для скачивания
-
Даташит NVIDIA H200Характеристики H200 SXM и H200 NVL, производительность, NVIDIA AI Enterprise. 4 страницы, англ.
-
Product Brief NVIDIA H200 NVLПодробное описание H200 NVL от NVIDIA: характеристики, NVLink, питание и охлаждение, установка в сервер. Англ., открывается на сайте NVIDIA.
-
Линейка GPU NVIDIA для дата-центровСравнение ускорителей NVIDIA для серверов. Англ.
-
Характеристики H200 NVL и SXMСравнение H200 NVL и H200 SXM: память, пропускная способность, TDP, форм-фактор. 1 страница, рус.

Нужна H200 NVL под ваш проект?
Подберем сервер, мосты NVLink и питание, рассчитаем поставку.
Гибкая ценовая политика
Специальные предложения
Доставка в регионы
Быстрая логистика по РФ
Поддержка и сервис
Полное гарантийное покрытие
Технические специалисты
Профессиональная поддержка