H200 NVL — карта для серверов, а не для рабочих станций общего назначения. Совместимость проверяют по шести пунктам: слот, размеры, питание, охлаждение, настройки BIOS и топология NVLink.
Серверы
NVIDIA рекомендует использовать партнерские системы NVIDIA MGX для H200 NVL и серверы из программы NVIDIA-Certified Systems версии 2.8 и выше. В них устанавливается до 8 карт.
Системы с H200 NVL анонсировали Dell Technologies, HPE, Lenovo и Supermicro, а также Aivres, ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, MSI, Pegatron, QCT, Wistron и Wiwynn. Конкретную модель сервера и допустимое число карт уточняйте в документации производителя.
Слот и размеры
| Требование | Значение |
|---|---|
| Интерфейс | PCIe Gen5 x16, Gen5 x8 или Gen4 x16 |
| Ширина | два слота |
| Размер | полная высота, полная длина (FHFL), 10,5 дюйма |
| Длина с удлинителем | 312 мм (удлинитель NVPN 151-0398-000) |
| Масса платы | 1217 г |
Карта поддерживает реверс линий и полярности PCIe. В режимах Gen5 x8 и Gen4 x16 пропускная способность шины ниже, чем в Gen5 x16.
Питание
Карта подключается одним кабелем PCIe 16-pin (12VHPWR). Кабель блока питания должен сообщать через сигнальные контакты уровень 451–600 Вт. При более низком уровне карта не запускается, даже если ее мощность затем будет ограничена программно. Максимальная мощность платы — 600 Вт.
Охлаждение
Радиатор пассивный и двунаправленный: воздух может идти слева направо или справа налево. Сервер должен обеспечить достаточный поток через карту при нагрузке 600 Вт, поэтому NVIDIA рекомендует серверы MGX и NVIDIA-Certified Systems.
Настройки BIOS и ОС
- BAR2 физической функции — 256 ГиБ, в BIOS нужно разрешить большие окна BAR.
- SR-IOV поддерживается, до 32 виртуальных функций.
- Прерывания только MSI-X, MSI не поддерживается.
NVLink: мосты и зазоры
На каждую карту ставится один широкий мост. Мост на 2 карты — 900-23945-xx00-xxx, на 4 карты — 900-23946-xx00-xxx. Над верхней (северной) кромкой карты должно быть не меньше 2,5 мм свободного места, за обратной стороной платы — не меньше 2,67 мм.
Топология
Рекомендации NVIDIA:
- соединять мостом GPU, подключенные к одному процессору или одному коммутатору PCIe;
- ставить число GPU, равное степени двойки: 1, 2, 4 или 8;
- подключать к каждому процессорному сокету одинаковое четное число GPU;
- соблюдать баланс между процессорами, GPU и сетевыми адаптерами;
- использовать мосты одинакового размера во всем сервере.
Мост между GPU разных процессоров, нечетное число карт и несбалансированная схема допускаются, но NVIDIA их не рекомендует.
