Для H200 NVL NVIDIA указывает минимальные версии драйвера и сопутствующего ПО. Более старые версии карту не поддерживают.
Минимальные версии
| Компонент | Требование |
|---|---|
| Драйвер | R565 TRD1 или новее, Linux и Windows |
| CUDA | 12.7 или новее, платформа x86 |
| Виртуализация GPU | vGPU 18.1 или новее, NVIDIA Virtual Compute Server |
| Сертификация сервера | NVIDIA-Certified Systems 2.8 или новее |
| Windows | WHQL для Windows 10, Windows 11, Windows Server 2019 и 2022 |
Память ECC на карте включена.
Где скачать
Все загрузки — на сайтах NVIDIA. Ссылки открываются в новой вкладке.
- Драйвер для H200 NVL
Подбор драйвера на nvidia.com: в строке поиска наберите «H200 NVL» и выберите операционную систему. Нужен всем, кто ставит карту в сервер. - CUDA Toolkit
Компилятор и библиотеки CUDA для Linux и Windows. Нужен разработчикам и тем, кто собирает приложения прямо на сервере. - Release notes драйвера для дата-центров
Описание каждой ветки драйвера: поддерживаемые карты, исправления и известные проблемы. Читать перед установкой и обновлением. - Документация nvidia-smi
Все команды и параметры утилиты: мониторинг, ограничение мощности, режимы работы карты. Нужна администраторам серверов. - MIG User Guide
Руководство по разделению H200 NVL на изолированные экземпляры MIG: профили, включение, управление. Нужно, если одну карту делят несколько задач или пользователей. - NVIDIA AI Enterprise
Платформа ПО для ИИ, подписка на 5 лет входит в комплект H200 NVL. Здесь описан состав и порядок активации. - Каталог NGC
Контейнеры NIM, модели и инструменты NVIDIA для развертывания. Нужен тем, кто запускает модели в контейнерах.
Драйвер
Драйвер для Linux и Windows загружайте с официальной страницы NVIDIA: https://www.nvidia.com/drivers. В форме поиска выберите модель карты и операционную систему. Версия драйвера должна быть не ниже R565 TRD1.
Драйверы для Windows прошли сертификацию WHQL для Windows 10, Windows 11, Windows Server 2019 и Windows Server 2022.
После установки проверьте результат командой nvidia-smi: она показывает версию драйвера, версию CUDA и список карт.
Обновление драйвера
Перед обновлением на рабочем сервере проверьте, что новая версия совместима с установленной версией vGPU и с используемыми контейнерами. После обновления заново примените ограничение мощности, если оно задавалось через nvidia-smi: такая настройка не сохраняется после перезагрузки драйвера.
CUDA
Для x86-систем нужна CUDA 12.7 или новее. Если приложения запускаются в контейнерах, версия CUDA внутри контейнера должна поддерживаться установленным драйвером.
Виртуализация
Для работы в виртуальных машинах NVIDIA указывает vGPU 18.1 или новее в редакции NVIDIA Virtual Compute Server. Подписка NVIDIA AI Enterprise поддерживается с VMware. Карта поддерживает SR-IOV с 32 виртуальными функциями.
NVIDIA AI Enterprise и NIM
В комплект H200 NVL входит подписка NVIDIA AI Enterprise на 5 лет. Она включает микросервисы NVIDIA NIM — готовые контейнеры для развертывания моделей. Контейнеры, модели и инструменты размещены в каталоге NGC: https://catalog.ngc.nvidia.com. Порядок активации подписки уточняйте у продавца при поставке.
MIG
Разделение карты на изолированные экземпляры (до 7 по 16,5 ГБ) настраивается средствами драйвера. Порядок включения и профили описаны в руководстве NVIDIA: MIG User Guide, https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html.
Порядок установки ПО
- Убедитесь, что сервер сертифицирован по NVIDIA-Certified Systems 2.8 или новее.
- Установите драйвер R565 TRD1 или новее с nvidia.com/drivers.
- Проверьте карты командой
nvidia-smi. - Установите CUDA 12.7 или новее, если приложения собираются на сервере.
- Для виртуализации установите vGPU 18.1 или новее.
- Активируйте NVIDIA AI Enterprise и загрузите нужные контейнеры NIM из NGC.
Загружайте драйверы и контейнеры только из официальных источников NVIDIA. Сборки с посторонних сайтов могут быть изменены и не подходят для серверов с конфиденциальными данными.
