Позвонить Запросить цену
Драйверы и ПО

Драйверы и ПО для H200 NVL: версии и официальные источники

4 мин на чтение

Драйверы и ПО для H200 NVL: версии и официальные источники

Для H200 NVL NVIDIA указывает минимальные версии драйвера и сопутствующего ПО. Более старые версии карту не поддерживают.

Минимальные версии

КомпонентТребование
ДрайверR565 TRD1 или новее, Linux и Windows
CUDA12.7 или новее, платформа x86
Виртуализация GPUvGPU 18.1 или новее, NVIDIA Virtual Compute Server
Сертификация сервераNVIDIA-Certified Systems 2.8 или новее
WindowsWHQL для Windows 10, Windows 11, Windows Server 2019 и 2022

Память ECC на карте включена.

Где скачать

Все загрузки — на сайтах NVIDIA. Ссылки открываются в новой вкладке.

  • Драйвер для H200 NVL
    Подбор драйвера на nvidia.com: в строке поиска наберите «H200 NVL» и выберите операционную систему. Нужен всем, кто ставит карту в сервер.
  • CUDA Toolkit
    Компилятор и библиотеки CUDA для Linux и Windows. Нужен разработчикам и тем, кто собирает приложения прямо на сервере.
  • Release notes драйвера для дата-центров
    Описание каждой ветки драйвера: поддерживаемые карты, исправления и известные проблемы. Читать перед установкой и обновлением.
  • Документация nvidia-smi
    Все команды и параметры утилиты: мониторинг, ограничение мощности, режимы работы карты. Нужна администраторам серверов.
  • MIG User Guide
    Руководство по разделению H200 NVL на изолированные экземпляры MIG: профили, включение, управление. Нужно, если одну карту делят несколько задач или пользователей.
  • NVIDIA AI Enterprise
    Платформа ПО для ИИ, подписка на 5 лет входит в комплект H200 NVL. Здесь описан состав и порядок активации.
  • Каталог NGC
    Контейнеры NIM, модели и инструменты NVIDIA для развертывания. Нужен тем, кто запускает модели в контейнерах.

Драйвер

Драйвер для Linux и Windows загружайте с официальной страницы NVIDIA: https://www.nvidia.com/drivers. В форме поиска выберите модель карты и операционную систему. Версия драйвера должна быть не ниже R565 TRD1.

Драйверы для Windows прошли сертификацию WHQL для Windows 10, Windows 11, Windows Server 2019 и Windows Server 2022.

После установки проверьте результат командой nvidia-smi: она показывает версию драйвера, версию CUDA и список карт.

Обновление драйвера

Перед обновлением на рабочем сервере проверьте, что новая версия совместима с установленной версией vGPU и с используемыми контейнерами. После обновления заново примените ограничение мощности, если оно задавалось через nvidia-smi: такая настройка не сохраняется после перезагрузки драйвера.

CUDA

Для x86-систем нужна CUDA 12.7 или новее. Если приложения запускаются в контейнерах, версия CUDA внутри контейнера должна поддерживаться установленным драйвером.

Виртуализация

Для работы в виртуальных машинах NVIDIA указывает vGPU 18.1 или новее в редакции NVIDIA Virtual Compute Server. Подписка NVIDIA AI Enterprise поддерживается с VMware. Карта поддерживает SR-IOV с 32 виртуальными функциями.

NVIDIA AI Enterprise и NIM

В комплект H200 NVL входит подписка NVIDIA AI Enterprise на 5 лет. Она включает микросервисы NVIDIA NIM — готовые контейнеры для развертывания моделей. Контейнеры, модели и инструменты размещены в каталоге NGC: https://catalog.ngc.nvidia.com. Порядок активации подписки уточняйте у продавца при поставке.

MIG

Разделение карты на изолированные экземпляры (до 7 по 16,5 ГБ) настраивается средствами драйвера. Порядок включения и профили описаны в руководстве NVIDIA: MIG User Guide, https://docs.nvidia.com/datacenter/tesla/mig-user-guide/index.html.

Порядок установки ПО

  1. Убедитесь, что сервер сертифицирован по NVIDIA-Certified Systems 2.8 или новее.
  2. Установите драйвер R565 TRD1 или новее с nvidia.com/drivers.
  3. Проверьте карты командой nvidia-smi.
  4. Установите CUDA 12.7 или новее, если приложения собираются на сервере.
  5. Для виртуализации установите vGPU 18.1 или новее.
  6. Активируйте NVIDIA AI Enterprise и загрузите нужные контейнеры NIM из NGC.

Загружайте драйверы и контейнеры только из официальных источников NVIDIA. Сборки с посторонних сайтов могут быть изменены и не подходят для серверов с конфиденциальными данными.

Остались вопросы по статье?

Напишите нам — ответим и подскажем решение под вашу задачу.

Запросить цену