Услуга · после монтажа · по договору
Настройка программ и драйверов GPU-сервера
Готовим GPU-сервер к работе: операционная система, драйвер NVIDIA, CUDA, контейнеры, планировщик задач и мониторинг ускорителей.
Вы получаете среду, в которой можно сразу запускать модели, и описание того, как она устроена.
Коротко
- Настройка — это программная часть запуска: операционная система, драйвер NVIDIA, CUDA, контейнерная среда, Kubernetes или Slurm, мониторинг.
- На узле HGX с 8 ускорителями дополнительно проверяем работу шины NVLink, службу Fabric Manager и обмен между ускорителями.
-
Итог — рабочая среда и описание версий: что установлено, как обновлять и как вернуться к прежнему состоянию. Совместимость российских операционных систем подтверждаем по документации производителя.
Кому нужна эта услуга
- Тем, чей сервер уже стоит в стойке, но программная среда не готова.
- Командам, которым нужны контейнеры или планировщик заданий (Kubernetes, Slurm) для нескольких пользователей.
- Администраторам, которым нужна проверенная конфигурация и описание, а не набор разрозненных заметок.
Что входит в услугу
В услугу входят 8 пунктов, первые из них: операционная система по вашему выбору: Astra Linux, РЕД ОС или Ubuntu; совместимость с конкретной платформой подтверждается по документации производителя; драйвер NVIDIA и CUDA Toolkit — отдельные компоненты со своими версиями; пару версий подбираем по документации NVIDIA и под вашу программную среду; для узлов HGX: служба Fabric Manager (на узлах B200 и B300 — вместе со службой NVLSM), проверка шины NVLink и обмена между ускорителями тестами NCCL (nccl-tests).
- Операционная система по вашему выбору: Astra Linux, РЕД ОС или Ubuntu; совместимость с конкретной платформой подтверждается по документации производителя.
- Драйвер NVIDIA и CUDA Toolkit — отдельные компоненты со своими версиями; пару версий подбираем по документации NVIDIA и под вашу программную среду.
- Для узлов HGX: служба Fabric Manager (на узлах B200 и B300 — вместе со службой NVLSM), проверка шины NVLink и обмена между ускорителями тестами NCCL (nccl-tests).
- Контейнерная среда: Docker, containerd или Podman с NVIDIA Container Toolkit, чтобы контейнеры видели ускорители.
- Kubernetes: плагин устройств NVIDIA или NVIDIA GPU Operator, чтобы задачи запрашивали ускорители как ресурс nvidia.com/gpu.
- Slurm: описание ускорителей как общего ресурса (GRES) и очереди заданий — для кластера с несколькими пользователями.
- Мониторинг и диагностика: NVIDIA DCGM — состояние ускорителей, температуры, ошибки памяти; оповещения в вашу систему мониторинга.
- Каталог пользователей, доступ по ключам, сетевые ограничения; описание конфигурации и порядка обновления с планом отката.
Работа идёт в 5 шагов
- Фиксируем целевую средуОперационная система, версии программ, кто и как будет запускать задачи.
- Ставим основуОперационная система, драйвер, CUDA; перезагрузка и проверка, что видны все ускорители.
- Добавляем контейнеры и планировщикContainer Toolkit, Kubernetes или Slurm — если они нужны вам.
- ПроверяемТестовый запуск нагрузки на всех ускорителях, проверка обмена между ними, мониторинг.
- Описываем и передаёмВерсии, настройки, порядок обновления и отката — документом; инструктаж администраторов.
На выходе — документ, а не устный ответ
Рабочая среда и её описание
- Список установленных программ и их версий.
- Файлы настроек и параметры планировщика.
- Результаты проверки: видимость ускорителей, обмен между ними, тестовая нагрузка.
- Порядок обновления драйвера и CUDA, план отката.
- Схема доступа пользователей.
- Акт выполненных работ.
Условия
Услуга оказывается по договору отдельной строкой коммерческого предложения. Набор программ и версии согласуются до начала работ и записываются в спецификацию. Работы на оборудовании, купленном не у нас, — после входного контроля; сроки определяет договор.
Полезно вместе с этой услугой
- Подготовка GPU-сервера к работе Разбор для администратора: из каких слоёв состоит программная среда GPU-сервера, в каком порядке их ставят и как убедиться, что ускорители видны и работают, прежде чем запускать модели. Гид
- Монтаж и пусконаладка Установка в стойку, питание и сеть, запуск операционной системы; документация на русском языке. Услуга
- Внедрение LLM под ключ Языковая модель на вашем сервере: выбор, запуск, проверка на ваших вопросах и передача администраторам. Услуга
- Инструктаж администраторов Показ вашим администраторам, как обслуживать сервер, и письменное руководство для вашего оборудования. Услуга
Какие вопросы чаще всего задают?
Какие операционные системы вы настраиваете?
Astra Linux, РЕД ОС и Ubuntu — по договору. Совместимость конкретной платформы с российской операционной системой подтверждается по документации производителя.
Драйвер и CUDA ставятся вместе?
Это разные компоненты: драйвер NVIDIA и набор инструментов CUDA Toolkit, у каждого свои версии. Пару версий подбираем по документации NVIDIA и записываем в описание среды.
Чем Kubernetes отличается от Slurm и что выбрать?
Kubernetes запускает приложения в контейнерах и подходит для постоянных сервисов, например сервера модели. Slurm ставит в очередь пакетные задания и привычен вычислительным кластерам.
Выбор зависит от того, как вы работаете; на одном сервере можно обойтись без обоих.
Настроите ли среду на оборудовании, купленном не у вас?
Да, после входного контроля — см. «Сборка и нагрузочный тест».
Что если после обновления драйвера что-то перестанет работать?
Перед обновлением фиксируем текущие версии и готовим откат; обновление проводим в согласованное окно. Порядок записан в описании среды.
Входит ли запуск конкретной модели?
Нет, это отдельная услуга — «Внедрение LLM под ключ». Здесь мы готовим среду, в которой модель можно запустить.
Источники по программной части
Источники:
- NVIDIA: CUDA Installation Guide for Linux
- NVIDIA: Driver Installation Guide
- NVIDIA: Installing the NVIDIA Container Toolkit
- Kubernetes: Schedule GPUs
- NVIDIA: About the NVIDIA GPU Operator
- Slurm: Generic Resource (GRES) Scheduling
- NVIDIA: DCGM Documentation
- NVIDIA: Fabric Manager User Guide
- NVIDIA: NCCL Documentation
- NVIDIA: nccl-tests (GitHub)
Опишите задачу — ответим, что входит и как оформить
Опишите задачу в паре фраз — инженер подберёт конфигурацию. Ответим в рабочее время.
- Какое оборудование и где оно стоит
- Что нужно сделать
- Есть ли требования технического задания
Пн–Пт 9:00–18:00 мск
Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.
Другие услуги
- Расчёт и архитектура Какие ускорители и сколько их нужно под вашу модель и нагрузку — расчёт до покупки. До покупки
- Сборка и нагрузочный тест Сборка по спецификации и проверка под нагрузкой до отгрузки; протокол с измерениями и акт. Перед отгрузкой
- Монтаж и пусконаладка Установка в стойку, питание и сеть, запуск операционной системы; документация на русском языке. На площадке
- Поддержка и сопровождение Состояние ускорителей и дисков, обновление прошивок, замена компонентов — по договору. В эксплуатации
- Защита BMC и дисков Защита весов моделей и данных от снятия дисков, копирования образов и входа через контроллер управления. На площадке и в эксплуатации
- Внедрение LLM под ключ Языковая модель на вашем сервере: выбор, запуск, проверка на ваших вопросах и передача администраторам. От выбора до запуска
- Проектирование кластера Сколько узлов, какая сеть между ними, какое хранилище и хватит ли питания — проект и спецификация. До покупки
- Переезд из облака Перенос моделей и данных из облака на свой сервер с параллельной работой до переключения. Переход на свой сервер
- Инструктаж администраторов Показ вашим администраторам, как обслуживать сервер, и письменное руководство для вашего оборудования. После запуска
Дата проверки: 14.10.2026.
