Как выбрать GPU-сервер для ИИ: семь шагов

Шаг 1. Какая модель нужна и в какой точности?

Выбор сервера начинается с модели, а не с ускорителя: от неё зависит, сколько нужно памяти, и только потом — сколько и каких карт. Запишите три вещи: какая модель (число параметров), в каком формате чисел она будет работать и какая задача — запуск готовой модели или дообучение.

Формат определяет, сколько места занимает один параметр: 2 байта в FP16, 1 байт в FP8, полбайта в 4-битных форматах. Поэтому модель на 70 млрд параметров занимает около 140 ГБ в FP16 и около 70 ГБ в FP8. Чем короче формат, тем меньше памяти, но качество ответов проверяют на своих запросах.

Проверить конкретную модель на конкретной карте можно в инструменте «Запустится ли модель на этой GPU». Настольные системы подходят для первых экспериментов, а не для работы многих пользователей — см. новость о DGX Spark с 64 ГБ памяти.

Шаг 2. Сколько видеопамяти нужно под веса и контекст?

К весам добавляют память под контекст — KV-кэш, промежуточные данные, которые модель хранит по каждому токену каждого запроса, — и запас 20 % на работу движка. Итог считают так: (веса + KV-кэш × число одновременных запросов) × 1,2.

Пример: Llama 3.3 70B в FP8 с одним запросом на 8 192 токена занимает 87,9 ГБ — это 62 % памяти одной карты H200 NVL (141 ГБ). Запрос на 128 тысяч токенов добавляет к весам 42,95 ГБ кэша. Разбор этого расчёта — в материале «Llama 3.3 70B: требования к памяти и сервер 4 × H200 NVL», формула — в статье «Как посчитать память GPU под модель», длинный контекст — в расчёте для 128 тысяч токенов. Для крупной модели — DeepSeek-R1 на одном узле из восьми ускорителей.

Свои значения подставляют в калькулятор «Память GPU под модель».

Шаг 3. Сколько пользователей должен обслужить сервер?

Память отвечает на вопрос «помещается ли модель», а число пользователей зависит от скорости. Сравнивать скорость можно только по замерам с одинаковыми длинами запроса и ответа и одинаковой точностью, поэтому число карт определяют по трём вводным: длина запроса, длина ответа и нужная скорость ответа каждому пользователю. Запишите их до расчёта.

Число пользователей на карту в тексте не приводится: его считает калькулятор «Сколько пользователей выдержит» — диапазоном и с пометкой «черновая оценка». Любой расчёт подтверждает нагрузочный тест на вашей модели и ваших запросах.

Шаг 4. Карты PCIe или плата HGX: какой класс сервера выбрать?

Шина NVLink нужна, когда одна модель делится между картами. Если модель помещается на одну карту, на каждой работает своя копия, и общая шина не требуется. У карт RTX PRO 6000 шины NVLink нет; карты H200 NVL связывают мостом на две или четыре карты; в узле HGX восемь ускорителей стоят на одной плате и связаны NVLink.

Источник: каталог VISTLAN GPU и страницы NVIDIA, проверено 06.10.2026; мощность — руководства NVIDIA и данные производителей серверов; для 8 × H200 — опыт облачного провайдера, подробнее в разделе «Источники».

Как выбирать внутри класса: SXM или PCIe: что меняется для покупателя, RTX PRO 6000 или H200 для инференса, HGX B300, B200 или H200: какой узел выбрать. Классы в каталоге: узлы HGX на B300 и B200, серверы на H200, серверы на RTX PRO 6000.

Шаг 5. Выдержит ли площадка: сколько киловатт и места нужно?

Обычные машинные залы проектировались под 5–8 кВт на стойку, под серверы с ускорителями нужны стойки на 15–20 кВт. Узлу HGX на восемь ускорителей нужно от 10 до 16 кВт: 8 × H100 — до 10,2 кВт, 8 × B200 — до 14,3 кВт, 8 × B300 — типично 14,5 и до 16,4 кВт в пике. Сервер на восемь карт RTX PRO 6000 — до 9,1 кВт в пике по данным производителя. Узел 8 × B300 занимает 8U, весит 119 кг без упаковки, стойке нужна глубина не менее 1 200 мм.

Стойку, питание и охлаждение считают по пику. Расчёт для одного узла — в материале «Что нужно серверной под узел 8 × B300», для кластера — в расчёте стоек и киловатт. Проверка площадки: «Готова ли серверная» и «Питание, тепло и стойка». Почему лимит подведённой мощности проверяют до заказа, показывает прогноз TrendForce по спросу дата-центров на мощность.

Шаг 6. Как закупать: по коммерческому договору или по 44-ФЗ и 223-ФЗ?

При коммерческой закупке заказчик получает КП на конкретную конфигурацию. У каждой позиции каталога стоит статус и дата обновления. Для позиций «в наличии у партнёра за рубежом» формула одна: поставка в РФ с таможенным оформлением и полным пакетом документов (ДТ, ДС ТР ТС), срок уточняется при запросе. Как читать остальные подписи — в материале «Сервер с GPU в наличии или под заказ». Наличие и срок стоит проверять заранее и повторно, перед договором: см. прогноз поставок ИИ-серверов. Если ускоритель загружен не весь день, посмотрите калькулятор «Купить или арендовать»: он считает в относительных величинах, свои ставки вы вводите сами; о спросе — спрос на выделенные GPU-серверы.

При закупке с ограничением заявки с иностранными платформами отклоняются, если подана и признана соответствующей заявка с сервером из реестра российской промышленной продукции, поэтому платформу выбирают до публикации закупки. Порядок и документы описаны в разделе «Госзакупки» и в разборе «GPU-серверы по 44-ФЗ и 223-ФЗ», а новые условия запроса котировок — в новости о запросе котировок по 44-ФЗ с 1 октября 2026 года; подобрать путь можно в мастере «Как купить: 44-ФЗ, 223-ФЗ или коммерческая закупка». Информация на сайте публичной офертой не является.

Шаг 7. Как принять сервер и что проверить при поставке?

Вместе с оборудованием передают документы: декларацию на товары (ДТ), документы о подтверждении соответствия ТР ТС, паспорт и руководство на русском языке. Приёмку стоит проводить под реальной нагрузкой, а не только по отчётам о состоянии оборудования. Протокол нагрузочного теста согласуют до поставки и включают в договор: тогда неисправный узел находят до начала работы. Как это устроено у NVIDIA — в новости о проверке готовности GPU-кластера, услуга по договору — сборка и нагрузочный тест.

С какой конфигурации начинать расчёт?

Таблица — ориентир для первого расчёта, а не выбор: каждую строку уточняют калькулятором под ваши длины запроса и ответа.

Источник: расчёты сайта по данным NVIDIA и Hugging Face, подробнее — в статье «Как посчитать память GPU под модель»; проверено 06.10.2026.

Конфигурации по задачам — на странице «Инференс LLM». Если сервер нужен для дообучения, память и число карт считает материал «Дообучение модели: сколько памяти и карт нужно».

Что спросить в запросе КП?

1. Какая именно конфигурация подтверждается: название карточки или код позиции.
2. Подтверждено ли наличие на сегодняшний день: подпись отражает дату «обновлено», а не момент запроса.
3. Какой срок: ни одна подпись срок не называет.
4. Что входит в комплект: платформа, карты, мосты NVLink, состав оперативной памяти и накопителей (прогноз TrendForce на IV квартал 2026 года).
5. Какая память на ускоритель указана в документах производителя и какое потребление сервера принято для расчёта площадки.
6. Какой срок действия КП и какие документы передаются с оборудованием (почему у КП есть срок действия).

Вывод

Сервер выбирают от задачи: модель и точность задают память, пользователи и скорость — число карт, число карт и связь — класс сервера, класс — площадку и способ закупки. Расчёт на каждом шаге подтверждает нагрузочный тест. Если проще начать с вопросов, а не с формул, пройдите подбор сервера за шесть вопросов; что такое сам GPU-сервер и из чего он состоит, объясняет материал «Что такое GPU-сервер».