Что такое GPU-сервер и для чего он нужен

Что такое GPU-сервер простыми словами?

GPU-сервер — это сервер, в котором основные вычисления выполняют графические ускорители (GPU), а не только центральные процессоры. Ускорители ставят картами в обычные слоты (PCIe) или модулями на общую плату HGX; в сервере каталога их от одного до восьми.

Для языковых моделей главное у ускорителя — объём и скорость его собственной памяти: в ней лежат веса модели и данные контекста каждого запроса. От объёма видеопамяти зависит, какая модель поместится, поэтому выбор сервера начинают с расчёта памяти — по калькулятору «Память GPU под модель» или по гиду «Как выбрать GPU-сервер: семь шагов».

Из чего состоит GPU-сервер?

Кроме ускорителей, в сервере те же узлы, что и в обычном: процессоры, оперативная память, накопители, сеть и блоки питания. Состав двух серверов каталога — для сравнения:

Источник: карточки каталога VISTLAN GPU — узел 8 × B300 и сервер 4 × RTX PRO 6000; проверено 06.10.2026.

Оперативная память и накопители входят в конфигурацию узла и фиксируются в КП; о рынке этих комплектующих — прогноз TrendForce по серверной памяти и SSD на IV квартал 2026 года.

Какие бывают GPU-серверы?

В каталоге четыре основных класса:

• рабочая станция на одной-двух картах RTX PRO 6000 — 96–192 ГБ видеопамяти, для пилота, разработки и небольшой команды (о настольной системе — DGX Spark с 64 ГБ памяти);
• сервер на картах PCIe — две, четыре или восемь карт RTX PRO 6000 либо две-четыре карты H200 NVL — для инференса: чат-боты, поиск по документам, голос, видеоаналитика;
• узел HGX на восьми ускорителях H200, B200 или B300 с общей шиной NVLink — для обучения и больших моделей, которые делятся между ускорителями (о поставках 2026 года — доля Blackwell в поставках);
• реестровая платформа — российский сервер из реестра Минпромторга с ускорителями NVIDIA внутри — для закупок с ограничением по 44-ФЗ и 223-ФЗ.

Чем карты PCIe отличаются от модулей SXM на плате HGX, разбирает материал «SXM или PCIe: что меняется для покупателя», а три поколения узлов HGX сравнивает материал «HGX B300, B200 или H200: какой узел выбрать».

Чем GPU-сервер отличается от обычного сервера?

• Видеопамять. У ускорителя своя память: 96 ГБ у RTX PRO 6000, 141 ГБ у H200, 180 ГБ у B200, до 288 ГБ у B300. Она определяет, какая модель поместится.
• Связь ускорителей. Шина NVLink — 900 ГБ/с у H200 и 1,8 ТБ/с у B200 и B300. Она нужна, когда одна модель делится между несколькими ускорителями.
• Мощность. Обычные машинные залы проектировались под 5–8 кВт на стойку; одному узлу на восемь B300 нужно до 16,4 кВт в пике, серверу на восемь RTX PRO 6000 — до 9,1 кВт по данным производителя.
• Охлаждение. Серверные ускорители без собственных вентиляторов охлаждаются только потоком воздуха через шасси: в офисном корпусе без продува они перегреваются и снижают производительность.
• Сеть. Одиночному серверу сеть между узлами не нужна; для двух и более узлов, которые вместе обучают одну модель, нужны коммутаторы 400 и 800 Гбит/с — класс «Сеть 400/800G».
• Габариты. Узел 8 × B300 занимает 8U, весит 119 кг без упаковки, стойке нужна глубина не менее 1 200 мм.

Площадку под такой узел считает материал «Что нужно серверной под узел 8 × B300».

Для чего нужен GPU-сервер?

• Запуск языковых моделей — инференс LLM: сервер, на котором ваша модель отвечает нужному числу пользователей.
• Обучение и дообучение — обучение нейросетей: LoRA на одной-двух картах, дообучение на четырёх, полное обучение — на узле из восьми ускорителей; память и число карт считает материал «Дообучение модели».
• Поиск по своим документам — корпоративный RAG: модель, эмбеддинги и поиск на одном узле, без передачи документов наружу.
• Голосовые сервисы — голосовой ИИ на нужное число одновременных разговоров.
• Видеоаналитика — разбор потоков с камер без пропуска кадров.
• Виртуальные рабочие места — VDI с графическим ускорителем под CAD и 3D.

Сколько видеопамяти нужно GPU-серверу?

Веса модели занимают число параметров, умноженное на байты на параметр: 2 байта в FP16, 1 байт в FP8, полбайта в 4-битных форматах. Модель на 70 млрд параметров в FP8 занимает около 70 ГБ, и вместе с контекстом она помещается на одну H200 (141 ГБ). К весам добавляют память под контекст — KV-кэш — и запас 20 % на работу движка.

Пошаговый расчёт на примере — в материале «Как посчитать память GPU под модель», разбор для конкретной связки — в статье «Llama 3.3 70B: требования к памяти и сервер 4 × H200 NVL». Как читать строки спецификации ускорителя, объясняет материал «Как читать характеристики ускорителя NVIDIA».

Как купить GPU-сервер в России?

Покупка начинается с запроса КП на конкретную конфигурацию. У каждой позиции каталога указаны статус наличия и дата обновления: «На складе дистрибьютора в РФ», «Под заказ» или «В наличии у партнёра за рубежом». Для последней подписи формула одна: поставка в РФ с таможенным оформлением и полным пакетом документов (ДТ, ДС ТР ТС), срок уточняется при запросе. Как читать статусы — в материале «В наличии или под заказ».

Для государственных заказчиков есть отдельный путь — раздел «Госзакупки»; для остальных — подбор сервера за шесть вопросов и калькуляторы сайта.

Вывод

GPU-сервер — это сервер, в котором вычисления ведут ускорители с собственной видеопамятью. Для покупателя в нём важны три числа: объём видеопамяти на ускоритель, число ускорителей и связь между ними, мощность и охлаждение. Объём памяти определяет, какая модель поместится; число ускорителей и связь между ними — нужен ли узел HGX или хватит карт PCIe; мощность и охлаждение — какая площадка нужна. Дальше — семь шагов выбора.