Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Для кого

Серверы для разработчиков ИИ-продуктов: от расчёта до запуска у заказчика

Поставляем разработчикам ИИ-продуктов узлы под их модели и нагрузку: расчёт по нескольким точкам, сборка, монтаж на площадке конечного заказчика и поддержка по договору.

  • Расчёт под несколько точек нагрузки
  • Монтаж на площадке заказчика
  • Защита весов моделей
4U

Коротко

  • Пилот начинается с двух ускорителей RTX PRO 6000 по 96 ГБ в узле; для рабочей нагрузки — 4–8 карт (сервер на восемь карт — до 9,1 кВт в пике), для крупных моделей — H200 NVL по 141 ГБ или узел HGX на 10–16 кВт.
  • Инженерные работы заказываются отдельными строками договора; расчёт — прогноз, подтверждает его нагрузочный тест по согласованному протоколу.

Что определяет выбор сервера для разработчиков ИИ-продуктов?

  • Нагрузка известна, железо — нет

    Команда знает модель, точность и число потоков. Нужен расчёт: сколько ускорителей и узлов потребуется при каждом уровне нагрузки.

  • Сервер будет стоять у заказчика

    Продукт ставится в закрытом контуре на чужой площадке. Нужны монтаж, обслуживание и защита весов моделей от копирования.

  • Инженеров жалко отвлекать на железо

    Подбор, сборка, прошивки и дежурства отнимают время у продукта. Эти работы заказывают отдельными строками договора.

Какие требования заказчика к безопасности и закупке учесть до расчёта?

Безопасность и эксплуатация

  • Шифрование дисков с весами моделей: без ключа платформы или ключа восстановления диск не читается.
  • Контроллер управления — в изолированном сегменте; учётные записи по умолчанию удаляются.
  • Контроль вскрытия корпуса с записью в журнал.
  • Инженерные меры мы не называем сертифицированными; номера сертификатов указываются только для сертифицированных средств защиты.

Закупка и документы

  • Коммерческая поставка по договору; инженерные работы — отдельными строками коммерческого предложения.
  • Сумма без НДС и НДС 22 % отдельной строкой.
  • Для серии одинаковых проектов фиксируются типовой узел и условия обслуживания; следующие поставки сверяются с той же базовой линией.
  • Доставка — на ваш склад или сразу на площадку конечного заказчика; условия указываются в коммерческом предложении.

Какой сервер взять разработчику ИИ-продукта на пилот, в отдел и в компанию?

МасштабУскорительКоличествоСервер в каталогеПитаниеДля чегоДействие
ПилотПервый заказчик, проверка сценария RTX PRO 6000 Blackwell, 96 ГБ 2 в узле 2 × RTX PRO 6000 · 2 × CPU · 2U Серверы на RTX PRO 6000Рабочие станции до 600 Вт на ускоритель Модели конвейера раскладываются по двум картам; общая шина между ними не нужна. Запросить КП
ОтделРабочая нагрузка у заказчика RTX PRO 6000 Blackwell, 96 ГБ 4–8 в узле, несколько узлов 8 × RTX PRO 6000 · 2 × CPU · 4U Серверы на RTX PRO 6000 до 600 Вт на ускоритель, до 4,8 кВт на восемь ускорителей Копии моделей на независимых картах; число узлов закладывают с запасом на отказ одного. Запросить КП
КомпанияКрупные модели и собственное обучение H200 NVL, 141 ГБ; под обучение — узел HGX 4 в узле; 8 на плате HGX 4 × H200 NVL · 2 × CPU · 4U Серверы на H200Узлы HGX до 600 Вт на H200 NVL; узел HGX — от 10 до 16 кВт H200 — под модели на 70 млрд параметров и крупнее; узел HGX — под обучение на восьми ускорителях. Запросить КП

Сколько потоков или пользователей держит каждая конфигурация, рассчитывается по вашим моделям — в калькуляторах «Голосовой ИИ: одновременные разговоры» и «Сколько пользователей выдержит».

Расчёт — это прогноз; подтверждает его нагрузочный тест по согласованному протоколу, услуга по договору.

Какие серверы из каталога подходят под эти условия?

По одной позиции на каждую ступень.

Серверы на RTX PRO 6000

2 × RTX PRO 6000 · 2 × CPU · 2U

Ускорители
2 × RTX PRO 6000, 96 ГБ
Видеопамять
192 ГБ
Процессоры
1–2 × CPU — по платформе
Высота и питание
2U · ускорители до 1,2 кВт
Охлаждение
воздушное

Модели до 122 млрд параметров в 8 битах

Наличие уточняется

Серверы на RTX PRO 6000

8 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
8 × RTX PRO 6000, 96 ГБ
Видеопамять
768 ГБ
Процессоры
2 × CPU — по платформе
Высота и питание
4U · до 9,1 кВт
Охлаждение
воздушное

Модели до 438 млрд параметров в 8 битах

Наличие уточняется

Серверы на H200

4 × H200 NVL · 2 × CPU · 4U

Ускорители
4 × NVIDIA H200 NVL, 141 ГБ
Видеопамять
564 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 405 млрд параметров в 8 битах

Наличие уточняется

Как посчитать и проверить конфигурацию самому?

Для чего нужен сервер?

Шесть коротких вопросов — и два-три сервера из каталога под вашу задачу. Результат сразу, контакты не нужны.

Ещё по теме

Открыть полный расчёт

Что чаще всего спрашивают разработчики ИИ-продуктов про серверы?

Вы считаете под нашу нагрузку или предлагаете готовый список?

Считаем. Коммерческое предложение формируется под расчёт и действует указанный в нём срок. Что входит в расчёт — на странице «Расчёт и архитектура».

Что входит в нагрузочный тест и чем оформляется результат?

Прогон по согласованному протоколу на собранных узлах, протокол с измерениями и акт. Услуга оказывается по договору; состав — на странице «Сборка и нагрузочный тест».

Берётесь ли за монтаж в регионе и дальнейшее обслуживание?

Да, по договору: выезд на площадку заказчика, пусконаладка, поддержка. Сроки реакции и состав запаса компонентов фиксируются в договоре.

Какие меры защиты сертифицированы?

Сертифицированные средства — например, доверенная загрузка с сертификатом ФСТЭК — это продукты их производителей; номера сертификатов указываются в спецификации.

Изоляция контроллера управления, шифрование накопителей и контроль вскрытия — инженерные меры, они выполняются по договору.

Купить или арендовать?

Зависит от загрузки и горизонта. Сравните варианты в калькуляторе «Купить или арендовать»: он считает в относительных величинах, свои ставки вы вводите сами.

Все вопросы и ответы о GPU-серверах

Опишите задачу — ответим конфигурацией и условиями

Опишите задачу в паре фраз — инженер подберёт конфигурацию. Ответим в рабочее время.

  • Что должно работать на сервере
  • Где он будет стоять
  • Как закупаете: коммерчески, по 223-ФЗ или по 44-ФЗ

Пн–Пт 9:00–18:00 мск

Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.

Обновлено
Подобрать Запросить КП Чат