Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Запустится ли ваша модель на выбранной GPU и сколько карт нужно

Выберите модель, ускоритель и число карт — ответ «да», «впритык» или «нет» и ближайшая конфигурация, где модель помещается.

Коротко

  • Инструмент проверяет, поместится ли модель на выбранное число карт: сравнивает нужную память с запасом 20 % и память карт.
  • Llama 3.3 70B Instruct в FP8 с контекстом 8 192 токена требует 87,9 ГБ: на RTX PRO 6000 × 1 (96 ГБ) занято 92 % — ответ «впритык».
  • «Да» значит «помещается по памяти», а не «работает быстро».

Впритык · 1 × RTX PRO 6000 — к результату

70,6 млрд параметров · контекст до 131 072 токенов · Meta

Редакции с одинаковой памятью считаются одинаково: H200 SXM и NVL, три редакции RTX PRO 6000.

Число карт
Точность весов

«Как опубликована» — размер файлов весов в репозитории модели. NVFP4 работает только на B200, B300 и RTX PRO 6000.

Поместится ли модель на выбранные GPU?

Впритык занято 92 % памяти — запаса почти нет

  • 87,9ГБ нужно модели с запасом 20 %
  • 96ГБ есть: 1 × RTX PRO 6000
  • 92 %занято; отметка на шкале — 90 %

Как получить «да»:

Какие модели запустятся на 1 карте?

Точность — FP8, контекст 8 192 токена, запросов одновременно — 1. «Да» — занято не больше 90 % памяти, «впритык» — от 90 до 100 %. Нажмите на модель, чтобы проверить её.

NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Какие модели запустятся на выбранном числе карт
МодельПамять1 × RTX PRO 6000
96 ГБ		1 × H100
80 ГБ		1 × H200
141 ГБ		1 × B200
180 ГБ		1 × B300
270 ГБ в расчётах
нужно 10,9 ГБда · 11 %да · 14 %да · 8 %да · 6 %да · 4 %
нужно 87,9 ГБвпритык · 92 %нетда · 62 %да · 49 %да · 33 %
нужно 492,1 ГБнетнетнетнетнет
нужно 11,3 ГБда · 12 %да · 14 %да · 8 %да · 6 %да · 4 %
нужно 19,3 ГБда · 20 %да · 24 %да · 14 %да · 11 %да · 7 %
нужно 41,9 ГБда · 44 %да · 52 %да · 30 %да · 23 %да · 16 %
нужно 284 ГБнетнетнетнетнет
нужно 30,4 ГБда · 32 %да · 38 %да · 22 %да · 17 %да · 11 %
нужно 150,7 ГБнетнетнетда · 84 %да · 56 %
нужно 19,6 ГБда · 20 %да · 25 %да · 14 %да · 11 %да · 7 %
нужно 11,3 ГБда · 12 %да · 14 %да · 8 %да · 6 %да · 4 %
нужно 41,9 ГБда · 44 %да · 52 %да · 30 %да · 23 %да · 16 %
нужно 10,9 ГБда · 11 %да · 14 %да · 8 %да · 6 %да · 4 %
нужно 34,2 ГБда · 36 %да · 43 %да · 24 %да · 19 %да · 13 %
нужно 14,9 ГБда · 16 %да · 19 %да · 11 %да · 8 %да · 6 %
нужно 31,4 ГБда · 33 %да · 39 %да · 22 %да · 17 %да · 12 %
нужно 39,3 ГБда · 41 %да · 49 %да · 28 %да · 22 %да · 15 %
нужно 25,3 ГБда · 26 %да · 32 %да · 18 %да · 14 %да · 9 %
нужно 140,6 ГБнетнетвпритык · 100 %да · 78 %да · 52 %
нужно 11,9 ГБда · 12 %да · 15 %да · 8 %да · 7 %да · 4 %
нужно 34 ГБда · 35 %да · 42 %да · 24 %да · 19 %да · 13 %
нужно 43,3 ГБда · 45 %да · 54 %да · 31 %да · 24 %да · 16 %
нужно 97,8 ГБнетнетда · 69 %да · 54 %да · 36 %
нужно 822,1 ГБнетнетнетнетнет
нужно 823,1 ГБнетнетнетнетнет
нужно 1 232,4 ГБнетнетнетнетнет
нужно 904,9 ГБнетнетнетнетнет
нужно 143,5 ГБнетнетнетда · 80 %да · 53 %
нужно 14,1 ГБда · 15 %да · 18 %да · 10 %да · 8 %да · 5 %
нужно 526,2 ГБнетнетнетнетнет

Почему кроме весов модели в память карты нужно уместить KV-кэш?

«Llama 3.3 70B Instruct» — это 70,6 млрд параметров. В точности «FP8» с контекстом 8 192 токена модели нужно 87,9 ГБ: веса, кэш контекста и 20 % запаса на рабочие буферы. У 1 × RTX PRO 6000 — 96 ГБ. Занято 92 %: запас меньше 10 % — ответ «впритык»: рост контекста или числа запросов уже не поместится.

Какие серверы каталога подойдут под эту модель?

Под результат: 1 карта RTX PRO 6000. Наличие и срок уточняем при запросе.

1 × RTX PRO 6000 в одном сервере — вариант этой позиции

Серверы на RTX PRO 6000

2 × RTX PRO 6000 · 2 × CPU · 2U

Ускорители
2 × RTX PRO 6000, 96 ГБ
Видеопамять
192 ГБ
Процессоры
1–2 × CPU — по платформе
Высота и питание
2U · ускорители до 1,2 кВт
Охлаждение
воздушное

Модели до 122 млрд параметров в 8 битах

Наличие уточняется
Запросить КП Подробнее

1 × RTX PRO 6000 Workstation в одном сервере — вариант этой позиции (другая редакция — RTX PRO 6000 Workstation; памяти на карту столько же)

Рабочие станции

1–2 × RTX PRO 6000 · башня

Ускорители
1–2 × RTX PRO 6000, 96 ГБ
Видеопамять
96–192 ГБ
Процессоры
1 × CPU — по задаче
Высота и питание
башня · ускорители до 1,2 кВт
Охлаждение
воздушное

Модели до 122 млрд параметров в 8 битах

Наличие уточняется
Запросить КП Подробнее

ближайшая конфигурация: 4 × RTX PRO 6000

Серверы на RTX PRO 6000

4 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
4 × RTX PRO 6000, 96 ГБ
Видеопамять
384 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 235 млрд параметров в 8 битах

Наличие уточняется
Запросить КП Подробнее
Все серверы на RTX PRO 6000

«Да» значит «помещается по памяти». Скорость и число пользователей считают соседние калькуляторы. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Нужно = (веса + кэш контекста) × 1,2 — тот же расчёт, что в калькуляторе памяти. Есть = память одной карты × число карт.

Занято = нужно ÷ есть. До 90 % — «да», от 90 до 100 % — «впритык», больше — «нет».

Подсказки «как получить „да“» пересчитывают тот же пример с бо́льшим числом карт, меньшей точностью весов, более коротким контекстом или картой с бо́льшей памятью.

Погрешность. Те же оговорки, что у расчёта памяти: запас 20 % — правило, а не замер; для моделей с нестандартным вниманием кэш — оценка. Порог 90 % — рабочее правило: для справки, движок vLLM по умолчанию занимает 92 % памяти карты.

Источники.

Данные справочников — на 06.10.2026.

Сразу все модели на одной странице — таблица видеопамяти для 30 языковых моделей.

Как проверяют, поместится ли модель на ускорителе?

Метод расчёта

Что проверяем. Помещается ли модель на выбранное число карт по памяти. Ответ «да» значит «помещается по памяти», а не «работает быстро».

Нужная память считается как в калькуляторе памяти: (веса + KV-кэш запроса) × 1,2. Память карт = память одной карты × число карт. Занято = нужная память ÷ память карт.

Вывод: занято не больше 90 % — «да»; от 90 до 100 % — «впритык»; больше 100 % — «нет». Формат NVFP4 работает только на ускорителях поколения Blackwell; порог 90 % — рабочее правило, а не данные источника.

Разобранный пример

Модель
Llama 3.3 70B Instruct
Точность весов
FP8
Контекст
8 192 токена
Ускоритель и число карт
RTX PRO 6000 × 1
  1. Нужная память с запасом 20 %: 87,9 ГБ.
  2. Память карт: 96 ГБ × 1 = 96 ГБ.
  3. Занято: 87,9 ÷ 96 = 92 % — больше 90 %, но не больше 100 % — «впритык».

Результат. Ответ: «впритык». Модель помещается на RTX PRO 6000 × 1 с занятой памятью 92 %, но запаса почти нет.

Помещается ли модель: типовые ответы черновая оценка

Помещается ли модель: типовые ответы (черновая оценка)
Модель и точностьУскорителиНужно, ГБЕсть, ГБЗанятоОтвет
Llama 3.3 70B Instruct, FP8RTX PRO 6000 × 187,99692 %впритык
Llama 3.3 70B Instruct, FP8H100 × 187,980110 %нет
DeepSeek-R1 (671B), FP8H200 × 8822,11 12873 %да
gpt-oss-120b, NVFP4RTX PRO 6000 × 179,29682 %да
Qwen3.8 27B, FP16RTX PRO 6000 × 167,39670 %да
GigaChat 3.5 432B-A28B Reasoning (MoE), FP8B300 × 2526,254097 %впритык

Источник: эталон расчёта сайта (контрольные примеры) и данные — параметры моделей, размер чисел по точностям, характеристики ускорителей, проверено 06.10.2026.

Из эталона расчёта сайта (контрольные примеры tests.json; контекст 8 192 токена, один запрос). Первая строка совпадает с примером выше. Черновая оценка: проверка только по памяти.

Что ещё посчитать перед запросом КП?

Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.

Все инструменты подбора и расчёта

Обновлено

Запросить КП

Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.

Подобрать Запросить КП Чат