Выберите модель, точность и длину контекста — получите память под веса и кэш и число карт каждого типа.
Коротко
87,9 ГБ · 1 × H200 — к результату
87,9 ГБ видеопамяти нужно с запасом 20 %
1 × H200 — оптимальная карта по памяти среди ускорителей каталога: занято 62 % из 141 ГБ.
| Ускоритель | Память карты | Минимум карт по памяти | На практике | Занято памяти | В один сервер на 8 карт | Примечание |
|---|---|---|---|---|---|---|
| RTX PRO 6000 | 96 ГБ | 1 | 1 | 92 % | да | |
| H100 | 80 ГБ | 2 | 2 | 55 % | да | NVLink на плате; в каталоге нет |
| H200 оптимально | 141 ГБ | 1 | 1 | 62 % | да | |
| B200 | 180 ГБ | 1 | 1 | 49 % | да | |
| B300 | 270 ГБ — в расчётах | 1 | 1 | 33 % | да | |
| H100 NVL | 94 ГБ | 1 | 1 | 93 % | да | в каталоге нет |
| A100 80GB | 80 ГБ | 2 | 2 | 55 % | да | NVLink на плате; в каталоге нет |
| L40S | 48 ГБ | 2 | 2 | 92 % | да | NVLink нет, карты связаны через PCIe; в каталоге нет |
«На практике» — ближайшее из 1, 2, 4, 8, 16, 32, 64: движки обычно делят модель на такое число карт. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ. Для B200 в расчётах 180 ГБ.
Память — это веса модели плюс кэш контекста на каждый одновременный запрос. Веса «Llama 3.3 70B Instruct» в FP8 занимают 70,6 ГБ. Каждый запрос на 8 192 токена добавляет 2,68 ГБ кэша; при одном запросе — 2,68 ГБ. Ещё 20 % уходит на рабочие буферы. Итого 87,9 ГБ: это 1 × H200. Скорость ответа этот расчёт не показывает — её считает соседний калькулятор.
Под результат: 1 карта H200. Наличие и срок уточняем при запросе.
ближайшая конфигурация: 2 × H200 NVL (другая редакция — H200 NVL, карта PCIe; памяти на карту столько же)
Серверы на H200
Модели до 122 млрд параметров в 8 битах
ближайшая конфигурация: 2 × H200 NVL — вариант этой позиции (другая редакция — H200 NVL, карта PCIe; памяти на карту столько же)
Серверы на H200
Модели до 405 млрд параметров в 8 битах
ближайшая конфигурация: 8 × H200
Серверы на H200
Модели до 753 млрд параметров в 8 битах
Ориентир по памяти, не по скорости. Реальное потребление зависит от движка и его настроек. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Веса = число параметров × бит на параметр ÷ 8. Например, 70,6 млрд параметров в FP8 — это 70,6 ГБ.
KV-кэш на один запрос = 2 × слои × KV-головы × размер головы × байты на значение × длина контекста. Кэш умножается на число одновременных запросов.
У части моделей внимание устроено иначе, и общая формула завышает кэш в разы. Для них считаем по своей схеме: скользящее окно (Gemma, gpt-oss) — полный кэш только у глобальных слоёв; линейное внимание (Qwen 3.5–3.8) — кэш только у слоёв с полным вниманием; сжатый кэш MLA (DeepSeek, GigaChat 3.x, Kimi, GLM) — слои × (ранг + размер позиционной части).
Итог = (веса + кэш) × 1,2. Число карт = итог ÷ память карты, вверх до целого. 1 ГБ = 10⁹ байт, как в характеристиках ускорителей.
Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Оптимальный вариант выбирается среди ускорителей каталога по правилу: меньше всего карт; при равенстве — тот, где занято не больше 90 % памяти; затем — меньший суммарный объём памяти. Скорость в этом правиле не участвует.
Погрешность. Запас 20 % — правило, а не замер: реальное потребление лежит между «веса + кэш» и этим значением, для очень больших моделей правило завышает. Для моделей с нестандартным вниманием кэш — оценка по полям config.json, погрешность этой части — до двух раз; на итог это влияет мало, пока кэш меньше весов. «На практике 1, 2, 4, 8 карт» — обычная практика движков, а не требование производителя.
Источники.
Данные справочников — на 06.10.2026.
Память для других моделей сразу по всем картам — таблица видеопамяти для 30 языковых моделей.
Что считаем. Память под модель складывается из весов и KV-кэша — запомненного контекста каждого запроса. К сумме прибавляется запас на служебные нужды движка.
Веса = число параметров × бит на параметр ÷ 8. KV-кэш одного запроса = 2 × слои × KV-головы × размер головы × байт на значение × длина контекста; он умножается на число одновременных запросов. У моделей с нестандартным вниманием (скользящее окно, линейное внимание, сжатый кэш MLA) кэш считается по своей схеме, поэтому для них это оценка с большей погрешностью.
Итог = (веса + KV-кэш) × 1,2. Число карт = итог ÷ память карты, вверх до целого; на практике движки делят модель на 1, 2, 4, 8… карт, и в расчёте показаны оба числа. 1 ГБ = 10⁹ байт. Скорость ответа расчёт не определяет — только поместится ли модель.
Результат. Нужно 87,9 ГБ видеопамяти: одной карты хватает у RTX PRO 6000 (96 ГБ), H200 (141 ГБ) и B200 (180 ГБ); у H100 (80 ГБ) нужны две. У B300 в расчётах 270 ГБ — в одной карте помещается.
| Модель | FP16 | FP8 | INT4 |
|---|---|---|---|
| Llama 3.1 8B Instruct | 20,6 | 10,9 | 6,1 |
| Qwen3 32B | 81,2 | 41,9 | 22,2 |
| Llama 3.3 70B Instruct | 172,6 | 87,9 | 45,6 |
| Mistral Large 2411 (123B) | 297,8 | 150,7 | 77,1 |
| Llama 3.1 405B Instruct | 979,1 | 492,1 | 248,6 |
Источник: эталон расчёта сайта (контрольные примеры) и данные — параметры моделей, размер чисел по точностям, характеристики ускорителей, проверено 06.10.2026.
По формуле инструмента (та же функция, что в калькуляторе): контекст 8 192 токена, один запрос, KV-кэш в FP16, запас 20 %. Строка Llama 3.3 70B в FP8 совпадает с примером выше. Черновая оценка по памяти, не по скорости.
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
Проверяйте важное у инженера
Отвечает программа. Не пишите персональные данные; контакты — только в форме.
Политика обработкиКонтакты оставляйте в форме: в чат их писать не нужно. Перед отправкой я заменю их меткой.