Выберите модель и способ — покажем, сколько видеопамяти понадобится и сколько это карт каждого типа.
Коротко
Память под дообучение — к результату
LoRA замораживает веса модели и учит добавку меньше процента от неё, поэтому памяти нужно в несколько раз меньше, чем при полном дообучении.
Под результат: 1 карта RTX PRO 6000. Наличие и срок уточняем при запросе.
1 × RTX PRO 6000 в одном сервере — вариант этой позиции
Серверы на RTX PRO 6000
Модели до 122 млрд параметров в 8 битах
1 × RTX PRO 6000 Workstation в одном сервере — вариант этой позиции (другая редакция — RTX PRO 6000 Workstation; памяти на карту столько же)
Рабочие станции
Модели до 122 млрд параметров в 8 битах
ближайшая конфигурация: 4 × RTX PRO 6000
Серверы на RTX PRO 6000
Модели до 235 млрд параметров в 8 битах
Память — по опубликованной оценочной таблице; длинные примеры и большой батч требуют больше. Время — черновая оценка. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Память берётся из оценочной таблицы проекта LLaMA-Factory (раздел Hardware Requirement): столбцы 7, 14, 30 и 70 млрд параметров для шести способов. Между столбцами — линейная интерполяция, до 7 млрд — пропорционально, после 70 млрд — прирост на каждый миллиард. Авторы таблицы сами называют значения оценочными, поэтому мы показываем диапазон от −30 до +50 %.
Число карт — память, делённая на память ускорителя, с округлением вверх. Теоретический минимум полного дообучения — 16 байт на параметр: 2 байта веса, 2 байта градиенты, 12 байт состояния оптимизатора (EleutherAI, Transformer Math 101).
Время: число операций ≈ 6 × параметры × токены датасета × эпохи, делённое на паспортную производительность карты в 16-битной точности с вашим коэффициентом использования. Это порядок величины; коэффициент — допущение, поэтому блок свёрнут и помечен.
Погрешность. Память — от −30 до +50 % (таблица оценочная); время — порядок величины.
Данные справочников — на 06.10.2026.
Что считаем. Сколько видеопамяти нужно, чтобы дообучить модель выбранным способом, и сколько карт каждого типа это составляет. Время обучения — отдельный свёрнутый блок: это порядок величины с допущением о доле используемой производительности карты, а не прогноз.
Память берётся из оценочной таблицы проекта LLaMA-Factory (раздел Hardware Requirement): столбцы 7, 14, 30 и 70 млрд параметров для шести способов. Между столбцами — линейная интерполяция, до 7 млрд — пропорционально, после 70 млрд — прирост на каждый миллиард. Авторы таблицы называют значения оценочными, поэтому показан диапазон от −30 до +50 %.
Число карт = память ÷ память ускорителя, вверх до целого. Теоретический минимум полного дообучения — 16 байт на параметр: 2 байта веса, 2 байта градиенты, 12 байт состояния оптимизатора.
Результат. Для LoRA на 32,8 млрд параметров (Qwen3 32B) нужно около 70,6 ГБ видеопамяти: хватает одной карты любого из пяти типов: RTX PRO 6000, H100, H200, B200 или B300.
| Модель | LoRA | QLoRA 4 бита | Полное, смешанная точность |
|---|---|---|---|
| 7 млрд параметров | ≈ 16 ГБ (1 карта H200) | ≈ 6 ГБ (1 карта H200) | ≈ 120 ГБ (1 карта H200) |
| 32,8 млрд параметров | ≈ 70,6 ГБ (1 карта H200) | ≈ 25,7 ГБ (1 карта H200) | ≈ 641 ГБ (5 карт H200) |
| 70 млрд параметров | ≈ 160 ГБ (2 карты H200) | ≈ 48 ГБ (1 карта H200) | ≈ 1,2 ТБ (9 карт H200) |
Источник: эталон расчёта сайта (контрольные примеры) и данные — опубликованные замеры и оценки, характеристики ускорителей, параметры моделей, проверено 06.10.2026.
По формуле инструмента: таблица памяти LLaMA-Factory с интерполяцией, число карт H200 — память ÷ 141 ГБ вверх до целого. Строка 32,8 млрд параметров в LoRA совпадает с примером выше и с результатом калькулятора по умолчанию. Черновая оценка: погрешность таблицы −30…+50 %.
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
Проверяйте важное у инженера
Отвечает программа. Не пишите персональные данные; контакты — только в форме.
Политика обработкиКонтакты оставляйте в форме: в чат их писать не нужно. Перед отправкой я заменю их меткой.