Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Чем H200 отличается от H100 и какой выбрать

Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.

Коротко

  • Главное отличие H200 от H100 — память: 141 ГБ против 80 ГБ, на 76 % больше.
  • Полоса памяти: 3,35 ТБ/с у H100, 4,8 ТБ/с у H200.
  • На одной карте при FP8 и контексте 8 192 токена помещаются 18 из 30 моделей справочника у H100 и 21 у H200.

H100 80 ГБ · H200 141 ГБ — к результату

Ссылкой на сравнение можно поделиться: выбранные карты записываются в адрес страницы.

Чем отличаются H100 и H200?

H100 · H200

  • 80 ГБH100 · HBM3 · до 700 Вт · модуль для платы HGX
  • 141 ГБH200 · HBM3e · до 700 Вт · модуль для платы HGX

Что это значит

  • В H200 помещается модель или контекст в 1,76 раза больше, чем в H100.

Отношение характеристик не равно отношению скорости на вашей задаче.

Какие характеристики у H100 и H200?

Характеристики ускорителей
ХарактеристикаH100H200Разница с H100
Память на карту80 ГБ HBM3141 ГБ HBM3eна 76 % больше
Память сервера на 8 карт640 ГБ1 128 ГБна 76 % больше
Полоса памяти3 350 ГБ/с4 800 ГБ/сна 43 % больше
FP8, TFLOPS1 9791 979одинаково
FP4 (NVFP4), TFLOPSформата нетформата нетнет данных
FP16, TFLOPS989,5989,5одинаково
Мощность на картудо 700 Втдо 700 Втодинаково
Сервер на 8 карт, мощностьдо 10,2 кВт — система NVIDIA DGX H100 / H200; серверов на H100 в каталоге нетдо 15 кВт (по опыту российского провайдера; у системы NVIDIA DGX — до 10,2 кВт)основания разные: у систем NVIDIA DGX на H100 и на H200 — одинаково, до 10,2 кВт
NVLink900 ГБ/с (NVLink 4)900 ГБ/с (NVLink 4)одинаково
Исполнениемодуль SXM, SXM (HGX)модуль SXM, SXM (HGX)одинаково
Поколение и год анонсаHopper, 2022Hopper, 2023—

Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.

Разночтения источников
  • H100. По странице NVIDIA; в документе 2022 года — 3 ТБ/с и 2 000 TFLOPS
  • H100. В листингах встречается обозначение SXM5
  • H200. В листингах встречается обозначение SXM5

Когда брать H100, а когда H200?

  • H100 — берите, если

    H100 не превосходит H200 ни по памяти, шине, формату чисел, мощности и полосе памяти, ни по FP8 и FP4 — выбирайте по наличию серверов и их составу под вашу задачу.

  • H200 — берите, если

    • модель или контекст не помещаются в 80 ГБ: у H200 141 ГБ на карту
    • задача упирается в скорость памяти: полоса 4 800 ГБ/с против 3 350
    • серверы на H100 в каталоге не показаны, их поставляем под заказ; серверы на H200 — в каталоге (наличие и срок — по запросу)

Какие модели поместятся на одной карте — H100 или H200?

Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: H100 — 18, H200 — 21.

Модели на одной карте
МодельПамять1 × H1001 × H200
Llama 3.3 70B Instructнужно 87,9 ГБнетда
Qwen3 32Bнужно 41,9 ГБдада
Qwen3.8 27Bнужно 34 ГБдада
DeepSeek-R1 (671B)нужно 822,1 ГБнетнет
gpt-oss-120bнужно 140,6 ГБнетвпритык
Gemma 4 31Bнужно 39,3 ГБдада
T-pro-it-2.1 (32B)нужно 41,9 ГБдада
GigaChat 3.1 10B-A1.8B (MoE)нужно 14,1 ГБдада
YandexGPT 5 Lite 8Bнужно 10,9 ГБдада
Mistral Small 3.2 24Bнужно 30,4 ГБдада

Проверить свою модель

Что показывают замеры из одного источника?

Замеры из одного источника
Что измереноH100H200ОтношениеИсточник
Llama 3.3 70B Instruct, FP8, запросы 8K/1K, 38 токенов в секунду на пользователя — токенов в секунду на карту1 847,63 310H200 к H100: 1,79SemiAnalysis InferenceX
Llama 3.3 70B Instruct, FP8, запросы 8K/1K, 58 токенов в секунду на пользователя — токенов в секунду на карту1 171,42 516,2H200 к H100: 2,15SemiAnalysis InferenceX
Llama 3.3 70B Instruct, FP8, запросы 8K/1K, 78 токенов в секунду на пользователя — токенов в секунду на карту877,41 864H200 к H100: 2,12SemiAnalysis InferenceX
Llama 3.3 70B Instruct, FP8, запросы 1000 / 1000, потолок пропускной способности — токенов в секунду в пересчёте на одну карту (замер: H100 — на 2 картах, H200 — на одной карте)2 102,52 909H200 к H100: 1,38NVIDIA TensorRT-LLM 1.2.0rc6
Qwen3 235B-A22B (MoE), FP8, запросы 1000 / 1000, потолок пропускной способности — токенов в секунду в пересчёте на одну карту (замер: H100 — на 8 картах, H200 — на 8 картах)1 862,22 973,6H200 к H100: 1,6NVIDIA TensorRT-LLM 1.2.0rc6

Показаны только строки, где обе карты измерены в одном источнике, на одной модели и с одной точностью. Замер — не обещание скорости на вашей задаче.

В каких серверах каталога стоят эти ускорители?

До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.

В каталоге серверов с NVIDIA H100 нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.

Серверы на H200

8 × H200 · 2 × CPU · 8U

Ускорители
8 × NVIDIA H200, 141 ГБ
Видеопамять
1,1 ТБ
Процессоры
2 × Intel Xeon или AMD EPYC — по платформе
Высота и питание
8U · площадка — 15 кВт (DGX — до 10,2)
Охлаждение
воздушное

Модели до 753 млрд параметров в 8 битах

Наличие уточняется

Серверы на H200

4 × H200 NVL · 2 × CPU · 4U

Ускорители
4 × NVIDIA H200 NVL, 141 ГБ
Видеопамять
564 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 405 млрд параметров в 8 битах

Наличие уточняется
Смотреть каталог

Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.

Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.

Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.

NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.

Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.

Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.

Источники.

Данные справочников — на 06.10.2026.

Подробно об ускорителях пары: NVIDIA H100 и NVIDIA H200.

Обновлено
Подобрать Запросить КП Чат