Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Чем H100 отличается от RTX PRO 6000 и какой выбрать

Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.

Коротко

  • Главное отличие RTX PRO 6000 от H100 — память: 96 ГБ против 80 ГБ, на 20 % больше.
  • Полоса памяти: 1,6 ТБ/с у RTX PRO 6000, 3,35 ТБ/с у H100.
  • Шина между картами: нет у RTX PRO 6000, 900 ГБ/с у H100.
  • Формат NVFP4 есть только у RTX PRO 6000.
  • RTX PRO 6000 — PCIe-карта, H100 — модуль SXM.
  • На одной карте при FP8 и контексте 8 192 токена помещаются 19 из 30 моделей справочника у RTX PRO 6000 и 18 у H100.

RTX PRO 6000 96 ГБ · H100 80 ГБ — к результату

Ссылкой на сравнение можно поделиться: выбранные карты записываются в адрес страницы.

Чем отличаются RTX PRO 6000 и H100?

RTX PRO 6000 · H100

  • 96 ГБRTX PRO 6000 · GDDR7 ECC · до 600 Вт · карта для слота
  • 80 ГБH100 · HBM3 · до 700 Вт · модуль для платы HGX

Что это значит

  • В RTX PRO 6000 помещается модель или контекст в 1,2 раза больше, чем в H100.
  • У H100 карты связаны шиной NVLink, у RTX PRO 6000 шины нет — обмен идёт по PCIe: модель, которая не помещается в одну карту, на RTX PRO 6000 работает медленнее.
  • RTX PRO 6000 считает в 4-битном формате NVFP4; у H100 этого формата нет.
  • H100 — модуль для платы HGX на четыре или восемь GPU; RTX PRO 6000 — карта для слота PCIe: её ставят по 2, 4 или 8 в серверы 2U–4U.
  • H100 потребляет больше: до 700 Вт против до 600 Вт.

Отношение характеристик не равно отношению скорости на вашей задаче.

Какие характеристики у RTX PRO 6000 и H100?

Характеристики ускорителей
ХарактеристикаRTX PRO 6000H100Разница с RTX PRO 6000
Память на карту96 ГБ GDDR7 ECC80 ГБ HBM3на 17 % меньше
Память сервера на 8 карт768 ГБ640 ГБна 17 % меньше
Полоса памяти1 597 ГБ/с3 350 ГБ/св 2,1 раза больше
FP8, TFLOPS2 000 — режим производителем не указан1 979не сравниваем: режим не указан
FP4 (NVFP4), TFLOPS4 000 — режим производителем не указанформата нетне сравниваем: режим не указан
FP16, TFLOPS1 000 — режим производителем не указан989,5не сравниваем: режим не указан
Мощность на картудо 600 Втдо 700 Втна 17 % больше
Сервер на 8 карт, мощностьдо 9,1 кВт (данные производителя серверов этого класса в полной сборке)до 10,2 кВт — система NVIDIA DGX H100 / H200; серверов на H100 в каталоге нетоснования разные: у одной карты — сервер каталога, у другой — справочная система
NVLinkнет900 ГБ/с (NVLink 4)—
ИсполнениеPCIe-карта, PCIe Gen5модуль SXM, SXM (HGX)—
Поколение и год анонсаBlackwell, 2025Hopper, 2022—

Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.

Разночтения источников
  • RTX PRO 6000. NVIDIA не уточняет, с разреженностью (sparsity) или без неё даны значения для этой карты
  • RTX PRO 6000. У редакций Workstation и Max-Q — 1 792 ГБ/с
  • H100. По странице NVIDIA; в документе 2022 года — 3 ТБ/с и 2 000 TFLOPS
  • H100. В листингах встречается обозначение SXM5

Когда брать RTX PRO 6000, а когда H100?

  • RTX PRO 6000 — берите, если

    • модель или контекст не помещаются в 80 ГБ: у RTX PRO 6000 96 ГБ на карту
    • планируете 4-битный формат NVFP4: у H100 этого формата нет
    • нужен сервер 2U–4U на 2, 4 или 8 карт в слотах: NVIDIA H100 SXM — модуль для платы HGX на четыре или восемь GPU; карта для слота — редакция H100 NVL
    • ограничено питание или охлаждение стойки: до 600 Вт на карту против 700
    • серверы на H100 в каталоге не показаны, их поставляем под заказ; серверы на RTX PRO 6000 — в каталоге (наличие и срок — по запросу)

  • H100 — берите, если

    • модель нужно делить на несколько карт: у H100 карты связаны шиной NVLink (900 ГБ/с (NVLink 4)), у RTX PRO 6000 шины нет — обмен идёт по PCIe
    • нужна плата на восемь GPU в одном сервере: H100 — модуль для такой платы, RTX PRO 6000 — карта для слота
    • задача упирается в скорость памяти: полоса 3 350 ГБ/с против 1 597

Какие модели поместятся на одной карте — RTX PRO 6000 или H100?

Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: RTX PRO 6000 — 19, H100 — 18.

Модели на одной карте
МодельПамять1 × RTX PRO 60001 × H100
Llama 3.3 70B Instructнужно 87,9 ГБвпритыкнет
Qwen3 32Bнужно 41,9 ГБдада
Qwen3.8 27Bнужно 34 ГБдада
DeepSeek-R1 (671B)нужно 822,1 ГБнетнет
gpt-oss-120bнужно 140,6 ГБнетнет
Gemma 4 31Bнужно 39,3 ГБдада
T-pro-it-2.1 (32B)нужно 41,9 ГБдада
GigaChat 3.1 10B-A1.8B (MoE)нужно 14,1 ГБдада
YandexGPT 5 Lite 8Bнужно 10,9 ГБдада
Mistral Small 3.2 24Bнужно 30,4 ГБдада

Проверить свою модель

Что показывают замеры из одного источника?

Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.

В каких серверах каталога стоят эти ускорители?

До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.

В каталоге серверов с NVIDIA H100 нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.

Серверы на RTX PRO 6000

8 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
8 × RTX PRO 6000, 96 ГБ
Видеопамять
768 ГБ
Процессоры
2 × CPU — по платформе
Высота и питание
4U · до 9,1 кВт
Охлаждение
воздушное

Модели до 438 млрд параметров в 8 битах

Наличие уточняется

Серверы на RTX PRO 6000

4 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
4 × RTX PRO 6000, 96 ГБ
Видеопамять
384 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 235 млрд параметров в 8 битах

Наличие уточняется
Смотреть каталог

Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.

Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.

Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.

NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.

Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.

Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.

Источники.

Данные справочников — на 06.10.2026.

Подробно об ускорителях пары: NVIDIA RTX PRO 6000 Blackwell и NVIDIA H100.

Обновлено
Подобрать Запросить КП Чат