Серверы на RTX PRO 6000
8 × RTX PRO 6000 · 2 × CPU · 4U
- Ускорители
- 8 × RTX PRO 6000, 96 ГБ
- Видеопамять
- 768 ГБ
- Процессоры
- 2 × CPU — по платформе
- Высота и питание
- 4U · до 9,1 кВт
- Охлаждение
- воздушное
Модели до 438 млрд параметров в 8 битах
Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.
Коротко
RTX PRO 6000 96 ГБ · H100 80 ГБ — к результату
RTX PRO 6000 · H100
Что это значит
Отношение характеристик не равно отношению скорости на вашей задаче.
| Характеристика | RTX PRO 6000 | H100 | Разница с RTX PRO 6000 |
|---|---|---|---|
| Память на карту | 96 ГБ GDDR7 ECC | 80 ГБ HBM3 | на 17 % меньше |
| Память сервера на 8 карт | 768 ГБ | 640 ГБ | на 17 % меньше |
| Полоса памяти | 1 597 ГБ/с | 3 350 ГБ/с | в 2,1 раза больше |
| FP8, TFLOPS | 2 000 — режим производителем не указан | 1 979 | не сравниваем: режим не указан |
| FP4 (NVFP4), TFLOPS | 4 000 — режим производителем не указан | формата нет | не сравниваем: режим не указан |
| FP16, TFLOPS | 1 000 — режим производителем не указан | 989,5 | не сравниваем: режим не указан |
| Мощность на карту | до 600 Вт | до 700 Вт | на 17 % больше |
| Сервер на 8 карт, мощность | до 9,1 кВт (данные производителя серверов этого класса в полной сборке) | до 10,2 кВт — система NVIDIA DGX H100 / H200; серверов на H100 в каталоге нет | основания разные: у одной карты — сервер каталога, у другой — справочная система |
| NVLink | нет | 900 ГБ/с (NVLink 4) | — |
| Исполнение | PCIe-карта, PCIe Gen5 | модуль SXM, SXM (HGX) | — |
| Поколение и год анонса | Blackwell, 2025 | Hopper, 2022 | — |
Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.
Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: RTX PRO 6000 — 19, H100 — 18.
| Модель | Память | 1 × RTX PRO 6000 | 1 × H100 |
|---|---|---|---|
| Llama 3.3 70B Instruct | нужно 87,9 ГБ | впритык | нет |
| Qwen3 32B | нужно 41,9 ГБ | да | да |
| Qwen3.8 27B | нужно 34 ГБ | да | да |
| DeepSeek-R1 (671B) | нужно 822,1 ГБ | нет | нет |
| gpt-oss-120b | нужно 140,6 ГБ | нет | нет |
| Gemma 4 31B | нужно 39,3 ГБ | да | да |
| T-pro-it-2.1 (32B) | нужно 41,9 ГБ | да | да |
| GigaChat 3.1 10B-A1.8B (MoE) | нужно 14,1 ГБ | да | да |
| YandexGPT 5 Lite 8B | нужно 10,9 ГБ | да | да |
| Mistral Small 3.2 24B | нужно 30,4 ГБ | да | да |
Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.
До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.
В каталоге серверов с NVIDIA H100 нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.
Серверы на RTX PRO 6000
Модели до 438 млрд параметров в 8 битах
Серверы на RTX PRO 6000
Модели до 235 млрд параметров в 8 битах
Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.
Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.
Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.
NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.
Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.
Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.
Источники.
Данные справочников — на 06.10.2026.
L40S и RTX PRO 6000 · L40S и H100 · L40S и H200 · L40S и B200 · L40S и B300 · RTX PRO 6000 и A100 80GB · RTX PRO 6000 и H100 · RTX PRO 6000 и H200 · RTX PRO 6000 и B200 · RTX PRO 6000 и B300 · A100 80GB и H100 · A100 80GB и H200 · A100 80GB и B200 · A100 80GB и B300 · H100 и H200 · H100 и B200 · H100 и B300 · H200 и B200 · H200 и B300 · B200 и B300
Подробно об ускорителях пары: NVIDIA RTX PRO 6000 Blackwell и NVIDIA H100.
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
Проверяйте важное у инженера
Отвечает программа. Не пишите персональные данные; контакты — только в форме.
Политика обработкиКонтакты оставляйте в форме: в чат их писать не нужно. Перед отправкой я заменю их меткой.