Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Чем A100 80GB отличается от RTX PRO 6000 и какой выбрать

Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.

Коротко

  • Главное отличие RTX PRO 6000 от A100 80GB — память: 96 ГБ против 80 ГБ, на 20 % больше.
  • Полоса памяти: 1,6 ТБ/с у RTX PRO 6000, 2,04 ТБ/с у A100 80GB.
  • Шина между картами: нет у RTX PRO 6000, 600 ГБ/с у A100 80GB.
  • Формат NVFP4 есть только у RTX PRO 6000.
  • На одной карте при весах в 8 битах (у A100 80GB формата FP8 нет — считается только память) и контексте 8 192 токена помещаются 19 из 30 моделей справочника у RTX PRO 6000 и 18 у A100 80GB.

RTX PRO 6000 96 ГБ · A100 80GB 80 ГБ — к результату

Ссылкой на сравнение можно поделиться: выбранные карты записываются в адрес страницы.

Чем отличаются RTX PRO 6000 и A100 80GB?

RTX PRO 6000 · A100 80GB

  • 96 ГБRTX PRO 6000 · GDDR7 ECC · до 600 Вт · карта для слота
  • 80 ГБA100 80GB · HBM2e · до 400 Вт · модуль для платы HGX

Что это значит

  • В RTX PRO 6000 помещается модель или контекст в 1,2 раза больше, чем в A100 80GB.
  • У A100 80GB карты связаны шиной NVLink, у RTX PRO 6000 шины нет — обмен идёт по PCIe: модель, которая не помещается в одну карту, на RTX PRO 6000 работает медленнее.
  • RTX PRO 6000 считает в 4-битном формате NVFP4; у A100 80GB этого формата нет.
  • A100 80GB — модуль для платы HGX; RTX PRO 6000 — карта для слота PCIe: её ставят по 2, 4 или 8 в серверы 2U–4U.
  • RTX PRO 6000 потребляет больше: до 600 Вт против до 400 Вт.

Отношение характеристик не равно отношению скорости на вашей задаче.

Какие характеристики у RTX PRO 6000 и A100 80GB?

Характеристики ускорителей
ХарактеристикаRTX PRO 6000A100 80GBРазница с RTX PRO 6000
Память на карту96 ГБ GDDR7 ECC80 ГБ HBM2eна 17 % меньше
Память сервера на 8 карт768 ГБ640 ГБна 17 % меньше
Полоса памяти1 597 ГБ/с2 039 ГБ/сна 28 % больше
FP8, TFLOPS2 000 — режим производителем не указанформата нетне сравниваем: режим не указан
FP4 (NVFP4), TFLOPS4 000 — режим производителем не указанформата нетне сравниваем: режим не указан
FP16, TFLOPS1 000 — режим производителем не указан312не сравниваем: режим не указан
Мощность на картудо 600 Втдо 400 Втна 33 % меньше
Сервер на 8 карт, мощностьдо 9,1 кВт (данные производителя серверов этого класса в полной сборке)——
NVLinkнет600 ГБ/с—
ИсполнениеPCIe-карта, PCIe Gen5модуль SXM, SXM (HGX)—
Поколение и год анонсаBlackwell, 2025Ampere, 2020—

Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.

Разночтения источников
  • RTX PRO 6000. NVIDIA не уточняет, с разреженностью (sparsity) или без неё даны значения для этой карты
  • RTX PRO 6000. У редакций Workstation и Max-Q — 1 792 ГБ/с
  • A100 80GB. INT8 — 624 TOPS; формата FP8 у этого поколения нет

Когда брать RTX PRO 6000, а когда A100 80GB?

  • RTX PRO 6000 — берите, если

    • модель или контекст не помещаются в 80 ГБ: у RTX PRO 6000 96 ГБ на карту
    • планируете 4-битный формат NVFP4: у A100 80GB этого формата нет
    • нужен сервер 2U–4U на 2, 4 или 8 карт в слотах: NVIDIA A100 80GB SXM — модуль для платы HGX; есть и версия для слота PCIe — до 300 Вт, в этом сравнении её нет
    • A100 80GB в текущем каталоге нет; серверы на RTX PRO 6000 — в каталоге (наличие и срок — по запросу)

  • A100 80GB — берите, если

    • модель нужно делить на несколько карт: у A100 80GB карты связаны шиной NVLink (600 ГБ/с), у RTX PRO 6000 шины нет — обмен идёт по PCIe
    • нужна плата на восемь GPU в одном сервере: A100 80GB — модуль для такой платы, RTX PRO 6000 — карта для слота
    • ограничено питание или охлаждение стойки: до 400 Вт на карту против 600
    • задача упирается в скорость памяти: полоса 2 039 ГБ/с против 1 597

Какие модели поместятся на одной карте — RTX PRO 6000 или A100 80GB?

Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: RTX PRO 6000 — 19, A100 80GB — 18.

Модели на одной карте
МодельПамять1 × RTX PRO 60001 × A100 80GB
Llama 3.3 70B Instructнужно 87,9 ГБвпритыкнет
Qwen3 32Bнужно 41,9 ГБдада
Qwen3.8 27Bнужно 34 ГБдада
DeepSeek-R1 (671B)нужно 822,1 ГБнетнет
gpt-oss-120bнужно 140,6 ГБнетнет
Gemma 4 31Bнужно 39,3 ГБдада
T-pro-it-2.1 (32B)нужно 41,9 ГБдада
GigaChat 3.1 10B-A1.8B (MoE)нужно 14,1 ГБдада
YandexGPT 5 Lite 8Bнужно 10,9 ГБдада
Mistral Small 3.2 24Bнужно 30,4 ГБдада

Проверить свою модель

Что показывают замеры из одного источника?

Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.

В каких серверах каталога стоят эти ускорители?

До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.

В каталоге серверов с NVIDIA A100 нет — опишите задачу в заявке, инженер ответит, что можно предложить.

Серверы на RTX PRO 6000

8 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
8 × RTX PRO 6000, 96 ГБ
Видеопамять
768 ГБ
Процессоры
2 × CPU — по платформе
Высота и питание
4U · до 9,1 кВт
Охлаждение
воздушное

Модели до 438 млрд параметров в 8 битах

Наличие уточняется

Серверы на RTX PRO 6000

4 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
4 × RTX PRO 6000, 96 ГБ
Видеопамять
384 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 235 млрд параметров в 8 битах

Наличие уточняется
Смотреть каталог

Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.

Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.

Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.

NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.

Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.

Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.

Источники.

Данные справочников — на 06.10.2026.

Подробно об ускорителях пары: NVIDIA RTX PRO 6000 Blackwell и NVIDIA A100.

Обновлено
Подобрать Запросить КП Чат