Чем H100 отличается от A100 80GB и какой выбрать
Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.
Коротко
- Память у A100 80GB и H100 одинакова, 80 ГБ; главное отличие H100 от A100 80GB — полоса памяти: 3,35 ТБ/с против 2,04 ТБ/с, на 64 % больше.
- Шина между картами: 600 ГБ/с у A100 80GB, 900 ГБ/с у H100.
- Мощность: до 400 Вт у A100 80GB, до 700 Вт у H100.
- На одной карте при весах в 8 битах (у A100 80GB формата FP8 нет — считается только память) и контексте 8 192 токена помещаются 18 из 30 моделей справочника у A100 80GB и 18 у H100.
A100 80GB 80 ГБ · H100 80 ГБ — к результату
Чем отличаются A100 80GB и H100?
A100 80GB · H100
- 80 ГБA100 80GB · HBM2e · до 400 Вт · модуль для платы HGX
- 80 ГБH100 · HBM3 · до 700 Вт · модуль для платы HGX
Что это значит
- H100 потребляет больше: до 700 Вт против до 400 Вт.
Отношение характеристик не равно отношению скорости на вашей задаче.
Какие характеристики у A100 80GB и H100?
| Характеристика | A100 80GB | H100 | Разница с A100 80GB |
|---|---|---|---|
| Память на карту | 80 ГБ HBM2e | 80 ГБ HBM3 | одинаково |
| Память сервера на 8 карт | 640 ГБ | 640 ГБ | одинаково |
| Полоса памяти | 2 039 ГБ/с | 3 350 ГБ/с | на 64 % больше |
| FP8, TFLOPS | формата нет | 1 979 | нет данных |
| FP4 (NVFP4), TFLOPS | формата нет | формата нет | нет данных |
| FP16, TFLOPS | 312 | 989,5 | в 3,17 раза больше |
| Мощность на карту | до 400 Вт | до 700 Вт | на 75 % больше |
| Сервер на 8 карт, мощность | — | до 10,2 кВт — система NVIDIA DGX H100 / H200; серверов на H100 в каталоге нет | — |
| NVLink | 600 ГБ/с | 900 ГБ/с (NVLink 4) | — |
| Исполнение | модуль SXM, SXM (HGX) | модуль SXM, SXM (HGX) | одинаково |
| Поколение и год анонса | Ampere, 2020 | Hopper, 2022 | — |
Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.
Разночтения источников
- A100 80GB. INT8 — 624 TOPS; формата FP8 у этого поколения нет
- H100. По странице NVIDIA; в документе 2022 года — 3 ТБ/с и 2 000 TFLOPS
- H100. В листингах встречается обозначение SXM5
Когда брать A100 80GB, а когда H100?
A100 80GB — берите, если
- ограничено питание или охлаждение стойки: до 400 Вт на карту против 700
H100 — берите, если
- задача упирается в скорость памяти: полоса 3 350 ГБ/с против 2 039
Какие модели поместятся на одной карте — A100 80GB или H100?
Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: A100 80GB — 18, H100 — 18.
| Модель | Память | 1 × A100 80GB | 1 × H100 |
|---|---|---|---|
| Llama 3.3 70B Instruct | нужно 87,9 ГБ | нет | нет |
| Qwen3 32B | нужно 41,9 ГБ | да | да |
| Qwen3.8 27B | нужно 34 ГБ | да | да |
| DeepSeek-R1 (671B) | нужно 822,1 ГБ | нет | нет |
| gpt-oss-120b | нужно 140,6 ГБ | нет | нет |
| Gemma 4 31B | нужно 39,3 ГБ | да | да |
| T-pro-it-2.1 (32B) | нужно 41,9 ГБ | да | да |
| GigaChat 3.1 10B-A1.8B (MoE) | нужно 14,1 ГБ | да | да |
| YandexGPT 5 Lite 8B | нужно 10,9 ГБ | да | да |
| Mistral Small 3.2 24B | нужно 30,4 ГБ | да | да |
Что показывают замеры из одного источника?
Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.
В каких серверах каталога стоят эти ускорители?
До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.
В каталоге серверов с NVIDIA A100 нет — опишите задачу в заявке, инженер ответит, что можно предложить.
В каталоге серверов с NVIDIA H100 нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.
Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Как считаем: формула, источники, погрешность
Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.
Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.
Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.
NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.
Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.
Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.
Источники.
- NVIDIA: H100
- NVIDIA: H200
- NVIDIA: HGX (B200 и B300)
- NVIDIA: блог о Blackwell Ultra
- NVIDIA: RTX PRO 6000 Blackwell Server Edition
- NVIDIA: L40S
- SemiAnalysis InferenceX — замеры пропускной способности при заданной скорости на пользователя
- NVIDIA TensorRT-LLM: обзор производительности
- NVIDIA DeepStream: производительность
Данные справочников — на 06.10.2026.
Какие пары ускорителей уже сравнили?
L40S и RTX PRO 6000 · L40S и H100 · L40S и H200 · L40S и B200 · L40S и B300 · RTX PRO 6000 и A100 80GB · RTX PRO 6000 и H100 · RTX PRO 6000 и H200 · RTX PRO 6000 и B200 · RTX PRO 6000 и B300 · A100 80GB и H100 · A100 80GB и H200 · A100 80GB и B200 · A100 80GB и B300 · H100 и H200 · H100 и B200 · H100 и B300 · H200 и B200 · H200 и B300 · B200 и B300
Подробно об ускорителях пары: NVIDIA A100 и NVIDIA H100.
Что ещё посчитать перед запросом КП?
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
- Память GPU под модель Сколько видеопамяти нужно модели с вашим контекстом и сколько это карт каждого типа. калькулятор · 1 минута
- Сколько пользователей выдержит Сколько карт нужно, чтобы N человек получали ответ с нужной скоростью, — черновая оценка по опубликованным замерам. калькулятор · 2 минуты
- Запустится ли модель на этой GPU Поместится ли модель X на N карт Y и с каким запасом. проверка · 1 минута
- Дообучение: LoRA, QLoRA или полное Сколько памяти и карт нужно, чтобы дообучить модель выбранным способом. калькулятор · 1 минута