Чем B300 отличается от A100 80GB и какой выбрать
Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.
Коротко
- Главное отличие B300 от A100 80GB — память: 270 ГБ в расчётах (до 288 ГБ по данным NVIDIA) против 80 ГБ, в 3,38 раза больше.
- Полоса памяти: 2,04 ТБ/с у A100 80GB, 8 ТБ/с у B300.
- Шина между картами: 600 ГБ/с у A100 80GB, 1,8 ТБ/с у B300.
- Формат NVFP4 есть только у B300.
- На одной карте при весах в 8 битах (у A100 80GB формата FP8 нет — считается только память) и контексте 8 192 токена помещаются 18 из 30 моделей справочника у A100 80GB и 23 у B300.
A100 80GB 80 ГБ · B300 270 ГБ — к результату
Чем отличаются A100 80GB и B300?
A100 80GB · B300
- 80 ГБA100 80GB · HBM2e · до 400 Вт · модуль для платы HGX
- 270 ГБB300 · HBM3e · 1 100 Вт в сервере (предел чипа — до 1 400) · модуль для платы на 8 GPU
NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Что это значит
- В B300 помещается модель или контекст в 3,38 раза больше, чем в A100 80GB.
- B300 считает в 4-битном формате NVFP4; у A100 80GB этого формата нет.
Отношение характеристик не равно отношению скорости на вашей задаче.
Какие характеристики у A100 80GB и B300?
| Характеристика | A100 80GB | B300 | Разница с A100 80GB |
|---|---|---|---|
| Память на карту | 80 ГБ HBM2e | 270 ГБ HBM3e — в расчётах | в 3,38 раза больше |
| Память сервера на 8 карт | 640 ГБ | 2 160 ГБ | в 3,38 раза больше |
| Полоса памяти | 2 039 ГБ/с | 8 000 ГБ/с | в 3,92 раза больше |
| FP8, TFLOPS | формата нет | 5 000 | нет данных |
| FP4 (NVFP4), TFLOPS | формата нет | 15 000 | нет данных |
| FP16, TFLOPS | 312 | 2 250 | в 7,21 раза больше |
| Мощность на карту | до 400 Вт | 1 100 Вт в сервере (предел чипа — до 1 400) | в 2,75 раза больше — основания разные |
| Сервер на 8 карт, мощность | — | типично 14,5 кВт, до 16,4 в пике | — |
| NVLink | 600 ГБ/с | 1,8 ТБ/с (NVLink 5) | — |
| Исполнение | модуль SXM, SXM (HGX) | модуль SXM, SXM6 (HGX) | — |
| Поколение и год анонса | Ampere, 2020 | Blackwell Ultra, 2025 | — |
Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.
Разночтения источников
- A100 80GB. INT8 — 624 TOPS; формата FP8 у этого поколения нет
- B300. В блоге NVIDIA для разработчиков: FP8 5 и FP4 15 PFLOPS без разреженности; на странице HGX B300 — 4,5 и 13,5. FP16 2,25 — расчёт из суммарной цифры HGX
- B300. FP8 по другой странице производителя — 4 500 TFLOPS; FP4 по другой странице производителя — 13 500 TFLOPS
- B300. 1 100 Вт в серверах 8U на плате HGX по данным трёх производителей серверов; предельная мощность чипа по NVIDIA — до 1 400 Вт
Когда брать A100 80GB, а когда B300?
A100 80GB — берите, если
- ограничено питание или охлаждение стойки: до 400 Вт на карту против 1 100 Вт в сервере
B300 — берите, если
- модель или контекст не помещаются в 80 ГБ: у B300 270 ГБ на карту
- планируете 4-битный формат NVFP4: у A100 80GB этого формата нет
- задача упирается в скорость памяти: полоса 8 000 ГБ/с против 2 039
- A100 80GB в текущем каталоге нет; серверы на B300 — в каталоге (наличие и срок — по запросу)
Какие модели поместятся на одной карте — A100 80GB или B300?
Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: A100 80GB — 18, B300 — 23.
| Модель | Память | 1 × A100 80GB | 1 × B300 |
|---|---|---|---|
| Llama 3.3 70B Instruct | нужно 87,9 ГБ | нет | да |
| Qwen3 32B | нужно 41,9 ГБ | да | да |
| Qwen3.8 27B | нужно 34 ГБ | да | да |
| DeepSeek-R1 (671B) | нужно 822,1 ГБ | нет | нет |
| gpt-oss-120b | нужно 140,6 ГБ | нет | да |
| Gemma 4 31B | нужно 39,3 ГБ | да | да |
| T-pro-it-2.1 (32B) | нужно 41,9 ГБ | да | да |
| GigaChat 3.1 10B-A1.8B (MoE) | нужно 14,1 ГБ | да | да |
| YandexGPT 5 Lite 8B | нужно 10,9 ГБ | да | да |
| Mistral Small 3.2 24B | нужно 30,4 ГБ | да | да |
Что показывают замеры из одного источника?
Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.
В каких серверах каталога стоят эти ускорители?
До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.
Узлы HGX B300 — по запросу: раздел «Узлы HGX» в каталоге.
В каталоге серверов с NVIDIA A100 нет — опишите задачу в заявке, инженер ответит, что можно предложить.
Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Как считаем: формула, источники, погрешность
Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.
Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.
Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.
NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.
Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.
Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.
Источники.
- NVIDIA: H100
- NVIDIA: H200
- NVIDIA: HGX (B200 и B300)
- NVIDIA: блог о Blackwell Ultra
- NVIDIA: RTX PRO 6000 Blackwell Server Edition
- NVIDIA: L40S
- SemiAnalysis InferenceX — замеры пропускной способности при заданной скорости на пользователя
- NVIDIA TensorRT-LLM: обзор производительности
- NVIDIA DeepStream: производительность
Данные справочников — на 06.10.2026.
Какие пары ускорителей уже сравнили?
L40S и RTX PRO 6000 · L40S и H100 · L40S и H200 · L40S и B200 · L40S и B300 · RTX PRO 6000 и A100 80GB · RTX PRO 6000 и H100 · RTX PRO 6000 и H200 · RTX PRO 6000 и B200 · RTX PRO 6000 и B300 · A100 80GB и H100 · A100 80GB и H200 · A100 80GB и B200 · A100 80GB и B300 · H100 и H200 · H100 и B200 · H100 и B300 · H200 и B200 · H200 и B300 · B200 и B300
Подробно об ускорителях пары: NVIDIA A100 и NVIDIA B300.
Что ещё посчитать перед запросом КП?
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
- Память GPU под модель Сколько видеопамяти нужно модели с вашим контекстом и сколько это карт каждого типа. калькулятор · 1 минута
- Сколько пользователей выдержит Сколько карт нужно, чтобы N человек получали ответ с нужной скоростью, — черновая оценка по опубликованным замерам. калькулятор · 2 минуты
- Запустится ли модель на этой GPU Поместится ли модель X на N карт Y и с каким запасом. проверка · 1 минута
- Дообучение: LoRA, QLoRA или полное Сколько памяти и карт нужно, чтобы дообучить модель выбранным способом. калькулятор · 1 минута