Серверные видеокарты NVIDIA для ИИ: таблица характеристик
Память, мощность и полоса памяти — три числа, по которым выбирают ускоритель. Отсортируйте таблицу, отметьте две-три карты и сравните их.
Коротко
- Справочник: таблица из 11 ускорителей и редакций NVIDIA и 7 страниц отдельных ускорителей — B300, B200, H200, H100, A100, RTX PRO 6000 Blackwell, L40S.
- Память — от 48 до 288 ГБ на карту, полоса памяти — от 864 ГБ/с до 8 ТБ/с. Сначала смотрят на память: в неё должны поместиться веса модели и контекст запросов.
- Данные NVIDIA и производителей серверов, проверено 06.10.2026.
Какая видеокарта нужна для нейросети?
Все ускорители одной таблицей: нажмите на заголовок столбца, чтобы отсортировать, и отметьте две-три карты для сравнения.
| Ускоритель | FP8 без разреженности, TFLOPS | Исполнение | Шина NVLink | В каталоге | ||||
|---|---|---|---|---|---|---|---|---|
| до 288 HBM3e | 8 ТБ/с | 1 100 Вт в сервере (предел чипа — до 1 400 Вт) | 2025 | 5 000 | модуль SXM | 1,8 ТБ/с (NVLink 5) | 2 позиции | |
| 180 HBM3e | 8 ТБ/с | 1 000 Вт в сервере (предел чипа — до 1 200 Вт) | 2024 | 5 000 | модуль SXM | 1,8 ТБ/с (NVLink 5) | 1 позиция | |
| 141 HBM3e | 4,8 ТБ/с | до 700 Вт | 2023 | 1 979 | модуль SXM | 900 ГБ/с (NVLink 4) | 1 позиция | |
| 141 HBM3e | 4,8 ТБ/с | до 600 Вт | 2024 | 1 670 | PCIe-карта | мост на 2 или 4 карты, 900 ГБ/с на GPU | 2 позиции | |
| 96 GDDR7 ECC | 1,6 ТБ/с | до 600 Вт | 2025 | 2 000 — режим производителем не указан | PCIe-карта | нет | 4 позиции | |
| 96 GDDR7 ECC | 1,79 ТБ/с | 600 Вт | 2025 | нет данных | PCIe-карта | нет | 1 позиция | |
| 96 GDDR7 ECC | 1,79 ТБ/с | 300 Вт | 2025 | нет данных | PCIe-карта | нет | 1 позиция | |
| 94 HBM3 | 3,9 ТБ/с | 350–400 Вт | 2023 | 1 670 | PCIe-карта | мост 600 ГБ/с | в каталоге нет | |
| 80 HBM2e | 2,04 ТБ/с | 400 Вт | 2020 | формата FP8 нет | модуль SXM | 600 ГБ/с | в каталоге нет | |
| 80 HBM3 | 3,35 ТБ/с | 700 Вт | 2022 | 1 979 | модуль SXM | 900 ГБ/с (NVLink 4) | в каталоге нет | |
| 48 GDDR6 ECC | 864 ГБ/с | 350 Вт | 2023 | 733 | PCIe-карта | нет | в каталоге нет |
Сравнить выбранные Отметьте два или три ускорителя в таблице
Источник: страницы производителя — RTX PRO 6000, RTX PRO 6000 Workstation, RTX PRO 6000 Max-Q, L40S, A100 80GB, H100, H200, B200, B300; проверено 06.10.2026.
Сколько видеопамяти нужно конкретным языковым моделям — в таблице «Сколько видеопамяти нужно моделям ИИ».
Память B300: NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ. Мощность B200 и B300 — в сервере, в скобках — предел чипа по данным NVIDIA; у остальных — максимум по данным производителя. FP8 — паспортные значения производителя без разреженности; у RTX PRO 6000 производитель режим не указал. У B200 и B300 на странице HGX — 4 500 TFLOPS.
Какие ускорители разобраны на отдельных страницах?
Характеристики, какие модели поместятся и серверы из каталога.
- NVIDIA B300 до 288 ГБ память ускорителя · 8 ТБ/с полоса памяти Обучение и полное дообучение больших моделей
- NVIDIA B200 180 ГБ память ускорителя · 8 ТБ/с полоса памяти Обучение и полное дообучение моделей
- NVIDIA H200 141 ГБ память ускорителя · 4,8 ТБ/с полоса памяти Инференс с длинным контекстом: много памяти и широкая полоса
- NVIDIA H100 80 ГБ память версии SXM · 3,35 ТБ/с полоса памяти Расширение парка серверов на H100
- NVIDIA A100 80 ГБ память HBM2e · 2,04 ТБ/с полоса памяти Расширение парка серверов на A100
- RTX PRO 6000 Blackwell 96 ГБ память карты · до 600 Вт мощность Инференс моделей, которые помещаются в одну-две карты
- NVIDIA L40S 48 ГБ память карты · 350 Вт мощность Небольшие модели: до 32 млрд параметров в 8 битах на одной карте
Что чаще всего спрашивают про ускорители NVIDIA?
По какому параметру выбирать ускоритель?
Сначала по памяти: в неё должны поместиться веса модели и контекст запросов. Затем по полосе памяти — от неё зависит скорость генерации ответа. Мощность важна для площадки: от неё зависят питание и охлаждение.
Что такое SXM и PCIe?
SXM — модуль ускорителя для платы HGX: у H100 и H200 — платы на четыре или восемь ускорителей, у B200 и B300 — на восемь; в обычный слот сервера он не ставится. PCIe — обычная карта расширения: её ставят в сервер 2U или 4U, по одной и больше.
Чем отличаются форматы FP16, FP8 и 4 бита?
Это точность хранения весов модели. Чем меньше бит, тем меньше памяти нужно модели, но ответы могут стать менее точными. Формат NVFP4 поддерживают только ускорители поколения Blackwell.
Сколько памяти у B300: 288 или 270 ГБ?
NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Не знаете, какой ускоритель нужен?
Опишите модель или задачу — инженер посчитает память и число карт. Ответим в рабочее время.
Пн–Пт 9:00–18:00 мск
Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.