Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Чем H100 отличается от L40S и какой выбрать

Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.

Коротко

  • Главное отличие H100 от L40S — память: 80 ГБ против 48 ГБ, на 67 % больше.
  • Полоса памяти: 864 ГБ/с у L40S, 3,35 ТБ/с у H100.
  • Шина между картами: нет у L40S, 900 ГБ/с у H100.
  • L40S — PCIe-карта, H100 — модуль SXM.
  • Мощность: до 350 Вт у L40S, до 700 Вт у H100.
  • На одной карте при FP8 и контексте 8 192 токена помещаются 18 из 30 моделей справочника у L40S и 18 у H100.

L40S 48 ГБ · H100 80 ГБ — к результату

Ссылкой на сравнение можно поделиться: выбранные карты записываются в адрес страницы.

Чем отличаются L40S и H100?

L40S · H100

  • 48 ГБL40S · GDDR6 ECC · до 350 Вт · карта для слота
  • 80 ГБH100 · HBM3 · до 700 Вт · модуль для платы HGX

Что это значит

  • В H100 помещается модель или контекст в 1,67 раза больше, чем в L40S.
  • У H100 карты связаны шиной NVLink, у L40S шины нет — обмен идёт по PCIe: модель, которая не помещается в одну карту, на L40S работает медленнее.
  • H100 — модуль для платы HGX на четыре или восемь GPU; L40S — карта для слота PCIe: её ставят по 2, 4 или 8 в серверы 2U–4U.
  • H100 потребляет больше: до 700 Вт против до 350 Вт.

Отношение характеристик не равно отношению скорости на вашей задаче.

Какие характеристики у L40S и H100?

Характеристики ускорителей
ХарактеристикаL40SH100Разница с L40S
Память на карту48 ГБ GDDR6 ECC80 ГБ HBM3на 67 % больше
Память сервера на 8 карт384 ГБ640 ГБна 67 % больше
Полоса памяти864 ГБ/с3 350 ГБ/св 3,88 раза больше
FP8, TFLOPS7331 979в 2,7 раза больше
FP4 (NVFP4), TFLOPSформата нетформата нетнет данных
FP16, TFLOPS362,05989,5в 2,73 раза больше
Мощность на картудо 350 Втдо 700 Втв 2 раза больше
Сервер на 8 карт, мощность—до 10,2 кВт — система NVIDIA DGX H100 / H200; серверов на H100 в каталоге нет—
NVLinkнет900 ГБ/с (NVLink 4)—
ИсполнениеPCIe-карта, PCIe Gen4 x16модуль SXM, SXM (HGX)—
Поколение и год анонсаAda, 2023Hopper, 2022—

Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.

Разночтения источников
  • L40S. FP8 733 TFLOPS без разреженности (1 466 — с разреженностью); FP16 362,05 — значение NVIDIA без разреженности
  • H100. По странице NVIDIA; в документе 2022 года — 3 ТБ/с и 2 000 TFLOPS
  • H100. В листингах встречается обозначение SXM5
Питание и стойка: сервер на 8 × H100Готова ли серверная

Когда брать L40S, а когда H100?

  • L40S — берите, если

    • нужен сервер 2U–4U на 2, 4 или 8 карт в слотах: NVIDIA H100 SXM — модуль для платы HGX на четыре или восемь GPU; карта для слота — редакция H100 NVL
    • ограничено питание или охлаждение стойки: до 350 Вт на карту против 700

  • H100 — берите, если

    • модель или контекст не помещаются в 48 ГБ: у H100 80 ГБ на карту
    • модель нужно делить на несколько карт: у H100 карты связаны шиной NVLink (900 ГБ/с (NVLink 4)), у L40S шины нет — обмен идёт по PCIe
    • нужна плата на восемь GPU в одном сервере: H100 — модуль для такой платы, L40S — карта для слота
    • задача упирается в скорость памяти: полоса 3 350 ГБ/с против 864
    • нужно больше вычислений на карту: FP8 1 979 TFLOPS против 733 (паспортные значения)

Какие модели поместятся на одной карте — L40S или H100?

Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: L40S — 18, H100 — 18.

Модели на одной карте
МодельПамять1 × L40S1 × H100
Llama 3.3 70B Instructнужно 87,9 ГБнетнет
Qwen3 32Bнужно 41,9 ГБдада
Qwen3.8 27Bнужно 34 ГБдада
DeepSeek-R1 (671B)нужно 822,1 ГБнетнет
gpt-oss-120bнужно 140,6 ГБнетнет
Gemma 4 31Bнужно 39,3 ГБдада
T-pro-it-2.1 (32B)нужно 41,9 ГБдада
GigaChat 3.1 10B-A1.8B (MoE)нужно 14,1 ГБдада
YandexGPT 5 Lite 8Bнужно 10,9 ГБдада
Mistral Small 3.2 24Bнужно 30,4 ГБдада

Проверить свою модель

Что показывают замеры из одного источника?

Для этой пары нет замеров, сделанных в одном источнике на одной модели и с одной точностью, — паспортные числа сравнивать со скоростью нельзя.

В каких серверах каталога стоят эти ускорители?

До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.

В каталоге серверов с NVIDIA L40S нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.

В каталоге серверов с NVIDIA H100 нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.

Смотреть каталог

Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.

Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.

Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.

NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.

Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.

Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.

Источники.

Данные справочников — на 06.10.2026.

Подробно об ускорителях пары: NVIDIA L40S и NVIDIA H100.

Что ещё посчитать перед запросом КП?

Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.

Все инструменты подбора и расчёта

Обновлено

Запросить КП

Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.

Подобрать Запросить КП Чат