Серверы и ускорители NVIDIA для ИИ · поставка по России с документами +7 (495) 638-50-58 Перезвоните мне
Подобрать сервер Запросить КП

Чем RTX PRO 6000 отличается от L40S и какой выбрать

Разница по каждой характеристике, модели на одной карте и серверы каталога. Карты в списках можно поменять.

Коротко

  • Главное отличие RTX PRO 6000 от L40S — память: 96 ГБ против 48 ГБ, в 2 раза больше.
  • Полоса памяти: 864 ГБ/с у L40S, 1,6 ТБ/с у RTX PRO 6000.
  • Формат NVFP4 есть только у RTX PRO 6000.
  • Мощность: до 350 Вт у L40S, до 600 Вт у RTX PRO 6000.
  • На одной карте при FP8 и контексте 8 192 токена помещаются 18 из 30 моделей справочника у L40S и 19 у RTX PRO 6000.

L40S 48 ГБ · RTX PRO 6000 96 ГБ — к результату

Ссылкой на сравнение можно поделиться: выбранные карты записываются в адрес страницы.

Чем отличаются L40S и RTX PRO 6000?

L40S · RTX PRO 6000

  • 48 ГБL40S · GDDR6 ECC · до 350 Вт · карта для слота
  • 96 ГБRTX PRO 6000 · GDDR7 ECC · до 600 Вт · карта для слота

Что это значит

  • В RTX PRO 6000 помещается модель или контекст в 2 раза больше, чем в L40S.
  • RTX PRO 6000 считает в 4-битном формате NVFP4; у L40S этого формата нет.
  • RTX PRO 6000 потребляет больше: до 600 Вт против до 350 Вт.

Отношение характеристик не равно отношению скорости на вашей задаче.

Какие характеристики у L40S и RTX PRO 6000?

Характеристики ускорителей
ХарактеристикаL40SRTX PRO 6000Разница с L40S
Память на карту48 ГБ GDDR6 ECC96 ГБ GDDR7 ECCв 2 раза больше
Память сервера на 8 карт384 ГБ768 ГБв 2 раза больше
Полоса памяти864 ГБ/с1 597 ГБ/сна 85 % больше
FP8, TFLOPS7332 000 — режим производителем не указанне сравниваем: режим не указан
FP4 (NVFP4), TFLOPSформата нет4 000 — режим производителем не указанне сравниваем: режим не указан
FP16, TFLOPS362,051 000 — режим производителем не указанне сравниваем: режим не указан
Мощность на картудо 350 Втдо 600 Втна 71 % больше
Сервер на 8 карт, мощность—до 9,1 кВт (данные производителя серверов этого класса в полной сборке)—
NVLinkнетнетодинаково
ИсполнениеPCIe-карта, PCIe Gen4 x16PCIe-карта, PCIe Gen5—
Поколение и год анонсаAda, 2023Blackwell, 2025—

Источник: данные производителя на 06.10.2026. TFLOPS — паспортные значения без разреженности, если не сказано иное.

Разночтения источников
  • L40S. FP8 733 TFLOPS без разреженности (1 466 — с разреженностью); FP16 362,05 — значение NVIDIA без разреженности
  • RTX PRO 6000. NVIDIA не уточняет, с разреженностью (sparsity) или без неё даны значения для этой карты
  • RTX PRO 6000. У редакций Workstation и Max-Q — 1 792 ГБ/с
Питание и стойка: сервер на 8 × RTX PRO 6000Готова ли серверная

Когда брать L40S, а когда RTX PRO 6000?

  • L40S — берите, если

    • ограничено питание или охлаждение стойки: до 350 Вт на карту против 600

  • RTX PRO 6000 — берите, если

    • модель или контекст не помещаются в 48 ГБ: у RTX PRO 6000 96 ГБ на карту
    • планируете 4-битный формат NVFP4: у L40S этого формата нет
    • задача упирается в скорость памяти: полоса 1 597 ГБ/с против 864
    • серверы на L40S в каталоге не показаны, их поставляем под заказ; серверы на RTX PRO 6000 — в каталоге (наличие и срок — по запросу)

Какие модели поместятся на одной карте — L40S или RTX PRO 6000?

Точность FP8, контекст 8 192 токена, один запрос, запас 20 %. Из 30 моделей справочника на одну карту помещаются: L40S — 18, RTX PRO 6000 — 19.

Модели на одной карте
МодельПамять1 × L40S1 × RTX PRO 6000
Llama 3.3 70B Instructнужно 87,9 ГБнетвпритык
Qwen3 32Bнужно 41,9 ГБдада
Qwen3.8 27Bнужно 34 ГБдада
DeepSeek-R1 (671B)нужно 822,1 ГБнетнет
gpt-oss-120bнужно 140,6 ГБнетнет
Gemma 4 31Bнужно 39,3 ГБдада
T-pro-it-2.1 (32B)нужно 41,9 ГБдада
GigaChat 3.1 10B-A1.8B (MoE)нужно 14,1 ГБдада
YandexGPT 5 Lite 8Bнужно 10,9 ГБдада
Mistral Small 3.2 24Bнужно 30,4 ГБдада

Проверить свою модель

Что показывают замеры из одного источника?

Замеры из одного источника
Что измереноL40SRTX PRO 6000ОтношениеИсточник
видеоаналитика: C-RADIO-B, FP16 — кадров в секунду на карту2 9694 241RTX PRO 6000 к L40S: 1,43NVIDIA DeepStream SDK 9.1
видеоаналитика: RT-DETR, FP16 — кадров в секунду на карту6431 037RTX PRO 6000 к L40S: 1,61NVIDIA DeepStream SDK 9.1
видеоаналитика: RT-DETR с трекером NvDCF, FP16 — кадров в секунду на карту642946RTX PRO 6000 к L40S: 1,47NVIDIA DeepStream SDK 9.1
видеоаналитика: RT-DETR (warehouse) с трекером MV3DT, FP16 — кадров в секунду на карту267538RTX PRO 6000 к L40S: 2,01NVIDIA DeepStream SDK 9.1
видеоаналитика: PeopleNet 2.6.3 с трекером MV3DT, FP16 — кадров в секунду на карту1 1141 524RTX PRO 6000 к L40S: 1,37NVIDIA DeepStream SDK 9.1
видеоаналитика: PeopleNet Transformer с трекером MV3DT, FP16 — кадров в секунду на карту142205RTX PRO 6000 к L40S: 1,44NVIDIA DeepStream SDK 9.1
видеоаналитика: Grounding-DINO, FP16 — кадров в секунду на карту107159RTX PRO 6000 к L40S: 1,49NVIDIA DeepStream SDK 9.1
видеоаналитика: TrafficCamNet Transformer Lite с трекером NvDCF, FP16 — кадров в секунду на карту643920RTX PRO 6000 к L40S: 1,43NVIDIA DeepStream SDK 9.1
видеоаналитика: SegFormer, FP16 — кадров в секунду на карту9861 291RTX PRO 6000 к L40S: 1,31NVIDIA DeepStream SDK 9.1

Показаны только строки, где обе карты измерены в одном источнике, на одной модели и с одной точностью. Замер — не обещание скорости на вашей задаче.

В каких серверах каталога стоят эти ускорители?

До двух позиций на каждый выбранный ускоритель; остальные — в разделе каталога. Наличие и срок уточняем при запросе.

В каталоге серверов с NVIDIA L40S нет — поставляем под заказ по вашей спецификации, срок уточняется при запросе.

Серверы на RTX PRO 6000

8 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
8 × RTX PRO 6000, 96 ГБ
Видеопамять
768 ГБ
Процессоры
2 × CPU — по платформе
Высота и питание
4U · до 9,1 кВт
Охлаждение
воздушное

Модели до 438 млрд параметров в 8 битах

Наличие уточняется
Запросить КП Подробнее

Серверы на RTX PRO 6000

4 × RTX PRO 6000 · 2 × CPU · 4U

Ускорители
4 × RTX PRO 6000, 96 ГБ
Видеопамять
384 ГБ
Процессоры
2 × CPU, не менее 32 ядер каждый
Высота и питание
4U · ускорители до 2,4 кВт
Охлаждение
воздушное

Модели до 235 млрд параметров в 8 битах

Наличие уточняется
Запросить КП Подробнее
Смотреть каталог

Характеристики — по данным производителя на дату проверки. Отношение характеристик не равно отношению скорости на вашей задаче. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.

Как считаем: формула, источники, погрешность

Разница — отношение значения второй (третьей) карты к значению первой: «на 76 % больше», «в 2,5 раза больше». Если у одной из карт значения нет, отношение не считается.

Выводы «что это значит» и «когда какую брать» собираются по правилам из полей справочника: память, NVLink, формат NVFP4, исполнение, мощность, полоса памяти.

Память B300. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.

Мощность. У B200 и B300 в таблице стоит мощность ускорителя в сервере (1 000 и 1 100 Вт) — по данным производителей серверов; предел чипа по NVIDIA выше — до 1 200 и до 1 400 Вт. У остальных карт — максимум по данным производителя. Когда основания у двух карт разные, рядом с разницей стоит пометка. Мощность сервера на восемь карт — та же, что в калькуляторе питания.

NVLink — шина обмена между картами: память карт она не объединяет, а ускоряет работу модели, разделённой на несколько карт.

Модели «на одной карте» считаются тем же расчётом, что в калькуляторе памяти: веса в FP8, контекст 8 192 токена, запас 20 %.

Погрешность. Паспортные числа производителя — не замеры. Там, где материалы производителя расходятся (память B200 и B300, производительность Blackwell), второе значение показано в блоке «Разночтения источников» под таблицей. Для RTX PRO 6000 производитель не уточняет, с разреженностью или без даны значения, — отношение к другим картам по этим строкам не считается.

Источники.

Данные справочников — на 06.10.2026.

Подробно об ускорителях пары: NVIDIA L40S и NVIDIA RTX PRO 6000 Blackwell.

Что ещё посчитать перед запросом КП?

Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.

Все инструменты подбора и расчёта

Обновлено

Запросить КП

Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.

Подобрать Запросить КП Чат