Серверы на RTX PRO 6000
8 × RTX PRO 6000 · 2 × CPU · 4U
- Ускорители
- 8 × RTX PRO 6000, 96 ГБ
- Видеопамять
- 768 ГБ
- Процессоры
- 2 × CPU — по платформе
- Высота и питание
- 4U · до 9,1 кВт
- Охлаждение
- воздушное
Модели до 438 млрд параметров в 8 битах
L40S — карта PCIe предыдущего поколения с 48 ГБ памяти и мощностью 350 Вт. Её берут для небольших моделей и для расширения парка; для новых проектов чаще считают RTX PRO 6000 с вдвое большей памятью.
Коротко
| Параметр | L40S |
|---|---|
| Память | 48 ГБ GDDR6 ECC |
| Полоса памяти | 864 ГБ/с |
| Мощность | 350 Вт |
| Исполнение | PCIe-карта |
| Интерфейс | PCIe Gen4 x16 |
| Шина NVLink | нет |
| Поколение | Ada |
| Год анонса | 2023 |
Источник: страница производителя, проверено 06.10.2026.
Оценка по памяти: веса модели, контекст одного запроса и запас 20 %.
Точность FP8, контекст 8 192 токена, один запрос. «Да» — занято не больше 90 % памяти; «впритык» — от 90 до 100 %.
| Модель | Память | 1 × 48 ГБ | 2 × 96 ГБ | 4 × 192 ГБ | 8 × 384 ГБ |
|---|---|---|---|---|---|
| Llama 3.3 70B Instruct | нужно 87,9 ГБ | нет | впритык · 92 % | да · 46 % | да · 23 % |
| Qwen3 32B | нужно 41,9 ГБ | да · 87 % | да · 44 % | да · 22 % | да · 11 % |
| Qwen3.8 27B | нужно 34 ГБ | да · 71 % | да · 35 % | да · 18 % | да · 9 % |
| DeepSeek-R1 (671B) | нужно 822,1 ГБ | нет | нет | нет | нет |
| gpt-oss-120b | нужно 140,6 ГБ | нет | нет | да · 73 % | да · 37 % |
| Gemma 4 31B | нужно 39,3 ГБ | да · 82 % | да · 41 % | да · 20 % | да · 10 % |
| T-pro-it-2.1 (32B) | нужно 41,9 ГБ | да · 87 % | да · 44 % | да · 22 % | да · 11 % |
| GigaChat 3.1 10B-A1.8B (MoE) | нужно 14,1 ГБ | да · 29 % | да · 15 % | да · 7 % | да · 4 % |
| YandexGPT 5 Lite 8B | нужно 10,9 ГБ | да · 23 % | да · 11 % | да · 6 % | да · 3 % |
| Mistral Small 3.2 24B | нужно 30,4 ГБ | да · 63 % | да · 32 % | да · 16 % | да · 8 % |
«Да» значит «помещается по памяти». В 16 битах памяти нужно вдвое больше, в 4 битах — примерно вдвое меньше.
Серверы на RTX PRO 6000
Модели до 438 млрд параметров в 8 битах
Серверы на RTX PRO 6000
Модели до 235 млрд параметров в 8 битах
Серверы на RTX PRO 6000
Модели до 122 млрд параметров в 8 битах
| L40S | RTX PRO 6000 | H100 NVL | |
|---|---|---|---|
| Память | 48 ГБ GDDR6 ECC | 96 ГБ GDDR7 ECC | 94 ГБ HBM3 |
| Полоса памяти | 864 ГБ/с | 1,6 ТБ/с | 3,9 ТБ/с |
| Мощность | 350 Вт | до 600 Вт | 350–400 Вт |
| Исполнение | PCIe-карта | PCIe-карта | PCIe-карта |
| Шина NVLink | нет | нет | мост 600 ГБ/с |
Источник: страницы производителя, проверено 06.10.2026.
350 Вт на карту. Охлаждение воздушное: карте нужен серверный продув спереди назад.
Серверы на L40S поставляем под заказ по вашей спецификации. Срок уточняется при запросе.
У RTX PRO 6000 памяти вдвое больше — 96 ГБ против 48 ГБ — и есть 4-битный формат NVFP4. L40S берут под готовую спецификацию и для расширения парка.
В 8 битах — модели до 32 млрд параметров. Модель на 70 млрд параметров даже в 4 битах (INT4) занимает около 95 % памяти карты — впритык; надёжнее две карты.
Нет, шины NVLink у L40S нет: карты обмениваются данными по PCIe.
Гарантию и сервисную поддержку предоставляет ООО «ВИСТЛАН» на условиях договора: срок и порядок замены фиксируются в спецификации. Гарантийные обязательства производителя на территории РФ могут не действовать.
Опишите задачу в паре фраз — инженер подберёт конфигурацию. Ответим в рабочее время.
Пн–Пт 9:00–18:00 мск
Форма работает при включённом JavaScript. Напишите на gpu@vistlan.ru или позвоните: +7 (495) 638-50-58.
Проверяйте важное у инженера
Отвечает программа. Не пишите персональные данные; контакты — только в форме.
Политика обработкиКонтакты оставляйте в форме: в чат их писать не нужно. Перед отправкой я заменю их меткой.