Подбор GPU-сервера и расчёты для ИИ: калькуляторы, квизы и мастера
Пять шагов от задачи до закупки. На каждом — калькулятор, квиз или мастер: результат виден сразу, расчёт можно отправить инженеру.
Коротко
- На сайте 18 инструментов подбора и расчёта GPU-сервера: 12 калькуляторов и демонстраций, сравнение GPU, проверка «Запустится ли модель», два квиза, мастер закупки и генератор ТЗ. Они идут по 5 шагам пути покупателя — от задачи до закупки.
- Подбор начинают с памяти: калькулятор покажет, сколько видеопамяти нужно модели и сколько карт каждого типа, и сразу отсечёт карты, на которые модель не помещается.
- Результат виден сразу, без формы; расчёт можно отправить инженеру вместе с заявкой.
Шаг 1. Какая у вас задача?
Опишите, что должно работать, — получите варианты серверов и расчёт под сценарий.
- Подбор сервера за 6 вопросов Два-три варианта серверов из каталога под вашу задачу, площадку и способ закупки. квиз · 2 минуты
- RAG: база знаний на своих документах Сколько фрагментов и памяти под векторную базу и какой длины получится запрос к модели. калькулятор · 2 минуты
- Голосовой ИИ: одновременные разговоры Сколько GPU нужно под распознавание и синтез речи для N одновременных разговоров — по замерам NVIDIA Riva. калькулятор · 1 минута
- VDI и vGPU: рабочие места Сколько GPU и серверов нужно под N виртуальных рабочих мест. калькулятор · 1 минута
- Видеоаналитика: камеры на GPU Сколько камер обработает одна GPU и сколько карт нужно под ваш объект. калькулятор · 1 минута
Шаг 2. Какая GPU нужна и сколько?
Память под модель, число карт под пользователей, сравнение ускорителей.
- Память GPU под модель Сколько видеопамяти нужно модели с вашим контекстом и сколько это карт каждого типа. калькулятор · 1 минута
- Сколько пользователей выдержит Сколько карт нужно, чтобы N человек получали ответ с нужной скоростью, — черновая оценка по опубликованным замерам. калькулятор · 2 минуты
- Запустится ли модель на этой GPU Поместится ли модель X на N карт Y и с каким запасом. проверка · 1 минута
- Сравнение GPU Чем две-три карты отличаются по памяти, шине и мощности и какие модели поместятся на одной. сравнение · 1 минута
- Дообучение: LoRA, QLoRA или полное Сколько памяти и карт нужно, чтобы дообучить модель выбранным способом. калькулятор · 1 минута
- Как выглядит N токенов в секунду Насколько быстро печатается ответ при 18, 38, 58, 78 и 238 токенах в секунду. демонстрация · 1 минута
Шаг 3. Какая сеть и какое хранилище нужны?
Сколько коммутаторов и кабелей нужно между серверами и какой объём — под данные, модели и контрольные точки.
Шаг 4. Что нужно от площадки?
Киловатты, стойки, охлаждение и готовность серверной.
Шаг 5. Как купить?
Покупка или аренда, путь закупки по 44-ФЗ и 223-ФЗ, техническое задание.
- Купить или арендовать Через сколько месяцев покупка обгонит аренду и при какой загрузке выгоднее купить. калькулятор · 2 минуты
- Как купить: 44-ФЗ, 223-ФЗ или коммерческая закупка Какой из пяти путей закупки относится к вам и что для него подготовить. мастер · 1 минута
- Генератор технического задания Проект ТЗ на GPU-сервер без товарных знаков — файлом. генератор · 3 минуты
Почему подбор начинают с памяти?
Модель, точность и контекст — на выходе память и число карт каждого типа.
87,9 ГБ видеопамяти: веса 70,6 ГБ, кэш контекста 2,68 ГБ, запас 20 %
- 1 ×RTX PRO 6000
96 ГБ - 2 ×H100
80 ГБ - 1 ×H200
141 ГБ - 1 ×B200
180 ГБ - 1 ×B300
270 ГБ в расчётах
Один запрос одновременно; в рамке — оптимальная по памяти карта каталога. Ориентир по памяти, не по скорости. NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ.
Что происходит с расчётом после заявки?
Каждый инструмент заканчивается кнопкой заявки: введённые значения и результат прикладываются к ней, повторять их не нужно. Расчёты — оценка по формулам и опубликованным данным; точную конфигурацию инженер определяет по вашей нагрузке.