Введите число разговоров — оценим, сколько карт нужно под распознавание и синтез речи по опубликованным замерам, и честно покажем, каких данных нет.
Коротко
Карты под распознавание — к результату
Вилка по синтезу — между расчётом по пропускной способности и по наибольшей измеренной точке; разница может быть в несколько раз. Погрешность всей оценки — до двух раз.
Замеры NVIDIA сделаны на H100 80 ГБ HBM3. Числа потоков для карт нашего каталога NVIDIA не публикует. Ниже — паспортные память и производительность FP16 (dense) рядом с H100: по ним видно, какие карты не слабее H100, но сколько разговоров они держат, покажет только тест на стенде.
| Карта | Память | FP16 (dense), TFLOPS | Рядом с H100 |
|---|---|---|---|
| H100 — карта замера | 80 ГБ | 989,5 | на ней сделан замер NVIDIA Riva |
| H200 | 141 ГБ | 989,5 | не меньше H100 по памяти и по вычислениям FP16 |
| H200 NVL | 141 ГБ | 835 | памяти больше, вычислений FP16 меньше — около 84 % от H100 |
| B200 | 180 ГБ¹ | 2 250² | не меньше H100 по памяти и по вычислениям FP16 |
| B300 | 270 ГБ³ | 2 250² | не меньше H100 по памяти и по вычислениям FP16 |
| RTX PRO 6000 | 96 ГБ | — | памяти больше; с разреженностью или без неё даны значения вычислений, производитель не указал — по вычислениям не сравниваем |
¹ 180 ГБ — в системах HGX и DGX B200; 192 ГБ — максимум чипа и стойка GB200 NVL72. В расчётах 180
² FP16 — расчёт из суммарной цифры платы HGX по данным NVIDIA.
³ NVIDIA и часть производителей серверов указывают 288 ГБ на ускоритель, часть — 270 ГБ; в расчётах берём 270 ГБ
Распознавание идёт всё время разговора, синтез — только когда говорит робот, поэтому одновременных потоков синтеза меньше. Карт под синтез расчёт даёт вилкой — от оптимистичной оценки до осторожной; точное число определяет тест.
Замеров распознавания речи на картах каталога NVIDIA не публикует. Это серверы для теста на стенде: на картах, у которых памяти не меньше, чем у H100; как они соотносятся с H100 по вычислениям — в таблице выше и в пометке над карточкой. Число карт под ваши потоки определит тест. Наличие и срок уточняем при запросе.
Серверы на H200
Модели до 405 млрд параметров в 8 битах
Серверы на RTX PRO 6000
Модели до 122 млрд параметров в 8 битах
Серверы на RTX PRO 6000
Модели до 235 млрд параметров в 8 битах
Замеры NVIDIA Riva на картах H100, L40, A100. Для карт каталога публичных замеров нет — считаем под ваши потоки на стенде. Расчёт — оценка по формуле и опубликованным данным на дату, указанную в источниках. Это не обязательство и не оферта. Точную конфигурацию определяет инженер по вашей нагрузке и проверяет тестом.
Карт под распознавание — число разговоров, делённое на максимум потоков одной карты в замере, с округлением вверх. Под синтез — число одновременно говорящих потоков, делённое либо на наибольшую измеренную точку (32 потока — осторожно), либо на пропускную способность в этой точке (оптимистично).
Источник — страницы производительности распознавания и синтеза Riva 2.15.0, потоковый режим. Русская речь — модель Conformer-CTC с языковой моделью (n-gram). Английская — Conformer-CTC без языковой модели. Для обоих языков средняя задержка дана для наибольшей табличной точки, а не для максимума потоков. Синтез — FastPitch с HiFi-GAN. «Максимум потоков» — значение «Maximum effective # of streams» из таблиц источника; как оно получено, источник не поясняет.
Карты каталога сравниваются с H100 только по паспортным данным — памяти и производительности FP16 без разреженности из справочника ускорителей сайта; пересчёта потоков по этим числам нет.
Чего здесь нет: замеров связки «распознавание, языковая модель, синтез»; замеров распознавания на картах каталога. Языковая модель диалога считается отдельным калькулятором.
Погрешность. До двух раз: замеры сделаны на других картах и в лабораторных условиях.
Источники.
Данные справочников — на 06.10.2026.
Что считаем. Сколько ускорителей нужно под распознавание и синтез речи для заданного числа одновременных разговоров — по опубликованным замерам NVIDIA Riva в потоковом режиме. Замеры есть для карт H100, L40 и A100; для карт каталога их нет, и расчёт для них не делается.
Распознавание: карт = разговоры ÷ максимум потоков одной карты в замере, вверх до целого. Синтез: число одновременно говорящих потоков (разговоры × доля времени, когда говорит система) делится либо на наибольшую измеренную точку (осторожная оценка), либо на пропускную способность в этой точке (оптимистичная). Итог — вилка из двух чисел.
Русская речь — модель Conformer-CTC с языковой моделью (n-gram), английская — без языковой модели; синтез — FastPitch с HiFi-GAN. Средняя задержка дана для наибольшей табличной точки, а не для максимума потоков. Замеров связки «распознавание, языковая модель, синтез» нет; языковая модель диалога считается отдельным калькулятором. Погрешность — до двух раз.
Результат. Для 150 разговоров: распознавание — 1 H100, синтез — от 1 до 3 H100.
| Случай | Распознавание, карт | Синтез (осторожно), карт | Синтез (оптимистично), карт | Задержка, мс |
|---|---|---|---|---|
| 150 разговоров, H100, порция 160 мс, русская речь, говорят 50 % | 1 | 3 | 1 | 84 |
| 500 разговоров, H100, порция 160 мс, русская речь, говорят 50 % | 2 | 8 | 1 | 84 |
| 2 000 разговоров, L40, порция 800 мс, русская речь, говорят 30 % | 2 | 19 | 2 | 130 |
| 150 разговоров, A100, порция 160 мс, русская речь, говорят 50 % | 1 | 3 | 1 | 75 |
| 150 разговоров, H100, порция 160 мс, английская речь, говорят 50 % | 1 | 3 | 1 | 101 |
Источник: эталон расчёта сайта (контрольные примеры) и данные — опубликованные замеры и оценки, проверено 06.10.2026.
Из эталона расчёта сайта (контрольные примеры tests.json); карты — те, на которых сделан замер NVIDIA Riva. Первая строка совпадает с примером выше. Черновая оценка: погрешность до двух раз.
Параметры переносить не нужно: у каждого инструмента свои поля и свой результат.
Проверяйте важное у инженера
Отвечает программа. Не пишите персональные данные; контакты — только в форме.
Политика обработкиКонтакты оставляйте в форме: в чат их писать не нужно. Перед отправкой я заменю их меткой.