Как мы добились быстрого первого отклика

Быстрый первый отклик — не магия, а сумма инженерных решений. Расскажем, что под капотом: короткое начинает звучать почти сразу, а длинное считается в фоне.

Стриминг чанками

Мы не ждём генерации всего файла: первый звук уходит пользователю, пока модель досчитывает остальное. Это даёт ощущение мгновенной реакции на старте даже для длинных текстов (их полный синтез идёт в фоне с прогрессом).

Потоковая выдача должна проверяться отдельно от обычного WAV-экспорта.

Кэш и прогрев

Частые фразы и прогретые модели снимают холодный старт. В сумме это и даёт стабильный быстрый старт независимо от нагрузки.

Попробуйте сами — бесплатный стартовый пакет символов при регистрации.