Забавянето при преобразуване на текст в реч е времето от изпращането на текста до първия чут звук. При гласов агент или автоматични надписи именно то определя качеството. Speechify API предлага няколко начина да го намалите. В този текст описваме девет от тях – от избора на модел до повторното използване на връзки.
За техническите подробности по всеки подход, вижте публикациите в changelog на speechify.ai. Започнете с обяснението за стрийминг TTS на speechify.ai/streaming-tts.
Как да избера най-бързия TTS модел?
Използвайте Simba 3.2 за английски. Това е препоръчаният модел, оптимизиран за стрийминг, с най-ниско време до първи звук. За многоезичен текст Simba 3.0 добавя езиков параметър и остава бърз. По-старите модели запазват съвместимостта, но увеличават забавянето.
Изберете модел според задачата. За агенти с минимално забавяне – Simba 3.2. За пакетна обработка на аудиокниги времето не е толкова критично, така че може да използвате всеки модел.
Да използвам ли стрийминг, вместо да чакам целия файл?
Да, когато потребителят слуша в реално време. Използвайте POST /v1/audio/stream и пускайте аудиото, докато пристига, вместо да чакате целия файл. Стрийминг endpoint-ът връща звука на части, така че първият звук се чува за части от секундата: https://docs.speechify.ai/build/api-reference/v1/audio/stream
Ако ви трябват времеви маркери или wordmarks, използвайте POST /v1/audio/stream/with-timestamps: https://docs.speechify.ai/build/api-reference/v1/audio/stream/with-timestamps
Помага ли edge deployment?
Може да съкрати времето за заявка. Edge функция, която извиква API и връща аудиото обратно, работи по-близо до потребителя. В крайна сметка общото забавяне зависи от пътя до API сървъра и обратно, независимо дали заявката идва от потребителя, приложението или edge.
Кой аудиоформат е най-бърз?
Изберете формат, който клиентът може да възпроизведе без допълнително кодиране. За телефонни системи ulaw_8000 е съвместим с Twilio. За браузъри – PCM или форматът, който плеърът ви поддържа директно, за да избегнете декодиране.
Колкото по-малко преобразувания има между API и говорителя, толкова по-кратко е изчакването.
Как паралелната обработка намалява възприетото забавяне?
Генерирайте няколко кратки сегмента едновременно. Десет надписа наведнъж са по-бързи от последователната обработка. API поддържа паралелни заявки, затова групирайте задачите, когато е възможно.
Защо е добре да се използва повторно една връзка?
Отворете една HTTP връзка и я поддържайте активна. TLS handshake-ите и установяването на нови връзки добавят разход при хиляди заявки. Повторното използване премахва този разход при всяко повикване.
Мога ли да кеширам повтарящ се текст?
Кеширайте аудио за често използван текст. Ключови фрази, поздрави и стандартни UI низове се повтарят постоянно. Запазете генерирания клип според входа, гласа и модела и го използвайте отново. Темата за намаляване на разходите чрез кеширане е разгледана подробно.
Как да намаля дължината на входа?
По-краткият текст се синтезира по-бързо. Премахвайте излишното, съкращавайте въведението и изпращайте само нужното за потребителя. По-малко текст означава по-малко звук и по-бърз старт.
Може ли таймингът по дума да прикрие латентността?
Да. Стриймвайте с POST /v1/audio/stream/with-timestamps за wordmarks, докато аудиото пристига. Показвайте надписите дума по дума, така че потребителят да вижда напредъка, докато останалата част се зарежда. Така усещането е за по-бърза работа, дори общата дължина да не се променя.
Често задавани въпроси
Каква е добра цел за TTS латентност?
При гласови агенти се стремете към първи звук в рамките на няколкостотин милисекунди. Стриймингът помага да го постигнете. При пакетни задачи е по-важна общата продължителност, а не първият байт.
Стриймингът по-скъп ли е?
Не. Таксуването е на символ, независимо от начина на доставка.
Кой е най-бързият модел в Speechify?
Simba 3.2. Това е препоръчаният натурален модел за стрийминг с най-бързо време до първи звук на английски.
Да кеширам ли TTS аудио?
Да, при често повтарящ се текст. Кеширайте според входа, гласа и модела и използвайте клипа отново, вместо да го генерирате наново.
