Text-to-speech-latens är tiden från att texten skickas tills det första ljudet hörs. I en röstassistent eller vid live-textning är den här fördröjningen avgörande. Speechifys API ger dig flera sätt att minska den. I den här artikeln går vi igenom nio alternativ, från modellval till återanvändning av anslutningar.
För mer ingående teknisk information om varje metod, se changelog-inläggen på speechify.ai. Börja gärna med guiden om streaming-TTS på speechify.ai/streaming-tts.
Hur väljer jag den snabbaste TTS-modellen?
Använd Simba 3.2 för engelska. Det är den rekommenderade modellen och den är byggd för streaming, vilket ger kortast tid till första ljudet. För flerspråkig text lägger Simba 3.0 till en språkparameter och är fortfarande snabb. Äldre modeller finns kvar för bakåtkompatibilitet men har högre latens.
Anpassa modellvalet efter behov. En röstassistent med låga latenskrav bör använda Simba 3.2. För ljudboksproduktion fungerar vilken modell som helst, eftersom svar i realtid inte behövs.
Bör jag streama i stället för att vänta på hela filen?
Ja, när användaren lyssnar direkt. Anropa POST /v1/audio/stream och spela upp ljudet medan det levereras, i stället för att vänta på hela filen. Streaming-endpointen skickar ljudet i delar, så det första ljudet kommer mycket snabbare: https://docs.speechify.ai/build/api-reference/v1/audio/stream
Om du behöver tidsstämplar eller ordmärkning i streamen kan du även använda POST /v1/audio/stream/with-timestamps-endpointen: https://docs.speechify.ai/build/api-reference/v1/audio/stream/with-timestamps
Hjälper edge-distribution?
Det kan minska svarstiden. En edge-funktion nära användaren som anropar API:t och strömmar tillbaka ljud kan ge lägre latens. Men i slutändan avgörs fördröjningen av vägen till och från vårt API, oavsett om anropet kommer från användaren, appen eller edge-noden.
Vilket utdataformat är snabbast?
Välj ett format som klienten kan spela upp direkt utan konvertering. För telefonisystem passar ulaw_8000 med Twilios standard. I webbläsare är PCM eller det format som spelaren redan stöder bäst, eftersom du slipper extra avkodning.
Ju färre omvandlingar mellan API och högtalare, desto kortare fördröjning.
Hur kan parallellisering minska den upplevda latensen?
Kör syntesen parallellt för flera korta sektioner. Att generera tio bildtexter samtidigt går snabbare än att ta dem en i taget. API:et stöder samtidiga förfrågningar, så batcha där det passar arbetsflödet.
Varför återanvända anslutningar?
Öppna en HTTP-anslutning och håll den aktiv. TLS-handskakningar och uppkoppling tar tid vid många anrop. Genom att återanvända anslutningen slipper du den kostnaden varje gång.
Vad gäller för cachelagring av återkommande text?
Cachelagra ljud för texter som används ofta. Koder, hälsningsfraser och fasta UI-texter återkommer hela tiden. Spara genererade klipp utifrån inmatning, röst och modell så att de kan återanvändas. Guiden om hur du minskar TTS-kostnader med cachelagring går igenom detta i detalj.
Hur kan jag korta ned inmatningen?
Kortare text behandlas snabbare. Ta bort standardfraser, korta ned inledningar och skicka bara den information som är relevant för användaren. Mindre text in ger snabbare leverans av det första ljudet.
Kan ord-för-ord-tidsmärkning dölja latensen?
Ja. Streama med POST /v1/audio/stream/with-timestamps för att få ordmärkning i takt med ljudet. Visa undertexter ord för ord så att användaren ser att något händer medan resten strömmas in. Upplevelsen känns snabbare även om den totala ljudlängden är densamma.
FAQ
Vad är ett bra latensmål för TTS?
För röstassistenter bör du sikta på att få första ljudet inom ett par hundra millisekunder. Streaming hjälper dig dit. För batchjobb är den totala tiden viktigare än tiden till första ljudet.
Är streaming dyrare?
Nej. Du betalar per tecken som syntetiseras. Streaming påverkar hur ljudet levereras, inte prissättningen.
Vilken modell är snabbast hos Speechify?
Simba 3.2. Det är den rekommenderade modellen för streaming och ger kortast tid till första ljudet på engelska.
Ska jag cachelagra TTS-ljud?
Ja, för återkommande text. Cachelagra efter text, röst och modell och återanvänd klippet i stället för att generera det på nytt.
