Kašnjenje u pretvaranju teksta u govor odnosi se na vrijeme između slanja teksta i trenutka kada se čuje prvi zvuk. Kod glasovnih agenata i prijenosa uživo ta je brzina ključna. Speechify API nudi više načina da ga smanjite. U ovom postu donosimo devet pristupa, od odabira modela do ponovne uporabe veze.
Za pojedinosti o svakom pristupu pogledajte zapise o promjenama na speechify.ai. Za početak preporučujemo vodič za streaming TTS na speechify.ai/streaming-tts.
Kako odabrati najbrži TTS model?
Za engleski koristite Simba 3.2. To je preporučeni model, optimiziran za streaming, s najkraćim vremenom do prvog zvuka. Za više jezika Simba 3.0 dodaje jezični parametar i pritom ostaje brz. Stariji modeli dostupni su radi kompatibilnosti, ali povećavaju kašnjenje.
Model prilagodite zadatku. Za glasovne agente odaberite Simba 3.2. Serijske audioknjige mogu koristiti bilo koji model jer ne zahtijevaju trenutačan odgovor.
Trebam li koristiti streaming umjesto čekanja na cijelu datoteku?
Da, kada korisnik sluša uživo. Koristite POST /v1/audio/stream i reproducirajte zvuk dok pristiže, umjesto da čekate cijelu datoteku. Streaming endpoint vraća zvuk u dijelovima pa korisnik prvi zvuk dobije znatno brže: https://docs.speechify.ai/build/api-reference/v1/audio/stream
Ako uz streaming trebate vremenske oznake, koristite POST /v1/audio/stream/with-timestamps: https://docs.speechify.ai/build/api-reference/v1/audio/stream/with-timestamps
Pomaže li edge implementacija?
Može skratiti put podataka. Jednostavna edge funkcija koja poziva API i streama zvuk bliža je korisniku. No ukupno kašnjenje ovisi o putu do našeg API poslužitelja i natrag, bez obzira dolazi li zahtjev od korisnika, aplikacije ili edge sloja.
Koji je najbrži izlazni format?
Odaberite format koji klijent može odmah reproducirati, bez dodatne pretvorbe. Za telefonske sustave ulaw_8000 odgovara izvornom formatu Twilio-a. Za preglednike koristite PCM ili format koji vaš player izravno podržava kako biste izbjegli dekodiranje.
Što je manje pretvorbi između API-ja i zvučnika, to je manje milisekundi kašnjenja.
Kako paralelna obrada smanjuje percipirano kašnjenje?
Pokrenite sintezu paralelno kada imate više kratkih segmenata. Generirati deset titlova odjednom brže je nego jedan po jedan. API podržava istodobne zahtjeve, zato grupirajte kada god je to moguće.
Zašto koristiti ponovnu uporabu veze?
Otvorite jednu HTTP vezu i održavajte je aktivnom. TLS rukovanje i uspostava veze povećavaju kašnjenje kod tisuća zahtjeva. Ponovna uporaba veze uklanja taj trošak pri svakom pozivu.
Što je s predmemoriranjem ponovljenog teksta?
Predmemorirajte zvuk za često korištene tekstove. Ključevi, pozdravi i fiksne UI poruke stalno se ponavljaju. Spremite generirani isječak vezan uz tekst, glas i model te ga ponovno koristite. Post o smanjenju troškova pomoću predmemorije detaljno objašnjava taj pristup.
Kako skratiti ulazni tekst?
Kraći tekst brže se sintetizira. Uklonite nepotrebno, skratite uvod i pošaljite samo ono što korisnik treba čuti. Manje teksta znači manje zvuka i brži prvi isječak.
Može li praćenje po riječima prikriti kašnjenje?
Da. Streamajte putem POST /v1/audio/stream/with-timestamps kako biste dobili oznake riječi dok zvuk pristiže. Prikazujte titlove riječ po riječ pa korisnici vide napredak dok ostatak još stiže. Dojam je brže usluge iako je trajanje zvuka isto.
Česta pitanja
Koje je optimalno TTS kašnjenje?
Za glasovne agente ciljajte na prvo reproduciranje zvuka unutar nekoliko stotina milisekundi. Streaming to omogućuje. Kod batch obrade važno je ukupno vrijeme, a ne vrijeme do prvog zvuka.
Je li streaming skuplji?
Ne. Plaćate po sintetiziranom znaku. Streaming mijenja način isporuke, ne cijenu.
Koji je najbrži model na Speechifyju?
Simba 3.2. To je preporučeni model za streaming s najkraćim vremenom do prvog zvuka na engleskom.
Treba li predmemorirati TTS zvuk?
Da, za tekstove koji se ponavljaju. Predmemorirajte prema unosu, glasu i modelu te ponovno koristite taj isječak umjesto nove generacije.
