Kelewatan text-to-speech ialah sela masa antara teks dihantar dan audio pertama mula kedengaran. Dalam ejen suara atau sari kata langsung, itulah pengalaman utama produk. API Speechify menawarkan beberapa cara untuk memendekkan sela ini. Artikel ini menghuraikan sembilan pendekatan, daripada pemilihan model hingga penggunaan semula sambungan.
Untuk butiran kejuruteraan yang lebih mendalam bagi setiap kaedah, rujuk catatan changelog di speechify.ai. Mulakan dengan penjelasan tentang penstriman TTS di speechify.ai/streaming-tts.
Bagaimana saya memilih model TTS yang paling pantas?
Gunakan Simba 3.2 untuk tugasan bahasa Inggeris. Inilah model yang disyorkan dan dibina khusus untuk penstriman, jadi masa ke audio pertama adalah paling rendah. Untuk teks berbilang bahasa, Simba 3.0 menambah sokongan bahasa sambil kekal pantas. Model lama tersedia untuk keserasian ke belakang, tetapi menambah kelewatan.
Padankan model dengan kegunaan anda. Ejen suara berkelewatan rendah memerlukan Simba 3.2. Buku audio secara kelompok pula boleh menggunakan mana-mana model kerana tidak memerlukan respons masa nyata.
Patutkah saya strim atau tunggu fail penuh?
Ya, jika pengguna mendengar secara langsung. Panggil POST /v1/audio/stream dan mainkan audio sebaik sahaja ia diterima, bukannya menunggu fail lengkap. Endpoint penstriman mengembalikan audio secara berperingkat, jadi bunyi pertama sampai kepada pengguna jauh lebih cepat: https://docs.speechify.ai/build/api-reference/v1/audio/stream
Jika anda memerlukan cap masa atau tanda perkataan bersama strim, gunakan juga endpoint POST /v1/audio/stream/with-timestamps: https://docs.speechify.ai/build/api-reference/v1/audio/stream/with-timestamps
Adakah penggunaan di edge membantu?
Ia boleh memendekkan satu pusingan penuh perjalanan data. Fungsi edge satu fail yang memanggil API dan menstrim semula audio berada lebih dekat dengan pengguna anda. Pada akhirnya, kelewatan ditentukan oleh masa perjalanan ke pelayan API kami dan kembali semula, sama ada dari pengguna, aplikasi atau edge.
Format output mana yang paling pantas?
Pilih format yang boleh dimainkan oleh klien tanpa transkod. Untuk sistem telefon, ulaw_8000 sepadan dengan format asal Twilio. Bagi pelayar web, PCM atau format yang disokong terus oleh pemain anda dapat mengelakkan langkah pengekodan semula.
Semakin kurang transformasi antara API dan pembesar suara, semakin sedikit milisaat yang terbuang.
Bagaimana konkurensi mengurangkan kelewatan yang dirasai?
Lakukan pensintesisan secara selari jika anda mempunyai banyak segmen pendek. Menjana sepuluh sari kata serentak lebih pantas daripada memprosesnya satu demi satu. API menyokong permintaan serentak, jadi gunakan pemprosesan kelompok jika beban kerja mengizinkan.
Mengapa perlu guna semula sambungan?
Buka satu sambungan HTTP dan kekalkannya aktif. Proses TLS handshake dan penyediaan sambungan menambah masa jika ribuan permintaan dibuat. Penggunaan semula sambungan menghapuskan kos tersebut bagi setiap permintaan.
Bagaimana pula dengan cache untuk teks berulang?
Cache audio untuk teks yang kerap digunakan. Kod, sapaan dan teks tetap UI sering diulang. Simpan klip yang dijana mengikut teks input, suara dan model, kemudian gunakan semula. Blog tentang TTS cache menerangkan corak ini dengan lebih menyeluruh.
Bagaimana memendekkan input?
Teks yang lebih pendek lebih cepat untuk disintesis. Buang teks contoh, ringkaskan mukadimah dan hantar hanya yang benar-benar perlu didengar oleh pengguna. Lebih sedikit teks bermakna audio yang lebih pendek dan chunk pertama yang sampai lebih cepat.
Bolehkah penandaan masa setiap perkataan menyembunyikan kelewatan?
Ya. Strim dengan POST /v1/audio/stream/with-timestamps untuk mendapatkan tanda perkataan semasa audio tiba. Paparkan sari kata perkataan demi perkataan supaya pengguna nampak kemajuan sementara selebihnya terus distrim. Pengalaman terasa lebih pantas walaupun tempoh audio sebenar tidak berubah.
Soalan Lazim
Apakah sasaran kelewatan TTS yang baik?
Bagi ejen suara, sasarkan audio pertama muncul dalam beberapa ratus milisaat. Penstriman membantu mencapai sasaran ini. Untuk kerja kelompok, yang penting ialah jumlah masa keseluruhan, bukan masa ke bait pertama.
Adakah penstriman lebih mahal?
Tidak. Anda membayar bagi setiap aksara yang disintesis. Penstriman hanya mengubah cara penghantaran, bukan harganya.
Model mana yang paling pantas di Speechify?
Simba 3.2. Inilah model yang disyorkan, dibina untuk penstriman, dengan masa ke bait pertama paling rendah bagi bahasa Inggeris.
Perlukah saya cache audio TTS?
Ya, untuk teks yang berulang. Cache mengikut input, suara dan model, kemudian gunakan semula klip tersebut.
