Latensi text-to-speech adalah jeda antara teks dikirim dan audio pertama terdengar. Pada agen suara atau caption langsung, jeda ini sangat penting. API Speechify menyediakan beberapa cara untuk mempercepatnya. Artikel ini membahas sembilan cara, mulai dari pemilihan model hingga penggunaan ulang koneksi.
Untuk detail teknis tiap cara, baca posting changelog di speechify.ai. Mulailah dengan penjelasan streaming TTS di speechify.ai/streaming-tts.
Bagaimana memilih model TTS tercepat?
Gunakan Simba 3.2 untuk kebutuhan bahasa Inggris. Ini adalah model yang direkomendasikan dan dirancang untuk streaming, sehingga waktu ke audio pertama paling rendah. Untuk teks multibahasa, Simba 3.0 menambahkan parameter bahasa tanpa mengorbankan kecepatan. Model lama tetap tersedia demi kompatibilitas, tetapi menambah latensi.
Sesuaikan model dengan kebutuhan. Agen suara berlatensi rendah membutuhkan Simba 3.2. Untuk audiobook batch, Anda bisa memakai model apa pun karena tidak memerlukan respons real-time.
Lebih baik streaming atau menunggu file selesai?
Ya, jika pengguna mendengarkan secara langsung. Gunakan POST /v1/audio/stream dan putar audio begitu potongan suara mulai masuk, tanpa menunggu file lengkap. Endpoint streaming ini mengirim audio per bagian sehingga audio pertama bisa sampai lebih cepat: https://docs.speechify.ai/build/api-reference/v1/audio/stream
Jika Anda memerlukan timestamp atau penanda kata pada stream, Anda juga bisa menggunakan endpoint POST /v1/audio/stream/with-timestamps: https://docs.speechify.ai/build/api-reference/v1/audio/stream/with-timestamps
Apakah deployment edge membantu?
Penggunaan edge dapat memangkas satu kali perjalanan data. Fungsi edge dalam satu file yang memanggil API dan langsung melakukan streaming audio bisa ditempatkan lebih dekat ke pengguna. Pada akhirnya, latensi ditentukan oleh waktu tempuh ke server API dan kembali, baik dari pengguna, aplikasi, maupun edge.
Format output mana yang paling cepat?
Pilih format yang bisa langsung diputar klien tanpa transcoding. Untuk sistem telepon, ulaw_8000 cocok dengan format asli Twilio. Untuk browser, PCM atau format yang langsung didukung pemutar akan menghindari proses decoding.
Semakin sedikit proses konversi antara API dan speaker, semakin rendah latensinya.
Bagaimana konkurensi menurunkan latensi yang dirasakan?
Lakukan sintesis paralel untuk banyak segmen pendek. Membuat sepuluh caption sekaligus lebih cepat daripada satu per satu. API mendukung permintaan simultan, jadi lakukan batch bila memungkinkan.
Mengapa perlu menggunakan kembali koneksi?
Buka satu koneksi HTTP dan pertahankan tetap aktif. Setup koneksi dan TLS handshake menambah latensi pada ribuan permintaan. Penggunaan ulang koneksi menghilangkan overhead tersebut pada setiap permintaan.
Bagaimana dengan cache untuk teks berulang?
Cache audio untuk teks yang sering dipakai. Kunci, salam, dan teks UI statis sering kali berulang. Simpan klip audio berdasarkan input, suara, dan model, lalu gunakan kembali. Artikel tentang penghematan cache TTS membahas pola ini secara rinci.
Bagaimana memangkas input?
Teks yang lebih pendek lebih cepat disintesis. Hapus boilerplate, ringkas pembuka, dan kirim hanya yang perlu didengar pengguna. Teks yang lebih singkat berarti audio lebih cepat dibuat dan chunk pertama tiba lebih cepat.
Bisakah penanda waktu per kata mengurangi latensi yang terasa?
Ya. Lakukan streaming dengan POST /v1/audio/stream/with-timestamps untuk mendapatkan penanda kata saat audio masuk. Tampilkan caption kata demi kata agar pengguna melihat progres meski audio masih berjalan. Pengalaman akan terasa lebih cepat walau total durasi audio tetap sama.
FAQ
Berapa target latensi TTS yang baik?
Untuk agen suara, targetkan audio pertama di bawah beberapa ratus milidetik. Streaming bisa mencapainya. Pada batch, yang lebih penting adalah total waktu, bukan waktu ke audio pertama.
Apakah streaming lebih mahal?
Tidak. Biaya ditentukan oleh jumlah karakter yang diubah menjadi suara. Streaming hanya mengubah cara pengiriman, bukan harganya.
Model mana yang tercepat di Speechify?
Simba 3.2. Ini adalah model yang direkomendasikan, mendukung streaming secara native, dan memiliki waktu ke audio pertama terendah untuk bahasa Inggris.
Perlukah cache audio TTS?
Ya, untuk teks yang berulang. Lakukan cache berdasarkan input, suara, dan model, lalu gunakan kembali klipnya tanpa perlu membuat ulang.
