Voci deepfake și text to speech

Datorită progreselor în inteligența artificială (AI) și în deep learning, oamenii pot crea acum media sintetică de înaltă calitate și foarte realistă. Această tehnologie a deschis ușa către multe noi forme creative, influențând numeroase industrii. Una dintre aceste tehnologii este deepfake-ul, denumit și voci sintetice și clonare vocală.

Ce sunt vocile deepfake?

Deepfake înseamnă media sintetică, cunoscută și ca clonare vocală. Cu ajutorul AI, este posibil ca utilizatorii să genereze deepfake-uri video care înlocuiesc aspectul unei persoane cu altei persoane pe ecran sau să facă pe cineva să spună ceva ce neagă că ar fi rostit vreodată, fenomen cunoscut popular ca clonare vocală. Imaginează-ți că vocea lui Arnold Schwarzenegger ar putea repeta orice îți dorești tu să spună.

Procesul necesită software special pentru analiza fețelor, procesarea vocii din scripturi text și modelarea mișcărilor gurii într-un spațiu tridimensional.

Există utilizări avansate ale acestei tehnologii, iar Clonarea Vocală este una dintre ele. Aproape toată lumea, chiar dacă nu este pasionată de tehnologie, a auzit de vreun scandal deepfake. Totuși, recent a fost lansat un documentar postum despre Tony Bourdain care a surprins publicul deoarece acesta a putut să narați în

Start-up-urile IT au ajutat compania de producție să recreeze vocea lui Bourdain pentru a oferi o notă de realism poveștii. Fără îndoială, este o realizare impresionantă, dar ridică multe probleme etice. Până la urmă, oricine are nevoie doar de un computer cu software-ul potrivit pentru a produce materiale video manipulate sau sunete denigratoare despre orice altă persoană.

Cum sunt create exact deepfake-urile?

Mai întâi, aduni suficiente mostre ale vocii cuiva. Acestea pot proveni din postări pe rețelele sociale, apeluri telefonice înregistrate, emisiuni TV etc. Apoi, un program bazat pe algoritmi AI combină mostrele pentru a produce o voce falsă. 

Aceasta este o prezentare de bază a unui proces complex, dar la final, instrumentele AI utilizează datele adunate pentru a crea voci care sună natural și pot citi text digital. Din acest motiv, deepfake-urile sunt strâns legate de tehnologia text to speech (TTS). 

Integrarea vocilor deepfake în tehnologia text-to-speech

Utilizatorii pot manipula caracteristici precum tonalitatea, vârsta și accentul folosind tehnologia vocală deepfake integrată în sistemele text-to-speech. Astfel, pot dezvolta voci sintetizate care să se potrivească tonului și stilului dorit, de exemplu în cazul unei dizabilități vocale. O astfel de personalizare le poate îmbunătăți semnificativ abilitatea de a comunica și, în general, calitatea vieții.

Folosind voci deepfake, se pot crea conținuturi audio mai atractive, care să atragă public și loialitate pentru creatorii de conținut. Ei utilizează voci deepfake care sună ca ale unor naratori celebri sau staruri pentru a captiva ascultătorii. Acest lucru este deosebit de valoros pentru conținutul multimedia, precum audiobook-urile sau podcasturile, unde sunetul are un impact major în crearea unei conexiuni emoționale cu publicul.

Totuși, folosirea vocilor deepfake în cadrul sistemelor TTS ridică mai multe probleme etice. Vocile deepfake pot fi folosite pentru manipulare și uzurpare de identitate—dezinformând persoane care nu și-au dat consimțământul. Acest lucru subliniază nevoia unor reguli stricte și a unor legi care să promoveze folosirea corectă și morală a acestei tehnologii.

În final, integrarea vocilor deepfake în sistemele text-to-speech oferă oportunitatea unei sinteze vocale personalizate și captivante. Această tehnologie poate schimba radical modul în care interacționăm cu vocea generată, făcând-o mai accesibilă și crescând satisfacția generală a utilizatorilor, cu condiția să fie respectate normele etice.

Avantaje

Deepfake-urile au mai multe aspecte pozitive. Videoclipul deepfake „This Is Not Morgan Freeman” din 2021 a demonstrat utilitatea tehnologiei augmentate.

Imaginile au arătat că, prin antrenarea AI-ului cu înregistrări audio și fragmente din filme, s-a putut crea o imitație a actorului, inclusiv replicând mișcările, aspectul și vocea acestuia. Așa cum am menționat, are probleme etice, dar poate fi de neprețuit pentru cineva ca actorul Val Kilmer.

Deși Kilmer a suferit de cancer la gât și și-a pierdut vocea, mulți au crezut că acesta este sfârșitul carierei lui de la Hollywood. În documentarul Prime Voice, pe Amazon Prime, despre Kilmer, s-a dezvăluit că fiul actorului îi servea drept voce pentru dublaj în noile roluri.

Totuși, când Kilmer a colaborat cu Sonantic—un start-up IT specializat în modelarea vocii, și-a recăpătat în final vocea. Folosind tehnologia deepfake, compania a recreat vocea lui Kilmer, iar publicul a putut auzi rezultatele remarcabile în filmul recent lansat Top Gun: Maverick.

Dezavantaje

Învățarea automată poate replica vocea unei persoane în locuri precum New York, unde tehnologia este rapid adoptată. Acest lucru îi face pe oameni vulnerabili să-și divulge informațiile personale și pot cădea pradă unor apeluri false sau fraude.

Îngrijorări etice legate de tehnologia Deepfake

Există mai multe întrebări etice legate de utilizarea vocilor deepfake și a tehnologiei text to speech. Pe măsură ce apar noi progrese tehnologice, apar și posibilități de abuz. Vocile deepfake generate de AI-ul Arnold Schwarzenegger, de exemplu, sunt atât de naturale încât induc oamenii în eroare. Acest lucru poate duce la suspiciune față de tot ceea ce se aude și la lipsă de încredere în sine.

Pe măsură ce societatea adoptă orice formă nouă de tehnologie, trebuie să se gândească de două ori la pericolele pe care le poate aduce. Deepfake-urile pot induce în eroare și manipula oamenii prin voce. De aceea există motive de îngrijorare, acestea putând compromite încrederea publică și dreptul la intimitate.

În special, există o problemă urgentă legată de utilizarea deepfake-urilor. Chiar mai periculoasă este folosirea vocii sintetice pentru escrocherii telefonice și campanii de dezinformare răspândite. Imaginează-ți că primești un apel necunoscut, dar vocea pare foarte familiară. Ai putea recunoaște vocea ca fiind a unui prieten apropiat, a unui membru al familiei sau a partenerului tău. Însă imediat după aceea îți dai seama că este doar o farsă. Manipularea poate avea efecte negative extrem de puternice asupra oamenilor, comunităților sau chiar a statelor.

Reducerea impactului utilizării greșite a vocilor deepfake

Pentru a reduce această amenințare, sunt necesare programe solide de reglementare și de educare a utilizatorilor. Vocile deepfake trebuie folosite cu discernământ și trebuie stabilite reguli de către guverne și companiile de tehnologie împreună. Au fost dezvoltate măsuri eficiente pentru a identifica și combate utilizările ilegale ale tehnologiei sintetice a vocii; acestea includ și educarea utilizatorilor cu privire la faptul că tehnologia de sinteză vocală poate fi folosită în scopuri malițioase.

De asemenea, este nevoie de atenție atunci când inovezi, pentru a nu depăși limitele în folosirea tehnologii deepfake și text-to-speech. Progresele tehnologice sunt incontestabil promițătoare, dar trebuie să existe transparență și responsabilitate clară în utilizarea acestora. Este important să informăm utilizatorii despre sinteza vocală, pentru ca aceștia să poată distinge ce informație este reală și ce este falsă.

Aspecte legale și de confidențialitate privind vocile deepfake

Aspectele legale și de confidențialitate apar și ele când vine vorba de voci deepfake. Se ridică întrebări despre cine deține drepturile asupra vocii sintetizate și despre utilizarea neautorizată a acesteia. Trebuie stabilite reguli clare pentru a gestiona aceste probleme complexe, astfel încât drepturile persoanelor să fie protejate și tehnologia să fie folosită responsabil.

Pe măsură ce navigăm problemele etice din jurul vocilor deepfake, este esențial să avem discuții deschise și incluzive. Eticienii, legiuitorii, specialiștii în tehnologie și publicul larg trebuie să colaboreze pentru a aborda aceste preocupări și a contura viitorul acestei tehnologii în folosul societății în ansamblu.

Imaginează-ți că primești un apel care pare a fi de la un prieten sau membru al familiei, dar de fapt este o voce falsă care încearcă să te păcălească. Acest lucru poate dăuna oamenilor, comunităților și chiar unor întregi țări. Există multe moduri de a folosi vocile deepfake, de la aplicații amuzante, cum ar fi ca Alexa să vorbească cu vocea unei celebrități, la utilizări mai serioase care pot induce în eroare.

Necesitatea reglementării pentru ca utilizarea vocilor deepfake să fie etică

Pentru a proteja oamenii, avem nevoie de reguli stricte și de metode de educare a utilizatorilor despre aceste voci false. Guvernele și companiile tech ar trebui să lucreze împreună. Ele trebuie să stabilească reguli despre cum pot fi folosite vocile deepfake în mod corect. De asemenea, trebuie să găsească modalități de a depista și opri vocile deepfake dăunătoare.

Atunci când folosești voci deepfake, este important să fii prudent și să iei în considerare ce este moral și ce nu. Deși aceste instrumente vocale noi sunt interesante, trebuie să le utilizăm într-un mod onest. Oamenii ar trebui să știe când vocea pe care o aud este generată de un computer, pentru a putea decide dacă au încredere în ceea ce aud.

Discutarea problemelor legate de vocile deepfake este importantă. Toată lumea, de la experți la persoane obișnuite, ar trebui să-și împărtășească opiniile. Acest lucru ne va ajuta să folosim această tehnologie în mod benefic pentru toți.

Din fericire, pe măsură ce software-ul de generare vocală devine mai performant, vom putea detecta mai ușor vocile false. Companiile de tehnologie creează instrumente pentru a descoperi și bloca aceste voci deepfake. Acest lucru va ajuta locuri precum băncile și centrele de apeluri din New York să se asigure că vorbesc cu persoane reale și nu cu voci generate de computer care încearcă să păcălească.

Software de voce deepfake pe care să îl încerci

Instrumentele bazate pe machine learning pot avea un impact pozitiv în viețile multor oameni, iar tu ai putea fi interesat să creezi un deepfake audio. Deși vei avea nevoie de hardware și software avansat pentru rezultate de top, poți folosi mai multe programe pentru a genera voci care sună natural. Iată cinci generatoare de voce deepfake pe care le poți încerca:

Resemble

Resemble AI este un instrument de text to speech și creare deepfake care produce voci umane folosind date limitate. Cu aproximativ cinci minute de înregistrări audio, utilizatorii își pot crea primul deepfake.

Poți testa funcția de sample și poți încărca în aplicație extrase cu vocea ta, iar în doar câteva minute vei auzi o voce familiară. Utilizatorii apreciază interfața ușor de folosit a Resemble și pot chiar ajusta intonația rezultatului audio.

Descript

Acest sintetizator de voce impresionant oferă capabilități puternice de editare. Programul analizează înregistrări vocale, fragmente video și transcrieri pentru a genera voci AI. Dacă nu ești mulțumit de calitatea materialului introdus, îl poți edita direct din aplicație—fără a fi nevoie de reînregistrări suplimentare.

Scopul principal al Descript este să ajute creatorii de conținut să realizeze dublaje de calitate pentru podcast-uri și videoclipuri. Programul pune la dispoziție nenumărate voci din care poți alege și experimenta pentru a te familiariza cu funcțiile sale.

ReSpeecher

ReSpeecher este o soluție deepfake fiabilă care a ajutat la recrearea vocii lui Luke Skywalker în The Mandalorian. Deși software-ul este potrivit pentru filme și seriale TV, poate fi o alegere excelentă și pentru crearea de dublaje vocale pentru reclame, animații, jocuri video, podcasturi și multe altele. 

iSpeech

iSpeech este disponibil ca program de desktop, dar poate fi încercat și online, direct din browser. Pe lângă sinteza vocală, aplicația are funcții de text to speech, cititor web și recunoaștere vocală. Pentru a te obișnui cu software-ul, poți încerca unul din demo-urile sale și te poți juca cu vocile lui Barrack Obama, Arnold Schwarzenegger sau Scarlett Johansson.

Clonare vocală în timp real

Acest proiect open-source este disponibil gratuit pe GitHub. Această trusă completă poate sintetiza vocea unei persoane cu doar cinci secunde de audio. Totuși, utilizatorii au raportat că utilizarea software-ului necesită abilități tehnice cel puțin medii-avansate.

Speechify – alternativa ușor de folosit la voci deepfake pentru text to speech

Aplicațiile Text to speech (TTS) precum Speechify și generatoarele deepfake se bazează pe tehnologii similare, însă au scopuri diferite. Speechify este un instrument TTS sau de citire cu voce tare care poate citi practic orice text tipărit sau digital. După ce utilizatorii importă un document Microsoft Word, articol sau transcriere în aplicație și își selectează vocea naratorului preferat, Speechify va citi conținutul cu voce tare.

Programul oferă o selecție de neegalat de voci masculine și feminine de înaltă calitate și suportă peste 20 de limbi, inclusiv engleză, spaniolă, franceză, italiană și portugheză. Dacă vrei să îți crești productivitatea și să asculți o celebritate cum îți citește, de ce să nu încerci vocea Gwyneth Paltrow pe Speechify?

Descarcă programul pe calculator, iPhone sau Android și încearcă Speechify gratuit chiar azi.

Întrebări frecvente

FakeYou este gratuit?

FakeYou este un program gratuit și ușor de utilizat, pe care îl poți folosi pentru a crea voci care sună natural.

Cum poți să recunoști o voce deepfake?

Poate fi dificil să identifici vocile deepfake fără software sofisticat. Companiile de securitate cibernetică folosesc sisteme biometrice vocale pentru a preveni fraudele deepfake. 

Care sunt unele dintre pericolele vocilor deepfake?

Deepfake-urile sunt uneori folosite cu scopuri malițioase și pot răspândi dezinformare, distruge reputația unei persoane și cauza lipsă de încredere în instituțiile guvernamentale.