Deepfake glasovi in pretvorba besedila v govor

Z napredkom umetne inteligence (AI) in globokega učenja lahko danes ustvarimo visokokakovostne in realistične sintetične medijske vsebine. Ta tehnologija je odprla mnoga nova vrata številnim panogam. Ena takšnih je deepfake, pogosto imenovana tudi sintetični ali kloniranje glasu.

Kaj so deepfake glasovi?

Deepfake pomeni sintetične medijske vsebine, znane tudi kot kloniranje glasu. Z AI lahko uporabniki ustvarijo video deepfake, kjer zamenjajo videz ali pa posnamejo nekoga, ki izreče nekaj, česar ni izrekel — temu pravimo kloniranje glasu. Predstavljajte si, da bi lahko glas Arnolda Schwarzeneggerja povedal točno to, kar želite.

Za to je potrebno posebno programsko orodje, ki analizira obraz, obdeluje glas iz besedila in modelira premikanje ust v 3D prostoru.

Obstajajo napredne uporabe te tehnologije, ena ključnih je prav kloniranje glasu. Skoraj vsi, tudi če niso računalniški navdušenci, so že slišali za kakšen deepfake škandal. Nedavno pa je izšel posthumni dokumentarec o Tonyju Bourdainu, ki je občinstvo presenetil s tem, da je še vedno lahko pripovedoval zgodbo v prvi osebi.

Zagon IT startupa je produkciji omogočil rekreacijo Bourdainovega glasu in s tem še več pristnosti. To je velik dosežek, a odpira številna moralna vprašanja. Potrebujemo le ustrezen računalnik in pravo programsko opremo za ustvarjanje ponarejenih videov ali zvoka o komerkoli.

Kako točno nastanejo deepfake glasovi?

Najprej zberemo dovolj vzorcev nečjega glasu. Ti lahko izvirajo iz družbenih omrežij, posnetih klicev, televizije itd. Programska oprema na osnovi AI nato vzorce združi v lažen glas. 

To je osnovni pregled zahtevnega procesa, a na koncu AI orodja z zbranimi podatki ustvarijo naravne, prepričljive govore, ki lahko berejo besedilo. Zato so deepfakes tesno povezani s tehnologijo pretvorbe besedila v govor (TTS).

Uporaba deepfake glasov v TTS

Uporabniki lahko s to tehnologijo spreminjajo višino, starost ali naglas govora v TTS. Lahko ustvarijo glas, ki jim je najbolj pisan na kožo, npr. ob govorni oviri. Takšna prilagoditev močno izboljša komunikacijo in kakovost življenja.

Z deepfake glasovi ustvarjalci pripravijo zanimivejše zvočne vsebine, ki pritegnejo sledilce. Uporabijo lahko zveneče glasove znanih pripovedovalcev ali zvezd in tako poslušalce močneje navdušijo, posebej pri zvočnih knjigah, podcastih ipd.

Vendar vključitev deepfake glasov v TTS odpira moralne dileme. Z deepfake glasom je možno manipulirati ali se pretvarjati — s tem lahko zavajajo ljudi, ki niso podali soglasja za takšno uporabo. Zato so potrebni strogi nadzor in jasna zakonodaja za etično uporabo te tehnologije.

Deepfake glasovi v TTS prinašajo možnosti osebne in privlačne sinteze govora. Ta tehnologija lahko močno spremeni našo interakcijo z generiranim govorom — seveda ob upoštevanju etičnih pomislekov.

Prednosti

Deepfake ima tudi pozitivne plati. Video »This Is Not Morgan Freeman« iz leta 2021 je pokazal, kako uporabna je lahko napredna tehnologija.

Posnetki so pokazali, da so z urjenjem AI ter zvočnim in video gradivom lahko ustvarili imitacijo igralca, vključno z gibi, obrazom in govorom. Čeprav, kot omenjeno, obstajajo etični izzivi, pa je to neprecenljivo za ljudi, kot je igralec Val Kilmer.

Kljub raku na grlu, zaradi katerega je Kilmer izgubil glas, so sprva menili, da je to konec njegove kariere. V Amazon Prime dokumentarcu je sin igralca opravljal glasovno sinhronizacijo za Kilmerja pri novih vlogah.

Ko pa je Kilmer s podjetjem Sonantic — AI startupom, ki modelira glasove — združil moči, je dobil glas nazaj. Z deepfake tehnologijo so ponovno ustvarili njegov glas, kar lahko slišimo v filmu Top Gun: Maverick.

Slabosti

Strojno učenje lahko posnema glas osebe kjer koli, na primer v New Yorku, kjer tehnologijo hitro sprejemajo. Ljudje zlahka razkrijejo osebne podatke in nasedejo prevarantskim ali lažnim klicem.

Etična vprašanja deepfake tehnologije

Ob uporabi deepfake glasov in deepfake pretvorbe besedila v govor se pojavljajo etična vprašanja. Z napredkom pridejo tudi dileme. AI glas Arnolda Schwarzeneggerja je npr. tako naraven, da prevara ljudi. To lahko povzroča dvom v slišanem in nezaupanje.

Ob sprejemanju novih tehnologij se moramo zavedati tveganj. Deepfake lahko z glasom zavaja in vpliva na ljudi. Upravičeno nas skrbi, saj to lahko spodkoplje javno zaupanje in zasebnost.

Ključna težava je zloraba deepfake. Še bolj nevarni so sintetični glasovi v prevarah po telefonu in dezinformacijah. Dovolj je, da prejmete klic, kjer glas zveni kot nekdo, ki ga poznate, kasneje pa ugotovite, da gre le za prevaro. Takšna manipulacija lahko močno škodi posameznikom, skupnostim ali državam.

Kako omejiti zlorabo deepfake glasov

Za zmanjšanje tveganj so potrebni strogi predpisi in izobraževanje uporabnikov. Deepfake glasove je treba uporabljati odgovorno, za to pa morajo vlade in tehnološka podjetja pripraviti jasne smernice. Na voljo so že učinkoviti ukrepi za zaznavanje in omejevanje zlorab sintetičnih glasov, pomembna pa je tudi ozaveščenost — saj se sintetika lahko zlorabi.

Pomembno je razmišljati inovativno, a brez prestopanja meja pri uporabi deepfake glasov in TTS. Razvoj tehnologije je obetaven, toda treba je zagotoviti preglednost in odgovornost. Uporabnike je treba dobro informirati, da lažje ločijo resnične informacije od lažnih.

Pravo in zasebnost pri deepfake glasovih

Pri deepfake glasovih je treba upoštevati tudi pravne in zasebnostne vidike. Pojavljajo se vprašanja o lastništvu sintetičnih glasov in nepooblaščeni uporabi. Potrebne so jasne smernice, ki bodo ščitile pravice posameznikov in zagotavljale odgovorno uporabo.

Pri etičnih vprašanjih glede deepfake glasov so pomembni odprti pogovori. Etiki, snovalci zakonodaje, tehnologi in javnost morajo skupaj oblikovati prihodnost te tehnologije v dobro vseh.

Predstavljajte si, da prejmete klic, ki zveni kot vaš prijatelj ali sorodnik, a je glas v resnici lažen in vas skuša prevarati. To lahko škodi posameznikom, skupnostim in državam. Deepfake glasovi imajo različne uporabe — od zabave, kjer Alexa govori kot zvezdnik, do resnejših, ki lahko tudi zavajajo.

Potreba po regulaciji etične uporabe deepfake glasov

Za varnost ljudi so nujna trdna pravila in izobraževanje o deepfake glasovih. Vlade in tehnološka podjetja morajo sodelovati ter pripraviti pravila za pravilno uporabo ter metode za prepoznavanje in preprečevanje zlorab.

Pri uporabi deepfake glasov moramo biti odgovorni. Čeprav so novi govorci zanimivi, jih moramo uporabljati pošteno. Ljudje morajo vedeti, kdaj poslušajo računalniški glas, da se lahko sami odločijo, ali zaupajo slišanemu.

Pomembno je, da odprto govorimo o izzivih deepfake glasov. Slišati moramo vse: strokovnjake in laike. Tako bomo to tehnologijo znali uporabljati v skupno dobro.

Na srečo nam bo razvoj programov za sintetiko glasu pomagal tudi pri odkrivanju lažnih glasov. Tehnološka podjetja razvijajo orodja za zaznavo in preprečevanje tovrstnih prevar, kar bo pomagalo bankam in klicnim centrom, da bodo govorili z resničnimi ljudmi, ne pa s prepričljivimi računalniškimi glasovi.

Deepfake glasovni programi za preizkus

Orodja strojnega učenja pozitivno vplivajo na življenja mnogih in morda vas zanima ustvarjanje svojega zvočnega deepfakea. Za res visoko kakovost potrebujete zmogljivo strojno in programsko opremo, a na voljo je več programov za naravne glasove. Predstavljamo pet generatorjev deepfake glasu, ki jih lahko preizkusite:

Resemble

Resemble AI je TTS in orodje za deepfake, ki ustvari človeške glasove iz omejenih podatkov. Z okoli petimi minutami posnetkov lahko uporabniki ustvarijo svoj prvi deepfake.

Preizkusite lahko demo in naložite lastne posnetke — v nekaj minutah boste slišali svoj (znani) glas. Uporabniki cenijo enostaven vmesnik in možnost prilagoditve intonacije izhoda.

Descript

Impresivni sintetizator govora z zmogljivim urejanjem: analizira govorne, video in tekstovne posnetke ter generira glas z AI. Če vam vhodno gradivo ni všeč, ga lahko urejate neposredno v aplikaciji — dodatni posnetki niso potrebni.

Glavni namen Descripta je ustvarjalcem omogočiti izdelavo kakovostnih sinhronizacij za podcaste in videe. Program ima mnogo zalogovnih glasov, ki jih lahko preizkusite in spoznate zmogljivosti Descripta.

ReSpeecher

ReSpeecher je zanesljiva deepfake rešitev, ki je pomagala ustvariti glas Luka Skywalkerja v The Mandalorian. Čeprav je primerna za filme in serije, je odlična tudi za voiceoverje za oglase, animacije, igre, podcaste in še več.

iSpeech

iSpeech je na voljo kot namizni program ali spletno orodje. Poleg sintetiziranja glasu ima še TTS, spletni bralnik in prepoznavanje govora. Za vadbo lahko preizkusite demo s slavnimi glasovi Baracka Obame, Arnolda Schwarzeneggerja ali Scarlett Johansson.

Real-Time voice cloning

To orodje je odprtokodno in brezplačno na GitHubu. Možen je govor iz le pet sekund zvoka, a za uporabo je potrebnega nekaj tehničnega znanja.

Speechify – enostavna TTS alternativa deepfake glasovom

Pretvorba besedila v govor (TTS) aplikacije, kot je Speechify, in generatorji deepfake uporabljajo podobno tehnologijo, a služijo različnim namenom. Speechify je TTS oz. bralnik na glas, ki lahko bere skoraj vsako besedilo. Po uvozu Word dokumenta, članka ali prepisa ter izbiri želenega pripovedovalca, Speechify prebere vsebino na glas.

Program ponuja izjemno izbiro kakovostnih moških in ženskih glasov ter podpira 20+ jezikov, vključno z angleščino, španščino, francoščino, italijanščino in portugalščino. Če želite povečati produktivnost ali poslušati znano osebo, preverite Speechify z glasom Gwyneth Paltrow.

Prenesite program na računalnik, iPhone ali Android napravo in preizkusite Speechify brezplačno še danes.

Pogosta vprašanja

Ali je FakeYou brezplačen?

FakeYou je brezplačen in enostaven program za ustvarjanje naravnih glasov.

Kako prepoznati deepfake glas?

Brez napredne programske opreme je lahko deepfake težko prepoznati. Varnostna podjetja uporabljajo glasovno biometrijo za preprečevanje prevar.

Kakšne so nevarnosti deepfake glasov?

Deepfake se pogosto uporablja v zlonamerne namene: za širjenje dezinformacij, uničenje ugleda ali rušenje zaupanja v institucije.