Izvor Bidenovog deepfakea otkriven nakon miješanja u izbore
U samoj završnici predizbora u New Hampshireu odvila se podmukla zavjera iskorištavanjem umjetne inteligencije za oponašanje glasa predsjednika Joea Bidena u robopozivu. Ovaj neviđen pokušaj uplitanja u izbore razotkrio je preklapanje AI-a, deepfakeova i dezinformacija te potaknuo zabrinutost zbog mogućih posljedica za demokratski proces. Evo što trebate znati o deepfake prijevari s robopozivom koji koristi glas američkog predsjednika Joea Bidena i tko je u njoj sudjelovao.
Što je deepfake prijevara s Joeom Bidenom?
U ponedjeljak, 22. siječnja 2023., ured glavnog državnog odvjetnika New Hampshirea istraživao je navode o robopozivu koji koristi umjetnu inteligenciju za oponašanje glasa predsjednika Joea Bidena i obeshrabruje glasače da izađu na birališta.
Prijevara je imala cilj obeshrabriti građane od sudjelovanja u predizborima, lažno tvrdeći da će glasanje utjecati na opće izbore u studenom. Bidenov AI glas pozivao je glasače da „sačuvaju” svoj glas za savezne izbore, uz tvrdnju da glasanje na predizborima ide u korist republikancima i olakšava reizbor Donalda Trumpa.
Deepfake robopoziv: ID pozivatelja
ID pozivatelja lažnog Bidenovog robopoziva prikazivao je ime Kathy Sullivan, bivše predsjednice državne Demokratske stranke i voditeljice super-PAC-a Granite for America, koji zagovara upisivanje Bidena na listić. Ipak, Biden nije vodio kampanju u New Hampshireu niti je bio na listiću za te predizbore.
“Ovaj poziv povezan je s mojim osobnim brojem bez mog odobrenja,” rekla je Sullivan u izjavi. “To je izravan pokušaj uplitanja u izbore i jasno uznemiravanje mene i birača iz New Hampshirea koji planiraju upisati Bidena u utorak.”
Deepfake audio robopoziva Joea Bidena
U lažnom audio robopozivu koji je dobio NBC, može se čuti glas zapanjujuće sličan Bidenovu koji izgovara svoju poznatu frazu, “What a bunch of malarkey.” Poruka dalje navodi kako je “važno sačuvati svoj glas za izbore u studenom” i “glasanje ovog utorka pomaže republikancima u njihovu pokušaju ponovnog izbora Donalda Trumpa. Vaš glas ima težinu u studenom, ne ovog utorka.”
Nakon objave, glasnogovornica Bijele kuće Karine Jean-Pierre obavijestila je javnost da je poruka generirana pomoću AI i da ne dolazi iz Bidenove kampanje.
Voditeljica Bidenove kampanje, Julie Chavez Rodriguez, objavila je da “aktivno razgovaraju o sljedećim koracima koji će se odmah poduzeti.”
Što učiniti ako ste primili Bidenov robopoziv?
Snimljena poruka bila je protuzakonit pokušaj širenja dezinformacija i miješanja u izbore. Ne zna se točan broj primatelja, no barem desetak ih je prijavilo poziv. Glavni državni odvjetnik John Formella poručio je da svi koji su primili poziv “moraju potpuno zanemariti ovu poruku.”
Otkriven izvor deepfake robopoziva Joea Bidena
Prema Bloombergu, tvrtka za detekciju glasovne prijevare Pindrop Security Inc. otkrila je da robopoziv nije napravljen od strane Bidenove kampanje, već od strane prevaranta koji je koristio ElevenLabs, AI startup za kloniranje glasova.
Iako ElevenLabs u svom sigurnosnom priopćenju dopušta kloniranje glasa “za određene nekomercijalne svrhe ako ne utječete na privatnost ili ekonomske interese osobe”, kao što su “privatno proučavanje, nekomercijalno istraživanje, obrazovanje, karikatura, parodija, satira, umjetnički i politički govor, citat,” kao i “kritika i osvrt,” ElevenLabs je blokirao korisnika koji je napravio Bidenov deepfake robopoziv.
"Posvećeni smo sprječavanju zloupotrebe AI audio alata i svaki slučaj shvaćamo vrlo ozbiljno," izjavio je ElevenLabs za Bloomberg.
Deepfake vs. AI generator glasa vs. kloniranje glasa
Kako AI generiranje glasa postaje sve raširenije, važno je razumjeti pojmove deepfake, AI generator glasa i kloniranje glasa, kao i razliku između etičke i neetičke upotrebe.
Deepfake
Deepfake označava korištenje umjetne inteligencije i strojnog učenja za stvaranje ili izmjenu audio i vizualnog sadržaja, često zamjenjujući identitet jedne osobe drugom na vrlo realističan način.
- Etička upotreba deepfakea: Tehnologija se može etički koristiti za zabavu, umjetnost i edukaciju, kada nije cilj prevariti ili naštetiti.
- Neetička upotreba deepfakea: Iskorištavanje tehnologije za izradu lažnog sadržaja, lažnih narativa ili lažno predstavljanje s lošom namjerom (poput širenja dezinformacija ili stvaranja lažnih vijesti) izaziva ozbiljne etičke zabrinutosti.
AI generator glasa
AI generatori glasa koriste algoritme strojnog učenja za stvaranje glasova nalik ljudskima. Trenirani su na velikim skupovima podataka kako bi oponašali ljudski glas i intonaciju.
- Etička upotreba AI generatora glasa: Može se etički koristiti za pristupačnost osobama s poremećajem govora, učenje jezika, zabavu ili sinkronizaciju.
- Neetička upotreba AI generatora glasa: Zloupotreba za lažiranje snimki, imitiranje tuđeg glasa radi prijevare ili širenja dezinformacija smatra se neetičnom.
Kloniranje glasa
Kloniranje glasa znači stvaranje umjetne kopije nečijeg glasa korištenjem snimki kao podatkovnog skupa za strojno učenje.
- Etička upotreba kloniranja glasa: Može se koristiti za izradu personaliziranih glasovnih asistenata, očuvanje glasova uz pristanak, pomoć osobama s poremećajem govora i drugo.
- Neetička upotreba kloniranja glasa: Kloniranje bez dopuštenja s ciljem obmane ili imitacije može biti izrazito neetično i dovesti do povrede privatnosti te zloupotrebe.
Zloupotreba Bidenova AI glasa
Zloupotreba glasa Joea Bidena putem AI robopoziva jasan je primjer kako se tehnologija može pretvoriti u oružje za suzbijanje glasovanja i širenje dezinformacija. Posljedice korištenja AI-a za oponašanje političara dalekosežne su. Ovaj slučaj upozorava na moguću budućnost u kojoj se AI-generirani glasovi koriste za širenje lažnih vijesti, manipuliranje mišljenjem i narušavanje demokracije. Povjerenje i integritet izbora stavljeni su na velik izazov.
Napretkom AI tehnologije raste i rizik od ovakvih incidenata. Stručnjaci poput Hanyja Farida naglašavaju potrebu za budnošću pri suočavanju s novim prijetnjama.
Glasači moraju biti na oprezu zbog AI-a tijekom izbora
S približavanjem predsjedničkih izbora 2024., glasači moraju biti oprezni zbog moguće zloupotrebe AI tehnologije za utjecaj na javno mnijenje. AI-generirane dezinformacije mogu postati ključan problem, što traži veću svjesnost birača.
“Zabrinuti smo da će generativni AI biti oružje na nadolazećim izborima i ovo je siguran znak onoga što dolazi,” izjavio je Hany Farid, stručnjak za digitalnu forenziku koji je poslušao Bidenov robopoziv, u intervjuu.
Kako etički koristiti AI glas?
Nakon ovog incidenta ključno je razmotriti etičke primjene AI glasa. Iako AI tehnologija glasa nudi brojne mogućnosti, odgovorno korištenje je nužno. To uključuje jasno označavanje kada se koristi AI-generirani glas, izbjegavanje zloupotrebe te poštivanje privatnosti i pristanka.
Stižu AI zakoni i regulacije
S razvojem tehnologije, zakonodavci, AI developeri, izborni službenici i javnost moraju zajednički uspostaviti zaštitne mjere, pravila i etičke standarde za zaštitu demokracije. Integritet izbora, temelj američke demokracije, ovisi o prilagodbi i odgovoru na nove izazove koje donosi AI. Kongres već raspravlja o AI regulativi. Na nedavnom saslušanju u Senatu senator Richard Blumenthal demonstrirao je deepfake koristeći AI klon svog glasa i skriptu iz ChatGPT-a. Federalna izborna komisija također započinje postupak mogućeg reguliranja AI deepfakeova u političkom oglašavanju 2024.
Speechify Voice Over Studio: #1 etička AI glas platforma
Speechify Voice Over Studio je vodeća etička AI platforma za glas koja postavlja zlatni standard u sintetičkoj tehnologiji govora. S više od 200 prirodnih glasova za pretvaranje teksta u govor na više jezika i naglasaka, Speechify korisnicima omogućuje brzo stvaranje sadržaja.
Platforma je jednostavna za korištenje i nudi napredne AI alate za uređivanje zvuka, omogućujući preciznu kontrolu nad izgovorom, intonacijom i tonom. Speechify daje prednost etici — kloniranje glasa dozvoljeno je samo za vaš vlastiti glas uz jasan pristanak, čime se smanjuje rizik od zloupotrebe.
Speechify Voice Over Studio idealan je za izradu uvjerljivih voice-overa za društvene mreže, videoigre, audioknjige, podcastove i još mnogo toga. Unaprijedite stvaranje sadržaja i isprobajte Speechify Voice Over Studio besplatno već danas.
Česta pitanja
Što je primjer neetičkog AI kloniranja glasa?
Neetički primjer kloniranja glasa bilo bi korištenje tehnologije za izradu uvjerljive audio snimke Elona Muska s lažnim tvrdnjama o osjetljivim međunarodnim pitanjima, poput uloge Washingtona u Izraelu, čime se manipulira javnim mišljenjem i potiče razdor. Ovakva zavaravajuća upotreba kloniranja glasa zloupotrebljava povjerenje javnosti i može izazvati sukobe pripisujući neutemeljene izjave utjecajnim osobama kako bi se progurao određeni cilj.
Želi li GOP regulirati AI?
Prema anketi Fox Newsa, “Republikanci su manje uvjereni od demokrata da je nužna savezna regulacija AI sustava i više su skeptični prema sposobnosti vlade da to izvede kako treba.”
Je li Taylor Swift imala svoj deepfake?
Nastao je niz neetičnih deepfakeova Taylor Swift — uključujući fotografije i pjesme — bez njezina pristanka. Prema izvještajima, razmatra pravne korake protiv kreatora deepfakeova.
Jesu li glasači New Hampshirea primili deepfake robopoziv kojim ih se odvraća od glasanja za Bidena?
Da, prevarant je stvorio Bidenov deepfake koristeći ElevenLabs AI tehnologiju kako bi pokušao nagovoriti birače da ne upišu Bidenovo ime na predizborima u New Hampshireu.
