Vir Bidenovega deepfake razkrit po poskusu vplivanja na volitve
Tik pred volitvami v New Hampshiru se je razkril zahrbten načrt: z umetno inteligenco so v roboklicu ponaredili govor predsednika Joeja Bidna. Ta brezprecedenčen poskus vplivanja na volitve razkriva preplet AI-ja, deepfake tehnologije in dezinformacij ter vzbuja resno skrb za demokratične procese. Oglejte si vse ključne podrobnosti o prevari z roboklicem Joeja Bidna in kdo je stal za njo.
Kaj je Bidenova deepfake prevara?
V ponedeljek, 22. januarja 2023, je urad pravobranilca v New Hampshiru sporočil, da preiskuje prijave o domnevnem roboklicu, kjer je umetna inteligenca posnemala glas predsednika Joeja Bidna in odvračala volivce od odhoda na volišča.
Prevara je imela cilj odvrniti ljudi od udeležbe na strankarskih volitvah, saj je lažno trdila, da bi glasovanje vplivalo na zvezne volitve novembra. Z AI ustvarjeni glas je volivce pozival, naj “prihranijo” glas za novembrske volitve, in trdil, da bi glasovanje na primarnih koristilo republikancem in Donaldu Trumpu.
ID klicočega pri Bidenovi deepfake prevari
ID lažnega Bidenovega roboklica se je prikazoval, kot da ga je poslala Kathy Sullivan, nekdanja predsednica demokratske stranke, ki sodeluje pri kampanji Granite for America za vpisovanje Bidenovega imena. Biden ni kandidiral v New Hampshiru, saj ni bil na glasovnicah, ker je bil vodilni v demokratskih predizborih.
“Ta klic je povezan z mojo osebno številko brez moje privolitve,” je dejala Sullivan v izjavi. “To je vmešavanje v volitve in očiten poskus nadlegovanja mene in drugih volivcev New Hampshira, ki želijo vpisati Joeja Bidna.”
Zvočni posnetek Bidenove deepfake prevare
V roboklicu, ki ga je pridobil NBC, lahko slišite glas, ki zelo spominja na Bidna in uporablja njegov značilni izraz: “To je neumnost.” Glas nadaljuje: “Pomembno je, da prihranite svoj glas za novembrske volitve; glasovanje sedaj pomaga republikancem in Donaldu Trumpu. Vaš glas šteje novembra, ne v torek.”
Po pojavu roboklica je tiskovna predstavnica Bele hiše Karine Jean-Pierre javnosti sporočila, da je bilo sporočilo ustvarjeno z AI orodjem in ni prišlo iz Bidenove kampanje.
Bidenova vodja kampanje Julie Chavez Rodriguez je izjavila, da “aktivno razpravljajo o takojšnjih dodatnih ukrepih.”
Kaj storiti, če prejmete Bidenov roboklic?
Posneto sporočilo je bilo očiten nezakonit poskus širjenja dezinformacij in motenja volitev. Čeprav ni znano, koliko ljudi ga je prejelo, ga je vsaj ducat že prijavilo. Pravni zastopnik John Formella je povedal, naj vsak, ki prejme tak klic, “povsem ignorira vsebino tega sporočila.”
Vir Bidenovega deepfake roboklica razkrit
Po Bloombergu je podjetje Pindrop Security Inc. ugotovilo, da klica ni izvedla Bidenova kampanja, temveč prevarant prek ElevenLabs, AI podjetja za kloniranje glasu.
Medtem ko izjava o varnosti ElevenLabs dovoljuje kloniranje glasu za določene nekomercialne namene, kot so zasebni študij, raziskave, karikature, satira, umetniški in politični govor, je ElevenLabs prepovedal uporabnika, ki je ustvaril Bidenov roboklic deepfake.
“Zavezani smo preprečevanju zlorab avdio AI orodij in vse incidente obravnavamo zelo resno,” so za Bloomberg povedali iz ElevenLabs.
Deepfake vs. AI generator glasu vs. kloniranje glasu
Zaradi vse večje uporabe AI za generiranje glasu je pomembno poznati pojme deepfake, AI generator glasu in kloniranje glasu ter etične in neetične uporabe teh tehnologij.
Deepfake
Deepfake pomeni uporabo umetne inteligence in strojnega učenja za ustvarjanje ali spreminjanje avdio in video vsebin, pogosto z realističnim zamenjanjem videza ali glasu osebe.
- Etična uporaba deepfake: tehnologija je uporabna za zabavo, umetnost in izobraževanje, če cilj ni zavajanje ali škodovanje.
- Neetična uporaba deepfake: ko se zlorablja za ustvarjanje zavajajočih vsebin, lažnih zgodb ali lažnega predstavljanja ljudi v škodljive namene (npr. širjenje dezinformacij ali lažnih novic), to povzroča resne etične dileme.
AI generator glasu
AI generatorji glasu uporabljajo algoritme za sintezo glasov, podobnih človeškemu. Običajno se učijo na velikih količinah podatkov, da čim bolje posnemajo človeške glasove in ton.
- Etična uporaba: za lažji dostop osebam z govornimi oviranostmi, učenje jezikov, zabavo ali sinhronizacijo video vsebin.
- Neetična uporaba: ustvarjanje lažnih posnetkov z namenom prevare, npr. lažno predstavljati glas druge osebe za goljufije ali širjenje dezinformacij.
Kloniranje glasu
Kloniranje glasu pomeni ustvarjanje sintetične kopije posameznikovega glasu, običajno na podlagi posnetkov, ki jih nato obdela strojno učenje.
- Etična uporaba: ustvarjanje osebnih glasovnih pomočnikov, ohranjanje glasu za prihodnje generacije z dovoljenjem ali pomoč osebam z govornimi motnjami.
- Neetična uporaba: nepooblaščeno kloniranje glasu za zavajajoče namene brez privolitve, kar lahko vodi do kršenja zasebnosti in zlorab.
Zloraba Bidenovega AI glasu
Zloraba Bidenovega glasu prek AI roboklicev je jasen primer, kako je moč umetne inteligence mogoče izkoristiti za zavajanje volivcev in širjenje dezinformacij. Takšne zlorabe lahko vodijo do širjenja lažnih zgodb in omajajo zaupanje v demokracijo ter integriteto volitev.
Z napredkom AI raste tudi tveganje za podobne incidente, zato strokovnjaki, kot je Hany Farid, opozarjajo na nujnost večje pozornosti in ukrepanja.
Volivci naj bodo pozorni na AI v volilni sezoni
Pred predsedniškimi volitvami 2024 morajo biti volivci še posebej pozorni na zlorabe AI v politični propagandi. Z AI ustvarjene dezinformacije postajajo resen izziv, zato je nujna večja ozaveščenost volivcev.
“Skrbi nas, da bodo generativni AI uporabljeni kot orodje v volilni kampanji, kar ta dogodek že dokazuje,” je povedal Hany Farid, digitalni forenzik, ki je analiziral Bidenov roboklic, v intervjuju.
Kako etično uporabljati AI za glas
Po tem dogodku je ključno razmisliti o etični uporabi AI glasu. Čeprav prinaša številne možnosti, kot je npr. sinhronizacija, jo moramo uporabljati odgovorno: jasno označevati AI zvok, preprečevati zlorabe ter spoštovati zasebnost in soglasje.
Prihajajo zakoni in predpisi o AI
Z napredkom tehnologije je nujno, da zakonodajalci, AI razvijalci, uradniki in javnost sodelujejo pri varovalkah, regulaciji in etičnih standardih za zaščito demokracije pred zlorabami. Verodostojnost volitev, temelj ameriške demokracije, je odvisna od hitrega odziva. Kongres že obravnava zaščite AI: na nedavnem zaslišanju v senatu je senator Blumenthal predvajal primer deepfake posnetka s svojim glasom, ki ga je ustvaril AI, in s scenarijem ChatGPT. Zvezna volilna komisija je začela postopek morebitne regulacije AI deepfake v političnih oglasih za leto 2024.
Speechify Voice Over Studio: #1 etična AI platforma za glas
Speechify Voice Over Studio je vodilna etična AI platforma za glas, ki postavlja standard v sintezi govora. Ponuja več kot 200 naravnih tekst-v-govor glasov v več jezikih in naglasih ter omogoča enostavno ustvarjanje vsebin.
Platforma je uporabnikom prijazna, z naprednimi AI orodji za urejanje zvoka, s katerimi lahko nastavljate višino, izgovor in ton. Speechify omogoča kloniranje le lastnega glasu, zagotavlja soglasje in preprečuje zlorabe.
Speechify Voice Over Studio je odlična izbira za pripravo glasovnih posnetkov za družbena omrežja, igre, zvočne knjige, podkaste in drugo. Nadgradite ustvarjanje in preizkusite Speechify Voice Over Studio brezplačno še danes.
Pogosta vprašanja
Kakšen je primer neetičnega kloniranja glasu z AI?
Neetičen primer je uporaba AI za izdelavo lažnega posnetka, kjer Elon Musk izreka neresnične trditve o občutljivih geopolitičnih temah, npr. o vpletenosti Washingtona v Izraelu, s čimer bi lahko zavajali javnost in povzročili razdor. Takšna zloraba AI glasu izkorišča zaupanje ter spodbuja konflikt s prirejanjem izjav vplivnih oseb z določenim ciljem.
Ali želi GOP regulirati umetno inteligenco?
Po anketi Fox News so “republikanci manj prepričani kot demokrati, da mora država uvesti predpise za umetno inteligenco, in bolj skeptični, da jim bo to uspelo pravilno.”
Ali je bil za Taylor Swift ustvarjen deepfake?
Za Taylor Swift je bilo ustvarjenih več neetičnih deepfake posnetkov, tudi fotografij in glasbe, brez njenega soglasja. Po poročilih celo razmišlja o pravnih ukrepih proti ustvarjalcem takih deepfakov.
Ali so volivci New Hampshira prejeli Bidenov deepfake roboklic, ki jih je odvračal od glasovanja?
Da, prevarant je ustvaril Bidenov deepfake z uporabo ElevenLabs AI, da bi skušal odvrniti volivce od vpisovanja Bidenovega imena v strankarskih volitvah v New Hampshiru.
