Zdroj deepfake Joea Bidena odhalený po volebnom ovplyvňovaní
V poslednej chvíli pred primárkami v New Hampshire sa objavila zákerná schéma, ktorá využila umelú inteligenciu na napodobnenie hlasu prezidenta Joea Bidena v robokoláte. Tento bezprecedentný pokus o ovplyvnenie volieb ukázal, ako sa prelínajú AI, deepfake a dezinformácie, čo vyvoláva obavy z ich dôsledkov pre demokraciu. Pozrite sa, čo všetko by ste mali vedieť o tomto deepfake podvode s robokolátom od prezidenta USA Joea Bidena a kto za ním stál.
Čo je deepfake podvod s Joeom Bidenom?
V pondelok 22. januára 2023 kancelária generálneho prokurátora v New Hampshire oznámila vyšetrovanie hlásení o robokoláte, ktorý využil umelú inteligenciu na napodobnenie hlasu prezidenta Bidena a odrádzal voličov v štáte od účasti vo voľbách.
Cieľom podvodu bolo odradiť voličov od účasti v primárkach, pričom nepravdivo tvrdil, že hlasovanie v primárkach ovplyvní novembrové voľby. AI-generovaný hlas Bidena vyzýval voličov, aby si „schovali“ svoj hlas na federálne voľby a tvrdil, že hlasovanie v primárkach pomôže republikánom a opätovnému zvoleniu Donalda Trumpa.
Deepfake robokolát Biden – volajúce číslo
Volajúce číslo deepfake robokolu pôsobilo, akoby bol odoslaný z čísla Kathy Sullivan, bývalej predsedníčky štátnej demokratickej strany, ktorá vedie Granite for America, super-PAC vyzývajúci na „write-in“ prezidenta Bidena. Biden však v New Hampshire nekandidoval a nebol na kandidátke, hoci by mal byť v prvej pozícii pre prezidentské demokratické primárky.
„Tento hovor sa spája s mojím osobným číslom bez môjho súhlasu,“ uviedla Sullivanová v stanovisku. „Ide čisto o zasahovanie do volieb a snahu obťažovať mňa aj ďalších voličov v New Hampshire, ktorí chcú v utorok napísať meno Joea Bidena.“
Deepfake zvukový záznam – Bidenov robokolát
Vo falošnom robokoláte získanom NBC počuť hlas veľmi podobný Bidenovi hovoriť svoj obľúbený výraz „What a bunch of malarkey.” Následne tvrdí: „je dôležité, aby ste si hlas nechali na novembrové voľby. Hlasovaním v utorok len podporíte republikánov v ich snahe opäť zvoliť Trumpa. Váš hlas rozhoduje v novembri, nie teraz.“
Po zverejnení hovorkyňa Bieleho domu Karine Jean-Pierre oznámila, že správa bola vytvorená AI na šírenie dezinformácií a nepochádzala z Bidenovej kampane.
Manažérka Bidenovej kampane Julie Chavez Rodriguez uviedla, že tím „okamžite zvažuje ďalšie kroky“.
Čo robiť, ak ste dostali robokolát s hlasom Joea Bidena?
Nahraná správa bola pravdepodobne nezákonným pokusom o šírenie dezinformácií a narušenie volieb. Nie je jasné, koľko ľudí hovor dostalo, minimálne tucet ho nahlásilo. Generálny prokurátor John Formella vyhlásil, že každý, kto takýto hovor prijal, „by mal jeho obsah úplne ignorovať“.
Zdroj deepfake robokolu Bidena odhalený
Podľa Bloombergu spoločnosť Pindrop Security Inc. zistila, že deepfake robokolát Bidena nepochádzal z jeho kampane, ale od podvodníka, ktorý využil ElevenLabs, platformu na klonovanie hlasu založenú na AI.
Hoci Stanovisko o bezpečnosti ElevenLabs povoľuje klonovanie hlasu „na určité nekomerčné účely, ak tým nezasahujete do súkromia alebo ekonomických záujmov,“ vrátane „súkromného štúdia, nekomerčného výskumu, vzdelávania, karikatúry, paródie, satiry, umeleckej/ politickej reči prispievajúcej k verejnej debate, citácií“, ako aj „kritiky a recenzie,” ElevenLabs zablokoval účet, ktorý vytvoril deepfake robokolát Bidena.
„Zabrániť zneužitiu AI zvuku je pre nás prioritou a takéto prípady berieme veľmi vážne,“ uviedol ElevenLabs pre Bloomberg.
Deepfake vs. AI generátor hlasu vs. klonovanie hlasu
S rastúcou obľubou AI generovania hlasu je dôležité rozumieť pojmom deepfake, AI generátor hlasu a klonovanie hlasu a poznať rozdiel medzi ich etickým a neetickým použitím.
Deepfake
Deepfake označuje využívanie umelej inteligencie a strojového učenia na tvorbu alebo úpravu audia či videa, často tak, že niečia podoba či hlas je vierohodne nahradený inou osobou.
- Etické použitie deepfake: Deepfake môže byť využitý eticky v zábave, umeleckých prejavoch a vzdelávaní, ak úmyslom nie je niekoho klamať ani poškodiť.
- Neetické použitie deepfake: Zneužitie deepfake na tvorbu zavádzajúceho obsahu, falošných naratívov alebo predstieranie identity z nekalých dôvodov (napr. dezinformácie alebo fake news) je závažný etický problém.
AI generátor hlasu
AI generátory hlasu využívajú strojové učenie na syntézu ľudských hlasov, často trénované na veľkých množinách dát, aby napodobnili tón a zafarbenie reči.
- Etické použitie AI generátora hlasu: Môže slúžiť na prístupnosť pre ľudí s narušenou rečou, jazykové vzdelávanie, zábavu alebo voice-overy.
- Neetické použitie AI generátora hlasu: Nesprávne použitie na tvorbu falošných nahrávok na podvodné účely alebo šírenie dezinformácií je neetické.
Klonovanie hlasu
Klonovanie hlasu znamená vytvorenie syntetickej kópie hlasu človeka, pričom ako tréningové dáta slúžia jeho skutočné nahrávky.
- Etické použitie klonovania hlasu: So súhlasom dotknutej osoby je využiteľné na osobných asistentov, uchovanie hlasu do budúcnosti alebo pomoc pri rečových poruchách.
- Neetické použitie klonovania hlasu: Neoprávnené klonovanie hlasu na podvodné, zavádzajúce účely bez súhlasu je vysoko neetické, vedie k porušeniu súkromia a možnému zneužitiu.
Zneužitie AI hlasu Joea Bidena
Zneužitie Bidenovho hlasu cez AI robokolát je názorný príklad toho, ako môže byť AI použitá na marenie volieb či šírenie dezinformácií. Dôsledky napodobňovania hlasov politikov sú rozsiahle – incident naznačuje možnú budúcnosť, kde môžu AI hlasy šíriť nepravdy, manipulovať verejnosť a podkopávať demokraciu. Dôvera v politický diskurz a poctivosť volieb je vážne ohrozená.
S pokrokom AI sa tieto riziká zvyšujú, odborníci ako Hany Farid zdôrazňujú potrebu ostražitosti pri riešení týchto výziev.
Voliči by mali byť obozretní voči AI v tomto volebnom roku
Ako sa blížia prezidentské voľby 2024, voliči by mali byť ostražití voči zneužívaniu AI na ovplyvňovanie verejnej mienky. AI-generované dezinformácie sa môžu stať bežným problémom, preto je nutné zvýšiť informovanosť voličov.
„Obávali sme sa, že generatívna AI bude v najbližších voľbách zneužitá a toto je jasný predzvesť budúcich trendov,” povedal Hany Farid, digitálny forenzný expert, po preskúmaní Bidenovho robokolu v rozhovore.
Ako využívať AI hlas eticky
Po tejto udalosti je dôležité premýšľať nad etickým použitím AI hlasu. Hoci technológia prináša možnosti vrátane dabingu, je našou povinnosťou používať ju eticky – jasne označovať AI hlasy, neškodiť, rešpektovať súkromie a súhlas.
Prichádzajú zákony a regulácie AI
Ako technológia napreduje, zákonodarcovia, vývojári AI, úradníci a verejnosť musia spolupracovať pri zavádzaní ochranných prvkov, regulácií a etických noriem na ochranu volieb. Integrita volieb, základ US demokracie, závisí od našej schopnosti čeliť výzvam AI. Kongres už diskutuje o ochrane pred AI. Na nedávnom vypočutí v Senáte senátor Richard Blumenthal ukázal deepfake so svojím hlasom generovaným AI a textom od ChatGPT. Federálna volebná komisia začala proces regulácie AI-generovaných deepfake politických reklám v roku 2024.
Speechify Voice Over Studio: #1 etická AI platforma
Speechify Voice Over Studio je popredná etická AI platforma, ktorá nastavuje nový štandard v syntetickej reči. Ponúka vyše 200 realistických text-to-speech hlasov v mnohých jazykoch a prízvukoch, vďaka čomu môžu používatelia jednoducho vytvárať pútavý obsah.
Platforma má jednoduché AI nástroje na úpravu zvuku, poskytuje detailnú kontrolu nad každým slovom, umožňuje jemné doladenie tónu, výslovnosti, výšky hlasu a ďalších parametrov. Speechify Voice Over Studio dbá na etiku – povoľuje klonovanie iba vlastného hlasu, so súhlasom, čím znižuje riziko zneužitia.
Speechify Voice Over Studio je ideálnou voľbou na tvorbu pútavých voice-overov pre sociálne siete, hry, audioknihy, podcasty a ďalší obsah. Posuňte svoju tvorbu na vyššiu úroveň a vyskúšajte Speechify Voice Over Studio zadarmo ešte dnes.
FAQ
Aký je príklad neetického klonovania AI hlasu?
Neetickým príkladom AI klonovania hlasu je napríklad vytvorenie falošnej nahrávky Elona Muska, v ktorej sa nepravdivo vyjadruje k citlivým svetovým témam, napríklad angažovanosti USA v Izraeli, a tým manipuluje verejnou mienkou a šíri rozkol. Takáto podvodná klonácia by zneužívala dôveru a mohla rozdeliť spoločnosť pripísaním falošných tvrdení vplyvným osobám na podporu vlastnej agendy.
Chce GOP regulovať AI?
Podľa prieskumu Fox News „republikáni sú menej presvedčení ako demokrati, že federálna vláda musí regulovať systémy umelej inteligencie, a sú ešte skeptickejší, či to vláda dokáže správne.“
Bol vytvorený deepfake Taylor Swift?
O Taylor Swift už vzniklo niekoľko neetických deepfake videí a hudby bez jej súhlasu. Podľa správ zvažuje právne kroky voči tvorcom týchto deepfake materiálov.
Dostali voliči v New Hampshire robokolát s deepfake Bidenom, ktorý ich odhováral od volieb?
Áno, podvodník vytvoril deepfake Bidena pomocou AI technológie ElevenLabs, aby presvedčil voličov, aby v primárkach nepísali Bidenovo meno.
