Joe Bideni süvavõltsingu allikas tuli ilmsiks pärast valimiste mõjutamist
Vahetult enne New Hampshire’i eelvalimisi kasutati tehisintellekti, et jäljendada president Joe Bideni häält robokõnes. See enneolematu katse mõjutada valimisi tõi esile AI, süvavõltsingute ja valeinfo ohud demokraatiale. Siin on kõik, mida pead teadma USA presidendi Joe Bideni robokõne skandaalist ja sellega seotud inimestest.
Mis on Joe Bideni süvavõltsingu skeem?
22. jaanuaril 2023 teatas New Hampshire'i peaprokurör, et uurib robokõnesid, mis kasutasid tehisintellekti Bideni hääle jäljendamiseks ja püüdsid valijaid hääletamisest loobuma mõjutada.
Selle skeemi eesmärk oli takistada inimesi eelvalimistel osalemast, väites valesti, et eelvalimistel hääletamine võib mõjutada novembri üldvalimisi. Bideni häält matkiv kõne ütles: "Säästke oma hääl föderaalvalimisteks," väites, et eelvalimistel osalemine aitab vabariiklasi ja toob kaasa Donald Trumpi tagasivalimise.
Joe Bideni süvavõltsingu helistaja info
Võlts Bideni robokõne helistaja numbrina kuvati Kathy Sullivani, endise Demokraatliku Partei juhi nimi. Sullivan aitab juhtida super-PACi Granite for America, mis toetab Bideni nime lisamist sedelile. Biden ise New Hampshire’is ei kampaaniagi ega kandideeri seal, sest Demokraatide eelvalimiste tulemus oli sisuliselt juba ette selge.
“See kõne tuli minu isiklikule numbrile ilma loata,” ütles Sullivan avalduses. “See on otsene valimistesse sekkumine ja selge katse hirmutada mind ning neid valijaid, kes plaanivad teisipäeval Bideni nime juurde kirjutada.”
Joe Bideni süvavõltsingu helifail
Robokõne salvestatud helis kõlab hääl Bideniga väga sarnaselt, kasutades tema lemmikväljendit: “What a bunch of malarkey.” Kõne väidab: “Oluline on, et hoiate oma hääle novembri valimisteks. Sellel teisipäeval hääletamine aitab vabariiklasi ja viib Donald Trumpi võiduni. Teie hääl loeb novembris, mitte nüüd.”
Valge Maja pressiesindaja Karine Jean-Pierre kinnitas, et tegu oli AI abil loodud valeinfoga ja see ei tulnud Bideni kampaaniast.
Bideni kampaaniajuht Julie Chavez Rodriguez ütles avalduses, et nad kaaluvad “täiendavaid kiireloomulisi samme.”
Mida teha, kui said Joe Bideni robokõne?
Lindistatud sõnum oli ebaseaduslik katse valeinfot levitada ja hääletamist segada. Pole teada, mitu inimest kõne sai, aga vähemalt tosin on sellest teatanud. Peaprokurör John Formella ütles, et sellise kõne saanud peaksid selle täielikult tähelepanuta jätma.
Joe Bideni süvavõltsingu allikas avalik
Nagu Bloomberg kirjutab, avastas Pindrop Security Inc., et tegemist polnud Bideni kampaania enda kõnega, vaid pettur kasutas ElevenLabi AI teenust hääle kloonimiseks.
Kuigi ElevenLabi ohutusreeglid lubavad hääle kloonimist ainult teatud tingimustel (nt eraõpe, kriitika, satiir, avalik debatt, kunst jne), keelati kasutaja, kes lõi Joe Bideni süvavõltsing-robokõne.
"Võtame AI helitehnoloogia väärkasutust väga tõsiselt ja püüame seda igati ära hoida," ütles ElevenLabs Bloombergile.
Süvavõltsing vs AI-kõnegeneraator vs hääle kloonimine
AI hääletehnoloogia muutub üha populaarsemaks, mistõttu on oluline mõista, mida tähendavad süvavõltsing, AI-kõnegeneraator ja hääle kloonimine ning millised on nende eetilised ja ebaeetilised kasutusviisid.
Süvavõltsing
Süvavõltsing tähendab tehisintellekti abil heli või visuaali loomist, muutes kellegi kujutise realistlikult teise isikuga.
- Eetiline kasutus: meediakunst, haridus, huumor (kui eesmärk pole petta ega kahjustada).
- Ebaeetiline kasutus: kui süvavõltsing levitab valeinfot, imiteerib inimest pahatahtlikult või loob vale narratiivi, on see tõsine eetiline probleem.
AI-kõnegeneraator
AI-kõnegeneraatorid kasutavad masinõpet, et sünteesida inimsarnaseid hääli, sageli suurte andmekogumite põhjal.
- Eetiline kasutus: häälegeneraatorid aitavad kõnepuudega inimesi, keeleõpet, meelelahutust ja reklaami.
- Ebaeetiline kasutus: kui AI-häält kasutatakse kellegi võltsimiseks või pahatahtliku valeinfo levitamiseks, on see ebaeetiline.
Hääle kloonimine
Hääle kloonimine tähendab, et AI-tehnoloogia abil luuakse inimese hääle sünteetiline koopia, kasutades tema helisalvestusi mudeli treenimiseks.
- Eetiline kasutus: isiklike abistajate loomine, hääle säilitamine, hääleabi haigetele—kui on olemas nõusolek.
- Ebaeetiline kasutus: hääle kloonimine ilma loata, petmiseks või kellegi privaatsust rikkudes.
Joe Bideni AI-hääle väärkasutamine
Joe Bideni AI-robokõne väärkasutus näitab, kui ohtlik võib olla tehisintellekti kasutamine valimiste mõjutamiseks ja valeinfo levitamiseks. Selliste süvavõltsingute mõju võib olla ulatuslik—AI häältega saab edastada valeinfot, mõjutada avalikkust ja ohustada demokraatiat. See paneb proovile valimiste usaldusväärsuse ja poliitilise debati aususe.
AI arenedes suureneb selliste juhtumite oht. Digieksperdid, nagu Hany Farid, rõhutavad, et tuleb jääda valvsaks.
Valijad peaksid olema AI suhtes valvsad sel valimishooajal
2024. aasta presidendivalimiste eel peavad valijad olema AI abil leviva valeinfo suhtes tähelepanelikud, sest see võib järjest enam valimiskampaaniaid mõjutada.
“Oleme mures, et generatiivset AI-d kasutatakse tulevastel valimistel relvana—ja näeme juba selle märke,” lausus digiekspert Hany Farid pärast Bideniga seotud robokõne kuulamist intervjuus.
Kuidas kasutada AI-kõnet eetiliselt
Pärast seda intsidenti on eriti tähtis mõelda AI hääletehnoloogia eetilisele kasutusele. Oluline on alati selgelt öelda, kui kasutatakse AI-häält, vältida pahatahtlikke eesmärke ning austada privaatsust ja nõusolekut.
AI seadused ja regulatsioonid on tulekul
Tehnoloogia arenedes peavad seadusandjad, arendajad, valimisametnikud ja avalikkus ühiselt kaitsma valimiste ausust AI väärkasutuse eest. Valimiste läbipaistvus ja usaldusväärsus on Ameerika demokraatia tugisammas. Kongress arutab juba AI reguleerimist. Hiljutisel Senati istungil demonstreeris senaator Richard Blumenthal süvavõltsingut, kasutades iseenda AI-häälega ette loetud teksti OpenAI ChatGPT toel. Valimiskomisjon arutab samuti AI-süvavõltsingute reguleerimist 2024. aasta kampaaniates.
Speechify Voice Over Studio: #1 eetiline AI-kõneplatvorm
Speechify Voice Over Studio on juhtiv eetiline AI-kõneplatvorm, pakkudes üle 200 elutruu tekstist kõne hääle mitmes keeles ja aktsendis, mis võimaldab kasutajatel luua hõlpsalt kaasahaaravat sisu.
Platvormil on mugavad AI-tööriistad helide muutmiseks, iga sõna täpseks seadistamiseks—hääl, intonatsioon, toon jpm. Speechify lubab hääle kloonimist ainult omaenda häälele, kindlustades nõusoleku ja vältides väärkasutust.
Speechify Voice Over Studio sobib suurepäraselt sotsiaalmeediasse, mängudesse, audioraamatute, taskuhäälingute jpm loomiseks. Tõsta oma sisu taset ja proovi Speechify'd tasuta juba täna.
KKK
Mis on ebaeetilise AI-hääle kloonimise näide?
Ebaeetiline näide oleks, kui AI abil luuakse võlts helisalvestis, milles Elon Musk räägib valesid tundlikel teemadel, nagu USA seotus Iisraeliga, mõjutades sellega avalikku arvamust ja tekitades segadust. Sellised võltsingud kuritarvitavad avalikku usaldust, omistades mõjukatele inimestele laimavaid või valeväiteid.
Kas Vabariiklik Partei soovib AI reguleerida?
Vastavalt Fox Newsi küsitlusele usuvad vabariiklased demokraatidest vähem, et föderaalvalitsus peaks kehtestama AI-le reegleid, ning on skeptilisemad selles, kas valitsus suudab seda korralikult teha.
Kas Taylor Swifti kohta tehakse süvavõltsinguid?
Taylor Swifti kohta on tehtud mitu ebaeetilist süvavõltsingut (fotod ja muusika) ilma tema loata. Väidetavalt kaalub ta isegi kohtusse minekut nende loojate vastu.
Kas New Hampshire'i valijad said süvavõltsitud Bideni robokõne?
Jah, pettur kasutas ElevenLabi AI-d, et luua Bideni süvavõltsingu, veenmaks valijaid eelvalimistel Bideni nime sedelile mitte kirjutama.
