Joe Bidenin deepfaken lähde paljastui vaalivaikuttamisen jälkeen

Presidentti Bidenin deepfake-robopuhelu vastaanotettiin joillakin äänestäjillä. Selvitä, kuka loi Joe Bidenin deepfaken ja mitä eettisesti kyseenalainen tekoäly voi aiheuttaa.

Joe Bidenin deepfaken lähde paljastui vaalivaikuttamisen jälkeen

New Hampshiren esivaalien kynnyksellä paljastui ovela juoni, jossa käytettiin tekoälyteknologiaa jäljittelemään presidentti Joe Bidenin ääntä robopuhelussa. Tämä ennennäkemätön yritys vaikuttaa vaaleihin on tuonut esiin tekoälyn, deepfakejen ja disinformaation risteyskohdan, herättäen huolta demokraattisten prosessien mahdollisista seurauksista. Sukelletaanpa syvemmälle tähän robopuheluhuijaukseen, jossa Yhdysvaltain presidentti Joe Biden oli osallisena, ja selvitetään, ketkä olivat mukana.

Mikä on Joe Bidenin deepfake-huijaus?

Maanantaina 22. tammikuuta 2023 New Hampshiren oikeusministerin toimisto ilmoitti tutkivansa raportteja ilmeisestä robopuhelusta, jossa käytettiin tekoälyä jäljittelemään presidentti Joe Bidenin ääntä ja estämään osavaltion äänestäjiä menemästä vaaliuurnille.

Tämän huijauksen tarkoituksena oli estää äänestäjiä osallistumasta osavaltion esivaaleihin, väittäen virheellisesti, että äänestäminen esivaaleissa vaikuttaisi jotenkin marraskuun yleisvaaleihin. Tekoälyn luoma Bidenin ääni kehotti äänestäjiä "säästämään" äänensä tuleviin liittovaltion vaaleihin, väittäen, että äänestäminen esivaaleissa hyödyttäisi republikaaneja ja helpottaisi Donald Trumpin uudelleenvalintaa.

Joe Bidenin deepfake-robopuhelun soittajan tunnus

Väärennetyn Bidenin robopuhelun soittajan tunnus näytti siltä, kuin se olisi lähetetty Kathy Sullivanilta, entiseltä osavaltion demokraattisen puolueen puheenjohtajalta, joka auttaa johtamaan Granite for America -super-PAC:ia, joka kampanjoi äänestäjiä kirjoittamaan Bidenin nimen osoittaakseen tukensa presidentille. Hän ei kuitenkaan kampanjoinut New Hampshiressa eikä ollut ehdolla, koska hän oli demokraattisten presidentinvaalien esivaalien johdossa.

“Tämä puhelu yhdistyy henkilökohtaiseen matkapuhelinnumerooni ilman lupaani,” Sullivan sanoi lausunnossaan. “Se on suoraa vaalivaikuttamista ja selkeä yritys häiritä minua ja muita New Hampshiren äänestäjiä, jotka suunnittelevat kirjoittavansa Joe Bidenin nimen tiistaina.”

Joe Bidenin deepfake-huijauksen äänitallenne

Robopuhelun väärennetyssä äänitallenteessa NBC:n hankkimana, kuulet äänen, joka kuulostaa pelottavan paljon Bideniltä, sanovan hänen suosikkifraasinsa, “Mikä joukko hölynpölyä.” Viesti jatkaa, että “on tärkeää, että säästät äänesi marraskuun vaaleihin ja “äänestäminen tänä tiistaina vain mahdollistaa republikaanien pyrkimykset valita Donald Trump uudelleen. Äänesi merkitsee marraskuussa, ei tänä tiistaina.”

Julkaisun jälkeen Valkoisen talon lehdistösihteeri Karine Jean-Pierre tiedotti yleisölle, että viesti oli tekoälyn luoma levittämään disinformaatiota eikä tullut Bidenin kampanjasta.

Bidenin kampanjapäällikkö Julie Chavez Rodriguez sanoi lausunnossaan, että kampanja “keskustelee aktiivisesti lisätoimista, jotka on toteutettava välittömästi.”

Mitä tehdä, jos sait Joe Bidenin robopuhelun?

Tallennettu viesti vaikutti olevan laiton yritys levittää väärää tietoa ja häiritä äänestämistä. Vaikka ei ole selvää, kuinka moni äänestäjä sai puhelun, ainakin tusina oli raportoinut siitä. Oikeusministeri John Formella selitti, että kenen tahansa, joka sai tällaisen puhelun, “tulisi jättää viestin sisältö täysin huomiotta.”

Joe Bidenin robopuhelun deepfaken lähde paljastui

Bloombergin mukaan äänipetosten tunnistamiseen erikoistunut yritys Pindrop Security Inc. havaitsi, että Bidenin deepfake-robopuhelu ei ollut Bidenin kampanjan tekemä, vaan huijarin, joka käytti ElevenLabsia, tekoälyäänistartupia, joka tarjoaa äänen kloonausmahdollisuuksia.

Vaikka ElevenLabsin turvallisuuslausunto sallii äänen kloonauksen “tietyissä ei-kaupallisissa tarkoituksissa, jos et vaikuta henkilön yksityisyyteen tai taloudellisiin etuihin,” mukaan lukien “yksityinen opiskelu, ei-kaupallinen tutkimus, koulutus, karikatyyri, parodia, satiiri, taiteellinen ja poliittinen puhe, joka edistää julkista keskustelua, lainaus,” sekä “kritiikki ja arviointi,” ElevenLabs kielsi käyttäjän, joka loi Bidenin deepfake-robopuhelun.

"Olemme sitoutuneet estämään ääni-AI-työkalujen väärinkäytön ja suhtaudumme erittäin vakavasti kaikkiin väärinkäyttötapauksiin," ElevenLabs kertoi Bloombergille.

Deepfake vs. tekoälyäänigeneraattori vs. äänen kloonaus

Kun tekoälypohjainen äänentuotanto yleistyy, on tärkeää ymmärtää termit deepfake, tekoälyäänigeneraattori ja äänen kloonaus sekä niiden eettiset ja epäeettiset käyttötavat.

Deepfake

Deepfake viittaa tekoälyn ja koneoppimisen tekniikoiden käyttöön ääni- ja kuvamateriaalin luomisessa tai muokkaamisessa, usein korvaamalla jonkun ulkonäkö toisen henkilön ulkonäöllä realistisella tavalla.

• Eettinen deepfake-käyttö: Deepfake-teknologiaa voidaan käyttää eettisesti viihteessä, taiteellisessa ilmaisussa ja koulutuksessa, kun tarkoituksena ei ole harhauttaa tai vahingoittaa muita.
• Epäeettinen deepfake-käyttö: Kun deepfake-teknologiaa käytetään harhaanjohtavan sisällön ja väärien kertomusten luomiseen tai henkilöiden jäljittelemiseen pahantahtoisissa tarkoituksissa (kuten väärän tiedon levittämisessä tai valeuutisten luomisessa), se herättää vakavia eettisiä huolenaiheita.

Tekoälyäänigeneraattori

Tekoälyäänigeneraattorit käyttävät koneoppimisalgoritmeja ihmismäisten tekoälyäänien synteesiin. Ne koulutetaan usein suurilla tietoaineistoilla jäljittelemään ihmisten ääniä ja sävyjä.

• Eettinen tekoälyäänigeneraattorin käyttö: Tekoälyäänigeneraattoreita voidaan käyttää eettisesti moniin tarkoituksiin, kuten puhevammaisten henkilöiden saavutettavuuden parantamiseen, kielen oppimiseen, viihteeseen tai ääninäyttelyyn.
• Epäeettinen tekoälyäänigeneraattorin käyttö: Tekoälyäänentuotannon väärinkäyttö väärennettyjen äänitallenteiden luomiseen pahantahtoisin tarkoituksin, kuten jonkun äänen väärentämiseen petollisiin toimiin tai väärän tiedon levittämiseen, on epäeettistä.

Äänen kloonaus

Äänen kloonaus tarkoittaa synteettisen kopion luomista henkilön äänestä, yleensä käyttämällä heidän puheensa tallenteita koneoppimismallin koulutusaineistona.

• Eettinen äänen kloonaus: Äänen kloonausta voidaan käyttää eettisesti esimerkiksi henkilökohtaisten ääniavustajien luomiseen, yksilöiden äänten säilyttämiseen tuleville sukupolville heidän suostumuksellaan tai puhehäiriöistä kärsivien henkilöiden auttamiseen.
• Epäeettinen äänen kloonaus: Luvaton äänen kloonaus harhaanjohtaviin toimiin, kuten väärennettyjen äänitallenteiden luomiseen jonkun jäljittelemiseksi ilman heidän suostumustaan, voi olla erittäin epäeettistä ja johtaa yksityisyyden loukkauksiin ja mahdolliseen väärinkäyttöön.

Joe Bidenin tekoälyäänen väärinkäyttö

Joe Bidenin äänen väärinkäyttö tekoälyllä tuotettujen robottipuheluiden kautta on selkeä esimerkki siitä, kuinka tekoälyteknologiaa voidaan aseistaa äänestämisen estämiseksi ja väärän tiedon levittämiseksi. Tekoälyn väärinkäytön seuraukset poliittisten hahmojen äänten jäljittelemisessä ovat laajakantoisia. Tämä tapaus ennakoi tulevaisuutta, jossa tekoälyllä tuotettuja ääniä voitaisiin käyttää väärien kertomusten levittämiseen, yleisen mielipiteen manipulointiin ja demokraattisen prosessin heikentämiseen. Vaikutus luottamukseen poliittisessa keskustelussa ja vaalien rehellisyyteen on vakava huolenaihe.

Kun tekoälyteknologia kehittyy, tällaisten tapausten riski kasvaa, ja digitaalisen forensiikan asiantuntijat, kuten Hany Farid, korostavat valppauden tarvetta näiden haasteiden ratkaisemisessa.

Äänestäjien on oltava valppaina tekoälyn suhteen vaalikaudella

Kun vuoden 2024 presidentinvaalit lähestyvät, äänestäjien on pysyttävä valppaina tekoälyteknologian väärinkäytön suhteen, kun yritetään vaikuttaa yleiseen mielipiteeseen. Tekoälyllä tuotettu väärä tieto voi tulla yleiseksi ongelmaksi poliittisissa kampanjoissa, mikä edellyttää lisääntynyttä tietoisuutta äänestäjien keskuudessa.

“Olemme olleet huolissamme siitä, että generatiivista tekoälyä käytettäisiin aseena tulevissa vaaleissa, ja näemme varmasti merkkejä tulevasta,” sanoi Hany Farid, digitaalisen forensiikan asiantuntija, joka tarkasteli Bidenin robottipuhelutallennetta, haastattelussa.

Kuinka käyttää ääni-AI:ta eettisesti

Tämän tapauksen jälkeen on tärkeää pohtia ääni-AI:n eettisiä sovelluksia. Vaikka tekoälyääniteknologia tarjoaa lukuisia mahdollisuuksia, kuten ääninäyttelyä, on vastuu käyttää sitä eettisesti. Tämä sisältää selkeän ilmoittamisen, kun tekoälyllä tuotettuja ääniä käytetään, pahantahtoisten tarkoitusten välttämisen sekä yksityisyyden ja suostumuksen kunnioittamisen.

Tekoälylait ja -säädökset ovat tulossa

Teknologian kehittyessä lainsäätäjien, tekoälyn kehittäjien, vaaliviranomaisten ja yleisön on tehtävä yhteistyötä suojatoimien, säädösten ja eettisten standardien luomiseksi, jotta demokraattinen prosessi suojataan väärinkäytöksiltä. Vaalien eheys, joka on amerikkalaisen demokratian kulmakivi, riippuu kyvystämme sopeutua ja vastata tekoälyn käyttöön liittyviin uusiin haasteisiin. Itse asiassa kongressi keskustelee jo tekoälysuojista. Äskettäisessä senaatin kuulemisessa senaattori Richard Blumenthal jopa esitteli deepfake-videoita soittamalla tekoälyn avulla luodun oman äänensä, joka oli tehty OpenAI:n ChatGPT:n kirjoittaman käsikirjoituksen pohjalta. Liittovaltion vaalikomissio on myös aloittanut prosessin, jolla mahdollisesti säänneltäisiin tekoälyn luomia deepfake-videoita vuoden 2024 poliittisissa kampanjoissa.

Speechify Voice Over Studio: #1 eettinen tekoälyäänialusta

Speechify Voice Over Studio on johtava eettinen tekoälyäänialusta, joka asettaa kultastandardin synteettiselle puheteknologialle. Yli 200 luonnollisen kuuloista tekstistä puheeksi -ääntä useilla kielillä ja aksenteilla, Speechify Voice Over Studio antaa käyttäjille mahdollisuuden luoda dynaamista ja mukaansatempaavaa sisältöä vaivattomasti.

Käyttäjäystävällinen alusta tarjoaa helppokäyttöisiä äänenmuokkaustyökaluja, jotka antavat yksityiskohtaisen hallinnan jokaiseen sanaan, mahdollistaen sävyn, äänenkorkeuden ja ääntämisen hienosäädön. Speechify Voice Over Studio painottaa myös eettisiä näkökohtia tarjoamalla äänen kloonausta vain omaan ääneesi, varmistaen selkeän suostumuksen ja vähentäen väärinkäytön riskiä.

Speechify Voice Over Studio on ihanteellinen valinta houkuttelevien ääniraitojen luomiseen erilaisiin sovelluksiin, kuten sosiaalisen median sisältöön, videopeleihin, äänikirjoihin, podcasteihin ja muuhun. Nosta sisällöntuotantokokemuksesi uudelle tasolle ja kokeile Speechify Voice Over Studiota ilmaiseksi jo tänään.

UKK

Mikä on esimerkki epäeettisestä tekoälyäänikloonauksesta?

Epäeettinen esimerkki tekoälyäänikloonauksesta voisi olla teknologian käyttö vakuuttavan äänitallenteen luomiseen, jossa Elon Musk tekee vääriä väitteitä herkistä geopoliittisista asioista, kuten Washingtonin osallisuudesta Israelin asioihin, mikä voisi manipuloida yleistä mielipidettä ja aiheuttaa eripuraa. Tämä harhaanjohtava äänikloonauksen käyttö voisi hyödyntää yleisön luottamusta ja kylvää eripuraa liittämällä harhaanjohtavia lausuntoja vaikutusvaltaisiin henkilöihin tietyn agendan edistämiseksi.

Haluavatko republikaanit säännellä tekoälyä?

Fox Newsin kyselyn mukaan "republikaanit ovat vähemmän vakuuttuneita kuin demokraatit siitä, että liittovaltion hallituksen on asetettava säädöksiä tekoälyjärjestelmille, ja ovat vielä skeptisempiä siitä, pystyykö hallitus hoitamaan tehtävän oikein."

Onko Taylor Swiftistä tehty deepfake?

Taylor Swiftistä on tehty useita epäeettisiä deepfake-videoita, mukaan lukien kuvia ja musiikkia, ilman hänen suostumustaan. Raporttien mukaan hän harkitsee oikeustoimia deepfake-videoiden tekijöitä vastaan.

Saivatko New Hampshiren äänestäjät Bidenin deepfake-robocallin, jossa kehotettiin olemaan äänestämättä?

Kyllä, huijari loi Bidenin deepfaken käyttämällä ElevenLabsin tekoälyteknologiaa yrittääkseen vakuuttaa äänestäjät olemaan kirjoittamatta Bidenin nimeä New Hampshiren esivaaleissa.