Kilden til Joe Biden deepfake avslørt etter valginnblanding

En deepfake robocall av president Biden ble mottatt av noen velgere. Finn ut hvem som skapte Joe Biden deepfake og konsekvensene av uetisk AI.

Kilden til Joe Biden deepfake avslørt etter valginnblanding

I siste liten før primærvalget i New Hampshire, utspilte det seg en lumsk plan som brukte kunstig intelligens-teknologi for å etterligne president Joe Bidens stemme i en robocall. Dette enestående forsøket på valginnblanding har kastet lys over skjæringspunktet mellom AI, deepfakes og desinformasjon, og vekker bekymring for de potensielle konsekvensene for demokratiske prosesser. La oss dykke ned i alt du trenger å vite om deepfake-svindelen som involverer en robocall fra USAs president Joe Biden, inkludert hvem som var involvert.

Hva er Joe Biden deepfake-svindelen?

Mandag 22. januar 2023 sa justisministerens kontor i New Hampshire at de etterforsket rapporter om en tilsynelatende robocall som brukte kunstig intelligens for å etterligne president Joe Bidens stemme og avskrekke velgere i staten fra å gå til valgurnene.

Denne svindelen hadde som mål å avskrekke velgere fra å delta i statens primærvalg, ved falskt å hevde at stemmegivning i primærvalget på en eller annen måte ville påvirke det generelle valget i november. Den AI-genererte Biden-stemmen oppfordret velgerne til å "spare" stemmene sine til det kommende føderale valget, og hevdet at stemmegivning i primærvalget ville gagne republikanerne og lette gjenvalget av Donald Trump.

Joe Biden deepfake oppringer-ID

Den falske Biden robocallens oppringer-ID så ut som om den ble sendt fra Kathy Sullivan, en tidligere statlig leder for det demokratiske partiet som hjelper til med å drive Granite for America, en super-PAC som kampanjerer for at velgere skal skrive inn Biden for å vise sin støtte til presidenten. Imidlertid kampanjerte han ikke i New Hampshire og skulle ikke være på stemmeseddelen siden han var i ledende posisjon for de demokratiske presidentprimærvalgene.

“Denne samtalen kobles tilbake til mitt personlige mobilnummer uten min tillatelse,” sa Sullivan i en uttalelse. “Det er direkte valginnblanding, og tydelig et forsøk på å trakassere meg og andre velgere i New Hampshire som planlegger å skrive inn Joe Biden på tirsdag.”

Joe Biden deepfake-svindel lyd

I den falske robocall-lyden innhentet av NBC, kan du høre en stemme som høres skremmende lik ut som Bidens si hans favorittuttrykk, “What a bunch of malarkey.” Meldingen fortsetter med å si, “det er viktig at du sparer stemmen din til valget i november og “å stemme denne tirsdagen gir bare republikanerne mulighet til å velge Donald Trump igjen. Din stemme gjør en forskjell i november, ikke denne tirsdagen.”

Etter utgivelsen informerte Det hvite hus' pressesekretær Karine Jean-Pierre offentligheten om at meldingen var AI-generert for å spre desinformasjon og ikke fra Biden-kampanjen.

I en uttalelse sa Bidens kampanjeleder, Julie Chavez Rodriguez, at kampanjen “aktivt diskuterer ytterligere tiltak som skal iverksettes umiddelbart.”

Hva bør du gjøre hvis du mottok en Joe Biden robocall?

Den innspilte meldingen så ut til å være et ulovlig forsøk på å spre feilinformasjon og forstyrre stemmegivningen. Selv om det er uklart hvor mange velgere som mottok samtalen, hadde minst et dusin rapportert det. Justisminister John Formella forklarte at alle som mottok en slik samtale “bør se bort fra innholdet i denne meldingen fullstendig.”

Kilden til Joe Biden robocall deepfake avslørt

Ifølge Bloomberg, fant et stemmebedrageri-deteksjonsselskap Pindrop Security Inc. ut at Biden deepfake robocall ikke ble laget av Biden-kampanjen, men av en svindler som brukte ElevenLabs, en AI-stemmeoppstart som tilbyr stemmekloning.

Mens ElevenLabs’ sikkerhetserklæring tillater stemmekloning “for visse ikke-kommersielle formål hvis du ikke påvirker personens personvern eller økonomiske interesser,” inkludert “privat studie, ikke-kommersiell forskning, utdanning, karikatur, parodi, satire, kunstnerisk og politisk tale som bidrar til offentlige debatter, sitat,” samt “kritikk og anmeldelse,” ElevenLabs utestengte brukeren som skapte Biden deepfake robocall.

"Vi er dedikert til å forhindre misbruk av lyd-AI-verktøy og tar alle tilfeller av misbruk ekstremt alvorlig," fortalte ElevenLabs til Bloomberg.

Deepfake vs. AI-stemmegenerator vs. stemmekloning

Etter hvert som AI-stemmegenerering blir mer populært, er det viktig å forstå begrepene deepfake, AI-stemmegenerator og stemmekloning, samt forskjellen mellom deres etiske og uetiske bruk.

Deepfake

Deepfake refererer til bruken av kunstig intelligens og maskinlæringsteknikker for å skape eller manipulere lyd- og visuelt innhold, ofte ved å erstatte en persons likhet med en annen på en realistisk måte.

• Etisk bruk av deepfake: Deepfake-teknologi kan brukes etisk til underholdning, kunstnerisk uttrykk og utdanning, der hensikten ikke er å bedra eller skade andre.
• Uetisk bruk av deepfake: Når deepfake-teknologi utnyttes for å skape villedende innhold og falske narrativer eller for å etterligne individer for ondsinnede formål (som å spre feilinformasjon eller lage falske nyheter), reiser det alvorlige etiske bekymringer.

AI-stemmegenerator

AI-stemmegeneratorer bruker maskinlæringsalgoritmer for å syntetisere menneskelignende AI-stemmer. De trenes ofte på store datasett for å etterligne menneskelige stemmer og toner.

• Etisk bruk av AI-stemmegenerator: AI-stemmegeneratorer kan brukes etisk til ulike formål, inkludert tilgjengelighet for personer med talevansker, språklæring, underholdning eller stemmeskuespill.
• Uetisk bruk av AI-stemmegenerator: Misbruk av AI-stemmegenerering for å lage falske lydopptak med ondsinnet hensikt, som å forfalske noens stemme for å etterligne dem for svindelaktiviteter eller for å spre feilinformasjon, anses som uetisk.

Stemmekloning

Stemmekloning innebærer å lage en syntetisk kopi av en persons stemme, vanligvis ved å bruke opptak av deres tale som treningsdata for en maskinlæringsmodell.

• Etisk bruk av stemmekloning: Stemmekloning kan brukes etisk til formål som å lage personlige stemmeassistenter, bevare stemmene til individer for fremtidige generasjoner med samtykke, eller hjelpe personer med taleforstyrrelser.
• Uetisk bruk av stemmekloning: Uautorisert stemmekloning for villedende aktiviteter, som å lage falske lydopptak for å etterligne noen uten deres samtykke, kan være svært uetisk og kan føre til brudd på personvernet og potensiell misbruk.

Misbruk av Joe Bidens AI-stemme

Misbruket av Joe Bidens stemme gjennom AI-genererte robocalls er et tydelig eksempel på potensialet for at kunstig teknologi kan bli brukt som våpen i forsøk på å undertrykke stemmegivning og spre feilinformasjon. Konsekvensene av å misbruke AI for å replikere politiske figurers stemmer er vidtrekkende. Denne hendelsen varsler en fremtid der AI-genererte stemmer kan brukes til å spre falske narrativer, manipulere offentlig opinion og undergrave den demokratiske prosessen. Den potensielle innvirkningen på tilliten til politisk diskurs og integriteten til valg er en alvorlig bekymring.

Etter hvert som AI-teknologien utvikler seg, øker risikoen for at slike hendelser kan oppstå, med digitale rettsmedisinere som Hany Farid som understreker behovet for årvåkenhet i møte med disse utfordringene.

Velgere bør være på AI-vakt denne valgkampen

Når presidentvalget i 2024 nærmer seg, må velgerne være årvåkne mot misbruk av AI-teknologi i forsøk på å påvirke offentlig opinion. AI-generert feilinformasjon kan bli et utbredt problem i politiske kampanjer, noe som krever økt bevissthet blant velgerne.

“Vi har vært bekymret for at generativ AI ville bli brukt som våpen i det kommende valget, og vi ser hva som sikkert er et tegn på hva som kommer,” sa Hany Farid, en ekspert i digital rettsmedisin som gjennomgikk Biden robocall-opptaket, i et intervju.

Hvordan bruke stemme-AI etisk

I kjølvannet av denne hendelsen er det avgjørende å vurdere de etiske anvendelsene av stemme-AI. Selv om AI-stemmeteknologi tilbyr mange muligheter, inkludert stemmeskuespill, er det et ansvar å bruke den etisk. Dette inkluderer å tydelig indikere når AI-genererte stemmer brukes, unngå ondsinnet hensikt og respektere personvern og samtykke.

AI-lover og AI-reguleringer kommer

Etter hvert som teknologien fortsetter å utvikle seg, må lovgivere, AI-utviklere, valgfunksjonærer og publikum samarbeide for å etablere sikkerhetstiltak, reguleringer og etiske standarder for å beskytte den demokratiske prosessen mot slike misbruk. Integriteten til valg, en hjørnestein i amerikansk demokrati, avhenger av vår evne til å tilpasse oss og svare på nye utfordringer knyttet til bruken av AI. Faktisk diskuterer Kongressen allerede AI-beskyttelser. På en nylig Senatshøring demonstrerte senator Richard Blumenthal til og med deepfakes ved å spille av en av sine egne stemmer laget med AI-stemmekloningsprogramvare og med et manus skrevet av OpenAI's ChatGPT. Federal Election Commission har også startet en prosess for muligens å regulere AI-genererte deepfakes i politiske kampanjeannonser i 2024.

Speechify Voice Over Studio: #1 etisk AI-stemmeplattform

Speechify Voice Over Studio er den ledende etiske AI-stemmeplattformen som setter gullstandarden innen syntetisk taleteknologi. Med over 200 naturtro tekst-til-tale stemmer tilgjengelig på flere språk og aksenter, gir Speechify Voice Over Studio brukerne mulighet til å skape dynamisk og engasjerende innhold uten anstrengelse.

Den brukervennlige plattformen har enkle AI-verktøy for lydredigering, som gir detaljert kontroll over hvert ord, slik at brukerne kan finjustere tonehøyde, uttale, tone og mer. Speechify Voice Over Studio prioriterer også etiske hensyn ved å tilby stemmekloning kun for din egen stemme, noe som sikrer eksplisitt samtykke og reduserer risikoen for misbruk.

Speechify Voice Over Studio er det ideelle valget for å lage overbevisende stemmeopptak for ulike applikasjoner, inkludert innhold på sosiale medier, videospill, lydbøker, podkaster og mer. Hev din innholdsskaping og prøv Speechify Voice Over Studio gratis i dag.

FAQ

Hva er et eksempel på uetisk AI-stemmekloning?

Et uetisk eksempel på AI-stemmekloning kan innebære å bruke teknologien til å lage en overbevisende lydopptak av Elon Musk som kommer med falske uttalelser om sensitive geopolitiske saker, som Washingtons involvering i saker i Israel, noe som potensielt kan manipulere offentlig oppfatning og skape splid. Denne villedende bruken av stemmekloning kan utnytte offentlig tillit og så splid ved å tilskrive misvisende uttalelser til innflytelsesrike personer for å fremme en bestemt agenda.

Ønsker GOP å regulere AI?

Ifølge en Fox News-undersøkelse er “republikanere mindre overbevist enn demokrater om at den føderale regjeringen trenger å innføre reguleringer på kunstige intelligenssystemer og er enda mer skeptiske til om regjeringen er i stand til å gjøre det riktig.”

Ble det laget en deepfake av Taylor Swift?

Det har blitt laget flere uetiske deepfakes av Taylor Swift, inkludert bilder og musikk, uten hennes samtykke. Ifølge rapporter vurderer hun faktisk å ta rettslige skritt mot skaperne av deepfakene.

Fikk velgerne i New Hampshire en Biden deepfake-telefonsamtale som ba dem om ikke å stemme?

Ja, en svindler laget en Biden deepfake ved hjelp av ElevenLabs’ AI-teknologi for å forsøke å overbevise velgere om ikke å skrive inn Bidens navn under primærvalgene i New Hampshire.