Kilden til Joe Biden deepfake afsløret efter valgindblanding

En deepfake robocall af præsident Biden blev modtaget af nogle vælgere. Find ud af, hvem der skabte Joe Biden deepfake og konsekvenserne af uetisk AI.

Kilden til Joe Biden deepfake afsløret efter valgindblanding

I de sidste timer op til primærvalget i New Hampshire udfoldede der sig en lumsk plan, der brugte kunstig intelligens-teknologi til at efterligne præsident Joe Bidens stemme i en robocall. Dette hidtil usete forsøg på valgindblanding har kastet lys over krydsfeltet mellem AI, deepfakes og misinformation, hvilket vækker bekymring om de potentielle konsekvenser for demokratiske processer. Lad os dykke ned i alt, hvad du behøver at vide om deepfake-svindlen, der involverer en robocall fra USA's præsident Joe Biden, inklusive hvem der var involveret.

Hvad er Joe Biden deepfake-svindlen?

Mandag den 22. januar 2023 meddelte New Hampshires justitsminister, at de undersøgte rapporter om en tilsyneladende robocall, der brugte kunstig intelligens til at efterligne præsident Joe Bidens stemme og afskrække vælgere i staten fra at gå til stemmeurnerne.

Denne svindel havde til formål at afskrække vælgere fra at deltage i statens primærvalg ved falsk at hævde, at stemmeafgivelse i primærvalget på en eller anden måde ville påvirke det generelle valg i november. Den AI-genererede Biden-stemme opfordrede vælgerne til at "spare" deres stemmer til det kommende føderale valg og hævdede, at stemmeafgivelse i primærvalget ville gavne republikanerne og lette genvalget af Donald Trump.

Joe Biden deepfake opkalds-ID

Det falske Biden robocalls opkalds-ID så ud som om det blev sendt fra Kathy Sullivan, en tidligere formand for det demokratiske parti i staten, som hjælper med at drive Granite for America, en super-PAC, der kampagnerer for vælgere til at skrive Biden ind for at vise deres støtte til præsidenten. Men han kampagnerede ikke i New Hampshire og ville ikke være på stemmesedlen, da han var i førerposition til de demokratiske præsidentprimærvalg.

“Dette opkald linker tilbage til mit personlige mobilnummer uden min tilladelse,” sagde Sullivan i en udtalelse. “Det er direkte valgindblanding og klart et forsøg på at chikanere mig og andre vælgere i New Hampshire, der planlægger at skrive Joe Biden ind på tirsdag.”

Joe Biden deepfake svindel lyd

I den falske robocall-lyd opnået af NBC, kan du høre en stemme, der lyder uhyggeligt lig Bidens, sige hans yndlingsudtryk, “What a bunch of malarkey.” Beskeden fortsætter med at sige, “det er vigtigt, at du gemmer din stemme til valget i november, og “at stemme denne tirsdag giver kun republikanerne mulighed for at vælge Donald Trump igen. Din stemme gør en forskel i november, ikke denne tirsdag.”

Efter udgivelsen informerede Det Hvide Hus' pressesekretær Karine Jean-Pierre offentligheden om, at beskeden var AI-genereret for at sprede misinformation og ikke fra Biden-kampagnen.

I en erklæring sagde Bidens kampagneleder, Julie Chavez Rodriguez, at kampagnen “aktivt diskuterer yderligere handlinger, der skal tages med det samme.”

Hvad skal du gøre, hvis du modtog en Joe Biden robocall?

Den optagede besked syntes at være et ulovligt forsøg på at sprede misinformation og forstyrre stemmeafgivelsen. Selvom det er uklart, hvor mange vælgere der modtog opkaldet, havde mindst et dusin rapporteret det. Justitsminister John Formella forklarede, at enhver, der modtog et sådant opkald, “bør se helt bort fra indholdet af denne besked.”

Kilden til Joe Biden robocall deepfake afsløret

Ifølge Bloomberg fandt et stemmebedrageri-detekteringsfirma, Pindrop Security Inc., at Biden deepfake robocall ikke blev lavet af Biden-kampagnen, men derimod af en svindler, der brugte ElevenLabs, en AI-stemme startup, der tilbyder stemmekloning.

Mens ElevenLabs’ sikkerhedserklæring tillader stemmekloning “til visse ikke-kommercielle formål, hvis du ikke påvirker personens privatliv eller økonomiske interesser,” inklusive “privat studie, ikke-kommerciel forskning, uddannelse, karikatur, parodi, satire, kunstnerisk og politisk tale, der bidrager til offentlige debatter, citat,” samt “kritik og anmeldelse,” bannede ElevenLabs brugeren, der skabte Biden deepfake robocall.

"Vi er dedikerede til at forhindre misbrug af lyd-AI-værktøjer og tager enhver hændelse af misbrug ekstremt alvorligt," fortalte ElevenLabs til Bloomberg.

Deepfake vs. AI-stemmegenerator vs. stemmekloning

Efterhånden som AI-stemmegenerering bliver mere populært, er det vigtigt at forstå begreberne deepfake, AI-stemmegenerator og stemmekloning, samt forskellen mellem deres etiske og uetiske anvendelser.

Deepfake

Deepfake refererer til brugen af kunstig intelligens og maskinlæringsteknikker til at skabe eller manipulere lyd- og billedindhold, ofte ved at erstatte en persons udseende med en andens på en realistisk måde.

• Etisk brug af deepfake: Deepfake-teknologi kan anvendes etisk til underholdning, kunstnerisk udtryk og uddannelse, hvor hensigten ikke er at bedrage eller skade andre.
• Uetisk brug af deepfake: Når deepfake-teknologi udnyttes til at skabe vildledende indhold og falske fortællinger eller til at efterligne personer med skadelige formål (såsom at sprede misinformation eller skabe falske nyheder), rejser det alvorlige etiske bekymringer.

AI-stemmegenerator

AI-stemmegeneratorer bruger maskinlæringsalgoritmer til at syntetisere menneskelignende AI-stemmer. De er ofte trænet på store datasæt for at efterligne menneskelige stemmer og toner.

• Etisk brug af AI-stemmegenerator: AI-stemmegeneratorer kan bruges etisk til forskellige formål, herunder tilgængelighed for personer med talevanskeligheder, sprogindlæring, underholdning eller voice-overs.
• Uetisk brug af AI-stemmegenerator: Misbrug af AI-stemmegenerering til at skabe falske lydoptagelser med skadelige hensigter, såsom at forfalske nogens stemme for at efterligne dem til bedrageriske aktiviteter eller for at sprede misinformation, betragtes som uetisk.

Stemmekloning

Stemmekloning indebærer at skabe en syntetisk kopi af en persons stemme, typisk ved hjælp af optagelser af deres tale som træningsdata til en maskinlæringsmodel.

• Etisk brug af stemmekloning: Stemmekloning kan bruges etisk til formål som at skabe personlige stemmeassistenter, bevare individers stemmer til fremtidige generationer med samtykke eller hjælpe personer med taleforstyrrelser.
• Uetisk brug af stemmekloning: Uautoriseret stemmekloning til vildledende aktiviteter, såsom at skabe falske lydoptagelser for at efterligne nogen uden deres samtykke, kan være meget uetisk og kan føre til brud på privatlivets fred og potentiel misbrug.

Misbrug af Joe Bidens AI-stemme

Misbrug af Joe Bidens stemme gennem AI-genererede robocalls er et tydeligt eksempel på potentialet for kunstig teknologi til at blive brugt som våben i forsøg på at undertrykke stemmeafgivning og sprede misinformation. Konsekvenserne af at misbruge AI til at replikere politiske figurers stemmer er vidtrækkende. Denne hændelse varsler en fremtid, hvor AI-genererede stemmer kan bruges til at sprede falske fortællinger, manipulere offentlig opinion og underminere den demokratiske proces. Den potentielle indvirkning på tilliden til politisk diskurs og valgintegritet er en alvorlig bekymring.

Efterhånden som AI-teknologi udvikler sig, øges risikoen for, at sådanne hændelser opstår, med digitale retsmedicinske eksperter som Hany Farid, der understreger behovet for årvågenhed i håndteringen af disse udfordringer.

Vælgere bør være opmærksomme på AI denne valgperiode

Efterhånden som præsidentvalget i 2024 nærmer sig, skal vælgerne forblive årvågne over for misbrug af AI-teknologi i forsøg på at påvirke offentlig opinion. AI-genereret misinformation kan blive et udbredt problem i politiske kampagner, hvilket kræver øget opmærksomhed blandt vælgerne.

“Vi har været bekymrede for, at generativ AI ville blive brugt som våben i det kommende valg, og vi ser, hvad der helt sikkert er et tegn på, hvad der kommer,” sagde Hany Farid, en ekspert i digital retsmedicin, der gennemgik Biden robocall-optagelsen, i et interview.

Hvordan man bruger stemme-AI etisk

I kølvandet på denne hændelse er det afgørende at overveje de etiske anvendelser af stemme-AI. Mens AI-stemmeteknologi tilbyder mange muligheder, herunder voice-overs, er der et ansvar for at bruge det etisk. Dette inkluderer at angive klart, når AI-genererede stemmer anvendes, undgå skadelige hensigter og respektere privatliv og samtykke.

AI-love og AI-reguleringer er på vej

Efterhånden som teknologien fortsætter med at udvikle sig, skal lovgivere, AI-udviklere, valgembedsmænd og offentligheden samarbejde om at etablere sikkerhedsforanstaltninger, reguleringer og etiske standarder for at beskytte den demokratiske proces mod sådanne misbrug. Valgprocessens integritet, en hjørnesten i amerikansk demokrati, afhænger af vores evne til at tilpasse os og reagere på nye udfordringer vedrørende brugen af AI. Faktisk diskuterer Kongressen allerede AI-beskyttelser. Ved en nylig Senatshøring demonstrerede senator Richard Blumenthal endda deepfakes ved at afspille en af hans egne stemmer skabt med AI-stemmekloningssoftware og med et manuskript skrevet af OpenAI's ChatGPT. Federal Election Commission er også begyndt en proces for muligvis at regulere AI-genererede deepfakes i politiske kampagneannoncer i 2024.

Speechify Voice Over Studio: #1 etisk AI-stemmeplatform

Speechify Voice Over Studio er den førende etiske AI-stemmeplatform, der sætter guldstandarden inden for syntetisk taleteknologi. Med over 200 livagtige tekst-til-tale stemmer tilgængelige på flere sprog og accenter, giver Speechify Voice Over Studio brugerne mulighed for at skabe dynamisk og engagerende indhold uden besvær.

Dens brugervenlige platform har let anvendelige AI-værktøjer til lydredigering, der giver detaljeret kontrol over hvert ord, så brugerne kan finjustere tonehøjde, udtale, tone og mere. Speechify Voice Over Studio prioriterer også etiske overvejelser ved kun at tilbyde stemmekloning til din egen stemme, hvilket sikrer eksplicit samtykke og mindsker risikoen for misbrug.

Speechify Voice Over Studio er det ideelle valg til at skabe overbevisende voice-overs til forskellige anvendelser, herunder indhold til sociale medier, videospil, lydbøger, podcasts og mere. Forbedr din indholdsskabelsesoplevelse og prøv Speechify Voice Over Studio gratis i dag.

FAQ

Hvad er et eksempel på uetisk AI-stemmekloning?

Et uetisk eksempel på AI-stemmekloning kunne involvere brugen af teknologien til at fabrikere en overbevisende lydoptagelse af Elon Musk, der fremsætter falske udsagn om følsomme geopolitiske emner, såsom Washingtons involvering i anliggender i Israel, hvilket potentielt kan manipulere offentlig opfattelse og skabe splid. Denne vildledende brug af stemmekloning kunne udnytte offentlighedens tillid og så splid ved at tilskrive vildledende udsagn til indflydelsesrige personer for at fremme en bestemt dagsorden.

Ønsker GOP at regulere AI?

Ifølge en Fox News-undersøgelse er "republikanere mindre overbeviste end demokrater om, at den føderale regering skal indføre reguleringer på kunstige intelligenssystemer og er endnu mere skeptiske over, om regeringen er i stand til opgaven."

Har Taylor Swift fået lavet en deepfake af sig?

Der er blevet lavet flere uetiske deepfakes af Taylor Swift, herunder fotos og musik, uden hendes samtykke. Ifølge rapporter overvejer hun faktisk at tage retslige skridt mod skaberne af deepfakes.

Modtog vælgere i New Hampshire en Biden deepfake robocall, der fortalte dem ikke at stemme?

Ja, en svindler skabte en Biden deepfake ved hjælp af ElevenLabs' AI-teknologi for at forsøge at overbevise vælgere om ikke at skrive Bidens navn under primærvalgene i New Hampshire.