Källan till Joe Biden-deepfake avslöjad efter valpåverkan

En deepfake-robocall av president Biden mottogs av vissa väljare. Ta reda på vem som skapade Joe Biden-deepfaken och konsekvenserna av oetisk AI.

Källan till Joe Biden-deepfake avslöjad efter valpåverkan

I elfte timmen inför primärvalet i New Hampshire utspelade sig en lömsk plan som använde artificiell intelligens för att imitera president Joe Bidens röst i en robocall. Detta oöverträffade försök till valpåverkan har belyst korsningen mellan AI, deepfakes och desinformation, vilket väcker oro över de potentiella konsekvenserna för demokratiska processer. Låt oss dyka ner i allt du behöver veta om deepfake-bedrägeriet som involverar en robocall från USA:s president Joe Biden, inklusive vilka som var inblandade.

Vad är Joe Biden-deepfake-bedrägeriet?

Måndagen den 22 januari 2023 meddelade New Hampshires justitiekanslers kontor att de undersökte rapporter om en uppenbar robocall som använde artificiell intelligens för att imitera president Joe Bidens röst och avskräcka väljare i delstaten från att gå till valurnorna.

Detta bedrägeri syftade till att avskräcka väljare från att delta i delstatens primärval genom att falskeligen påstå att rösta i primärvalet på något sätt skulle påverka det allmänna valet i november. Den AI-genererade Biden-rösten uppmanade väljarna att "spara" sina röster till det kommande federala valet och hävdade att rösta i primärvalet skulle gynna republikanerna och underlätta för Donald Trumps omval.

Joe Biden-deepfake uppringar-ID

Den falska Biden-robocallens uppringar-ID verkade som om det skickades från Kathy Sullivan, en tidigare ordförande för det demokratiska partiet i delstaten som hjälper till att driva Granite for America, en super-PAC som kampanjar för att väljare ska skriva in Biden för att visa sitt stöd för presidenten. Men han kampanjade inte i New Hampshire och skulle inte vara på valsedeln eftersom han var i ledande position för de demokratiska presidentprimärvalen.

“Detta samtal länkar tillbaka till mitt personliga mobilnummer utan mitt tillstånd,” sa Sullivan i ett uttalande. “Det är ren valpåverkan och tydligt ett försök att trakassera mig och andra väljare i New Hampshire som planerar att skriva in Joe Biden på tisdag.”

Joe Biden-deepfake-bedrägeriets ljud

I den falska robocall-ljudinspelningen som NBC fått tag på, kan du höra en röst som låter kusligt lik Biden säga sin favoritfras, “Vilket nonsens.” Meddelandet fortsätter med att säga, “det är viktigt att du sparar din röst till valet i november och “att rösta denna tisdag möjliggör bara för republikanerna i deras strävan att återigen välja Donald Trump. Din röst gör skillnad i november, inte denna tisdag.”

Efter dess publicering informerade Vita husets pressekreterare Karine Jean-Pierre allmänheten om att meddelandet var AI-genererat för att sprida desinformation och inte från Biden-kampanjen.

I ett uttalande sa Bidens kampanjchef, Julie Chavez Rodriguez, att kampanjen “aktivt diskuterar ytterligare åtgärder att vidta omedelbart.”

Vad ska du göra om du fick en Joe Biden-robocall?

Det inspelade meddelandet verkade vara ett olagligt försök att sprida desinformation och störa röstningen. Även om det är oklart hur många väljare som fick samtalet, hade minst ett dussin rapporterat det. Justitiekansler John Formella förklarade att alla som mottog ett sådant samtal “borde bortse från innehållet i detta meddelande helt och hållet.”

Källan till Joe Biden-robocall-deepfake avslöjad

Enligt Bloomberg, upptäckte ett företag för röstbedrägeridetektion, Pindrop Security Inc., att Biden-deepfake-robocallen inte gjordes av Biden-kampanjen utan av en bedragare som använde ElevenLabs, en AI-röststartup som erbjuder röstkloningstjänster.

Även om ElevenLabs säkerhetsuttalande tillåter röstkloning “för vissa icke-kommersiella ändamål om du inte påverkar personens integritet eller ekonomiska intressen,” inklusive “privat studier, icke-kommersiell forskning, utbildning, karikatyr, parodi, satir, konstnärligt och politiskt tal som bidrar till offentliga debatter, citat,” samt “kritik och recension,” bannlyste ElevenLabs användaren som skapade Biden-deepfake-robocallen.

"Vi är dedikerade till att förhindra missbruk av ljud-AI-verktyg och tar alla incidenter av missbruk mycket seriöst," sa ElevenLabs till Bloomberg.

Deepfake vs. AI-röstgenerator vs. Röstkloning

När AI-röstgenerering blir mer populär är det viktigt att förstå termerna deepfake, AI-röstgenerator och röstkloning, samt skillnaden mellan deras etiska och oetiska användningar.

Deepfake

Deepfake avser användningen av artificiell intelligens och maskininlärningstekniker för att skapa eller manipulera ljud- och bildinnehåll, ofta genom att ersätta någons likhet med en annan persons på ett realistiskt sätt.

• Etisk användning av deepfake: Deepfake-teknologi kan användas etiskt för underhållning, konstnärligt uttryck och utbildning, där avsikten inte är att vilseleda eller skada andra.
• Oetisk användning av deepfake: När deepfake-teknologi utnyttjas för att skapa vilseledande innehåll och falska berättelser eller för att imitera individer i skadliga syften (som att sprida desinformation eller skapa falska nyheter), uppstår allvarliga etiska problem.

AI-röstgenerator

AI-röstgeneratorer använder maskininlärningsalgoritmer för att syntetisera mänskliga AI-röster. De tränas ofta på stora datamängder för att efterlikna mänskliga röster och toner.

• Etisk användning av AI-röstgenerator: AI-röstgeneratorer kan användas etiskt för olika ändamål, inklusive tillgänglighet för personer med talhinder, språkinlärning, underhållning eller röstpålägg.
• Oetisk användning av AI-röstgenerator: Missbruk av AI-röstgenerering för att skapa falska ljudinspelningar med skadlig avsikt, såsom att förfalska någons röst för att imitera dem i bedrägliga aktiviteter eller för att sprida desinformation, anses oetiskt.

Röstkloning

Röstkloning innebär att skapa en syntetisk kopia av en persons röst, vanligtvis genom att använda inspelningar av deras tal som träningsdata för en maskininlärningsmodell.

• Etisk användning av röstkloning: Röstkloning kan användas etiskt för ändamål som att skapa personliga röstassistenter, bevara individers röster för framtida generationer med samtycke, eller hjälpa personer med talstörningar.
• Oetisk användning av röstkloning: Obehörig röstkloning för bedrägliga aktiviteter, såsom att skapa falska ljudinspelningar för att imitera någon utan deras samtycke, kan vara mycket oetiskt och leda till integritetskränkningar och potentiellt missbruk.

Missbruk av Joe Bidens AI-röst

Missbruket av Joe Bidens röst genom AI-genererade robocalls är ett tydligt exempel på potentialen för artificiell teknologi att användas som vapen i försök att undertrycka röster och sprida desinformation. Konsekvenserna av att missbruka AI för att replikera politiska figurers röster är långtgående. Denna incident förutspår en framtid där AI-genererade röster kan användas för att sprida falska berättelser, manipulera allmän opinion och undergräva den demokratiska processen. Den potentiella påverkan på förtroendet för politisk diskurs och valens integritet är en orsak till allvarlig oro.

När AI-teknologin utvecklas ökar risken för att sådana incidenter inträffar, med digitala forensikexperter som Hany Farid som betonar behovet av vaksamhet i att hantera dessa utmaningar.

Väljare bör vara på AI-vakt denna valperiod

När presidentvalet 2024 närmar sig måste väljare förbli vaksamma mot missbruk av AI-teknologi i försök att påverka allmän opinion. AI-genererad desinformation kan bli ett utbrett problem i politiska kampanjer, vilket kräver ökad medvetenhet bland väljarkåren.

“Vi har varit oroade över att generativ AI skulle användas som vapen i det kommande valet och vi ser vad som säkert är ett tecken på vad som komma skall,” sa Hany Farid, en expert inom digital forensik som granskade Biden-robocall-inspelningen, i en intervju.

Hur man använder röst-AI etiskt

I kölvattnet av denna incident är det avgörande att överväga de etiska tillämpningarna av röst-AI. Medan AI-röstteknologi erbjuder många möjligheter, inklusive röstpålägg, finns det ett ansvar att använda den etiskt. Detta inkluderar att tydligt ange när AI-genererade röster används, undvika skadlig avsikt och respektera integritet och samtycke.

AI-lagar och AI-regleringar är på väg

I takt med att teknologin fortsätter att utvecklas måste lagstiftare, AI-utvecklare, valfunktionärer och allmänheten samarbeta för att etablera skyddsåtgärder, regleringar och etiska standarder för att skydda den demokratiska processen från sådana missbruk. Valens integritet, en hörnsten i amerikansk demokrati, beror på vår förmåga att anpassa oss och svara på nya utmaningar kring användningen av AI. Faktum är att kongressen redan diskuterar AI-skydd. Vid en nylig senatsutfrågning demonstrerade senator Richard Blumenthal till och med deepfakes genom att spela upp en av sina egna röster skapad med AI-röstkloning och med ett manus skrivet av OpenAI:s ChatGPT. Federal Election Commission har också påbörjat en process för att eventuellt reglera AI-genererade deepfakes i politiska kampanjannonser 2024.

Speechify Voice Over Studio: #1 etiska AI-röstplattformen

Speechify Voice Over Studio är den ledande etiska AI-röstplattformen som sätter guldstandarden inom syntetisk talteknologi. Med över 200 naturtrogna text-till-tal röster tillgängliga på flera språk och dialekter, ger Speechify Voice Over Studio användare möjlighet att skapa dynamiskt och engagerande innehåll utan ansträngning.

Dess användarvänliga plattform har lättanvända AI-verktyg för ljudredigering, vilket ger detaljerad kontroll över varje ord och gör det möjligt för användare att finjustera tonhöjd, uttal, ton och mer. Speechify Voice Over Studio prioriterar också etiska överväganden genom att erbjuda röstkloning enbart för din egen röst, vilket säkerställer uttryckligt samtycke och minskar risken för missbruk.

Speechify Voice Over Studio är det perfekta valet för att skapa övertygande röstinspelningar för olika tillämpningar, inklusive sociala medier, videospel, ljudböcker, podcasts och mer. Höj din innehållsskapande upplevelse och prova Speechify Voice Over Studio gratis idag.

Vanliga frågor

Vad är ett exempel på oetisk AI-röstkloning?

Ett oetiskt exempel på AI-röstkloning kan innebära att använda teknologin för att fabricera en övertygande ljudinspelning av Elon Musk som gör falska uttalanden om känsliga geopolitiska frågor, såsom Washingtons inblandning i affärer i Israel, vilket potentiellt manipulerar allmänhetens uppfattning och orsakar splittring. Denna vilseledande användning av röstkloning kan utnyttja allmänhetens förtroende och så split genom att tillskriva vilseledande uttalanden till inflytelserika personer för att främja en viss agenda.

Vill GOP reglera AI?

Enligt en Fox News-undersökning är "republikaner mindre övertygade än demokrater om att den federala regeringen behöver införa regleringar på artificiella intelligenssystem och är ännu mer skeptiska till om regeringen klarar av uppgiften."

Har Taylor Swift fått en deepfake gjord av sig?

Det har gjorts flera oetiska deepfakes av Taylor Swift, inklusive foton och musik, utan hennes samtycke. Enligt rapporter överväger hon faktiskt att vidta rättsliga åtgärder mot skaparna av deepfakes.

Fick väljare i New Hampshire ett Biden deepfake-robocall som sa åt dem att inte rösta?

Ja, en bedragare skapade en Biden deepfake med hjälp av ElevenLabs AI-teknologi för att försöka övertyga väljare att inte skriva in Bidens namn under primärvalen i New Hampshire.