Bron van Joe Biden deepfake onthuld na verkiezingsinmenging

Een deepfake robocall van president Biden werd door sommige kiezers ontvangen. Ontdek wie de Joe Biden deepfake heeft gemaakt en de gevolgen van onethische AI.

Bron van Joe Biden deepfake onthuld na verkiezingsinmenging

In het laatste uur voor de voorverkiezingen in New Hampshire ontvouwde zich een sluw complot, waarbij kunstmatige intelligentie werd gebruikt om de stem van president Joe Biden na te bootsen in een robocall. Deze ongekende poging tot verkiezingsinmenging heeft de aandacht gevestigd op de kruising van AI, deepfakes en desinformatie, en roept zorgen op over de mogelijke gevolgen voor democratische processen. Laten we dieper ingaan op alles wat je moet weten over de deepfake-zwendel met een robocall van de Amerikaanse president Joe Biden, inclusief wie erbij betrokken was.

Wat is de Joe Biden deepfake-zwendel?

Op maandag 22 januari 2023 meldde het kantoor van de procureur-generaal van New Hampshire dat het onderzoek deed naar meldingen van een schijnbare robocall die kunstmatige intelligentie gebruikte om de stem van president Joe Biden na te bootsen en kiezers in de staat te ontmoedigen om naar de stembus te gaan.

Deze zwendel was bedoeld om kiezers te ontmoedigen deel te nemen aan de voorverkiezingen van de staat, met de valse bewering dat stemmen in de voorverkiezingen op de een of andere manier invloed zou hebben op de algemene verkiezingen in november. De door AI gegenereerde Biden-stem riep kiezers op om hun stemmen te "bewaren" voor de komende federale verkiezingen, met de bewering dat stemmen in de voorverkiezingen de Republikeinen zou bevoordelen en de herverkiezing van Donald Trump zou vergemakkelijken.

Joe Biden deepfake beller-ID

De beller-ID van de nep-Biden robocall leek afkomstig te zijn van Kathy Sullivan, een voormalige voorzitter van de Democratische Partij van de staat, die helpt bij het runnen van Granite for America, een super-PAC die campagne voert voor kiezers om Biden te steunen door zijn naam op te schrijven. Hij voerde echter geen campagne in New Hampshire en zou niet op de stembus staan, aangezien hij in de leidende positie was voor de Democratische presidentiële voorverkiezingen.

“Deze oproep is zonder mijn toestemming gekoppeld aan mijn persoonlijke mobiele nummer,” zei Sullivan in een verklaring. “Het is regelrechte verkiezingsinmenging en duidelijk een poging om mij en andere kiezers in New Hampshire die van plan zijn om Joe Biden op te schrijven, te intimideren.”

Joe Biden deepfake scam audio

In de nep-audio van de robocall verkregen door NBC, hoor je een stem die griezelig veel lijkt op die van Biden zijn favoriete catchphrase zeggen: “What a bunch of malarkey.” De boodschap gaat verder met te stellen: “het is belangrijk dat je je stem bewaart voor de verkiezingen in november en “stemmen deze dinsdag stelt de Republikeinen alleen maar in staat om Donald Trump opnieuw te verkiezen. Je stem maakt een verschil in november, niet deze dinsdag.”

Na de release informeerde de perssecretaris van het Witte Huis, Karine Jean-Pierre, het publiek dat de boodschap door AI was gegenereerd om desinformatie te verspreiden en niet van de Biden-campagne kwam.

In een verklaring zei de campagneleider van Biden, Julie Chavez Rodriguez, dat de campagne “actief aanvullende acties bespreekt om onmiddellijk te ondernemen.”

Wat moet je doen als je een Joe Biden robocall hebt ontvangen?

Het opgenomen bericht leek een illegale poging te zijn om desinformatie te verspreiden en het stemmen te verstoren. Hoewel het onduidelijk is hoeveel kiezers de oproep hebben ontvangen, hadden er minstens een dozijn melding van gemaakt. Procureur-generaal John Formella legde uit dat iedereen die zo'n oproep heeft ontvangen “de inhoud van dit bericht volledig moet negeren.”

Bron van de Joe Biden robocall deepfake onthuld

Volgens Bloomberg ontdekte een bedrijf voor stemfraude-detectie, Pindrop Security Inc., dat de Biden deepfake robocall niet door de Biden-campagne was gemaakt, maar door een oplichter die ElevenLabs gebruikte, een AI-stemstartup die stemkloningsmogelijkheden biedt.

Hoewel de veiligheidsverklaring van ElevenLabs stemkloning toestaat “voor bepaalde niet-commerciële doeleinden als je de privacy of economische belangen van de persoon niet schaadt,” inclusief “privéstudie, niet-commercieel onderzoek, onderwijs, karikatuur, parodie, satire, artistieke en politieke uitingen die bijdragen aan publieke debatten, citaten,” evenals “kritiek en recensie,” bande ElevenLabs de gebruiker die de Biden deepfake robocall creëerde.

"We zijn toegewijd aan het voorkomen van misbruik van audio AI-tools en nemen elk incident van misbruik uiterst serieus," vertelde ElevenLabs aan Bloomberg.

Deepfake vs. AI-stemgenerator vs. Stemkloning

Naarmate AI-spraaktechnologie populairder wordt, is het essentieel om de termen deepfake, AI-spraakgenerator en stemklonen te begrijpen, evenals het verschil tussen hun ethische en onethische toepassingen.

Deepfake

Deepfake verwijst naar het gebruik van kunstmatige intelligentie en machine learning-technieken om audio- en visuele inhoud te creëren of te manipuleren, vaak door iemands gelijkenis op een realistische manier te vervangen door die van een ander.

• Ethisch gebruik van deepfake: Deepfake-technologie kan ethisch worden gebruikt voor entertainment, artistieke expressie en educatie, waarbij de intentie niet is om anderen te misleiden of schade toe te brengen.
• Onethisch gebruik van deepfake: Wanneer deepfake-technologie wordt misbruikt om misleidende inhoud en valse verhalen te creëren of om individuen te imiteren voor kwaadaardige doeleinden (zoals het verspreiden van desinformatie of het creëren van nepnieuws), roept dit ernstige ethische zorgen op.

AI-spraakgenerator

AI-spraakgeneratoren gebruiken machine learning-algoritmen om menselijke AI-stemmen te synthetiseren. Ze worden vaak getraind op grote datasets om menselijke stemmen en tonen na te bootsen.

• Ethisch gebruik van AI-spraakgeneratoren: AI-spraakgeneratoren kunnen ethisch worden gebruikt voor verschillende doeleinden, waaronder toegankelijkheid voor mensen met spraakstoornissen, taalonderwijs, entertainment of voice-overs.
• Onethisch gebruik van AI-spraakgeneratoren: Het misbruiken van AI-spraaktechnologie om nep-audio-opnamen te maken met kwaadaardige bedoelingen, zoals het vervalsen van iemands stem om hen te imiteren voor frauduleuze activiteiten of om desinformatie te verspreiden, wordt als onethisch beschouwd.

Stemklonen

Stemklonen houdt in dat er een synthetische kopie van iemands stem wordt gemaakt, meestal met behulp van opnamen van hun spraak als trainingsdata voor een machine learning-model.

• Ethisch gebruik van stemklonen: Stemklonen kan ethisch worden gebruikt voor doeleinden zoals het creëren van gepersonaliseerde spraakassistenten, het bewaren van de stemmen van individuen voor toekomstige generaties met toestemming, of het helpen van mensen met spraakstoornissen.
• Onethisch gebruik van stemklonen: Ongeautoriseerd stemklonen voor misleidende activiteiten, zoals het maken van nep-audio-opnamen om iemand zonder hun toestemming te imiteren, kan zeer onethisch zijn en kan leiden tot privacyschendingen en mogelijk misbruik.

Misbruik van Joe Biden's AI-stem

Het misbruik van Joe Biden's stem via AI-gegenereerde robocalls is een duidelijk voorbeeld van het potentieel van kunstmatige technologie om te worden ingezet in pogingen om stemmen te onderdrukken en desinformatie te verspreiden. De gevolgen van het misbruiken van AI om de stemmen van politieke figuren te repliceren zijn verstrekkend. Dit incident voorspelt een toekomst waarin AI-gegenereerde stemmen kunnen worden gebruikt om valse verhalen te verspreiden, de publieke opinie te manipuleren en het democratische proces te ondermijnen. De potentiële impact op het vertrouwen in politieke discussies en de integriteit van verkiezingen is een reden tot ernstige bezorgdheid.

Naarmate AI-technologie vordert, neemt het risico op dergelijke incidenten toe, waarbij digitale forensische experts zoals Hany Farid de noodzaak benadrukken van waakzaamheid bij het aanpakken van deze uitdagingen.

Kiezers moeten alert zijn op AI dit verkiezingsseizoen

Naarmate de presidentsverkiezingen van 2024 naderen, moeten kiezers waakzaam blijven tegen het misbruik van AI-technologie in pogingen om de publieke opinie te beïnvloeden. AI-gegenereerde desinformatie zou een veelvoorkomend probleem kunnen worden in politieke campagnes, wat een verhoogd bewustzijn onder het electoraat vereist.

“We maken ons zorgen dat generatieve AI in de komende verkiezingen zal worden ingezet als wapen en we zien wat zeker een teken is van wat komen gaat,” zei Hany Farid, een expert in digitale forensica die de Biden robocall-opname heeft beoordeeld, in een interview.

Hoe AI-stemmen ethisch te gebruiken

In de nasleep van dit incident is het cruciaal om de ethische toepassingen van AI-stemmen te overwegen. Hoewel AI-spraaktechnologie tal van mogelijkheden biedt, waaronder voice-overs, is er een verantwoordelijkheid om deze ethisch te gebruiken. Dit omvat het duidelijk aangeven wanneer AI-gegenereerde stemmen worden gebruikt, het vermijden van kwaadaardige bedoelingen en het respecteren van privacy en toestemming.

AI-wetten en AI-regelgeving komen eraan

Naarmate de technologie zich verder ontwikkelt, moeten wetgevers, AI-ontwikkelaars, verkiezingsfunctionarissen en het publiek samenwerken om waarborgen, regelgeving en ethische normen vast te stellen om het democratische proces tegen misbruik te beschermen. De integriteit van verkiezingen, een hoeksteen van de Amerikaanse democratie, hangt af van ons vermogen om ons aan te passen en te reageren op opkomende uitdagingen met betrekking tot het gebruik van AI. Het Congres bespreekt zelfs al AI-beschermingen. Tijdens een recente hoorzitting in de Senaat demonstreerde senator Richard Blumenthal zelfs deepfakes door een opname van zijn eigen stem te laten horen, gemaakt met AI-stemkloningssoftware en een script geschreven door OpenAI's ChatGPT. De Federal Election Commission is ook begonnen met een proces om mogelijk AI-gegenereerde deepfakes in politieke campagneadvertenties van 2024 te reguleren.

Speechify Voice Over Studio: #1 ethisch AI-stemplatform

Speechify Voice Over Studio is het toonaangevende ethische AI-stemplatform dat de gouden standaard zet in synthetische spraaktechnologie. Met meer dan 200 levensechte tekst-naar-spraak stemmen beschikbaar in meerdere talen en accenten, stelt Speechify Voice Over Studio gebruikers in staat om moeiteloos dynamische en boeiende inhoud te creëren.

Het gebruiksvriendelijke platform biedt eenvoudig te gebruiken audio-bewerkings-AI-tools, die gedetailleerde controle over elk woord bieden, waardoor gebruikers toonhoogte, uitspraak, toon en meer kunnen verfijnen. Speechify Voice Over Studio geeft ook prioriteit aan ethische overwegingen door stemkloning uitsluitend voor je eigen stem aan te bieden, waarbij expliciete toestemming wordt gewaarborgd en het risico op misbruik wordt verminderd.

Speechify Voice Over Studio is de ideale keuze voor het maken van overtuigende voice-overs voor verschillende toepassingen, waaronder sociale media-inhoud, videogames, audioboeken, podcasts en meer. Verhoog je contentcreatie-ervaring en probeer Speechify Voice Over Studio gratis vandaag nog.

FAQ

Wat is een voorbeeld van onethische AI-stemkloning?

Een onethisch voorbeeld van AI-stemkloning kan zijn het gebruik van de technologie om een overtuigende audio-opname te fabriceren van Elon Musk die valse uitspraken doet over gevoelige geopolitieke kwesties, zoals de betrokkenheid van Washington bij zaken in Israël, wat mogelijk de publieke perceptie kan manipuleren en onenigheid kan veroorzaken. Dit bedrieglijke gebruik van stemkloning kan het publieke vertrouwen uitbuiten en onenigheid zaaien door misleidende uitspraken toe te schrijven aan invloedrijke figuren om een bepaalde agenda te bevorderen.

Wil de GOP AI reguleren?

Volgens een Fox News-enquête zijn “Republikeinen minder overtuigd dan Democraten dat de federale overheid regels moet opleggen aan kunstmatige intelligentiesystemen en zijn ze nog sceptischer over of de overheid daartoe in staat is.”

Is er een deepfake van Taylor Swift gemaakt?

Er zijn verschillende onethische deepfakes van Taylor Swift gemaakt, waaronder foto's en muziek, zonder haar toestemming. Volgens berichten overweegt ze zelfs juridische stappen te ondernemen tegen de makers van de deepfakes.

Hebben kiezers in New Hampshire een Biden deepfake robocall ontvangen die hen vertelde niet te stemmen?

Ja, een oplichter creëerde een Biden deepfake met behulp van de AI-technologie van ElevenLabs om te proberen kiezers te overtuigen om Biden's naam niet in te vullen tijdens de voorverkiezingen in New Hampshire.