Fonte del deepfake di Joe Biden rivelata dopo l'interferenza elettorale

Un deepfake di una chiamata automatica del Presidente Biden è stato ricevuto da alcuni elettori. Scopri chi ha creato il deepfake di Joe Biden e le conseguenze dell'uso non etico dell'IA.

Fonte del deepfake di Joe Biden rivelata dopo l'interferenza elettorale

Nell'ultima ora prima delle primarie del New Hampshire, si è svolto un complotto insidioso che ha utilizzato la tecnologia dell'intelligenza artificiale per imitare la voce del Presidente Joe Biden in una chiamata automatica. Questo tentativo senza precedenti di interferenza elettorale ha messo in luce l'intersezione tra IA, deepfake e disinformazione, sollevando preoccupazioni sulle potenziali conseguenze per i processi democratici. Scopri tutto ciò che devi sapere sulla truffa del deepfake che coinvolge una chiamata automatica del Presidente degli Stati Uniti Joe Biden, inclusi i responsabili.

Cos'è la truffa del deepfake di Joe Biden?

Lunedì 22 gennaio 2023, l'ufficio del procuratore generale del New Hampshire ha dichiarato di stare indagando su segnalazioni di una presunta chiamata automatica che utilizzava l'intelligenza artificiale per imitare la voce del Presidente Joe Biden e scoraggiare gli elettori dello stato dal recarsi alle urne.

Questa truffa mirava a scoraggiare gli elettori dal partecipare alle primarie dello stato, affermando falsamente che votare alle primarie avrebbe in qualche modo influenzato le elezioni generali di novembre. La voce generata dall'IA di Biden esortava gli elettori a "salvare" i loro voti per le prossime elezioni federali, sostenendo che votare alle primarie avrebbe favorito i Repubblicani e facilitato la rielezione di Donald Trump.

ID chiamante del deepfake di Joe Biden

L'ID chiamante della falsa chiamata automatica di Biden appariva come se fosse stata inviata da Kathy Sullivan, un'ex presidente del Partito Democratico statale che aiuta a gestire Granite for America, un super-PAC che sta facendo campagna per gli elettori affinché scrivano il nome di Biden per mostrare il loro sostegno al Presidente. Tuttavia, non stava facendo campagna nel New Hampshire e non sarebbe stato sulla scheda elettorale poiché era in posizione di partenza per le primarie presidenziali democratiche.

“Questa chiamata è collegata al mio numero di cellulare personale senza il mio permesso,” ha detto Sullivan in una dichiarazione. “È una chiara interferenza elettorale e un tentativo evidente di molestare me e altri elettori del New Hampshire che stanno pianificando di scrivere il nome di Joe Biden martedì.”

Audio della truffa del deepfake di Joe Biden

Nell'audio falso della chiamata automatica ottenuto da NBC, si può sentire una voce che suona stranamente simile a quella di Biden dire la sua frase preferita, “Che sciocchezze.” Il messaggio continua affermando, “è importante che conserviate il vostro voto per le elezioni di novembre e “votare questo martedì consente solo ai Repubblicani di perseguire il loro obiettivo di eleggere di nuovo Donald Trump. Il vostro voto fa la differenza a novembre, non questo martedì.”

Dopo la sua diffusione, la portavoce della Casa Bianca Karine Jean-Pierre ha informato il pubblico che il messaggio era generato dall'IA per diffondere disinformazione e non proveniva dalla campagna di Biden.

In una dichiarazione, la responsabile della campagna di Biden, Julie Chavez Rodriguez, ha detto che la campagna sta “discutendo attivamente ulteriori azioni da intraprendere immediatamente.”

Cosa fare se hai ricevuto una chiamata automatica di Joe Biden?

Il messaggio registrato sembrava essere un tentativo illegale di diffondere disinformazione e disturbare il voto. Sebbene non sia chiaro quanti elettori abbiano ricevuto la chiamata, almeno una dozzina l'aveva segnalata. Il procuratore generale John Formella ha spiegato che chiunque abbia ricevuto tale chiamata “dovrebbe ignorare completamente il contenuto di questo messaggio.”

Fonte del deepfake della chiamata automatica di Joe Biden rivelata

Secondo Bloomberg, una società di rilevamento delle frodi vocali, Pindrop Security Inc., ha scoperto che la chiamata automatica deepfake di Biden non è stata realizzata dalla campagna di Biden, ma piuttosto da un truffatore che utilizzava ElevenLabs, una startup di IA vocale che offre capacità di clonazione vocale.

Mentre la dichiarazione di sicurezza di ElevenLabs consente la clonazione vocale “per determinati scopi non commerciali se non si impatta sulla privacy o sugli interessi economici della persona,” inclusi “studio privato, ricerca non commerciale, educazione, caricatura, parodia, satira, discorso artistico e politico che contribuisce ai dibattiti pubblici, citazione,” così come “critica e recensione,” ElevenLabs ha bannato l'utente che ha creato la chiamata automatica deepfake di Biden.

"Siamo dedicati a prevenire l'uso improprio degli strumenti di IA audio e prendiamo molto seriamente qualsiasi incidente di abuso," ha detto ElevenLabs a Bloomberg.

Deepfake vs. Generatore di Voce AI vs. Clonazione Vocale

Con la crescente popolarità della generazione vocale tramite AI, è essenziale comprendere i termini deepfake, generatore vocale AI e clonazione vocale, nonché la differenza tra i loro usi etici e non etici.

Deepfake

Il termine deepfake si riferisce all'uso di tecniche di intelligenza artificiale e apprendimento automatico per creare o manipolare contenuti audio e visivi, spesso sostituendo l'immagine di una persona con quella di un'altra in modo realistico.

• Uso etico del deepfake: La tecnologia deepfake può essere utilizzata eticamente per intrattenimento, espressione artistica ed educazione, dove l'intento non è ingannare o danneggiare gli altri.
• Uso non etico del deepfake: Quando la tecnologia deepfake viene sfruttata per creare contenuti fuorvianti e false narrazioni o per impersonare individui a fini dannosi (come diffondere disinformazione o creare fake news), solleva seri problemi etici.

Generatore Vocale AI

I generatori vocali AI utilizzano algoritmi di apprendimento automatico per sintetizzare voci AI simili a quelle umane. Spesso vengono addestrati su grandi set di dati per imitare voci e toni umani.

• Uso etico del generatore vocale AI: I generatori vocali AI possono essere utilizzati eticamente per vari scopi, tra cui l'accessibilità per persone con disturbi del linguaggio, l'apprendimento delle lingue, l'intrattenimento o i doppiaggi.
• Uso non etico del generatore vocale AI: L'uso improprio della generazione vocale AI per creare registrazioni audio false con intenti dannosi, come falsificare la voce di qualcuno per impersonarlo in attività fraudolente o per diffondere disinformazione, è considerato non etico.

Clonazione Vocale

La clonazione vocale implica la creazione di una copia sintetica della voce di una persona, tipicamente utilizzando registrazioni del loro discorso come dati di addestramento per un modello di apprendimento automatico.

• Uso etico della clonazione vocale: La clonazione vocale può essere utilizzata eticamente per scopi come la creazione di assistenti vocali personalizzati, la conservazione delle voci di individui per le generazioni future con consenso, o l'assistenza a persone con disturbi del linguaggio.
• Uso non etico della clonazione vocale: La clonazione vocale non autorizzata per attività ingannevoli, come creare registrazioni audio false per impersonare qualcuno senza il loro consenso, può essere altamente non etica e portare a violazioni della privacy e potenziali abusi.

Uso improprio della voce AI di Joe Biden

L'uso improprio della voce di Joe Biden tramite robocall generate da AI è un chiaro esempio del potenziale della tecnologia artificiale di essere utilizzata come arma per tentare di sopprimere il voto e diffondere disinformazione. Le conseguenze dell'uso improprio dell'AI per replicare le voci di figure politiche sono di vasta portata. Questo incidente prefigura un futuro in cui le voci generate da AI potrebbero essere utilizzate per diffondere false narrazioni, manipolare l'opinione pubblica e minare il processo democratico. L'impatto potenziale sulla fiducia nel discorso politico e sull'integrità delle elezioni è motivo di seria preoccupazione.

Con l'avanzare della tecnologia AI, il rischio che tali incidenti si verifichino aumenta, con esperti di forense digitale come Hany Farid che sottolineano la necessità di vigilanza nell'affrontare queste sfide.

Gli elettori dovrebbero essere allerta sull'AI in questa stagione elettorale

Con l'avvicinarsi delle elezioni presidenziali del 2024, gli elettori devono rimanere vigili contro l'uso improprio della tecnologia AI nei tentativi di influenzare l'opinione pubblica. La disinformazione generata da AI potrebbe diventare un problema prevalente nelle campagne politiche, richiedendo una maggiore consapevolezza tra l'elettorato.

“Siamo preoccupati che l'AI generativa venga utilizzata come arma nelle prossime elezioni e stiamo vedendo quello che è sicuramente un segno di ciò che verrà,” ha detto Hany Farid, un esperto di forense digitale che ha esaminato la registrazione del robocall di Biden, in un intervista.

Come usare l'AI vocale in modo etico

A seguito di questo incidente, è cruciale considerare le applicazioni etiche dell'AI vocale. Sebbene la tecnologia vocale AI offra numerose possibilità, inclusi i doppiaggi, c'è la responsabilità di usarla in modo etico. Questo include indicare chiaramente quando vengono utilizzate voci generate da AI, evitare intenti dannosi e rispettare la privacy e il consenso.

Le leggi e le regolamentazioni sull'AI stanno arrivando

Con il continuo avanzare della tecnologia, legislatori, sviluppatori di IA, funzionari elettorali e il pubblico devono collaborare per stabilire salvaguardie, regolamenti e standard etici per proteggere il processo democratico da tali abusi. L'integrità delle elezioni, un pilastro della democrazia americana, dipende dalla nostra capacità di adattarci e rispondere alle nuove sfide riguardanti l'uso dell'IA. Infatti, il Congresso sta già discutendo le protezioni per l'IA. Durante una recente audizione al Senato, il senatore Richard Blumenthal ha persino dimostrato i deepfake riproducendo una registrazione della sua voce creata con un software di clonazione vocale IA e con un copione scritto da ChatGPT di OpenAI. Anche la Commissione Elettorale Federale ha avviato un processo per regolare eventualmente i deepfake generati dall'IA nelle campagne politiche del 2024.

Speechify Voice Over Studio: la piattaforma etica di IA vocale numero 1

Speechify Voice Over Studio è la principale piattaforma etica di IA vocale che stabilisce lo standard d'oro nella tecnologia del parlato sintetico. Con oltre 200 voci realistiche text to speech disponibili in più lingue e accenti, Speechify Voice Over Studio consente agli utenti di creare contenuti dinamici e coinvolgenti senza sforzo.

La sua piattaforma intuitiva offre strumenti di editing audio IA facili da usare, fornendo un controllo dettagliato su ogni parola, permettendo agli utenti di perfezionare tono, pronuncia, intonazione e altro ancora. Speechify Voice Over Studio dà anche priorità alle considerazioni etiche offrendo la clonazione vocale solo per la propria voce, garantendo il consenso esplicito e mitigando il rischio di uso improprio.

Speechify Voice Over Studio è la scelta ideale per creare voice over accattivanti per varie applicazioni, tra cui contenuti per social media, videogiochi, audiolibri, podcast e altro ancora. Migliora la tua esperienza di creazione di contenuti e prova Speechify Voice Over Studio gratuitamente oggi stesso.

FAQ

Qual è un esempio di clonazione vocale IA non etica?

Un esempio non etico di clonazione vocale IA potrebbe coinvolgere l'uso della tecnologia per fabbricare una registrazione audio convincente di Elon Musk che fa dichiarazioni false su questioni geopolitiche sensibili, come il coinvolgimento di Washington negli affari in Israele, manipolando potenzialmente la percezione pubblica e causando discordia. Questo uso ingannevole della clonazione vocale potrebbe sfruttare la fiducia pubblica e seminare discordia attribuendo dichiarazioni fuorvianti a figure influenti per avanzare un'agenda particolare.

Il GOP vuole regolare l'IA?

Secondo un sondaggio di Fox News, "I repubblicani sono meno convinti dei democratici che il governo federale debba imporre regolamenti sui sistemi di intelligenza artificiale e sono ancora più scettici sul fatto che il governo sia in grado di farlo correttamente."

Taylor Swift ha avuto un deepfake fatto su di lei?

Ci sono stati diversi deepfake non etici realizzati su Taylor Swift, inclusi foto e musica, senza il suo consenso. Secondo i rapporti, sta effettivamente considerando di intraprendere azioni legali contro i creatori dei deepfake.

Gli elettori del New Hampshire hanno ricevuto una chiamata automatica deepfake di Biden che diceva loro di non votare?

Sì, un truffatore ha creato un deepfake di Biden utilizzando la tecnologia IA di ElevenLabs per cercare di convincere gli elettori a non scrivere il nome di Biden durante le primarie del New Hampshire.