Source du deepfake de Joe Biden révélé après une ingérence électorale

Un appel automatisé deepfake du Président Biden a été reçu par certains électeurs. Découvrez qui a créé le deepfake de Joe Biden et les conséquences de l'IA non éthique.

Source du deepfake de Joe Biden révélé après une ingérence électorale

À la dernière minute avant la primaire du New Hampshire, un complot insidieux s'est déroulé, utilisant la technologie de l'intelligence artificielle pour imiter la voix du Président Joe Biden dans un appel automatisé. Cette tentative sans précédent d'ingérence électorale a mis en lumière l'intersection de l'IA, des deepfakes et de la désinformation, soulevant des inquiétudes quant aux conséquences potentielles pour les processus démocratiques. Plongeons dans tout ce que vous devez savoir sur l'escroquerie deepfake impliquant un appel automatisé du Président américain Joe Biden, y compris qui était impliqué.

Qu'est-ce que l'escroquerie deepfake de Joe Biden ?

Le lundi 22 janvier 2023, le bureau du procureur général du New Hampshire a déclaré qu'il enquêtait sur des rapports concernant un appel automatisé apparent qui utilisait l'intelligence artificielle pour imiter la voix du Président Joe Biden et décourager les électeurs de l'État de se rendre aux urnes.

Cette escroquerie visait à décourager les électeurs de participer à l'élection primaire de l'État, prétendant faussement que voter à la primaire aurait un impact sur l'élection générale de novembre. La voix générée par l'IA de Biden exhortait les électeurs à "garder" leurs votes pour la prochaine élection fédérale, affirmant que voter à la primaire profiterait aux Républicains et faciliterait la réélection de Donald Trump.

Identification de l'appel deepfake de Joe Biden

L'identification de l'appel automatisé de Biden apparaissait comme s'il avait été envoyé par Kathy Sullivan, une ancienne présidente du Parti démocrate de l'État qui aide à diriger Granite for America, un super-PAC qui fait campagne pour que les électeurs écrivent le nom de Biden pour montrer leur soutien au Président. Cependant, il ne faisait pas campagne dans le New Hampshire et ne serait pas sur le bulletin de vote puisqu'il était en tête pour les primaires présidentielles démocrates.

“Cet appel est lié à mon numéro de téléphone portable personnel sans ma permission,” a déclaré Sullivan dans un communiqué. “C'est une ingérence électorale flagrante, et clairement une tentative de me harceler ainsi que d'autres électeurs du New Hampshire qui prévoient d'écrire le nom de Joe Biden mardi.”

Audio de l'escroquerie deepfake de Joe Biden

Dans l'audio de l'appel automatisé fake obtenu par NBC, vous pouvez entendre une voix qui ressemble étrangement à celle de Biden dire sa phrase fétiche, “Quelle bande de balivernes.” Le message poursuit en déclarant, “il est important que vous gardiez votre vote pour l'élection de novembre et “voter ce mardi ne fait qu'aider les Républicains dans leur quête pour réélire Donald Trump. Votre vote fait la différence en novembre, pas ce mardi.”

Après sa diffusion, la porte-parole de la Maison Blanche, Karine Jean-Pierre, a informé le public que le message était généré par l'IA pour diffuser de la désinformation et ne provenait pas de la campagne de Biden.

Dans un communiqué, la directrice de campagne de Biden, Julie Chavez Rodriguez, a déclaré que la campagne “discutait activement des actions supplémentaires à prendre immédiatement.”

Que faire si vous avez reçu un appel automatisé de Joe Biden ?

Le message enregistré semblait être une tentative illégale de diffuser de la désinformation et de perturber le vote. Bien qu'il ne soit pas clair combien d'électeurs ont reçu l'appel, au moins une douzaine l'ont signalé. Le procureur général John Formella a expliqué que toute personne ayant reçu un tel appel “devrait ignorer entièrement le contenu de ce message.”

Source du deepfake de l'appel automatisé de Joe Biden révélée

Selon Bloomberg, une entreprise de détection de fraude vocale, Pindrop Security Inc., a découvert que l'appel automatisé deepfake de Biden n'a pas été réalisé par la campagne de Biden mais plutôt par un escroc utilisant ElevenLabs, une startup d'IA vocale qui offre des capacités de clonage vocal.

Bien que la déclaration de sécurité d'ElevenLabs autorise le clonage vocal “pour certains usages non commerciaux si vous n'impactez pas la vie privée ou les intérêts économiques de la personne,” y compris “l'étude privée, la recherche non commerciale, l'éducation, la caricature, la parodie, la satire, le discours artistique et politique contribuant aux débats publics, la citation,” ainsi que “la critique et la revue,” ElevenLabs a banni l'utilisateur qui a créé l'appel automatisé deepfake de Biden.

"Nous sommes déterminés à prévenir l'utilisation abusive des outils d'IA audio et prenons très au sérieux tout incident d'utilisation abusive," a déclaré ElevenLabs à Bloomberg.

Deepfake vs. Générateur de voix IA vs. Clonage vocal

Alors que la génération de voix par IA devient de plus en plus populaire, il est essentiel de comprendre les termes deepfake, générateur de voix IA, et clonage de voix, ainsi que la différence entre leurs utilisations éthiques et non éthiques.

Deepfake

Le deepfake fait référence à l'utilisation de l'intelligence artificielle et des techniques d'apprentissage automatique pour créer ou manipuler du contenu audio et visuel, remplaçant souvent l'apparence de quelqu'un par celle d'une autre personne de manière réaliste.

• Utilisation éthique du deepfake : La technologie deepfake peut être utilisée de manière éthique pour le divertissement, l'expression artistique et l'éducation, lorsque l'intention n'est pas de tromper ou de nuire aux autres.
• Utilisation non éthique du deepfake : Lorsque la technologie deepfake est exploitée pour créer du contenu trompeur et des fausses narrations ou pour usurper l'identité d'individus à des fins malveillantes (comme la diffusion de désinformation ou la création de fausses nouvelles), cela soulève de graves préoccupations éthiques.

Générateur de voix IA

Les générateurs de voix IA utilisent des algorithmes d'apprentissage automatique pour synthétiser des voix IA ressemblant à celles des humains. Ils sont souvent entraînés sur de grands ensembles de données pour imiter les voix et les tons humains.

• Utilisation éthique des générateurs de voix IA : Les générateurs de voix IA peuvent être utilisés de manière éthique pour diverses fins, y compris l'accessibilité pour les personnes ayant des troubles de la parole, l'apprentissage des langues, le divertissement ou les voix off.
• Utilisation non éthique des générateurs de voix IA : L'utilisation abusive de la génération de voix IA pour créer des enregistrements audio faux à des fins malveillantes, comme falsifier la voix de quelqu'un pour l'usurper à des fins frauduleuses ou pour diffuser de la désinformation, est considérée comme non éthique.

Clonage de voix

Le clonage de voix consiste à créer une copie synthétique de la voix d'une personne, généralement en utilisant des enregistrements de son discours comme données d'entraînement pour un modèle d'apprentissage automatique.

• Utilisation éthique du clonage de voix : Le clonage de voix peut être utilisé de manière éthique pour des fins telles que la création d'assistants vocaux personnalisés, la préservation des voix d'individus pour les générations futures avec consentement, ou l'aide aux personnes ayant des troubles de la parole.
• Utilisation non éthique du clonage de voix : Le clonage de voix non autorisé pour des activités trompeuses, comme créer des enregistrements audio faux pour usurper l'identité de quelqu'un sans son consentement, peut être hautement non éthique et entraîner des violations de la vie privée et un usage potentiel abusif.

Mauvais usage de la voix IA de Joe Biden

L'utilisation abusive de la voix de Joe Biden à travers des appels automatisés générés par IA est un exemple frappant du potentiel de la technologie artificielle à être utilisée comme une arme dans des tentatives de suppression du vote et de diffusion de désinformation. Les conséquences de l'utilisation abusive de l'IA pour reproduire les voix de figures politiques sont considérables. Cet incident préfigure un avenir où les voix générées par IA pourraient être utilisées pour diffuser de fausses narrations, manipuler l'opinion publique et saper le processus démocratique. L'impact potentiel sur la confiance dans le discours politique et l'intégrité des élections est une source de préoccupation sérieuse.

À mesure que la technologie IA progresse, le risque que de tels incidents se produisent augmente, avec des experts en criminalistique numérique comme Hany Farid soulignant la nécessité de vigilance pour relever ces défis.

Les électeurs doivent être vigilants face à l'IA cette saison électorale

À l'approche de l'élection présidentielle de 2024, les électeurs doivent rester vigilants face à l'utilisation abusive de la technologie IA dans les tentatives d'influencer l'opinion publique. La désinformation générée par IA pourrait devenir un problème répandu dans les campagnes politiques, nécessitant une prise de conscience accrue parmi l'électorat.

« Nous avons été préoccupés par le fait que l'IA générative serait utilisée comme une arme lors de la prochaine élection et nous voyons ce qui est sûrement un signe des choses à venir », a déclaré Hany Farid, un expert en criminalistique numérique qui a examiné l'enregistrement de l'appel automatisé de Biden, dans une interview.

Comment utiliser l'IA vocale de manière éthique

À la suite de cet incident, il est crucial de considérer les applications éthiques de l'IA vocale. Bien que la technologie de voix IA offre de nombreuses possibilités, y compris les voix off, il y a une responsabilité à l'utiliser de manière éthique. Cela inclut d'indiquer clairement quand des voix générées par IA sont utilisées, d'éviter les intentions malveillantes et de respecter la vie privée et le consentement.

Des lois et réglementations sur l'IA arrivent

Alors que la technologie continue de progresser, les législateurs, les développeurs d'IA, les responsables électoraux et le public doivent collaborer pour établir des garde-fous, des réglementations et des normes éthiques afin de protéger le processus démocratique de tels abus. L'intégrité des élections, pierre angulaire de la démocratie américaine, dépend de notre capacité à nous adapter et à répondre aux nouveaux défis liés à l'utilisation de l'IA. En fait, le Congrès discute déjà des protections liées à l'IA. Lors d'une récente audition au Sénat, le sénateur Richard Blumenthal a même démontré des deepfakes en diffusant un enregistrement de sa propre voix créée avec un logiciel de clonage vocal IA et un script rédigé par ChatGPT d'OpenAI. La Commission électorale fédérale a également entamé un processus pour éventuellement réglementer les deepfakes générés par l'IA dans les publicités de campagne politique de 2024.

Speechify Voice Over Studio : la plateforme éthique n°1 pour les voix IA

Speechify Voice Over Studio est la principale plateforme éthique de voix IA qui établit la norme d'excellence en matière de technologie de synthèse vocale. Avec plus de 200 voix réalistes disponibles dans plusieurs langues et accents, Speechify Voice Over Studio permet aux utilisateurs de créer facilement du contenu dynamique et engageant.

Sa plateforme conviviale propose des outils d'édition audio IA faciles à utiliser, offrant un contrôle granulaire sur chaque mot, permettant aux utilisateurs d'affiner la hauteur, la prononciation, le ton, et plus encore. Speechify Voice Over Studio accorde également la priorité aux considérations éthiques en offrant le clonage vocal uniquement pour votre propre voix, garantissant un consentement explicite et réduisant le risque d'abus.

Speechify Voice Over Studio est le choix idéal pour créer des voix off captivantes pour diverses applications, y compris le contenu des réseaux sociaux, les jeux vidéo, les livres audio, les podcasts, et plus encore. Améliorez votre expérience de création de contenu et essayez Speechify Voice Over Studio gratuitement dès aujourd'hui.

FAQ

Quel est un exemple de clonage vocal IA non éthique ?

Un exemple non éthique de clonage vocal IA pourrait consister à utiliser la technologie pour fabriquer un enregistrement audio convaincant d'Elon Musk faisant de fausses déclarations sur des questions géopolitiques sensibles, telles que l'implication de Washington dans les affaires en Israël, manipulant potentiellement la perception publique et semant la discorde. Cette utilisation trompeuse du clonage vocal pourrait exploiter la confiance du public et semer la discorde en attribuant des déclarations trompeuses à des personnalités influentes pour faire avancer un agenda particulier.

Le GOP veut-il réglementer l'IA ?

Selon un sondage de Fox News, « Les républicains sont moins convaincus que les démocrates que le gouvernement fédéral doit imposer des réglementations sur les systèmes d'intelligence artificielle et sont encore plus sceptiques quant à la capacité du gouvernement à bien le faire. »

Taylor Swift a-t-elle été victime d'un deepfake ?

Il y a eu plusieurs deepfakes non éthiques de Taylor Swift, y compris des photos et de la musique, sans son consentement. Selon des rapports, elle envisage même de prendre des mesures juridiques contre les créateurs de ces deepfakes.

Les électeurs du New Hampshire ont-ils reçu un appel automatisé deepfake de Biden leur disant de ne pas voter ?

Oui, un escroc a créé un deepfake de Biden en utilisant la technologie IA d'ElevenLabs pour tenter de convaincre les électeurs de ne pas écrire le nom de Biden lors des primaires du New Hampshire.