La légalité des vidéos deepfake

La technologie deepfake, issue de l'intelligence artificielle et de l'apprentissage profond, suscite d'importantes préoccupations juridiques et éthiques à travers le monde....

La technologie deepfake, issue de l'intelligence artificielle et de l'apprentissage profond, suscite d'importantes préoccupations juridiques et éthiques à travers le monde. Ces algorithmes avancés utilisent l'apprentissage automatique et les réseaux antagonistes génératifs pour créer des vidéos ultra-réalistes, souvent en échangeant les visages des individus - y compris des personnalités publiques comme Trump et Obama - dans des scénarios réalistes.

Peut-on avoir des ennuis pour rechercher des deepfakes ?

À ma connaissance, en date de septembre 2021, rechercher du contenu deepfake en ligne n'est pas illégal en soi. Cependant, accéder, partager ou télécharger certains types de contenu deepfake, comme des deepfakes pornographiques non consensuels, peut constituer un crime selon la juridiction.

Les deepfakes sont-ils illégaux dans certains États ?

Plusieurs États, dont la Californie, la Virginie et le Texas, ont adopté des lois pour réglementer l'utilisation des deepfakes. En Californie, par exemple, il est illégal de créer et de distribuer des deepfakes de candidats politiques dans les 60 jours précédant une élection, et les victimes de pornographie deepfake peuvent engager des poursuites pour obtenir des dommages-intérêts. Des lois similaires ont été introduites ou envisagées en Virginie, au Texas et dans d'autres États.

Les deepfakes ont été utilisés pour le divertissement, le plaisir, et même à des fins malveillantes. Les deepfakes ont été tristement célèbres pour tromper. Voici quelques façons dont ils ont été mal utilisés.

1. Désinformation et fausses nouvelles : Les deepfakes peuvent être utilisés pour créer des vidéos ou des enregistrements audio convaincants de politiciens, célébrités ou autres personnalités publiques disant ou faisant des choses qu'ils n'ont pas réellement dites ou faites. Cela pourrait être utilisé pour diffuser de la désinformation, influencer l'opinion publique, ou même manipuler des élections.
2. Fraude et usurpation d'identité : En reproduisant la voix ou le visage de quelqu'un, les deepfakes pourraient être utilisés pour escroquer des personnes ou des entreprises, usurper l'identité d'individus à des fins criminelles, ou contourner des systèmes de sécurité biométriques.
3. Cyberharcèlement et intimidation : Les deepfakes peuvent être utilisés pour cibler des individus, en particulier des femmes, en créant du contenu explicite ou offensant mettant en scène leur image sans leur consentement. Cela peut entraîner une détresse émotionnelle, nuire à la réputation, et d'autres conséquences négatives.
4. Contenu explicite non consensuel ("Pornographie deepfake") : La pornographie deepfake est l'une des utilisations les plus nuisibles de la technologie deepfake. Elle implique la création de vidéos pornographiques en superposant le visage d'une personne (souvent une célébrité, mais pas exclusivement) sur le corps de quelqu'un d'autre. Cela peut avoir de graves implications émotionnelles et sociales pour la personne concernée.
5. Espionnage industriel et manipulation de marché : En créant de fausses déclarations ou actions d'un PDG ou de figures importantes dans les entreprises, il est possible d'affecter les cours des actions ou la réputation des entreprises, entraînant des impacts économiques significatifs.

Les deepfakes ont également été utilisés à des fins positives. Pour le plaisir et le divertissement :

1. Divertissement et cinéma : Les deepfakes ont été utilisés dans le cinéma et la télévision pour rajeunir des acteurs, faire revivre des acteurs décédés, ou même remplacer des acteurs qui n'étaient pas disponibles pour des reshoots. Par exemple, dans le film "The Irishman", la technologie deepfake a été utilisée pour rajeunir Robert De Niro, Al Pacino et Joe Pesci.
2. Éducation et reconstitution historique : Les deepfakes peuvent faire revivre des figures historiques à des fins éducatives. Par exemple, il y avait un projet appelé "Deep Nostalgia" par MyHeritage qui utilisait la technologie deepfake pour animer de vieilles photos de famille et portraits, donnant l'impression que des figures historiques prennent brièvement vie.
3. Art et créativité numérique : Les artistes utilisent les deepfakes pour créer de nouvelles formes d'art et d'expression numérique. Cela peut inclure tout, des clips musicaux aux expériences de réalité virtuelle.
4. Imitations et parodies : Les comédiens et imitateurs utilisent les deepfakes pour améliorer leurs performances, rendant leurs imitations encore plus précises et divertissantes. Par exemple, les imitations du comédien Bill Hader ont été améliorées avec des deepfakes pour transformer son visage en celui des célébrités qu'il imite, ajoutant une autre dimension à ses performances.
5. Mèmes et culture internet : Les deepfakes ont également été utilisés pour créer du contenu internet amusant et divertissant. Un exemple bien connu est les "deepfakes de Tom Cruise" sur TikTok, où un imitateur a utilisé la technologie deepfake pour partager des vidéos de 'Tom Cruise' effectuant des activités quotidiennes.
6. Synthèse vocale : Pour les personnes qui ont perdu la capacité de parler en raison de conditions comme la SLA, la technologie de voix deepfake peut recréer leur voix, leur permettant de communiquer d'une manière qui semble plus naturelle et personnelle.

Peut-on poursuivre quelqu'un pour avoir créé un deepfake ?

Oui, les individus peuvent intenter des poursuites pour la création de deepfakes sur plusieurs bases, y compris la diffamation, la détresse émotionnelle, et la violation des droits de propriété intellectuelle. Les célébrités et les personnalités publiques peuvent également prétendre que leur image a été détournée. Cependant, les protections de la liberté d'expression en vertu du Premier Amendement et la difficulté d'identifier les créateurs de deepfakes compliquent souvent ces affaires.

Est-il illégal de télécharger des deepfakes ?

Télécharger des deepfakes n'est pas universellement illégal, mais cela le devient lorsque le contenu enfreint des lois, comme les deepfakes pornographiques créés sans le consentement de la personne concernée. De plus, télécharger du matériel protégé par des droits d'auteur peut entraîner des accusations de violation de droits d'auteur.

Est-il illégal de créer un deepfake ?

La légalité de la création de deepfakes dépend largement de l'intention et de l'utilisation. Les deepfakes pornographiques non consensuels, diffamatoires ou causant une détresse émotionnelle peuvent être illégaux. La création de deepfakes impliquant des personnalités publiques peut également entraîner des implications légales.

Quelle est la sanction pour publier un deepfake ?

La sanction pour publier un deepfake varie selon la juridiction et la nature du deepfake. Elle peut aller d'amendes financières à l'emprisonnement, notamment dans les cas de pornographie vengeresse ou lorsque cela menace la sécurité nationale. Les actrices hollywoodiennes et autres victimes de deepfake peuvent également engager des actions civiles pour obtenir des dommages-intérêts.

Comment repérer un deepfake ?

Identifier les deepfakes peut être difficile en raison de leur réalisme. Cependant, des anomalies dans l'éclairage, le teint de la peau ou des mouvements non naturels peuvent être des indices. Les plateformes de médias sociaux comme TikTok utilisent également l'IA pour détecter et supprimer le contenu deepfake.

Top 8 des logiciels/applications de deepfake
Voici les détails sur les 8 meilleurs logiciels et applications de deepfake selon ma dernière mise à jour de connaissances en septembre 2021 :

Zao : Zao est une application chinoise devenue célèbre pour ses capacités de changement de visage hyper-réalistes. Avec seulement quelques selfies, les utilisateurs de Zao peuvent superposer leur visage sur le corps de stars de cinéma populaires. Cependant, l'application a soulevé de sérieuses préoccupations en matière de confidentialité.

FaceSwap : FaceSwap est un outil open-source pour créer des deepfakes. Il fournit des guides détaillés et un support communautaire, ce qui en fait un bon point de départ pour les débutants dans la création de deepfakes. FaceSwap respecte la vie privée des utilisateurs et ne collecte pas de données utilisateur.

DeepArt : Bien qu'il ne s'agisse pas d'une application de deepfake traditionnelle, DeepArt utilise des algorithmes d'apprentissage profond pour appliquer différents styles artistiques aux images ou vidéos fournies par l'utilisateur. C'est un exemple de la façon dont l'IA et l'apprentissage automatique peuvent être utilisés à des fins créatives.

Deepfakes web β : Il s'agit d'un service web convivial pour créer des deepfakes. Il ne nécessite aucune installation de logiciel et offre une interface intuitive pour que les utilisateurs puissent échanger des visages dans les vidéos.

Doublicat/Reface : Cette application mobile permet aux utilisateurs de superposer leur visage sur des GIFs et des clips vidéo populaires. Elle utilise des réseaux antagonistes génératifs (GANs) pour produire des résultats impressionnants.

DeepFake Studio : Une application logicielle conçue pour créer des vidéos deepfake. DeepFake Studio offre une interface GUI, facilitant la création de deepfakes pour les utilisateurs sans une compréhension approfondie de la technologie sous-jacente.

Ces logiciels et applications illustrent les vastes capacités de la technologie deepfake. Bien qu'ils puissent être utilisés à des fins de divertissement et bénignes, ils soulignent également le potentiel d'abus, mettant en évidence l'importance de lignes directrices éthiques, de législations et d'outils de détection pour gérer cette technologie puissante.