Què són els deepfakes?
Els deepfakes són fruit de la intel·ligència artificial, especialment d’algoritmes d’aprenentatge automàtic i xarxes neuronals, que permeten crear o modificar vídeos. Aquesta tecnologia genera contingut molt realista però completament fals. Amb deep learning, sobretot amb xarxes generatives adversàries (GANs), es poden fer intercanvis de cares, ajustar la sincronització labial i fer altres manipulacions que superposen de manera convincent les expressions o la veu d’una persona en una altra.
És il·legal un deepfake?
La legalitat dels deepfakes depèn de l’ús que se’n faci. La tecnologia en si no és il·legal, però l’abús, sobretot per a estafes, desinformació o venjança sexual, pot ser delicte. Estats com Califòrnia i Virgínia han aprovat lleis contra usos maliciosos concrets dels deepfakes, especialment en eleccions, pornografia i desinformació.
Per què es prohibeixen els deepfakes?
Els deepfakes s’han vetat o restringit en moltes plataformes pels riscos associats a la desinformació, les fake news i el potencial de causar dany. Mal emprats, poden difondre fakes, suplantar identitats o ser usats per a estafes. Per exemple, vídeos falsos de Mark Zuckerberg, Donald Trump o Barack Obama han tingut molt ressò, mostrant com aquesta tecnologia pot desvirtuar la realitat.
Es pot fer servir deepfake gratis?
Sí, algunes plataformes i apps ofereixen accés gratuït al deepfake. Tot i així, les versions gratis poden tenir funcions limitades. Cal vigilar-ne l’ús i seguir criteris ètics.
Com es fa un deepfake?
Els deepfakes utilitzen l’aprenentatge automàtic, sobretot les GANs. El procés inclou un codificador, que comprimeix imatges, i un descodificador, que les genera de nou. Amb dues bases de dades (per ex., fotos de dues persones), el codificador aprèn a comprimir imatges d’ambdues, mentre el descodificador compartit les reconstrueix. Això permet crear fotos híbrides intercanviant trets entre bases de dades.
Quins són els riscos dels deepfakes?
Els deepfakes poden suposar molts riscos:
- Desinformació i fake news: Es pot difondre contingut enganyós a xarxes socials i manipular l’opinió pública.
- Estafes: Els criminals poden crear deepfakes creïbles per enganyar persones o empreses.
- Pornovenjança: Es poden superposar cares en continguts explícits sense consentiment.
- Manipulació política: Es poden crear falsos suports, discursos o declaracions.
- Manipulació en mitjans: Famosos o figures públiques, com Tom Cruise o altres actors, han estat suplantats, creant confusió i perjudicis.
Diferència entre deepfake i una imatge retocada?
Tot i que es poden retocar fotos amb eines com Photoshop, els deepfakes se centren sobretot en vídeos, utilitzant algoritmes avançats per manipular o generar contingut audiovisual. Amb el progrés, també sorgeixen imatges estàtiques deepfake.
Principals usos dels deepfakes
Els deepfakes, basats en IA generativa, tenen molts usos, tant beneficiosos com polèmics. Alguns dels més habituals són:
- Entreteniment: Per crear personatges i escenes realistes a pel·lícules, realitat virtual i videojocs.
- Periodisme i educació: Simulació de situacions per a la docència o la recerca periodística, sempre respectant l’ètica.
- Formació empresarial: Simular situacions reals per formar personal de manera eficient i barata.
- Síntesi de veu: També poden imitar veus per a audiollibres, podcasts o assistents de veu.
- Deepfake com a servei: Diverses eines ofereixen creació de deepfakes en vídeos personalitzats; sovint inclouen marca d’aigua per indicar que el contingut és artificial.
Els deepfakes als mitjans
Els deepfakes s’han usat de manera polèmica per crear imatges i vídeos falsos, plantejant greus qüestions ètiques i legals. S’han fet servir per desinformar, estafar o atacar persones. El 2021, un deepfake rus d’un polític americà es va fer viral, va provocar tensions i va aparèixer a mitjans com CNN, The Guardian o The Washington Post. Aquests mitjans analitzen el seu impacte i ús, especialment en política.
El contingut deepfake es pot crear en diverses plataformes. Normalment els deepfakes d’alta qualitat requereixen molta potència de càlcul, habitualment disponible en ordinadors amb Windows o Mac, però també es poden fer deepfakes simples en dispositius Android. Diversos programes ofereixen versions per a cada plataforma i alguns hi posen marca d’aigua per identificar-ho com a deepfake i facilitar-ne la detecció.
Atès el seu impacte, el paper de mitjans com CNN, The Guardian i The Washington Post és clau per informar la població sobre l’ús responsable dels deepfakes i els perills potencials, sobretot quan s’utilitzen per crear contingut enganyós.
En resum, els deepfakes tenen molt potencial en moltes indústries però impliquen riscos importants. Cal anar amb compte i tenir en compte l’ètica a l’hora de fer servir aquesta potent tecnologia.
Top 8 programes i apps de deepfake:
- DeepFaceLab: Molt utilitzat per crear vídeos deepfake, especialment a la comunitat de Reddit.
- FaceSwap: Eina de codi lliure per crear deepfakes.
- ZAO: App xinesa molt popular per la seva capacitat de generar deepfakes molt realistes.
- DeepArt: Transforma imatges amb l’estil d’artistes famosos amb IA.
- DeepDream: Projecte de Google que converteix imatges en art oníric amb xarxes neuronals.
- ThisPersonDoesNotExist: Fa servir GANs per crear imatges realistes de persones inexistents.
- Deepware Scanner: Eina de detecció de deepfakes per identificar contingut manipulat.
- DeepTrace: Empresa de ciberseguretat amb eines per detectar i combatre deepfakes maliciosos.
Com qualsevol tecnologia, els deepfakes comporten potencial i risc. A mesura que la detecció de deepfakes avança gràcies a esforços de gegants com Microsoft i institucions com l’MIT, la lluita contra la desinformació segueix oberta.
