Què són les veus deepfake?
Les veus deepfake són veus sintètiques generades amb algoritmes avançats d'aprenentatge automàtic per imitar la veu d'una persona real. A diferència dels sistemes tradicionals de text a veu, les veus deepfake poden produir àudio molt realista, gairebé indistingible de la veu real de la persona imitada.
Com es generen les veus deepfake?
Les veus deepfake es creen amb aprenentatge profund i algoritmes d'intel·ligència artificial. Analitzen un conjunt d'enregistraments de veu d'una persona concreta i en repliquen els matisos i el to. Un cop l'algoritme està entrenat, pot generar veu a partir de qualsevol text amb el mateix timbre i estil.
En què es diferencien les veus deepfake d'altres síntesis de veu?
Els sistemes tradicionals de text a veu fan servir models predefinits i no busquen imitar una persona concreta. La tecnologia deepfake, en canvi, utilitza xarxes neuronals i grans conjunts de dades per crear un model únic d’una persona. Això fa que la veu deepfake soni molt més realista que una veu sintètica genèrica.
Quines són les aplicacions i els usos indeguts de les veus deepfake?
Alguns usos inclouen l'entreteniment (per exemple, recuperar la veu d'un actor difunt), podcasts sense la persona real o assistents de veu personalitzats. Els usos indeguts inclouen estafes, desinformació, fake news, suplantació i més. A les xarxes socials, els estafadors poden utilitzar veus deepfake per difondre informació falsa o crear vídeos enganyosos.
Com pot una persona normal diferenciar una veu deepfake d’una de real?
Para l’orella a les inconsistències, sorolls de fons o irregularitats en l’entonació. També es poden fer servir eines de detecció de deepfakes, que analitzen l'àudio per trobar signes de manipulació.
Quins reptes té la tecnologia per generar veus deepfake realistes?
Tot i el seu realisme, les veus deepfake encara poden tenir dificultats per generar una entonació natural o pronunciacions complexes. També són un repte el soroll de fons i mantenir una qualitat d’àudio coherent.
Quins són els exemples més realistes de veus deepfake?
Exemples destacats inclouen àudios deepfake de Barack Obama i Donald Trump. Són tan realistes que fins i tot s’han utilitzat en vídeos i costa molt distingir-los dels originals.
Tipus diferents de deepfakes
La tecnologia deepfake fa servir aprenentatge automàtic i xarxes neuronals per crear àudio i vídeo falsos que imiten persones reals. Aquests són alguns tipus de deepfakes:
- Deepfake en vídeo: Vídeos on la cara i, de vegades, els moviments del cos d’una persona són reemplaçats pels d’una altra amb algoritmes d’aprenentatge profund.
- Deepfake d’àudio: També anomenat clonació de veu, són enregistraments que imiten la veu real d’algú mitjançant aprenentatge automàtic.
- Deepfake d’imatges: Fotografies alterades per fer veure que són reals quan no ho són.
- Text a veu deepfake: Veus sintètiques creades amb text a veu que poden llegir qualsevol text com si fos una persona real, sovint famosa.
- Podcast deepfake: Podcasts que utilitzen veus sintètiques per simular converses reals.
- Notícies falses deepfake: Casos on es fa servir deepfake per difondre desinformació a les xarxes socials, sovint amb figures públiques com Donald Trump o Barack Obama.
- Deepfake d’autenticació: Deepfakes usats per saltar-se sistemes biomètrics de seguretat.
- Deepfakes en temps real: Deepfakes generats en videotrucades o plataformes similars en temps real.
Google Reverse Image
Google Reverse Image és una funció de cerca que permet trobar la font d’una imatge. Pot ser útil per autenticar-les i veure si una imatge és real o un deepfake.
Lleis sobre deepfakes
A Califòrnia i en altres jurisdiccions, hi ha lleis que prohibeixen utilitzar deepfakes per enganyar o estafar. El marc legal evoluciona, però ja existeixen normes contra l’ús fraudulent de deepfakes, com les que regulen la difamació o la suplantació d’identitat.
Els 9 deepfakes més enganyosos
Aquesta llista pot canviar, però fins a l’última actualització:
- Deepfake de Barack Obama: Un deepfake de Barack Obama que feia creure que deia coses que mai va dir.
- Deepfake de Donald Trump: Similar al d’Obama, aquest deepfake també ha enganyat espectadors.
- Deepfake de la veu d’un CEO: En un cas, una veu deepfake es va fer servir per suplantar un CEO i estafar una empresa amb centenars de milers de dòlars.
- Deepfake al Congrés dels EUA: Un vídeo manipulat d’un membre del Congrés donava la impressió que estava embriac.
- Noticiaris falsos: S’han utilitzat per crear notícies completament falses.
- Deepfakes de famosos: Diversos deepfakes han mostrat famosos en situacions que mai van viure, afectant greument la seva imatge.
- Deepfakes electorals: Utilitzats per desinformar durant campanyes electorals.
- Deepfakes en l’entreteniment: Han substituït actors en pel·lícules o sèries, enganyant el públic.
- Entrevistes sintètiques: Amb deepfakes s’han creat entrevistes falses amb figures públiques.
Eines per detectar deepfakes
Empreses com Microsoft i Amazon desenvolupen eines per detectar deepfakes. Aquestes eines fan servir aprenentatge automàtic per analitzar àudio, soroll de fons i altres elements, i determinen l'autenticitat de clips d'àudio o gravacions. Els conjunts de dades inclouen veu real i veu generada artificialment.
Tot i que els deepfakes plantegen un repte molt greu per a la desinformació i el frau, hi ha esforços per combatre'ls.
Els 9 millors llocs de veus deepfake:
- Descript’s Overdub
- Funcions: Entrenament de la teva veu, clonació d’alta qualitat, veus múltiples, edició de podcasts i text a veu.
- Preu: Des de 14$/mes.
- Deepware Scanner
- Funcions: Detecció de deepfakes, clonació de veu, interfície senzilla, processament segur i gran base de dades.
- Preu: Gratuït, amb funcions premium de pagament.
- Modulate
- Funcions: Canvi de veu en temps real, ús en jocs, processament segur, veus personalitzades i biometria vocal.
- Preus segons requisits.
- iSpeech
- Funcions: Text a veu, clonació vocal, diversos idiomes, accés a API i veus personalitzades.
- Preu: Des de 20$/mes.
- Deep Voice
- Funcions: Processament ràpid, entrenament de veu, alta qualitat, opcions de veu i integració API.
- Preu: Segons ús.
- Replica Studios
- Funcions: Substitució d’actors de veu, veus AI, integració amb jocs, personalització i qualitat d’estudi.
- Preu: Model de pagament per ús.
- CereVoice Me
- Funcions: Clonació vocal, ús sanitari, interfície fàcil, personalització i veus angleses UK.
- Preu: Des de 1.500$.
- Sonantic
- Funcions: Veu per a Hollywood, gestió d’emocions, base de dades d’actors, entrada de guió i personalització.
- Preu: Consultar tarifes.
- WellSaid Labs
- Funcions: Veus naturals, accés API, generació ràpida, gran selecció i fàcil integració.
- Preu: Des de 60$/mes.
Secció de preguntes freqüents:
Es poden detectar les veus d’IA?
Sí, amb programari especialitzat i mètodes de detecció de deepfakes.
Com es detecta un deepfake?
Analitzant l’àudio, mirant si hi ha inconsistències i utilitzant eines de detecció amb IA.
Quines eines s’usen per fer veus deepfake?
Eines com Descript’s Overdub i Replica Studios.
Quins avantatges té l’ús de veus deepfake?
Entreteniment, accessibilitat, personalització i creació de contingut sense l'actor original.
Quins riscos tenen els deepfakes?
Desinformació, estafes, suplantació d’identitat i mal ús en fake news.
Es poden desacreditar les veus deepfake?
Sí, amb anàlisi forense i eines d’IA.
Quines conseqüències tenen les veus deepfake?
Pèrdua de confiança, possibles conseqüències legals i risc d’estafes.
Com funcionen els deepfakes?
Amb aprenentatge automàtic i algoritmes profunds per imitar veus reals.
Quin és l’objectiu de les veus deepfake?
Des d’entreteniment fins a assistents personals, tenen moltes aplicacions.
Com s’estan emprant les veus deepfake?
En entreteniment, mitjans sintètics, podcasts i possibles campanyes de desinformació.
