O que são deepfakes?
Deepfakes são um produto da inteligência artificial, especificamente de algoritmos de aprendizado de máquina e redes neurais, usados para criar ou alterar conteúdo em vídeo. Essa tecnologia permite gerar conteúdos de aparência realista, porém completamente falsos. Utilizando deep learning, especialmente um sistema conhecido como redes adversariais generativas (GANs), os deepfakes possibilitam trocas de rostos, alterações na sincronização labial e outras manipulações que podem sobrepor de forma convincente as expressões faciais e a voz de uma pessoa sobre outra.
Deepfake é ilegal?
A legalidade do deepfake varia de acordo com seu uso. Embora a tecnologia em si não seja necessariamente ilegal, seu uso inadequado, especialmente para golpes, desinformação ou pornografia de vingança, pode ser criminalizado. Estados como a Califórnia e a Virgínia aprovaram leis contra usos maliciosos específicos dos deepfakes, sobretudo nas áreas de eleições, pornografia e desinformação.
Por que o deepfake é proibido?
Deepfakes foram banidos ou restringidos em várias plataformas devido aos riscos associados à desinformação, às fake news e ao potencial de causar danos. Quando utilizados de forma irresponsável, deepfakes podem espalhar desinformação, personificar pessoas reais ou ser usados em golpes. Por exemplo, vídeos deepfake de Mark Zuckerberg, Donald Trump e Barack Obama já tiveram grande repercussão, enganando espectadores e mostrando o poder da tecnologia de distorcer a realidade.
É possível usar deepfake gratuitamente?
Sim, diversas plataformas e aplicativos oferecem acesso gratuito à tecnologia deepfake. No entanto, as versões gratuitas costumam ter limitações de recursos e funcionalidades. É fundamental ter cuidado com o uso indevido e seguir padrões éticos.
Como um deepfake é criado?
Deepfakes utilizam aprendizado de máquina, em especial GANs (redes adversariais generativas). O processo envolve um codificador, que comprime uma imagem, e um decodificador, que a descomprime para gerar uma nova. Usando dois conjuntos de dados, por exemplo, fotos de duas pessoas diferentes, o codificador aprende a comprimir imagens de ambos os conjuntos enquanto um decodificador compartilhado aprende a descomprimir. Isso permite a criação de imagens híbridas, trocando características entre os conjuntos de dados.
Quais são os riscos do deepfake?
Deepfakes podem representar diversas ameaças:
- Desinformação e fake news: Conteúdos enganosos podem ser disseminados nas redes sociais, manipulando a opinião pública.
- Golpes: Criminosos podem criar deepfakes convincentes para fins fraudulentos.
- Pornografia de vingança: Agentes mal-intencionados podem sobrepor rostos em conteúdos explícitos.
- Manipulação política: Falsos endossos ou declarações podem ser fabricados.
- Distorção na mídia: Celebridades e figuras públicas, como Tom Cruise e outros atores de Hollywood, já foram imitados, causando confusão e possíveis danos.
Diferença entre deepfake e imagem editada no Photoshop?
Enquanto fotos podem ser manipuladas digitalmente com ferramentas como o Photoshop, os deepfakes são voltados principalmente para vídeos, utilizando algoritmos avançados para manipular ou gerar conteúdo em vídeo. Contudo, com o avanço da tecnologia, também estão surgindo imagens estáticas criadas por deepfake.
Principais casos de uso de deepfakes
Deepfakes, alimentados pela IA generativa, têm diversas aplicações — tanto construtivas quanto controversas. Alguns dos principais casos de uso incluem:
- Entretenimento: Deepfakes podem ser usados no cinema, na realidade virtual e em videogames para criar personagens e cenas realistas.
- Jornalismo e educação: Cenários realistas podem ser simulados para fins educacionais ou até para o jornalismo investigativo, embora as considerações éticas sejam fundamentais nesses casos.
- Treinamento corporativo: Simular diferentes cenários do mundo real para treinamento de funcionários pode ser muito mais eficiente e econômico com deepfakes.
- Síntese de voz: Deepfakes não se limitam a elementos visuais; eles podem imitar vozes para aplicações como audiolivros, podcasts e assistentes virtuais.
- Deepfake como serviço: Várias plataformas agora oferecem ferramentas de criação de deepfake para usos como mensagens de vídeo personalizadas, mas geralmente incluem marcas d'água indicando que o conteúdo foi sintetizado.
Deepfakes nas notícias
Ao mesmo tempo, deepfakes vêm sendo usados de forma controversa para criar imagens e vídeos falsos, levantando sérias questões éticas e legais. Eles já foram empregados em campanhas de desinformação, golpes e ataques pessoais. Em 2021, um deepfake russo de um político americano circulou amplamente, causando tensões políticas e ganhando destaque em veículos como CNN, The Guardian e The Washington Post. Esses meios de comunicação frequentemente analisam as implicações e o uso dos deepfakes na sociedade, incluindo seu uso ou abuso no cenário político americano.
De fato, é possível criar conteúdo deepfake em várias plataformas. Enquanto deepfakes de alta qualidade geralmente exigem grande poder de processamento, disponível em computadores com Windows ou Mac, versões simplificadas também podem ser feitas em dispositivos Android. Existem diferentes softwares para cada plataforma, alguns adicionando marcas d'água para sinalizar que o conteúdo é um deepfake, facilitando um pouco a detecção.
Diante desse impacto, o papel de meios de comunicação como CNN, The Guardian e The Washington Post torna-se fundamental para educar o público sobre o uso responsável dos deepfakes e os perigos potenciais, especialmente quando usados para criar imagens e vídeos enganosos ou falsos.
Em resumo, deepfakes têm enorme potencial para diversas indústrias, mas também trazem riscos significativos. Portanto, é essencial agir com cautela e considerar as implicações éticas ao explorar essa poderosa tecnologia.
Top 8 softwares ou aplicativos de deepfake:
- DeepFaceLab: Muito utilizado para criar vídeos deepfake, especialmente popular entre usuários do Reddit.
- FaceSwap: Ferramenta de código aberto que oferece uma plataforma para a criação de deepfakes.
- ZAO: Aplicativo chinês que ganhou popularidade rapidamente por suas capacidades convincentes de deepfake.
- DeepArt: Transforma imagens no estilo de obras de arte famosas usando deep learning.
- DeepDream: Projeto do Google que transforma imagens em arte surrealista usando redes neurais.
- ThisPersonDoesNotExist: Utiliza GANs para criar imagens realistas de pessoas que não existem.
- Deepware Scanner: Ferramenta de detecção de deepfake, identificando conteúdos manipulados.
- DeepTrace: Empresa de cibersegurança que oferece ferramentas para detectar e combater deepfakes maliciosos.
Deepfakes, como qualquer tecnologia, oferecem tanto potencial quanto risco. À medida que a detecção de deepfakes melhora com os esforços de gigantes como a Microsoft e instituições como o MIT, continua a corrida contra a desinformação.
