Fonte do deepfake de Joe Biden revelada após interferência eleitoral

Um robocall deepfake do Presidente Biden foi recebido por alguns eleitores. Descubra quem criou o deepfake de Joe Biden e as ramificações da IA antiética.

Fonte do deepfake de Joe Biden revelada após interferência eleitoral

Na última hora antes das primárias de New Hampshire, um plano insidioso foi desvendado, utilizando tecnologia de inteligência artificial para imitar a voz do Presidente Joe Biden em um robocall. Esta tentativa sem precedentes de interferência eleitoral trouxe à tona a interseção entre IA, deepfakes e desinformação, levantando preocupações sobre as possíveis consequências para os processos democráticos. Vamos nos aprofundar em tudo o que você precisa saber sobre o golpe do deepfake envolvendo um robocall do Presidente dos EUA, Joe Biden, incluindo quem esteve envolvido.

O que é o golpe do deepfake de Joe Biden?

Na segunda-feira, 22 de janeiro de 2023, o escritório do procurador-geral de New Hampshire disse que estava investigando relatos de um aparente robocall que usou inteligência artificial para imitar a voz do Presidente Joe Biden e desencorajar eleitores no estado de irem às urnas.

Este golpe visava desencorajar os eleitores de participarem das primárias do estado, alegando falsamente que votar nas primárias impactaria de alguma forma a eleição geral em novembro. A voz gerada por IA de Biden instava os eleitores a "guardarem" seus votos para a próxima eleição federal, alegando que votar nas primárias beneficiaria os republicanos e facilitaria a reeleição de Donald Trump.

Identificação do chamador do deepfake de Joe Biden

A identificação do chamador do falso robocall de Biden parecia ter sido enviada por Kathy Sullivan, uma ex-presidente do Partido Democrata estadual que ajuda a administrar o Granite for America, um super-PAC que faz campanha para que os eleitores escrevam o nome de Biden para mostrar seu apoio ao Presidente. No entanto, ele não estava fazendo campanha em New Hampshire e não estaria na cédula, já que estava na posição de liderança para as primárias presidenciais democratas.

“Esta chamada está vinculada ao meu número de celular pessoal sem a minha permissão”, disse Sullivan em um comunicado. “É uma interferência eleitoral descarada e claramente uma tentativa de me assediar e a outros eleitores de New Hampshire que planejam escrever o nome de Joe Biden na terça-feira.”

Áudio do golpe do deepfake de Joe Biden

No áudio falso do robocall obtido pela NBC, você pode ouvir uma voz que soa assustadoramente semelhante à de Biden dizer sua frase favorita, “Que monte de bobagem.” A mensagem continua afirmando, “é importante que você guarde seu voto para a eleição de novembro e “votar nesta terça-feira só habilita os republicanos em sua busca para eleger Donald Trump novamente. Seu voto faz a diferença em novembro, não nesta terça-feira.”

Após seu lançamento, a secretária de imprensa da Casa Branca, Karine Jean-Pierre, informou ao público que a mensagem foi gerada por IA para espalhar desinformação e não era da campanha de Biden.

Em um comunicado, a gerente de campanha de Biden, Julie Chavez Rodriguez, disse que a campanha está “discutindo ativamente ações adicionais a serem tomadas imediatamente.”

O que você deve fazer se receber um robocall de Joe Biden?

A mensagem gravada parecia ser uma tentativa ilegal de espalhar desinformação e interromper a votação. Embora não esteja claro quantos eleitores receberam a chamada, pelo menos uma dúzia a relatou. O Procurador-Geral John Formella explicou que qualquer pessoa que tenha recebido tal chamada “deve desconsiderar completamente o conteúdo desta mensagem.”

Fonte do deepfake do robocall de Joe Biden revelada

De acordo com Bloomberg, uma empresa de detecção de fraude de voz, Pindrop Security Inc., descobriu que o robocall deepfake de Biden não foi feito pela campanha de Biden, mas sim por um golpista usando a ElevenLabs, uma startup de voz por IA que oferece capacidades de clonagem de voz.

Embora a declaração de segurança da ElevenLabs permita a clonagem de voz “para certos fins não comerciais se você não impactar a privacidade ou interesses econômicos da pessoa,” incluindo “estudo privado, pesquisa não comercial, educação, caricatura, paródia, sátira, discurso artístico e político que contribua para debates públicos, citação,” bem como “crítica e revisão,” a ElevenLabs baniu o usuário que criou o robocall deepfake de Biden.

"Estamos dedicados a prevenir o uso indevido de ferramentas de IA de áudio e levamos qualquer incidente de uso indevido extremamente a sério," disse a ElevenLabs à Bloomberg.

Deepfake vs. Gerador de Voz por IA vs. Clonagem de Voz

À medida que a geração de voz por IA se torna mais popular, é essencial entender os termos deepfake, gerador de voz por IA e clonagem de voz, bem como a diferença entre seus usos éticos e antiéticos.

Deepfake

Deepfake refere-se ao uso de inteligência artificial e técnicas de aprendizado de máquina para criar ou manipular conteúdo audiovisual, muitas vezes substituindo a aparência de alguém pela de outra pessoa de maneira realista.

• Uso ético de deepfake: A tecnologia deepfake pode ser usada eticamente para entretenimento, expressão artística e educação, onde a intenção não é enganar ou prejudicar outros.
• Uso antiético de deepfake: Quando a tecnologia deepfake é explorada para criar conteúdo enganoso e narrativas falsas ou para personificar indivíduos com propósitos maliciosos (como espalhar desinformação ou criar notícias falsas), levanta sérias preocupações éticas.

Gerador de Voz por IA

Geradores de voz por IA usam algoritmos de aprendizado de máquina para sintetizar vozes de IA semelhantes às humanas. Eles são frequentemente treinados em grandes conjuntos de dados para imitar vozes e tons humanos.

• Uso ético de gerador de voz por IA: Geradores de voz por IA podem ser usados eticamente para diversos fins, incluindo acessibilidade para indivíduos com deficiências de fala, aprendizado de idiomas, entretenimento ou dublagens.
• Uso antiético de gerador de voz por IA: O uso indevido da geração de voz por IA para criar gravações de áudio falsas com intenção maliciosa, como falsificar a voz de alguém para personificá-lo em atividades fraudulentas ou para espalhar desinformação, é considerado antiético.

Clonagem de Voz

A clonagem de voz envolve a criação de uma cópia sintética da voz de uma pessoa, geralmente usando gravações de sua fala como dados de treinamento para um modelo de aprendizado de máquina.

• Uso ético de clonagem de voz: A clonagem de voz pode ser usada eticamente para fins como criar assistentes de voz personalizados, preservar as vozes de indivíduos para gerações futuras com consentimento ou ajudar indivíduos com distúrbios de fala.
• Uso antiético de clonagem de voz: A clonagem de voz não autorizada para atividades enganosas, como criar gravações de áudio falsas para personificar alguém sem seu consentimento, pode ser altamente antiética e pode levar a violações de privacidade e uso indevido potencial.

Uso indevido da voz de Joe Biden por IA

O uso indevido da voz de Joe Biden por meio de chamadas automáticas geradas por IA é um exemplo claro do potencial da tecnologia artificial ser usada como arma em tentativas de suprimir votos e espalhar desinformação. As consequências do uso indevido de IA para replicar vozes de figuras políticas são de longo alcance. Este incidente prenuncia um futuro onde vozes geradas por IA poderiam ser usadas para espalhar narrativas falsas, manipular a opinião pública e minar o processo democrático. O impacto potencial na confiança no discurso político e na integridade das eleições é motivo de séria preocupação.

À medida que a tecnologia de IA avança, o risco de tais incidentes ocorrerem aumenta, com especialistas em forense digital como Hany Farid enfatizando a necessidade de vigilância ao enfrentar esses desafios.

Eleitores devem estar atentos à IA nesta temporada eleitoral

À medida que a eleição presidencial de 2024 se aproxima, os eleitores devem permanecer vigilantes contra o uso indevido da tecnologia de IA em tentativas de influenciar a opinião pública. A desinformação gerada por IA pode se tornar um problema prevalente nas campanhas políticas, exigindo maior conscientização entre o eleitorado.

“Estamos preocupados que a IA generativa seja usada como arma na próxima eleição e estamos vendo o que certamente é um sinal do que está por vir”, disse Hany Farid, um especialista em forense digital que revisou a gravação da chamada automática de Biden, em uma entrevista.

Como usar a voz por IA de forma ética

Após este incidente, é crucial considerar as aplicações éticas da voz por IA. Embora a tecnologia de voz por IA ofereça inúmeras possibilidades, incluindo dublagens, há uma responsabilidade de usá-la de forma ética. Isso inclui indicar claramente quando vozes geradas por IA estão sendo usadas, evitar intenções maliciosas e respeitar a privacidade e o consentimento.

Leis e regulamentações sobre IA estão chegando

À medida que a tecnologia continua a avançar, legisladores, desenvolvedores de IA, autoridades eleitorais e o público devem trabalhar juntos para estabelecer salvaguardas, regulamentações e padrões éticos para proteger o processo democrático de tais abusos. A integridade das eleições, um pilar da democracia americana, depende da nossa capacidade de nos adaptar e responder aos desafios emergentes relacionados ao uso de IA. De fato, o Congresso já está discutindo proteções para IA. Em uma recente audiência no Senado, o senador Richard Blumenthal até demonstrou deepfakes tocando uma gravação de sua própria voz criada com software de clonagem de voz por IA e apresentando um roteiro escrito pelo ChatGPT da OpenAI. A Comissão Federal de Eleições também iniciou um processo para possivelmente regulamentar deepfakes gerados por IA em anúncios de campanhas políticas de 2024.

Speechify Voice Over Studio: a plataforma ética de voz por IA número 1

O Speechify Voice Over Studio é a principal plataforma ética de voz por IA que estabelece o padrão ouro em tecnologia de fala sintética. Com mais de 200 vozes realistas de texto para fala disponíveis em vários idiomas e sotaques, o Speechify Voice Over Studio capacita os usuários a criar conteúdo dinâmico e envolvente sem esforço.

Sua plataforma amigável possui ferramentas de edição de áudio por IA fáceis de usar, proporcionando controle detalhado sobre cada palavra, permitindo que os usuários ajustem tom, pronúncia, entonação e mais. O Speechify Voice Over Studio também prioriza considerações éticas ao oferecer clonagem de voz apenas para sua própria voz, garantindo consentimento explícito e mitigando o risco de uso indevido.

O Speechify Voice Over Studio é a escolha ideal para criar locuções atraentes para várias aplicações, incluindo conteúdo de mídia social, videogames, audiolivros, podcasts e muito mais. Eleve sua experiência de criação de conteúdo e experimente o Speechify Voice Over Studio gratuitamente hoje.

Perguntas Frequentes

Qual é um exemplo de clonagem de voz por IA não ética?

Um exemplo não ético de clonagem de voz por IA pode envolver o uso da tecnologia para fabricar uma gravação de áudio convincente de Elon Musk fazendo declarações falsas sobre questões geopolíticas sensíveis, como o envolvimento de Washington em assuntos em Israel, potencialmente manipulando a percepção pública e causando discórdia. Esse uso enganoso da clonagem de voz poderia explorar a confiança pública e semear discórdia ao atribuir declarações enganosas a figuras influentes para avançar uma agenda específica.

O Partido Republicano quer regulamentar a IA?

De acordo com uma pesquisa da Fox News, “Os republicanos estão menos convencidos do que os democratas de que o governo federal precisa impor regulamentações sobre sistemas de inteligência artificial e são ainda mais céticos sobre se o governo está à altura da tarefa.”

Taylor Swift teve um deepfake feito dela?

Houve vários deepfakes não éticos feitos de Taylor Swift, incluindo fotos e músicas, sem o consentimento dela. Segundo relatos, ela está considerando tomar medidas legais contra os criadores dos deepfakes.

Os eleitores de New Hampshire receberam uma ligação robô deepfake de Biden dizendo para não votarem?

Sim, um golpista criou um deepfake de Biden usando a tecnologia de IA da ElevenLabs para tentar convencer os eleitores a não escreverem o nome de Biden durante as primárias de New Hampshire.