乔·拜登深度伪造来源揭露，选举干扰背后真相
在新罕布什尔州初选前夕，一场阴险的阴谋展开，利用人工智能技术模仿总统乔·拜登的声音进行自动电话。这一前所未有的选举干扰尝试揭示了AI、深度伪造和虚假信息的交汇点，引发了对民主进程潜在后果的担忧。让我们深入了解涉及美国总统乔·拜登的自动电话深度伪造骗局，包括谁参与其中。
什么是乔·拜登深度伪造骗局？
2023年1月22日星期一，新罕布什尔州总检察长办公室表示正在调查一则明显使用人工智能模仿总统乔·拜登声音的自动电话，该电话旨在劝阻该州选民前往投票。
该骗局旨在劝阻选民参与该州的初选，错误地声称在初选中投票会影响11月的普选。AI生成的拜登声音敦促选民“保存”他们的选票以备即将到来的联邦选举，声称在初选中投票将有利于共和党人并促进唐纳德·特朗普的连任。
乔·拜登深度伪造来电显示
假冒的拜登自动电话的来电显示似乎是由凯西·沙利文发出的，她是前州民主党主席，帮助运营“美国花岗岩”超级政治行动委员会，该委员会正在为选民写信支持拜登。然而，他并未在新罕布什尔州竞选，也不会出现在选票上，因为他在民主党总统初选中处于领先地位。
“这个电话未经我允许链接到我的私人手机号码，”沙利文在一份声明中说。“这显然是选举干扰，并且明显是试图骚扰我和其他计划在周二写信支持乔·拜登的新罕布什尔州选民。”
乔·拜登深度伪造骗局音频
在NBC获得的自动电话假音频中，你可以听到一个声音，听起来与拜登的声音惊人相似，说出他最喜欢的口头禅，“真是一派胡言。”信息继续指出，“重要的是你要为11月的选举保存你的选票，而“本周二投票只会帮助共和党人再次选举唐纳德·特朗普。你的选票在11月才有意义，而不是本周二。”
发布后，白宫新闻秘书卡琳·让-皮埃尔告知公众该信息是AI生成的，用于传播虚假信息，并非来自拜登竞选团队。
拜登的竞选经理朱莉·查韦斯·罗德里格斯在一份声明中表示，竞选团队正在“积极讨论立即采取的额外行动。”
如果你接到乔·拜登的自动电话该怎么办？
录音信息似乎是非法传播虚假信息和干扰投票的尝试。虽然尚不清楚有多少选民接到了电话，但至少有十几人报告了此事。总检察长约翰·福梅拉解释说，任何接到此类电话的人“应完全忽略此信息的内容。”
乔·拜登自动电话深度伪造来源揭露
根据彭博社的报道，语音欺诈检测公司Pindrop Security Inc.发现拜登深度伪造自动电话并非由拜登竞选团队制作，而是由使用ElevenLabs的骗子制作的，ElevenLabs是一家提供语音克隆功能的AI语音初创公司。
虽然ElevenLabs的安全声明允许在不影响个人隐私或经济利益的情况下“出于某些非商业目的进行语音克隆”，包括“私人研究、非商业研究、教育、讽刺、模仿、艺术和政治演讲、引用”，以及“批评和评论”，ElevenLabs禁止了创建拜登深度伪造自动电话的用户。
“我们致力于防止音频AI工具的滥用，并对任何滥用事件极为重视，”ElevenLabs告诉彭博社。
深度伪造 vs. AI语音生成器 vs. 语音克隆
随着AI语音生成的普及，了解深度伪造、AI语音生成器和语音克隆的概念，以及它们在道德和不道德使用上的区别，变得至关重要。
深度伪造
深度伪造是指使用人工智能和机器学习技术来创建或操控音频和视觉内容，通常以逼真的方式将一个人的形象替换为另一个人。
- 道德的深度伪造使用：深度伪造技术可以在娱乐、艺术表达和教育中得到道德的使用，前提是不以欺骗或伤害他人为目的。
- 不道德的深度伪造使用：当深度伪造技术被滥用来创建误导性内容和虚假叙述，或冒充他人以达到恶意目的（如传播错误信息或制造假新闻）时，会引发严重的道德问题。
AI语音生成器
AI语音生成器使用机器学习算法来合成类似人类的AI语音。它们通常在大型数据集上进行训练，以模仿人类的声音和语调。
- 道德的AI语音生成器使用：AI语音生成器可以在多种场合中得到道德的使用，包括为有语言障碍的人提供便利、语言学习、娱乐或配音。
- 不道德的AI语音生成器使用：滥用AI语音生成来创建带有恶意意图的假音频记录，例如伪造某人的声音以冒充他们进行欺诈活动或传播错误信息，被视为不道德。
语音克隆
语音克隆涉及创建一个人的语音合成副本，通常使用他们的语音录音作为机器学习模型的训练数据。
- 道德的语音克隆使用：语音克隆可以用于道德目的，例如创建个性化语音助手、在获得同意的情况下保存个人的声音供后代使用，或帮助有语言障碍的人。
- 不道德的语音克隆使用：未经授权的语音克隆用于欺骗活动，例如在未经同意的情况下创建假音频记录以冒充他人，可能是高度不道德的，并可能导致隐私侵犯和潜在的滥用。
乔·拜登AI语音的滥用
通过AI生成的自动电话滥用乔·拜登的声音，是人工技术可能被武器化以压制投票和传播虚假信息的一个明显例子。滥用AI复制政治人物声音的后果是深远的。这一事件预示着一个未来，AI生成的声音可能被用来传播虚假叙述、操纵公众舆论和破坏民主进程。对政治话语的信任和选举完整性的潜在影响是一个值得严重关注的问题。
随着AI技术的进步，此类事件发生的风险增加，数字取证专家如Hany Farid强调了在应对这些挑战时保持警惕的必要性。
选民在本次选举季应警惕AI
随着2024年总统选举的临近，选民必须保持警惕，防止AI技术被滥用以影响公众舆论。AI生成的虚假信息可能成为政治竞选中的普遍问题，需要选民提高警觉。
“我们一直担心生成式AI会在即将到来的选举中被武器化，而我们看到的无疑是未来的征兆，”数字取证专家Hany Farid在审查拜登自动电话录音时在一次采访中说道。
如何道德地使用语音AI
在这一事件之后，考虑语音AI的道德应用至关重要。虽然AI语音技术提供了许多可能性，包括配音，但有责任以道德的方式使用它。这包括明确指出何时使用AI生成的声音，避免恶意意图，并尊重隐私和同意。
AI法律和AI法规即将出台
随着技术的不断进步，立法者、AI开发者、选举官员和公众必须共同努力，建立保障措施、法规和道德标准，以保护民主进程免受此类滥用。选举的完整性是美国民主的基石，取决于我们适应和应对AI使用中出现的挑战的能力。事实上，国会已经在讨论AI保护措施。在最近的参议院听证会上，参议员理查德·布卢门撒尔甚至通过播放一个用AI语音克隆软件创建的自己声音的深度伪造示例，并使用OpenAI的ChatGPT编写的脚本。 联邦选举委员会也已开始可能在2024年政治竞选广告中对AI生成的深度伪造进行监管的程序。
Speechify配音工作室：#1 伦理AI语音平台
Speechify配音工作室是领先的伦理AI语音平台，在合成语音技术中设立了黄金标准。提供超过200种逼真的文本转语音声音，涵盖多种语言和口音，Speechify配音工作室让用户能够轻松创建动态和引人入胜的内容。
其用户友好的平台配备了易于使用的音频编辑AI工具，提供对每个单词的精细控制，使用户能够微调音高、发音、语调等。Speechify配音工作室还优先考虑伦理问题，仅提供您自己声音的语音克隆，确保明确的同意并降低误用的风险。
Speechify配音工作室是为各种应用场景制作引人入胜的配音的理想选择，包括社交媒体内容、电子游戏、有声书、播客等。提升您的内容创作体验，立即免费试用Speechify配音工作室。
常见问题
什么是非伦理AI语音克隆的例子？
非伦理AI语音克隆的一个例子可能是使用该技术伪造一段埃隆·马斯克关于敏感地缘政治问题的虚假声明的音频录音，例如华盛顿在以色列事务中的参与，可能操纵公众认知并引发不和。这种欺骗性的语音克隆使用可能通过将误导性声明归于有影响力的人物来利用公众信任并制造不和，以推进特定议程。
共和党是否希望监管AI？
根据福克斯新闻的民调，“共和党人比民主党人更不相信联邦政府需要对人工智能系统施加监管，并且对政府是否能胜任这一任务更加怀疑。”
泰勒·斯威夫特是否有深度伪造作品？
已经有几部未经泰勒·斯威夫特同意的深度伪造作品，包括照片和音乐。据报道，她实际上正在考虑对深度伪造的创作者采取法律行动。
新罕布什尔州的选民是否收到了一通拜登的深度伪造电话，告诉他们不要投票？
是的，一名骗子使用ElevenLabs的AI技术创建了一个拜登的深度伪造，试图说服选民在新罕布什尔州初选中不要写下拜登的名字。
