選挙干渉後に明らかになったジョー・バイデンのディープフェイクの出所

バイデン大統領のディープフェイクロボコールが一部の有権者に届きました。ジョー・バイデンのディープフェイクを作成した人物と、倫理に反するAIの影響について知りましょう。

選挙干渉後に明らかになったジョー・バイデンのディープフェイクの出所

ニューハンプシャー州予備選挙の直前、人工知能技術を利用してバイデン大統領の声を模倣するロボコールが行われるという陰謀が展開されました。この前例のない選挙干渉の試みは、AI、ディープフェイク、偽情報の交差点を明らかにし、民主的プロセスへの潜在的な影響について懸念を引き起こしています。米国大統領ジョー・バイデンからのロボコールを含むディープフェイク詐欺について、関与した人物を含めて知っておくべきことを探ってみましょう。

ジョー・バイデンのディープフェイク詐欺とは？

2023年1月22日月曜日、ニューハンプシャー州の司法長官事務所は、バイデン大統領の声を模倣して有権者を投票所から遠ざけることを目的としたロボコールの報告を調査していると発表しました。

この詐欺は、州の予備選挙への参加を阻止することを目的としており、予備選挙での投票が11月の総選挙に影響を与えると虚偽の主張をしました。AIで生成されたバイデンの声は、有権者に「投票を次の連邦選挙のために取っておく」よう促し、予備選挙での投票が共和党を利し、ドナルド・トランプの再選を促進すると主張しました。

ジョー・バイデンのディープフェイク発信者ID

偽のバイデンロボコールの発信者IDは、元州民主党議長であり、バイデンを支持するために有権者に書き込みを促すスーパーPAC「Granite for America」を運営するキャシー・サリバンから送信されたかのように見えました。しかし、彼はニューハンプシャーで選挙運動をしておらず、民主党大統領予備選の先頭に立っていたため、投票用紙には載っていませんでした。

「このコールは私の個人携帯電話番号に無断でリンクされています」とサリバンは声明で述べました。「これは明らかに選挙干渉であり、ジョー・バイデンを火曜日に書き込む予定のニューハンプシャーの有権者や私を嫌がらせする試みです。」

ジョー・バイデンのディープフェイク詐欺音声

NBCが入手したロボコールの偽音声では、バイデンの声に非常に似た声が彼のお気に入りのフレーズ「なんてこった」を言うのが聞こえます。メッセージは続けて、「11月の選挙のために投票を取っておくことが重要であり、火曜日に投票することは共和党がドナルド・トランプを再選するための追求を可能にするだけです。あなたの投票は火曜日ではなく、11月に違いを生みます。」と述べています。

その公開後、ホワイトハウスの報道官カリーヌ・ジャン＝ピエールは、このメッセージがバイデン陣営からではなく、偽情報を広めるためにAIで生成されたものであると公表しました。

バイデンの選挙運動マネージャー、ジュリー・チャベス・ロドリゲスは声明で、陣営が「直ちに取るべき追加の行動について積極的に議論している」と述べました。

ジョー・バイデンのロボコールを受け取った場合、どうすればいいですか？

録音されたメッセージは、違法な偽情報の拡散と投票の妨害を試みたものであるように見えました。何人の有権者がこのコールを受け取ったかは不明ですが、少なくとも12人が報告しました。司法長官ジョン・フォーメラは、このようなコールを受け取った人は「このメッセージの内容を完全に無視するべきだ」と説明しました。

ジョー・バイデンのロボコールディープフェイクの出所が明らかに

Bloombergによると、音声詐欺検出会社Pindrop Security Inc.は、バイデンのディープフェイクロボコールがバイデン陣営によって作成されたものではなく、音声クローン機能を提供するAI音声スタートアップElevenLabsを使用した詐欺師によって作成されたものであることを発見しました。

ElevenLabsの安全声明では、「個人のプライバシーや経済的利益に影響を与えない限り、特定の非商業目的のために音声クローンを許可する」としており、「個人的な研究、非商業的研究、教育、風刺、パロディ、芸術的および政治的スピーチ、引用」などを含むとしていますが、ElevenLabsはバイデンのディープフェイクロボコールを作成したユーザーを禁止しました。

「私たちは音声AIツールの悪用を防ぐことに専念しており、悪用の事例を非常に真剣に受け止めています」とElevenLabsはBloombergに語りました。

ディープフェイク vs. AI音声生成 vs. 音声クローン

AI音声生成が普及する中で、ディープフェイク、AI音声ジェネレーター、および音声クローンの用語を理解し、それらの倫理的および非倫理的な使用の違いを知ることが重要です。

ディープフェイク

ディープフェイクとは、人工知能と機械学習技術を使用して、音声や映像コンテンツを作成または操作し、しばしば誰かの姿を別の人のものにリアルに置き換えることを指します。

• 倫理的なディープフェイクの使用: ディープフェイク技術は、エンターテインメント、芸術的表現、教育など、他者を欺いたり害したりしない意図であれば倫理的に使用できます。
• 非倫理的なディープフェイクの使用: ディープフェイク技術を悪用して誤解を招くコンテンツや虚偽の情報を作成したり、悪意のある目的で個人を偽装すること（例えば、誤情報を広めたりフェイクニュースを作成したりすること）は、深刻な倫理的問題を引き起こします。

AI音声ジェネレーター

AI音声ジェネレーターは、機械学習アルゴリズムを使用して人間のようなAI音声を合成します。これらはしばしば大規模なデータセットで訓練され、人間の声やトーンを模倣します。

• 倫理的なAI音声ジェネレーターの使用: AI音声ジェネレーターは、音声障害を持つ人々のためのアクセシビリティ、語学学習、エンターテインメント、ナレーションなど、さまざまな目的で倫理的に使用できます。
• 非倫理的なAI音声ジェネレーターの使用: AI音声生成を悪用して、誰かの声を偽装して詐欺行為を行ったり、誤情報を広めたりするために偽の音声録音を作成することは非倫理的と見なされます。

音声クローン

音声クローンは、通常、機械学習モデルの訓練データとして使用される音声録音を用いて、個人の声の合成コピーを作成することを指します。

• 倫理的な音声クローンの使用: 音声クローンは、個人の声を将来の世代のために保存することや、音声障害を持つ人々を支援することなど、個人化された音声アシスタントの作成に倫理的に使用できます。
• 非倫理的な音声クローンの使用: 許可なく他人を偽装するために偽の音声録音を作成するなど、欺瞞的な活動のために無断で音声クローンを使用することは非常に非倫理的であり、プライバシーの侵害や悪用の可能性を引き起こす可能性があります。

ジョー・バイデンのAI音声の悪用

AI生成のロボコールを通じたジョー・バイデンの声の悪用は、人工技術が投票抑制や誤情報の拡散を試みるために武器化される可能性のある顕著な例です。政治家の声をAIで再現することの悪用は、広範な影響を及ぼします。この事件は、AI生成の声が虚偽の情報を広め、世論を操作し、民主的プロセスを損なうために使用される未来を予見させます。政治的対話への信頼と選挙の健全性に対する潜在的な影響は、深刻な懸念の原因となります。

AI技術が進化するにつれて、このような事件が発生するリスクが高まり、デジタルフォレンジックの専門家であるハニー・ファリードのような人々がこれらの課題に対処するための警戒の必要性を強調しています。

有権者はこの選挙シーズンにAIに警戒を

2024年の大統領選挙が近づく中、有権者はAI技術の悪用による世論操作の試みに対して警戒を怠らないようにする必要があります。AI生成の誤情報は、政治キャンペーンにおいて一般的な問題となる可能性があり、有権者の意識向上が求められます。

「生成AIが次の選挙で武器化されることを懸念しており、これは確実に今後の兆候です」と、バイデンのロボコール録音をレビューしたデジタルフォレンジックの専門家であるハニー・ファリードはインタビューで述べました。

音声AIを倫理的に使用する方法

この事件を受けて、音声AIの倫理的な応用を考慮することが重要です。AI音声技術は、ナレーションを含む多くの可能性を提供しますが、倫理的に使用する責任があります。これには、AI生成の声が使用されていることを明確に示し、悪意のある意図を避け、プライバシーと同意を尊重することが含まれます。

AI法とAI規制が導入される

技術が進化し続ける中、法律制定者、AI開発者、選挙管理者、そして一般市民は協力して、民主的プロセスをこのような悪用から守るための安全策、規制、倫理基準を確立する必要があります。アメリカの民主主義の礎である選挙の公正性は、AIの使用に関する新たな課題に適応し対応する能力にかかっています。実際、議会ではすでにAI保護について議論が行われています。最近の上院公聴会では、リチャード・ブルーメンタール上院議員がAI音声クローンソフトウェアで作成された自身の声を使ったディープフェイクを実演し、OpenAIのChatGPTによって書かれたスクリプトを紹介しました。さらに、連邦選挙委員会も2024年の政治キャンペーン広告におけるAI生成ディープフェイクの規制を検討し始めています。

Speechify Voice Over Studio: 倫理的AI音声プラットフォームのナンバーワン

Speechify Voice Over Studioは、合成音声技術におけるゴールドスタンダードを設定する、最先端の倫理的AI音声プラットフォームです。200以上のリアルなテキスト読み上げ音声が複数の言語とアクセントで利用可能で、Speechify Voice Over Studioはユーザーがダイナミックで魅力的なコンテンツを簡単に作成できるようにします。

使いやすいプラットフォームには、各単語に対する詳細な制御を提供する簡単な音声編集AIツールが備わっており、ピッチ、発音、トーンなどを微調整できます。Speechify Voice Over Studioは、倫理的配慮を優先し、自分自身の声のクローン作成のみを提供し、明示的な同意を確保し、誤用のリスクを軽減します。

Speechify Voice Over Studioは、ソーシャルメディアコンテンツ、ビデオゲーム、オーディオブック、ポッドキャストなど、さまざまな用途において魅力的なボイスオーバーを作成するための理想的な選択肢です。コンテンツ作成の体験を向上させ、無料でSpeechify Voice Over Studioを試してみてください。

よくある質問

倫理に反するAI音声クローンの例は何ですか？

倫理に反するAI音声クローンの例として、イーロン・マスクがワシントンのイスラエルに関する問題への関与について虚偽の発言をしているように見せかける説得力のある音声録音を作成することが挙げられます。これは、公共の信頼を悪用し、特定のアジェンダを推進するために影響力のある人物に誤解を招く発言を帰属させることで、不和を引き起こす可能性があります。

共和党はAIを規制したいと考えていますか？

Fox Newsの世論調査によると、「共和党員は、連邦政府が人工知能システムに規制を課す必要があると考える点で民主党員よりも説得力が低く、政府がそれを適切に行うことができるかどうかについてもさらに懐疑的です。」

テイラー・スウィフトのディープフェイクが作られたことがありますか？

テイラー・スウィフトの許可なく、写真や音楽を含むいくつかの不道徳なディープフェイクが作成されています。報道によると、彼女は実際にディープフェイクの作成者に対して法的措置を検討しているようです。

ニューハンプシャー州の有権者は、バイデンのディープフェイクのロボコールを受け取り、投票しないように言われましたか？

はい、詐欺師がElevenLabsのAI技術を使用してバイデンのディープフェイクを作成し、ニューハンプシャー州の予備選挙でバイデンの名前を書き込まないように有権者を説得しようとしました。