Sumber deepfake Joe Biden didedahkan selepas gangguan pilihan raya
Menjelang saat-saat akhir sebelum pemilihan utama New Hampshire, satu komplot jahat menggunakan teknologi kecerdasan buatan muncul untuk meniru suara Presiden Joe Biden dalam satu robocall. Cubaan luar biasa mengganggu pilihan raya ini menumpukan perhatian kepada gabungan AI, deepfake dan maklumat palsu, serta akibat membimbangkan terhadap proses demokrasi. Ketahui segala-galanya tentang penipuan deepfake robocall Presiden Joe Biden, termasuk siapa yang terlibat.
Apa itu penipuan deepfake Joe Biden?
Pada Isnin, 22 Januari 2023, pejabat Peguam Negara New Hampshire memaklumkan mereka sedang menyiasat laporan tentang satu robocall yang dipercayai menggunakan kecerdasan buatan untuk meniru suara Presiden Joe Biden dan menggalakkan pengundi tidak keluar mengundi.
Penipuan ini bertujuan menghalang pengundi daripada menyertai pilihan raya utama, dengan dakwaan palsu bahawa pengundian di peringkat utama akan memberi kesan kepada pilihan raya umum pada November. Suara Biden ciptaan AI itu menyuruh pengundi "simpan" undi untuk pilihan raya persekutuan, kononnya mengundi ketika pilihan raya utama hanya menguntungkan Republikan dan membantu pemilihan semula Donald Trump.
Pemanggil deepfake Joe Biden
ID pemanggil robocall palsu Biden dipaparkan seolah-olah daripada Kathy Sullivan, bekas pengerusi Parti Demokrat negeri yang menjalankan Granite for America, super-PAC yang berkempen supaya pengundi menulis nama Biden sebagai tanda sokongan. Namun, beliau tidak berkempen di New Hampshire dan tidak tersenarai dalam undi utama Demokrat.
“Panggilan ini dikaitkan terus ke nombor peribadi saya tanpa kebenaran,” kata Sullivan dalam satu kenyataan. “Ini memang satu bentuk gangguan pilihan raya, dan jelas bertujuan menyusahkan saya serta pengundi New Hampshire yang mahu menulis nama Joe Biden Selasa ini.”
Audio penipuan deepfake Joe Biden
Dalam audio robocall palsu yang diperoleh NBC, anda boleh dengar suara yang sangat mirip Biden menyebut frasanya yang terkenal, “What a bunch of malarkey.” Mesej itu kemudian menyebut, “penting untuk anda simpan undi anda untuk pilihan raya November dan “mengundi Selasa ini hanya membantu Republikan pilih Donald Trump lagi. Undi anda penting November ini, bukan Selasa ini.”
Selepas ia tersebar, jurucakap Rumah Putih Karine Jean-Pierre menjelaskan mesej itu dihasilkan AI untuk menyebarkan maklumat salah dan bukan daripada kempen Biden.
Dalam satu kenyataan, pengurus kempen Biden, Julie Chavez Rodriguez, berkata kempen itu “sedang membincangkan tindakan tambahan segera.”
Apa patut anda buat jika terima robocall Joe Biden?
Mesej rakaman itu dilihat sebagai cubaan haram menyebarkan maklumat palsu dan mengganggu proses pengundian. Walaupun jumlah penerima tidak jelas, sekurang-kurangnya sedozen sudah melaporkannya. Peguam Negara John Formella menasihatkan sesiapa yang menerima panggilan ini “abaikan mesej sepenuhnya.”
Sumber deepfake robocall Joe Biden didedahkan
Menurut Bloomberg, syarikat pengesanan penipuan suara Pindrop Security Inc. mendapati robocall deepfake Biden bukan dibuat oleh kempen Biden, tetapi oleh penipu yang menggunakan ElevenLabs, syarikat AI suara dengan keupayaan klon suara.
Walaupun kenyataan keselamatan ElevenLabs membenarkan klon suara “untuk beberapa tujuan bukan komersial jika tidak menjejaskan privasi atau kepentingan ekonomi individu,” termasuk “kajian peribadi, penyelidikan bukan komersial, pendidikan, karikatur, parodi, satira, ucapan seni dan politik, petikan,” serta “kritikan dan ulasan,” ElevenLabs telah menyekat pengguna yang menghasilkan robocall deepfake Biden itu.
"Kami komited mengelak penyalahgunaan alat audio AI dan mengambil serius setiap kejadian penyalahgunaan," kata ElevenLabs kepada Bloomberg.
Deepfake vs. Penjana Suara AI vs. Klon Suara
Memandangkan penjana suara AI semakin meluas, penting untuk faham istilah deepfake, penjana suara AI dan klon suara, serta beza penggunaan beretika dan tidak beretika.
Deepfake
Deepfake ialah penggunaan kecerdasan buatan dan teknik pembelajaran mesin untuk mencipta atau mengubah kandungan audio atau visual, selalunya menggantikan rupa individu secara realistik dengan orang lain.
- Penggunaan deepfake beretika: Teknologi deepfake boleh digunakan secara beretika untuk hiburan, seni atau pendidikan, selagi tidak bertujuan menipu atau memudaratkan.
- Penggunaan deepfake tidak beretika: Jika deepfake digunakan untuk mencipta kandungan mengelirukan, naratif palsu, atau meniru individu untuk tujuan jahat seperti menyebarkan maklumat salah atau berita palsu, ia menimbulkan isu etika serius.
Penjana Suara AI
Penjana suara AI menggunakan algoritma pembelajaran mesin untuk mensintesis suara manusia. Ia dilatih dengan data besar untuk meniru suara dan intonasi manusia.
- Penggunaan beretika penjana suara AI: Digunakan secara beretika untuk pelbagai tujuan seperti membantu individu kurang upaya pertuturan, pembelajaran bahasa, hiburan atau alih suara.
- Penggunaan tidak beretika: Penyalahgunaan penjana suara AI untuk mencipta rakaman palsu dengan niat jahat seperti meniru suara individu untuk penipuan atau menyebarkan maklumat salah dianggap tidak beretika.
Klon suara
Klon suara bermaksud mencipta salinan sintetik suara seseorang, biasanya menggunakan rakaman suara sebagai data latihan model pembelajaran mesin.
- Penggunaan klon suara beretika: Digunakan secara beretika untuk mencipta pembantu suara peribadi, menyimpan suara individu dengan izin, atau membantu mereka yang mengalami masalah pertuturan.
- Penggunaan klon suara tidak beretika: Mengklon suara tanpa izin untuk aktiviti penipuan seperti mencipta rakaman palsu tanpa kebenaran amat tidak beretika, boleh melanggar privasi dan mudah disalah guna.
Penyalahgunaan suara AI Joe Biden
Penyalahgunaan suara Joe Biden melalui robocall AI ialah contoh nyata bagaimana teknologi boleh digunakan untuk menekan undi dan menyebarkan maklumat palsu. Akibat meniru suara tokoh politik menggunakan AI adalah besar. Ia menggambarkan masa depan di mana suara rekaan AI boleh digunakan untuk menyebarkan naratif palsu, memanipulasi pendapat awam dan menggugat demokrasi. Impaknya terhadap kepercayaan dalam wacana politik dan integriti pilihan raya sangat membimbangkan.
Dengan kemajuan teknologi AI, risiko insiden sebegini semakin meningkat, dan pakar forensik digital seperti Hany Farid menekankan perlunya kewaspadaan menangani isu ini.
Pengundi perlu waspada AI musim pilihan raya ini
Menjelang pilihan raya presiden 2024, pengundi harus lebih peka terhadap penyalahgunaan AI yang cuba mempengaruhi pendapat awam. Maklumat palsu hasil AI boleh menjadi isu serius dalam kempen politik, justeru kesedaran pengundi mesti dipertingkatkan.
“Kami sejak awal bimbang AI generatif akan digunakan untuk mengganggu pilihan raya dan ini pasti tanda-tanda permulaan,” kata Hany Farid, pakar forensik digital yang meneliti rakaman robocall Biden, dalam satu temu bual.
Cara guna suara AI secara beretika
Susulan insiden ini, penting untuk memikirkan aplikasi etika suara AI. Walaupun teknologi suara AI menawarkan pelbagai kemungkinan, termasuk alih suara, tanggungjawab untuk menggunakannya secara beretika amat penting. Ini termasuk menyatakan dengan jelas jika suara dihasilkan AI, mengelak niat jahat, serta menghormati privasi dan kebenaran pemilik suara.
Undang-undang dan peraturan AI akan diperkenal
Seiring kemajuan teknologi, penggubal undang-undang, pembangun AI, pegawai pilihan raya dan masyarakat perlu bekerjasama untuk menetapkan perlindungan, peraturan dan standard etika bagi menjaga proses demokrasi daripada penyalahgunaan. Integriti pilihan raya, tunjang demokrasi Amerika, bergantung pada kemampuan menangani cabaran AI. Malah, Kongres sudah membincangkan perlindungan AI. Pada satu pendengaran Senat baru-baru ini, Senator Richard Blumenthal mempamerkan deepfake dengan memainkan suara sendiri yang dihasilkan perisian klon suara AI dan skrip oleh ChatGPT OpenAI. Suruhanjaya Pilihan Raya Persekutuan juga telah memulakan langkah mengawal deepfake berkaitan AI dalam iklan politik kempen 2024.
Speechify Voice Over Studio: Platform suara AI beretika #1
Speechify Voice Over Studio ialah platform suara AI beretika terunggul, penanda aras emas teknologi suara sintetik. Dengan lebih 200 suara teks ke suara merentas pelbagai bahasa dan loghat, Speechify memudahkan pengguna mencipta kandungan secara mudah dan menarik.
Platform mesra pengguna ini menampilkan alat suntingan audio AI yang ringkas, kawalan penuh setiap perkataan, serta membolehkan pelarasan nada, sebutan dan intonasi. Speechify Voice Over Studio mengutamakan etika dengan hanya menawarkan klon suara untuk suara sendiri, memastikan kebenaran jelas dan mengurangkan risiko salah guna.
Speechify Voice Over Studio sesuai untuk menghasilkan alih suara menarik bagi pelbagai aplikasi — media sosial, permainan video, buku audio, podcast dan banyak lagi. Tingkatkan pengalaman penciptaan kandungan anda dan cuba Speechify Voice Over Studio percuma hari ini.
FAQ
Contoh AI klon suara tidak beretika?
Contohnya, menggunakan AI klon suara bagi menghasilkan audio palsu seolah-olah Elon Musk membuat kenyataan palsu mengenai hal geopolitik sensitif seperti penglibatan Washington di Israel. Ini boleh mengelirukan, menjejaskan persepsi awam dan menimbulkan perpecahan, dengan menyalahgunakan suara tokoh berpengaruh demi agenda tertentu.
Adakah GOP mahu kawal AI?
Menurut satu tinjauan Fox News, “Republikan kurang yakin berbanding Demokrat bahawa kerajaan persekutuan perlu membuat undang-undang AI dan lebih skeptikal sama ada kerajaan mampu mengurus AI dengan baik.”
Adakah Taylor Swift pernah jadi mangsa deepfake?
Ada beberapa deepfake tidak beretika dibuat melibatkan Taylor Swift, termasuk gambar dan lagu tanpa kebenarannya. Dilaporkan, beliau sedang mempertimbangkan tindakan undang-undang terhadap pencipta deepfake tersebut.
Adakah pengundi New Hampshire terima robocall deepfake Biden supaya tak mengundi?
Ya, seorang penipu menghasilkan deepfake Biden menggunakan AI ElevenLabs untuk cuba meyakinkan pengundi supaya tidak menulis nama Biden dalam pilihan raya utama New Hampshire.
