Sumber deepfake Joe Biden terungkap setelah intervensi pemilu
Menjelang pemilihan pendahuluan New Hampshire, sebuah skema licik dilakukan dengan memanfaatkan teknologi AI untuk meniru suara Presiden Joe Biden dalam robocall. Upaya intervensi pemilu yang belum pernah terjadi ini menyoroti persilangan AI, deepfake, dan disinformasi, menimbulkan kekhawatiran akan dampak potensial terhadap proses demokrasi. Berikut penjelasan penipuan deepfake robocall Presiden Joe Biden dan siapa saja yang terlibat.
Apa itu penipuan deepfake Joe Biden?
Pada Senin, 22 Januari 2023, kantor jaksa agung New Hampshire menyatakan sedang menyelidiki laporan terkait robocall yang tampaknya memakai AI untuk meniru suara Presiden Joe Biden dan mencegah pemilih datang ke TPS di negara bagian tersebut.
Penipuan ini bertujuan menghalangi pemilih berpartisipasi dalam pilpres negara bagian, dengan keliru mengklaim bahwa memilih di pilpres akan memengaruhi pemilu umum November. Suara tiruan Biden dari AI meminta pemilih "menyimpan" suara mereka untuk pemilihan umum, dan mengatakan bahwa memilih di pilpres hanya akan menguntungkan Partai Republik serta memudahkan kemenangan Donald Trump.
ID penelepon deepfake Joe Biden
ID penelepon robocall palsu Biden tampak seolah dikirim dari Kathy Sullivan, mantan ketua Partai Demokrat negara bagian yang membantu menjalankan Granite for America, super-PAC yang menggerakkan pemilih untuk menulis nama Biden di surat suara sebagai dukungan. Namun, ia tidak berkampanye di New Hampshire dan tidak ada di surat suara karena posisinya sebagai unggulan dalam pilpres Demokrat.
“Panggilan ini mengarah ke nomor ponsel pribadi saya tanpa izin saya,” kata Sullivan dalam pernyataan. “Ini intervensi pemilu secara terang-terangan dan jelas merupakan upaya mengganggu saya dan pemilih New Hampshire lain yang ingin menulis nama Joe Biden pada hari Selasa.”
Audio penipuan deepfake Joe Biden
Dalam rekaman audio robocall palsu yang didapat NBC, terdengar suara mirip Biden mengucapkan frasa andalannya, “What a bunch of malarkey.” Pesan berlanjut dengan pernyataan “penting untuk menyimpan suara Anda untuk pemilu November dan memilih hari Selasa ini hanya membantu Partai Republik memenangkan Donald Trump. Suara Anda berpengaruh di November, bukan Selasa ini.”
Setelah tersebar, jubir Gedung Putih Karine Jean-Pierre mengumumkan bahwa pesan tersebut dibuat dengan AI untuk menyebarkan disinformasi dan bukan dari tim kampanye Biden.
Dalam pernyataan, kepala kampanye Biden Julie Chavez Rodriguez mengatakan timnya “sedang mendiskusikan langkah tambahan yang akan segera diambil.”
Apa yang harus dilakukan jika menerima robocall Joe Biden?
Pesan rekaman ini tampak sebagai upaya ilegal untuk menyebar hoaks dan mengacaukan pemungutan suara. Meski jumlah penerimanya belum jelas, setidaknya belasan orang sudah melaporkan hal serupa. Jaksa Agung John Formella menyatakan siapa pun yang menerima pesan ini “harus sepenuhnya mengabaikan isinya.”
Sumber deepfake robocall Joe Biden terkuak
Menurut Bloomberg, perusahaan pendeteksi penipuan suara Pindrop Security Inc. menemukan bahwa robocall deepfake Biden tersebut bukan dibuat oleh tim kampanye Biden, melainkan oleh pelaku yang memakai ElevenLabs, startup AI suara yang menawarkan teknologi kloning suara.
Meski pernyataan keamanan ElevenLabs mengizinkan kloning suara “untuk tujuan non-komersial tertentu selama tidak melanggar privasi atau kepentingan ekonomi orang terkait,” termasuk “kajian pribadi, penelitian, pendidikan, karikatur, parodi, satir, debat publik, kutipan,” serta “kritik dan ulasan,” akun pembuat deepfake Biden kemudian diblokir oleh ElevenLabs.
"Kami berkomitmen mencegah penyalahgunaan alat audio AI dan sangat serius menanggapi setiap penyalahgunaan," kata ElevenLabs kepada Bloomberg.
Deepfake vs. AI Voice Generator vs. Kloning Suara
Karena generator suara AI makin populer, penting memahami istilah deepfake, generator suara AI, dan kloning suara, serta perbedaan etika dan risiko penyalahgunaannya.
Deepfake
Deepfake adalah penggunaan AI dan machine learning untuk menciptakan atau memanipulasi audio dan visual, sering mengganti wajah/suara seseorang dengan orang lain secara realistis.
- Penggunaan deepfake yang etis: Teknologi deepfake dapat dipakai secara etis untuk hiburan, seni, dan pendidikan selama tidak menipu atau merugikan orang lain.
- Penyalahgunaan deepfake: Jika dipakai untuk menipu, membuat narasi palsu, atau meniru individu demi tujuan jahat (hoaks, berita palsu), hal ini menimbulkan masalah etika serius.
Generator Suara AI
Generator suara AI memakai algoritma machine learning untuk mensintesis suara manusia. Biasanya dilatih dengan dataset besar agar meniru nada dan karakteristik suara manusia.
- Penggunaan etis generator suara AI: Dapat digunakan secara etis untuk aksesibilitas (misalnya untuk gangguan bicara), belajar bahasa, hiburan, dan voice over.
- Penyalahgunaan generator suara AI: Menyalahgunakan untuk membuat audio palsu demi menipu, memalsukan suara seseorang untuk penipuan atau menyebar hoaks, dianggap tidak etis.
Kloning suara
Kloning suara adalah membuat salinan sintetis suara seseorang, biasanya memakai rekaman suara sebagai data pelatihan model machine learning.
- Penggunaan etis kloning suara: Dapat digunakan dengan izin untuk voice assistant personal, melestarikan suara seseorang untuk generasi mendatang, atau membantu mereka yang kehilangan suara.
- Penyalahgunaan kloning suara: Kloning suara tanpa izin untuk menipu, seperti membuat rekaman palsu meniru orang lain tanpa sepengetahuan mereka, sangat tidak etis dan berpotensi melanggar privasi.
Penyalahgunaan AI suara Joe Biden
Penyalahgunaan suara Joe Biden lewat robocall AI jadi contoh nyata potensi teknologi artificial intelligence dipakai sebagai senjata untuk menghambat pemilu dan menyebarkan hoaks. Dampaknya bisa sangat luas. Kasus ini memperlihatkan masa depan di mana suara AI bisa digunakan menyebar narasi palsu, mengubah opini publik, bahkan merusak proses demokrasi. Implikasinya terhadap kepercayaan politik dan integritas pemilu sangat mengkhawatirkan.
Semakin maju teknologi AI, semakin besar risiko kejadian seperti ini, dan ahli forensik digital seperti Hany Farid menekankan pentingnya kewaspadaan menghadapi tantangan ini.
Pemilih harus waspada AI pada musim pemilu ini
Menjelang pilpres 2024, pemilih harus tetap waspada terhadap penyalahgunaan AI dalam upaya memengaruhi opini publik. Disinformasi berbasis AI bisa jadi masalah utama di kampanye politik, sehingga masyarakat perlu lebih melek dan kritis.
“Kami khawatir AI generatif dijadikan senjata pada pemilu mendatang dan kini kita sudah melihat tanda-tandanya,” ujar Hany Farid, ahli forensik digital yang memeriksa rekaman robocall Biden, dalam wawancara.
Cara menggunakan AI suara secara etis
Setelah kejadian ini, penting mempertimbangkan penggunaan AI suara yang etis. Meski teknologi ini menawarkan banyak kemungkinan seperti voice over, pengguna harus bertanggung jawab. Harus jelas jika memakai suara AI, tidak punya niat jahat, dan tetap menghormati privasi serta izin pemilik suara.
Regulasi dan hukum AI segera hadir
Sejalan perkembangan teknologi, legislator, pengembang AI, pejabat pemilu, dan masyarakat harus berkolaborasi membuat aturan, regulasi, dan standar etika untuk melindungi demokrasi dari penyalahgunaan seperti ini. Integritas pemilu, pilar demokrasi Amerika, bergantung pada kemampuan kita beradaptasi dan merespons tantangan penggunaan AI. Bahkan, Kongres sudah membahas perlindungan AI. Dalam dengar pendapat Senat terbaru, Senator Richard Blumenthal memperlihatkan deepfake suaranya sendiri yang dibuat dengan software voice cloning AI dan naskah dari ChatGPT OpenAI. Komisi Pemilu Federal juga mulai proses untuk mengatur deepfake AI di iklan kampanye politik 2024.
Speechify Voice Over Studio: Platform suara AI etis #1
Speechify Voice Over Studio adalah platform AI suara etis terdepan yang menjadi standar utama teknologi ucapan sintetis. Dengan lebih dari 200 suara text to speech nyata dalam beragam bahasa dan aksen, Speechify Voice Over Studio memudahkan pengguna menciptakan konten menarik dengan cepat.
Platform ini ramah pengguna, dilengkapi alat edit audio AI yang simpel, memungkinkan pengaturan detail tiap kata—seperti pitch, pelafanan, nada, dan lainnya. Speechify Voice Over Studio juga memprioritaskan etika dengan hanya menawarkan kloning suara untuk suara sendiri, memastikan izin eksplisit dan mengurangi risiko penyalahgunaan.
Speechify Voice Over Studio adalah pilihan ideal untuk membuat voice over menarik untuk berbagai keperluan seperti konten media sosial, game, buku audio, podcast, dan lainnya. Tingkatkan kreasi konten Anda dan coba Speechify Voice Over Studio gratis hari ini.
FAQ
Apa contoh kloning suara AI yang tidak etis?
Contoh tidak etis kloning suara AI misalnya menggunakan teknologi untuk membuat rekaman audio palsu Elon Musk yang berisi pernyataan tidak benar soal isu geopolitik sensitif, seperti keterlibatan Washington dengan Israel, demi memengaruhi opini publik dan memicu konflik. Penyalahgunaan seperti ini bisa merusak kepercayaan publik dan menyebar ujaran menyesatkan atas nama tokoh terkenal untuk kepentingan tertentu.
Apakah GOP ingin mengatur AI?
Menurut poll Fox News, “Republikan kurang yakin dibanding Demokrat soal perlunya aturan pemerintah federal atas sistem AI, bahkan lebih skeptis pemerintah mampu melakukannya dengan benar.”
Apakah Taylor Swift pernah dibuatkan deepfake?
Sudah ada beberapa deepfake tidak etis Taylor Swift, meliputi foto dan musik tanpa persetujuannya. Ia disebut mempertimbangkan langkah hukum terhadap pembuat deepfake tersebut.
Apakah pemilih New Hampshire menerima robocall deepfake Biden yang melarang memilih?
Ya, seorang pelaku membuat deepfake Biden dengan teknologi AI ElevenLabs untuk membujuk pemilih agar tidak menuliskan nama Biden dalam pilpres New Hampshire.
