Joe Biden deepfake kaynağı seçimlere müdahale girişiminin ardından ortaya çıktı
New Hampshire önseçimi öncesindeki son anda, yapay zekâ teknolojisiyle Başkan Joe Biden’ın sesinin bir robocall’da taklit edildiği sinsi bir plan ortaya çıktı. Seçimlere müdahale etmeyi amaçlayan bu eşi benzeri görülmemiş girişim, yapay zekâ, deepfake’ler ve dezenformasyonun kesiştiği tehlikeli noktayı gözler önüne serdi ve demokratik süreçler açısından olası sonuçlara dair kaygıları artırdı. ABD Başkanı Joe Biden’ın robocall deepfake dolandırıcılığı hakkında, kimlerin işin içinde olduğuna kadar bilmeniz gereken her şeye birlikte göz atalım.
Joe Biden deepfake dolandırıcılığı nedir?
23 Ocak 2023 Pazartesi günü, New Hampshire başsavcılığı Başkan Joe Biden’ın sesinin yapay zekâ ile taklit edildiği ve eyaletteki seçmenleri sandığa gitmekten caydırmayı amaçlayan bir robocall hakkındaki şikayetleri soruşturduğunu açıkladı.
Bu dolandırıcılığın amacı, seçmenleri eyaletin önseçimine katılmaktan vazgeçirmekti ve önseçimde oy kullanmanın kasımdaki genel seçimi bir şekilde etkileyeceğine dair asılsız bir iddia içeriyordu. Yapay zekâyla oluşturulmuş Biden sesi, seçmenleri oylarını yaklaşan federal seçim için "saklamaya" çağırdı ve önseçimde oy vermenin Cumhuriyetçilere yarayacağını, Donald Trump’ın yeniden seçilmesini kolaylaştıracağını öne sürdü.
Joe Biden deepfake arama numarası
Sahte Biden robocall’ının arama numarası, Başkan’a desteklerini göstermek için Biden’ın ismini yazmaları yönünde kampanya yürüten Granite for America adlı süper PAC’in başındaki, eski eyalet Demokrat Parti başkanı Kathy Sullivan’dan gelmiş gibi görünüyordu. Oysa Biden New Hampshire’da kampanya yürütmüyor ve Demokrat Parti başkanlık önseçimlerinde ilk sırayı almadığı için oy pusulasında da yer almıyordu.
“Bu çağrı iznim olmadan kişisel cep telefonu numarama düşüyor,” dedi Sullivan bir açıklamasında. “Bu düpedüz seçimlere müdahaledir ve Salı günü Joe Biden’ın ismini yazacak olan beni ve diğer New Hampshire seçmenlerini açıkça taciz etme girişimidir.”
Joe Biden deepfake dolandırıcılığı ses kaydı
Robocall’daki sahte ses kaydında NBC'nin elde ettiği, Biden’a çok benzeyen bir sesin onun ünlü ifadesi “Bu ne saçmalık böyle!” sözünü kullandığı duyuluyor. Mesajda şu ifadeler de yer alıyor: “Önemli olan, oyununu Kasım seçimine saklaman; Salı günü oy vermek sadece Cumhuriyetçilerin Donald Trump’ı tekrar seçme yolunda işine yarar. Senin oyun farkı Kasım’da yaratır, bu Salı değil.”
Bunun ardından Beyaz Saray Sözcüsü Karine Jean-Pierre, mesajın dezenformasyon yaymak için hazırlanmış yapay zekâ ürünü olduğunu ve Biden kampanyasından gelmediğini açıkladı.
Biden’ın kampanya yöneticisi Julie Chavez Rodriguez, yaptığı açıklamada kampanyanın “derhal atılacak ek adımları aktif olarak değerlendirdiğini” belirtti.
Joe Biden robocall’ı aldıysanız ne yapmalısınız?
Kaydedilmiş mesaj, yasa dışı yollarla yanlış bilgi yayma ve oy kullanmayı engelleme girişimi gibi görünüyor. Kaç seçmenin bu aramayı aldığı net olmasa da en az bir düzine kişi bildirdi. Başsavcı John Formella, bu tür bir çağrı alan herkesin “mesajın içeriğini tamamen dikkate almaması gerektiğini” söyledi.
Joe Biden robocall deepfake kaynağı
Bloomberg'e göre, ses dolandırıcılığını tespit eden Pindrop Security Inc. şirketi, Biden deepfake robocall’ının Biden kampanyası tarafından değil, ses klonlama yetenekleri sunan bir yapay zekâ şirketi olan ElevenLabs’i kullanan bir dolandırıcı tarafından hazırlandığını ortaya çıkardı.
ElevenLabs'in güvenlik bildirimi, ses klonlama hakkını “kişinin mahremiyetine veya ekonomik menfaatlerine zarar verilmedikçe belirli ticari olmayan amaçlar için” serbest bıraktığını, “özel çalışma, ticari olmayan araştırma, eğitim, karikatür, parodi, hiciv, kamu tartışmasına katkı sağlayan sanatsal ve politik konuşma, alıntı”, ayrıca “eleştiri ve inceleme” için kullanılabileceğini belirtse de, ElevenLabs Biden deepfake robocall’ını üreten kullanıcıyı engelledi.
"Sesli yapay zekâ araçlarının kötüye kullanılmasını engellemeye adadık ve her türlü kötüye kullanım olayını son derece ciddiye alıyoruz," dedi ElevenLabs Bloomberg’e.
Deepfake vs. Yapay Zekâ Ses Oluşturucu vs. Ses Klonlama
Yapay zekâ ses üretimi yaygınlaştıkça, deepfake, yapay zekâ ses oluşturucu ve ses klonlama terimlerinin ne anlama geldiğini ve etik ile etik olmayan kullanımları arasındaki farkı anlamak önemlidir.
Deepfake
Deepfake, yapay zekâ ve makine öğrenimi teknikleriyle ses ve görsel içeriklerin, genellikle bir kişinin görüntüsünün başka bir kişiyle gerçekçi şekilde değiştirilmesi ya da baştan oluşturulması anlamına gelir.
- Etik deepfake kullanımı: Deepfake teknolojisi, eğlence, sanatsal ifade ve eğitim gibi kimseyi kandırma ya da zarar verme amacı taşımayan alanlarda etik şekilde kullanılabilir.
- Etik olmayan deepfake kullanımı: Deepfake teknolojisinin yanıltıcı içerikler, sahte anlatılar oluşturmak veya insanları kötü niyetli biçimde taklit etmek (örneğin yanlış bilgi yaymak ya da sahte haber üretmek) için kullanılması ciddi etik sorunlara yol açar.
Yapay Zekâ Ses Oluşturucu
Yapay zekâ ses oluşturucular, insan benzeri yapay sesler üretmek için makine öğrenimi algoritmaları kullanır. İnsan seslerini ve tonlarını taklit edebilmek için genellikle büyük veri kümeleriyle eğitilirler.
- Etik yapay zekâ ses oluşturucu kullanımı: Yapay zekâ ses oluşturucular, erişilebilirlik (konuşma engelliler için), dil öğrenimi, eğlence veya seslendirme gibi çeşitli etik amaçlarla kullanılabilir.
- Etik olmayan yapay zekâ ses oluşturucu kullanımı: Bir kişinin sesini sahtecilik veya yanlış bilgi yaymak gibi kötü niyetli amaçlarla taklit ederek sahte ses kayıtları üretmek etik değildir.
Ses klonlama
Ses klonlama, bir kişinin konuşma kayıtlarının makine öğrenimi modeli için eğitim verisi olarak kullanılmasıyla o kişiye ait sentetik (yapay) bir ses kopyası oluşturulmasıdır.
- Etik ses klonlama kullanımı: Kişisel sesli asistanlar üretmek, bireylerin seslerini rızalarıyla gelecek nesillere taşımak veya konuşma bozuklukları olan kişilere yardımcı olmak gibi etik amaçlarla kullanılabilir.
- Etik olmayan ses klonlama kullanımı: Kişinin rızası olmadan onu taklit etmek, sahte ses kayıtları oluşturmak gizliliği ihlal edebileceği gibi kötüye kullanıma ve hukuki sonuçlara yol açabilir.
Joe Biden'ın yapay zekâ sesiyle ilgili kötüye kullanım
Joe Biden’ın sesinin yapay zekâ ile üretilen robocall’lar aracılığıyla kötüye kullanılması, yapay zekâ teknolojisinin yanlış bilgi yaymak ve oy kullanmayı baskılamak için nasıl bir silaha dönüştürülebileceğinin çarpıcı bir örneği. Siyasi figürlerin seslerinin yapay zekâ ile taklit edilmesinin sonuçları son derece geniştir. Bu olay, gelecekte yapay zekâ ile üretilen seslerin sahte anlatılar yaymak, kamuoyunu manipüle etmek ve demokratik süreci baltalamak için kullanılabileceğine işaret ediyor. Siyasi söyleme ve seçimlerin bütünlüğüne duyulan güvenin sarsılması ciddi bir endişe kaynağı.
Yapay zekâ teknolojisi geliştikçe, bu tür olayların yaşanma riski de artıyor; dijital adli bilimler uzmanı Hany Farid de bu sorunlarla mücadelede son derece dikkatli olunması gerektiğinin altını çiziyor.
Seçmenler bu seçim döneminde yapay zekâya karşı tetikte olmalı
2024 başkanlık seçimleri yaklaşırken, seçmenlerin kamuoyunu etkilemeye yönelik yapay zekâ teknolojisi suistimallerine karşı dikkatli olması gerekiyor. Yapay zekâ ile oluşturulan dezenformasyon, siyasi kampanyalarda yaygın bir sorun haline gelebilir ve seçmen farkındalığının yükselmesine her zamankinden fazla ihtiyaç var.
“Üretken yapay zekânın yaklaşan seçimde silaha dönüştürüleceğinden en başından beri kaygılıydık ve bu, kesinlikle olacakların habercisi,” dedi Biden robocall kaydını inceleyen dijital adli bilimler uzmanı Hany Farid bir röportajda.
Yapay zekâ ile sesi etik kullanma yolları
Bu olayın ardından, sesli yapay zekânın etik kullanımını yeniden düşünmek kritik önem taşıyor. Yapay zekâ ile ses teknolojisi, seslendirme gibi sayısız imkân sunsa da bunu etik biçimde kullanma sorumluluğu da beraberinde geliyor. Buna, yapay zekâ ile oluşturulan seslerin açıkça belirtilmesi, kötü niyetli kullanımdan kaçınılması ve mahremiyet ile onaya saygı gösterilmesi de dâhil.
Yapay zekâ yasaları ve düzenlemeleri yolda
Teknoloji geliştikçe, yasa koyucular, yapay zekâ geliştiricileri, seçim görevlileri ve toplum olarak demokratik süreci bu tür suistimallerden koruyacak önlemler, düzenlemeler ve etik standartlar belirlemek için birlikte çalışmamız gerekiyor. Seçimlerin bütünlüğü, Amerikan demokrasisinin temel taşı olarak, yapay zekânın kullanımına ilişkin ortaya çıkan yeni tehditlere karşı hazırlıklı olmamıza bağlı. Nitekim Kongre, yapay zekâ korumalarını hâlihazırda tartışıyor. Yakın zamanda yapılan bir Senato oturumunda Senatör Richard Blumenthal, OpenAI’nin ChatGPT’siyle yazılmış bir metni ve yapay zekâ ses klonlama yazılımıyla kendi sesi kullanılarak oluşturulmuş bir deepfake örneğini dinletti. Federal Seçim Komisyonu da, 2024’teki siyasi kampanya reklamlarında yapay zekâ ile oluşturulan deepfake’leri düzenleme sürecine başlamış durumda.
Speechify Voice Over Studio: #1 etik yapay zekâ ses platformu
Speechify Voice Over Studio, sentetik konuşma teknolojisinde altın standart belirleyerek önde gelen etik yapay zekâ ses platformudur. 200’den fazla gerçekçi metinden sese sesi birçok dil ve aksanda kullanılabilir. Speechify Voice Over Studio, kullanıcıların dinamik ve etkileyici içerikleri zahmetsizce üretmesini sağlar.
Kullanıcı dostu platform, kolay kullanılabilen ses düzenleme yapay zekâ araçlarıyla her sözcük üzerinde ayrıntılı kontrol imkânı sunar; kullanıcılar ses perdesini, telaffuzu, tonu ve daha fazlasını hassas şekilde ayarlayabilir. Speechify Voice Over Studio ayrıca etik ilkelere öncelik verir ve ses klonlamayı yalnızca kendi sesiniz için sunarak açık rızayı garanti altına alır, kötüye kullanım riskini azaltır.
Speechify Voice Over Studio, sosyal medya içerikleri, video oyunları, sesli kitaplar, podcast’ler ve daha fazlası dâhil birçok alanda etkileyici seslendirmeler üretmek için ideal seçimdir. İçerik üretim deneyiminizi bir üst seviyeye taşıyın ve Speechify Voice Over Studio’yu ücretsiz deneyin .
SSS
Etik olmayan yapay zekâ ses klonlamasına bir örnek nedir?
Etik olmayan bir yapay zekâ ses klonlama örneği; Elon Musk’ın, Washington’un İsrail ile ilişkileri gibi hassas jeopolitik konularda yanlış açıklamalar yaptığına dair sahte bir ses kaydı üretilmesidir. Bu tür yanıltıcı ses klonlama kullanımları, kamu güvenini istismar edebilir ve etkili bir kişinin ağzından uydurma açıklamaların yayılmasıyla toplumsal huzursuzluk yaratabilir.
GOP (Cumhuriyetçiler) yapay zekâyı düzenlemek istiyor mu?
Bir Fox News anketine göre; “Cumhuriyetçiler, federal hükümetin yapay zekâ sistemlerini düzenlemesi gerekliliği konusunda Demokratlara kıyasla daha az emin ve hükümetin bunun altından kalkma kapasitesine karşı çok daha şüpheciler.”
Taylor Swift’in de bir deepfake’i yapıldı mı?
Taylor Swift’in izni olmadan, fotoğraf ve müzik de dâhil olmak üzere birçok etik dışı deepfake’i üretildi. Bildirildiğine göre Swift, deepfake’lerini hazırlayanlara karşı hukuki işlem başlatmayı değerlendiriyor.
New Hampshire seçmenleri, onlara oy kullanmamalarını söyleyen bir Biden deepfake robocall’ı aldı mı?
Evet, bir dolandırıcı, ElevenLabs’in yapay zekâ teknolojisini kullanarak Biden deepfake’i üretti ve New Hampshire önseçimlerinde seçmenleri Biden’ın ismini yazmamaları yönünde ikna etmeye çalıştı.
