Atskleista Džo Baideno gilioji klastotė po rinkimų kišimosi
Paskutinėmis valandomis iki Niu Hampšyro pirminio balsavimo buvo surengta piktavališka akcija – pasitelkus dirbtinį intelektą roboskambutyje imituotas prezidento Džo Baideno balsas. Šis neregėtas bandymas kištis į rinkimus atskleidė DI, klastočių ir dezinformacijos sankirtą bei išryškino grėsmes demokratijai. Aptarkime viską, ką reikia žinoti apie šią klastotės aferą: kas dalyvavo ir kokios pasekmės.
Kas yra Džo Baideno gilioji klastotė?
2023 m. sausio 22 d., pirmadienį, Niu Hampšyro generalinio prokuroro biuras pradėjo tirti pranešimus apie roboskambutį, kuriame, naudojant DI, buvo imituotas Džo Baideno balsas, siekiant atgrasyti rinkėjus nuo balsavimo.
Ši apgaulė skirta atbaidyti rinkėjus nuo dalyvavimo pirminiuose rinkimuose, klaidingai teigiant, kad dalyvavimas juose neigiamai paveiks pagrindinius rinkimus lapkritį. Roboskambutyje DI sugeneruotas Baideno balsas ragina „pataupyti“ balsą lapkričiui ir tikina, esą balsavimas pirminiuose antradienį neva padės respublikonams ir D. Trumpo perrinkimui.
Džo Baideno gilioji klastotė: skambinančiojo ID
Klastotėje buvo rodomas Kathy Sullivan, buvusios valstijos Demokratų partijos pirmininkės ir Granite for America super-PAC vadovės, numeris. Ji ragino rašyti Baideną į balsalapį, nors pats prezidentas nevykdė kampanijos Niu Hampšyre ir nebuvo pagrindinis kandidatas biuletenyje.
„Šis skambutis buvo susietas su mano asmeniniu telefono numeriu be mano sutikimo,“ sakė Sullivan pareiškime. „Tai akivaizdus kišimasis į rinkimus ir bandymas manimi ir kitais Niu Hampšyro rinkėjais, ketinančiais rašyti Baideną, manipuliuoti ir priekabiauti.“
Džo Baideno gilioji klastotė – įrašas
Roboskambučio įraše, kurį gavo NBC, girdėti į Baideno balsą panašus garsas su jo fraze: „Kokia nesąmonė.“ Toliau sakoma: „Svarbu, kad pataupytumėte balsą rinkimams lapkritį. Balsavimas šį antradienį tik padeda respublikonams rinkti Trampą iš naujo. Tavo balsas svarbus lapkritį, ne šį antradienį.“
Paviešinus skambutį, Baltųjų rūmų atstovė Karine Jean-Pierre pranešė, kad žinutė buvo sugeneruota DI ir nėra susijusi su Baideno kampanija.
Baideno kampanijos vadovė Julie Chavez Rodriguez pabrėžė, kad šiuo metu aktyviai svarstomos papildomos neatidėliotinos priemonės.
Ką daryti, jei gavote Džo Baideno roboskambutį?
Įrašyta žinutė – tai neteisėtas bandymas skleisti dezinformaciją ir kiršinti balsuojančiuosius. Nors neaišku, kiek žmonių gavo skambutį, apie jį pranešė mažiausiai keliolika. Generalinis prokuroras Johnas Formella ragina visus, gavusius tokį skambutį, – „visiškai ignoruokite žinutės turinį.“
Atskleistas Džo Baideno roboskambučio klastotės šaltinis
Kaip nurodo Bloomberg, balso sukčiavimo atpažinimo bendrovė Pindrop Security Inc. nustatė, kad Baideno gilioji klastotė sukurta ne jo kampanijos, o sukčiaus, pasinaudojusio ElevenLabs, DI balso imitavimo platforma.
Nors ElevenLabs saugumo gairėse balso klonavimas leidžiamas „tam tikrais nekomerciniais tikslais, jei tai nepažeidžia asmens privatumo ar ekonominių interesų“, pvz., „privatus mokslas, švietimas, satyra, meninė ar politinė raiška, cituojant ar kritikuojant“, ElevenLabs užblokavo vartotoją, sukūrusį Baideno klastotę.
„Esame pasiryžę užkirsti kelią DI balso įrankių netinkamam naudojimui ir į kiekvieną atvejį žiūrime itin rimtai“, ElevenLabs sakė Bloomberg.
Gilioji klastotė vs. DI balso kūrėjas vs. balso klonavimas
Kadangi DI balso technologija tampa vis populiaresnė, svarbu suprasti skirtumus tarp sąvokų „gilioji klastotė“, DI balso generatorius ir „balso klonavimas“, taip pat etinį aspektą.
Gilioji klastotė
Gilioji klastotė – tai dirbtinio intelekto ir mašininio mokymosi metodai, kuriais kuriamas arba manipuliuojamas garsas ar vaizdas, dažnai labai realistiškai pakeičiant vieno asmens tapatybę kitu.
- Etinis naudojimas: gali būti naudojama pramogoms, meninei išraiškai, švietimui, jei nesiekiama klaidinti ar pakenkti.
- Neetiškas naudojimas: kai gilioji klastotė naudojama klaidinančiam turiniui ar apsimetant kitais asmenimis piktais tikslais (dezinformacijai, „fake news“), kyla rimtų etinių klausimų.
DI balso generatorius
DI balso generatoriai kuria žmogiškus balsus naudodami mokymosi algoritmus ir dideles duomenų apimtis, kad imituotų natūralią kalbą ir intonacijas.
- Etinis naudojimas: padeda žmonėms su kalbos sutrikimais, kalbų mokymuisi, pramogoms, įgarsinimams.
- Neetiškas naudojimas: naudojimas kuriant klastotes, apgaulingus garso įrašus ar kitą dezinformaciją laikomas neetišku.
Balso klonavimas
Balso klonavimas – tai asmens balso sintetinimas naudojant jų įrašus mokymuisi ir mašininio mokymosi modeliams treniruoti.
- Etinis naudojimas: asmeninių balso asistentų kūrimui, balso išsaugojimui palikimui, pagalbai kalbos sutrikimų atveju gavus sutikimą.
- Neetiškas naudojimas: neteisėtas klonavimas ar klastočių kūrimas be sutikimo – rimtas privatumo ir etikos pažeidimas.
DI balsų klastojimo grėsmės
Džo Baideno balso klastojimas per DI roboskambučius parodė, kaip DI tampa įrankiu balsavimo slopinimui ir dezinformacijai. Politinių veikėjų balso imitavimo pasekmės toli siekiančios – tai gali kryptingai formuoti visuomenės nuomonę ir kelti grėsmę demokratijai. Pasitikėjimas politiniu diskursu ir rinkimų skaidrumu tampa vis trapesnis.
Tobulėjant DI, panašių incidentų rizika didėja, o skaitmeninės forensikos ekspertai, tokie kaip Hany Farid, pabrėžia nuolatinio budrumo svarbą.
Rinkėjai turi būti budrūs dėl DI šiame rinkimų sezone
Artėjant 2024 m. prezidento rinkimams, rinkėjai turi išlikti budrūs dėl DI technologijos panaudojimo siekiant paveikti viešąją nuomonę. DI sukurta dezinformacija gali tapti rimta politinių kampanijų problema, todėl būtinas didesnis informuotumas.
„Nerimavome, kad generatyvinis DI gali būti paverstas ginklu per ateinančius rinkimus ir jau matome to ženklus,“ sakė skaitmeninės forensikos ekspertas Hany Farid, peržiūrėjęs Baideno roboskambutį, interviu metu.
Kaip etiškai naudoti DI balsus
Po šio įvykio būtina iš naujo apmąstyti etišką DI balso naudojimą. Nepaisant galimybių, būtina aiškiai nurodyti, kur naudojamas DI balsas, vengti piktavališkų tikslų ir gerbti privatumą bei sutikimą.
DI įstatymai ir reglamentai artėja
Progresuojant technologijoms, įstatymų leidėjai, DI kūrėjai, rinkimų pareigūnai ir visuomenė turi kurti apsaugas ir etikos taisykles, kad apgintų demokratiją nuo DI piktnaudžiavimo. Rinkimų patikimumas priklauso nuo gebėjimo prisitaikyti prie naujų iššūkių. Kongresas jau diskutuoja dėl DI apsaugų. Per Senato posėdį senatorius Richard Blumenthal net pademonstravo giliojos klastotės pavyzdį, naudodamas DI sukurtą savo balsą ir OpenAI ChatGPT parašytą tekstą. Federalinė rinkimų komisija pradėjo svarstyti DI giliųjų klastočių reguliavimą politinėms reklamoms 2024 m.
Speechify Voice Over Studio: #1 etiškas DI balso įrankis
Speechify Voice Over Studio – tai lyderiaujanti etiško DI balso platforma, nustatanti aukso standartą sintetinio balso srityje. Siūloma daugiau nei 200 autentiškų teksto į kalbą balsų skirtingomis kalbomis ir tarmėmis – Speechify leidžia itin paprastai kurti dinamišką turinį.
Platforma lengva naudoti: galima redaguoti įgarsinimus, reguliuoti aukštį, tarimą, toną ir daugiau. Etiškas požiūris: balsus galima klonuoti tik iš savo balso, turint aiškų sutikimą, taip sumažinant piktnaudžiavimo riziką.
Speechify tinka įvairiems tikslams – socialiniams tinklams, žaidimams, audioknygoms, tinklalaidėms ir kt. Pagerinkite kūrybos patirtį ir išbandykite Speechify Voice Over Studio nemokamai jau šiandien.
DUK
Koks yra neetiško DI balso klonavimo pavyzdys?
Neetiškas balso klonavimo pavyzdys: sukurti tikrovišką Elono Musko balsą, kuriuo skleidžiama klaidinga informacija apie jautrią geopolitiką, pvz., JAV veiklą Izraelyje. Tokia klastotė gali manipuliuoti visuomene ir pakenkti, siekiant tam tikros politinės darbotvarkės.
Ar respublikonai nori reguliuoti DI?
Remiantis Fox News apklausa, „Respublikonai mažiau nei demokratai įsitikinę, kad reikia federaliniu lygmeniu reguliuoti DI, ir dar labiau abejoja, ar valdžia tą sugebės.“
Ar Taylor Swift buvo padaryta gilioji klastotė?
Taylor Swift atveju buvo sukurta keletas neetiškų giliųjų klastočių (nuotraukų ir muzikos) be jos sutikimo. Pranešama, kad ji svarsto imtis teisinių veiksmų prieš šių klastočių kūrėjus.
Ar Niu Hampšyro rinkėjai gavo Baideno giliojo klastotės roboskambutį?
Taip, sukčius sukūrė Baideno giliąją klastotę naudodamas ElevenLabs DI, siekdamas atgrasyti nuo Baideno įrašymo Niu Hampšyro pirminiuose rinkimuose.
