Joe Biden deepfake forrása leleplezve a választási beavatkozás után
A New Hampshire-i előválasztás előtti utolsó órákban egy alattomos terv bontakozott ki: egy mesterséges intelligenciával készült robothívás, amely Joe Biden elnök hangját utánozta. Ez a példátlan választási beavatkozási kísérlet rávilágított a mesterséges intelligencia, a deepfake-ek és a dezinformáció kereszteződésére, valamint felvetette a demokratikus folyamatokra gyakorolt lehetséges következmények kérdését. Járjuk körbe mindazt, amit az amerikai elnök, Joe Biden nevében indított deepfake-átverésről, illetve az érintettekről tudni érdemes.
Mi is az a Joe Biden deepfake-átverés?
2023. január 22-én, hétfőn a New Hampshire-i főügyész közölte, hogy vizsgálják egy olyan robothívás jelentését, amely mesterséges intelligencia segítségével utánozta Joe Biden elnök hangját, és arra próbálta rávenni a helyi szavazókat, hogy ne menjenek el szavazni.
Az átverés célja az volt, hogy távol tartsa a szavazókat az állam előválasztásától, és hamisan azt állította, hogy a részvétel valamilyen módon befolyásolná a novemberi általános választás kimenetelét. Az MI-vel generált Biden-hang azt tanácsolta a szavazóknak, hogy „mentsék el szavazatukat” a szövetségi választásra, továbbá azt állította, hogy az előválasztáson való részvétel a republikánusoknak kedvezne, és elősegítené Donald Trump újraválasztását.
Joe Biden deepfake hívóazonosítója
A hamis Biden-robothívás hívóazonosítója úgy tűnt, mintha Kathy Sullivan, a volt állami Demokrata Párt elnökének telefonjáról érkezett volna, aki jelenleg a Granite for America szuper-PAC programot vezeti. Ez a szervezet arra ösztönzi a választókat, hogy Bidennel támogassák az elnököt írásban is a szavazólapon. Biden azonban nem kampányolt New Hampshire-ben, és nem is szerepelt a szavazólapon, mivel a demokrata elnöki előválasztáson vezető pozícióban volt.
„Ez a hívás az én személyes mobilszámomról indult, engedélyem nélkül” – mondta Sullivan egy nyilatkozatban. „Ez nyilvánvaló választási beavatkozás, és egyértelmű kísérlet arra, hogy zaklassanak engem és más New Hampshire-i szavazókat, akik kedden Joe Biden nevét készülnek beírni.”
Joe Biden deepfake átverés – hangfelvétel
A robothívás hamis hanganyagában, amelyet az NBC szerzett meg, egy olyan hang hallható, amely zavaróan hasonlít Bidenére, és elhangzik egyik kedvenc mondata is: „Micsoda badarság.” Az üzenet ezt követően azt mondja, hogy „nagyon fontos, hogy szavazatát a novemberi választásra tartogassa”, illetve „ha most kedden szavaz, az csak a republikánusokat segíti, hogy újra Donald Trumpot válasszák elnökké. A szavazatod novemberben számít, nem most kedden.”
A felvétel nyilvánosságra kerülése után Karine Jean-Pierre, a Fehér Ház szóvivője tájékoztatta a lakosságot, hogy az üzenet mesterséges intelligenciával generált dezinformáció volt, nem pedig a Biden-kampánytól származik.
A Biden-kampány menedzsere, Julie Chavez Rodriguez közleményében azt mondta, hogy a kampány „aktívan egyeztet további, azonnali intézkedésekről”.
Mit tegyen, ha Biden nevében kapott robothívást?
A rögzített üzenet feltehetően illegális kísérlet volt álhírek terjesztésére és a szavazás megzavarására. Bár nem világos, hány szavazó kapta meg a hívást, legalább tucatnyian jelezték. John Formella főügyész szerint aki ilyen hívást kapott, „teljes egészében hagyja figyelmen kívül az üzenet tartalmát.”
A Joe Biden robothívás deepfake forrása leleplezve
A Bloomberg beszámolója szerint a hangátverés-felderítő Pindrop Security Inc. kiderítette, hogy a Biden-deepfake robothívást nem az elnöki kampány küldte, hanem egy csaló, aki az ElevenLabs nevű MI-alapú hangklónozó startup szolgáltatását használta.
Noha az ElevenLabs biztonsági irányelve lehetővé teszi a hangklónozást „bizonyos nem kereskedelmi célokra, ha az adott személy magánéletét vagy gazdasági érdekeit nem sérti”, beleértve „magáncélú tanulmányokat, nem kereskedelmi kutatást, oktatást, karikatúrát, paródiát, szatírát, művészi és politikai szólásszabadságot, idézést”, valamint a „kritikát és értékelést”, az ElevenLabs letiltotta azt a felhasználót, aki a Biden deepfake robothívást készítette.
„Elkötelezettek vagyunk a hangalapú mesterséges intelligencia eszközök visszaélésszerű használatának megelőzése mellett, és minden ilyen esetet rendkívül komolyan veszünk” – mondta az ElevenLabs a Bloombergnek.
Deepfake vs. MI-hanggenerátor vs. hangklónozás
Ahogy az MI-hanggenerálás egyre népszerűbbé válik, fontos megérteni a deepfake, az MI-hanggenerátor és a hangklónozás fogalmát, illetve azt, hogy mik a különbségek az etikus és etikátlan felhasználás között.
Deepfake
A deepfake mesterséges intelligencia és gépi tanulási technológiákat jelent hang- vagy képi tartalom létrehozására vagy manipulálására, gyakran valósághű módon cserélve ki valaki külsejét vagy hangját egy másik személyére.
- Etikus deepfake-használat: A deepfake technológia használható etikusan szórakoztatásra, művészi kifejezésre vagy oktatási célokra, ha a szándék nem a megtévesztés vagy ártás.
- Etikátlan deepfake-használat: Ha a deepfake technológiát félrevezető tartalom, hamis narratíva gyártására, vagy személyek rosszindulatú célból történő megszemélyesítésére (például álhírterjesztésre) használják, az komoly etikai aggályokat vet fel.
MI-hanggenerátor
Az MI-hanggenerátorok gépi tanulási algoritmusokat alkalmaznak emberi hangok szintetizálására. Gyakran nagy mennyiségű hangmintán tanulnak, hogy utánozzák az emberi beszéd hangszínét és stílusát.
- Etikus MI-hanggenerátor-használat: Az MI-hanggenerátorok etikusan használhatók különféle célokra, például beszédzavarral élő személyek segítésére, nyelvtanuláshoz, szórakoztatáshoz vagy narrációhoz.
- Etikátlan MI-hanggenerátor-használat: Más hangjának jogosulatlan hamisítása, például csalási szándékkal vagy dezinformáció terjesztése céljából készült hangfelvételek előállítása etikátlannak minősül.
Hangklónozás
A hangklónozás során egy személy hangjának szintetikus másolatát hozzák létre, tipikusan a személy beszédének hangfelvételeit gépi tanuláshoz használva fel.
- Etikus hangklónozás: A hangklónozás etikusan alkalmazható például személyre szabott hangasszisztensek létrehozásához, egy személy hangjának megőrzésére későbbi generációk számára a hozzájárulásával, vagy beszédzavarral élők segítésére.
- Etikátlan hangklónozás: Jogosulatlan hangklónozás, például csaló szándékú vagy valaki más hangjával történő megtévesztő tevékenységek, súlyosan etikátlanok, adatvédelmi sértéshez és visszaélésekhez vezethetnek.
Joe Biden MI-hangjának visszaélése
Joe Biden hangjának mesterséges intelligenciával készült robothívásokban való felhasználása ékes példája annak, milyen pusztító eszköz lehet a mesterséges intelligencia a szavazók elriasztása és a dezinformáció terjesztése céljából. A politikai szereplők hangjának visszaélésszerű utánzása széles körű következményekkel jár. Ez az eset előrevetíti azt a jövőt, amelyben MI-generált hangokkal lehet majd hamis narratívákat terjeszteni, a közvéleményt manipulálni és a demokratikus folyamatokat aláásni. A politikai párbeszédbe vetett bizalom és a választások tisztasága komoly veszélybe kerülhet.
Ahogy a mesterséges intelligencia fejlődik, az ilyen incidensek kockázata is nő, ezért a digitális kriminalisztika szakértői, mint Hany Farid, hangsúlyozzák az éberség fontosságát ezeknek a kihívásoknak a kezelésében.
A szavazóknak érdemes AI-riasztáson lenniük az idei választási szezonban
Ahogy közeledik a 2024-es elnökválasztás, a szavazóknak ébereknek kell lenniük a mesterséges intelligenciatechnológia visszaélésszerű felhasználását célzó véleményformálási kísérletekkel szemben. Az MI-generálta dezinformáció várhatóan egyre gyakoribbá válik a politikai kampányokban, ezért a választópolgároknak fokozott tudatosságra van szükségük.
„Már régóta aggódtunk, hogy a generatív MI-t fegyverként használják majd a közelgő választáson, és most azt látjuk, hogy ez valószínűleg csak a kezdet” – mondta Hany Farid, a digitális kriminalisztika szakértője, aki meghallgatta a Biden-robothívás hangfelvételét, egy interjúban.
Hogyan használjuk etikusan a hangalapú MI-t?
Az eset nyomán különösen fontos átgondolni a hangalapú MI-technológia etikus felhasználásának módjait. Bár az MI-hangtechnológia számos lehetőséget kínál – például narrációkhoz –, felelősségteljesen kell használni. Ez magában foglalja annak egyértelmű jelzését, amikor MI-generált hangot használunk, a rosszindulatú szándék elkerülését, valamint a magánélet és a hozzájárulás tiszteletben tartását.
Közelednek az MI-törvények és MI-szabályozások
Ahogy a technológia fejlődik, a törvényhozóknak, MI-fejlesztőknek, választási tisztviselőknek és a társadalomnak együtt kell dolgoznia olyan védelmi rendszerek, szabályozások és etikai normák kidolgozásán, amelyek megóvják a demokratikus folyamatokat a visszaélésektől. A választások tisztasága, amely az amerikai demokrácia alapja, attól függ, képesek vagyunk-e alkalmazkodni és megfelelően reagálni az MI alkalmazásának új kihívásaira. A Kongresszus már most is tárgyalja az MI védelmét. Egy friss szenátusi meghallgatáson Richard Blumenthal szenátor deepfake-et is bemutatott: MI-hangklónozó szoftverrel mesterségesen előállított saját hangján olvasott fel egy OpenAI ChatGPT által írt szöveget. Az Szövetségi Választási Bizottság is elindította az MI-generált deepfake kampányhirdetések 2024-es választási szabályozásának folyamatát.
Speechify Voice Over Studio: a #1 etikus MI-hang platform
A Speechify Voice Over Studio a vezető, etikus mesterséges hangplatform, amely arany standardot állít fel a szintetikus beszédtechnológiában. Több mint 200 valósághű szövegfelolvasó hangja érhető el számos nyelven és akcentussal, lehetővé téve a felhasználók számára, hogy dinamikus, magával ragadó tartalmakat hozzanak létre könnyedén.
Felhasználóbarát platformja könnyen kezelhető, audió-szerkesztő MI-eszközöket kínál, részletes beállítási lehetőségekkel minden egyes szóhoz, így állítható a hangmagasság, a kiejtés, a hangszín és további jellemzők. A Speechify Voice Over Studio etikai szempontból is példamutató, hiszen a hangklónozást kizárólag a saját hangodra engedélyezi, biztosítva a kifejezett hozzájárulást és minimalizálva a visszaélés kockázatát.
A Speechify Voice Over Studio ideális választás meggyőző hangalámondások készítéséhez bármilyen alkalmazáshoz, legyen szó közösségi média tartalomról, videojátékokról, hangoskönyvekről, podcastokról és még sok másról. Emeld magasabb szintre a tartalomkészítés élményét, és próbáld ki ingyen a Speechify Voice Over Studio-t még ma!
GYIK
Mi számít etikátlan MI-hangklónozásnak?
Etikátlan példája az MI-hangklónozásnak, ha például a technológiát felhasználva meggyőző hamis hangfelvételt készítenek Elon Muskról, amelyben olyan valótlan állításokat tesz érzékeny geopolitikai kérdésekről, mint például Washington szerepvállalása Izrael ügyeiben, manipulálva ezzel a közvéleményt és zavart keltve. Az ilyen megtévesztő hangklónozás kihasználja a közbizalmat, zavart szít, és valamilyen agenda előmozdítása érdekében tulajdonít hamis kijelentéseket befolyásos személyeknek.
A Republikánus Párt törekszik-e az MI szabályozására?
Egy Fox News közvélemény-kutatás szerint „a republikánusok kevésbé gondolják, mint a demokraták, hogy a szövetségi kormánynak szabályoznia kellene a mesterséges intelligenciarendszereket, és még szkeptikusabbak abban, hogy a kormány képes-e helyesen ellátni ezt a feladatot.”
Készült deepfake Taylor Swiftről?
Több etikátlan Taylor Swiftről készült deepfake, beleértve fényképeket és zenei anyagokat is, a beleegyezése nélkül. A beszámolók szerint Taylor Swift fontolóra vette jogi lépések megtételét a deepfake-ek készítőivel szemben.
Kaptak New Hampshire-i szavazók Biden deepfake robothívást, amelyben azt kérték, ne szavazzanak?
Igen, egy csaló az ElevenLabs MI-technológiájával készített Biden-deepfake-et, hogy meggyőzze a szavazókat, ne írják be Biden nevét a New Hampshire-i előválasztáson.
