Sursa deepfake-ului cu Joe Biden, dezvăluită după interferența în alegeri
În ultima clipă înainte de alegerile primare din New Hampshire, un plan insidios a fost pus în practică, folosind tehnologia inteligenței artificiale pentru a imita vocea președintelui Joe Biden într-un apel telefonic automat. Această tentativă fără precedent de interferență electorală a scos la lumină intersecția dintre AI, deepfake-uri și dezinformare, ridicând semne de întrebare asupra consecințelor potențiale pentru procesele democratice. Să aflăm tot ce trebuie să știi despre escrocheria deepfake cu robocall-ul atribuit președintelui american Joe Biden, inclusiv cine a fost implicat.
Ce reprezintă escrocheria deepfake Joe Biden?
Luni, 22 ianuarie 2023, biroul procurorului general din New Hampshire a anunțat că investighează sesizări privind un apel automatizat care folosea inteligența artificială pentru a imita vocea președintelui Joe Biden și pentru a descuraja alegătorii din stat să se prezinte la urne.
Această escrocherie urmărea descurajarea participării alegătorilor la alegerile primare ale statului, susținând în mod fals că votul la aceste alegeri ar influența într-un fel alegerile generale din noiembrie. Vocea AI care îl imita pe Biden îi îndemna pe alegători să "salveze" votul pentru alegerile federale ce urmau, afirmând că votarea la primare i-ar avantaja pe republicani și ar facilita realegerea lui Donald Trump.
Identificarea apelantului în deepfake-ul Joe Biden
ID-ul apelantului pentru robocall-ul fals cu Biden apărea ca fiind numărul lui Kathy Sullivan, o fostă președintă a Partidului Democrat din stat, implicată în Granite for America, un super-PAC care face campanie pentru ca alegătorii să scrie numele lui Biden pe buletinul de vot pentru a-și arăta sprijinul pentru președinte. Totuși, Biden nu făcea campanie în New Hampshire și nu urma să fie pe buletinul de vot, deoarece era deja favorit detașat în alegerile primare democrate.
„Acest apel este legat de numărul meu personal de telefon mobil fără permisiunea mea”, a declarat Sullivan într-o declarație. „Este o interferență electorală flagrantă și, în mod evident, o tentativă de a mă hărțui pe mine și pe alți alegători din New Hampshire care intenționează să îl treacă pe Joe Biden la rubrica de scrieri pe buletinul de vot de marți.”
Audio-ul escrocheriei deepfake Joe Biden
În înregistrarea audio falsă a robocall-ului obținută de NBC, poți auzi o voce care seamănă foarte bine cu a lui Biden rostind expresia lui preferată: „Ce prostii.” Mesajul continuă astfel: „E important să vă salvați votul pentru alegerile din noiembrie, iar votul de marțea aceasta îi ajută doar pe republicani în efortul lor de a-l realege pe Donald Trump. Votul vostru contează în noiembrie, nu marți aceasta.”
După apariția mesajului, secretarul de presă al Casei Albe, Karine Jean-Pierre, a informat publicul că mesajul a fost generat de inteligența artificială pentru a răspândi dezinformare și nu provine din partea campaniei Biden.
Într-o declarație, șefa de campanie a lui Biden, Julie Chavez Rodriguez, a spus că echipa „discută activ despre alte acțiuni care trebuie luate imediat.”
Ce să faci dacă ai primit un robocall Joe Biden?
Mesajul înregistrat pare să fi fost o încercare ilegală de a răspândi dezinformare și de a perturba votul. Deși nu este clar câți alegători au primit apelul, cel puțin o duzină l-au raportat. Procurorul general John Formella a explicat că oricine a primit un astfel de apel „ar trebui să ignore complet conținutul acestui mesaj.”
Sursa robocall-ului deepfake cu Joe Biden, dezvăluită
Potrivit Bloomberg, compania de detectare a fraudei vocale Pindrop Security Inc. a descoperit că robocall-ul deepfake Biden nu a fost realizat de campania Biden, ci de un escroc care a folosit ElevenLabs, un start-up de AI care oferă funcționalități de clonare a vocii.
Deși declarația de siguranță ElevenLabs permite clonarea vocii „pentru anumite scopuri non-comerciale dacă nu afectezi intimitatea sau interesele economice ale unei persoane”, inclusiv „studiu privat, cercetare non-comercială, educație, caricaturi, parodii, satiră, discurs artistic și politic care contribuie la dezbateri publice, citare”, precum și „critică și recenzie”, ElevenLabs a interzis utilizatorul care a creat robocall-ul deepfake cu Biden.
„Suntem dedicați prevenirii utilizării abuzive a instrumentelor audio AI și tratăm cu maximă seriozitate orice astfel de incident”, a declarat ElevenLabs pentru Bloomberg.
Deepfake vs. generator de voce AI vs. clonare de voce
Pe măsură ce generarea vocală AI devine tot mai răspândită, este esențial să înțelegem termenii deepfake, generator de voce AI și clonare de voce, precum și diferența dintre utilizările lor etice și neetice.
Deepfake
Deepfake desemnează utilizarea tehnicilor de inteligență artificială și machine learning pentru a crea sau manipula conținut audio și video, adesea înlocuind chipul sau vocea cuiva cu ale altei persoane într-un mod foarte realist.
- Utilizare etică a tehnologiei deepfake: Tehnologia deepfake poate fi utilizată etic pentru divertisment, exprimare artistică și educație, atunci când intenția nu este de a înșela sau prejudicia pe alții.
- Utilizare neetică a tehnologiei deepfake: Când această tehnologie este exploatată pentru a crea conținut înșelător și narațiuni false sau pentru a imita persoane în scopuri rău intenționate (cum ar fi răspândirea de dezinformare sau crearea de știri false), apar probleme etice grave.
Generator de voce AI
Generatoarele de voce AI folosesc algoritmi de machine learning pentru a sintetiza voci umane realiste. Acestea sunt, de obicei, antrenate pe seturi mari de date pentru a imita vocea și inflexiunile umane.
- Utilizare etică a generatorului de voce AI: Generatoarele de voce AI pot fi folosite etic pentru diverse scopuri, inclusiv accesibilitate pentru persoane cu deficiențe de vorbire, învățarea limbilor, divertisment sau voice-over-uri.
- Utilizare neetică a generatorului de voce AI: Utilizarea abuzivă a generatoarelor de voce AI pentru a crea înregistrări audio false în scopuri rău intenționate, cum ar fi imitarea vocii cuiva pentru fraude sau răspândirea dezinformării, este considerată neetică.
Clonare de voce
Clonarea de voce presupune crearea unei copii sintetice a unei voci umane, de obicei folosind înregistrări ale vorbirii persoanei respective ca date de antrenament pentru un model de machine learning.
- Utilizare etică a clonării de voce: Clonarea de voce se poate folosi etic pentru a crea asistenți vocali personalizați, pentru a păstra vocile unor persoane pentru generațiile viitoare, cu consimțământul acestora, sau pentru a ajuta persoanele cu tulburări de vorbire.
- Utilizare neetică a clonării de voce: Clonarea neautorizată a vocii pentru activități înșelătoare, cum ar fi crearea de înregistrări audio false pentru a imita pe cineva fără consimțământul său, este extrem de neetică și poate duce la încălcarea intimității și la abuz.
Utilizarea abuzivă a vocii AI a lui Joe Biden
Utilizarea abuzivă a vocii lui Joe Biden prin robocall-uri generate de AI este un exemplu concret al potențialului acestei tehnologii de a fi folosită ca armă pentru a suprima votul și a răspândi dezinformare. Consecințele replicării prin AI a vocii unor personalități politice pot fi enorme. Acest incident anticipează un viitor în care vocile generate de AI ar putea fi folosite pentru a propaga narațiuni false, a manipula opinia publică și a submina procesul democratic. Impactul potențial asupra încrederii în discursul politic și asupra integrității alegerilor reprezintă un motiv serios de îngrijorare.
Pe măsură ce tehnologia AI avansează, riscul producerii unor astfel de incidente crește, iar experți în criminalistică digitală, precum Hany Farid, subliniază necesitatea unei vigilențe sporite pentru a răspunde acestor provocări.
Alegătorii trebuie să fie vigilenți la AI în acest sezon electoral
Odată cu apropierea alegerilor prezidențiale din 2024, alegătorii trebuie să rămână vigilenți față de utilizarea abuzivă a tehnologiei AI pentru a influența opinia publică. Dezinformarea generată de AI ar putea deveni o problemă recurentă în campaniile politice, fiind nevoie de o conștientizare sporită în rândul electoratului.
„Ne temeam că AI generativ va fi folosit ca armă în alegerile ce urmează și vedem cu siguranță un semn a ceea ce va urma”, a declarat Hany Farid, expert în criminalistică digitală care a analizat înregistrarea robocall-ului cu Biden, într-un interviu.
Cum să folosești vocea AI în mod etic
În urma acestui incident, este esențial să luăm în considerare aplicațiile etice ale vocii AI. Deși tehnologia vocală AI oferă numeroase oportunități, inclusiv voice-over-uri, există responsabilitatea de a o utiliza etic. Asta presupune să fie semnalat clar când este folosită voce AI, evitarea oricărei intenții rău-voitoare și respectarea confidențialității și consimțământului persoanei.
Se apropie legi și reglementări AI
Pe măsură ce tehnologia continuă să avanseze, legiuitorii, dezvoltatorii de AI, oficialii electorali și publicul trebuie să colaboreze pentru a institui măsuri de siguranță, reglementări și standarde etice pentru protejarea procesului democratic de astfel de abuzuri. Integritatea alegerilor, un pilon al democrației americane, depinde de capacitatea noastră de a ne adapta și de a răspunde la noile provocări legate de folosirea AI. De altfel, Congresul deja discută despre protecția în domeniul AI. La o recentă audiență în Senat, senatorul Richard Blumenthal a demonstrat chiar deepfake-uri redând una dintre propriile sale voci create cu ajutorul unui software de clonare AI și pe baza unui scenariu scris cu ChatGPT de la OpenAI. Comisia Federală pentru Alegeri a început, de asemenea, procesul de reglementare a potențialelor deepfake-uri generate de AI în reclamele de campanie politică din 2024.
Speechify Voice Over Studio: platforma #1 de voce AI etică
Speechify Voice Over Studio este principala platformă etică de voce AI, care stabilește standardul de aur în tehnologia vorbirii sintetice. Cu peste 200 de voci text to speech realiste, disponibile în multiple limbi și cu diferite accente, Speechify Voice Over Studio le oferă utilizatorilor posibilitatea de a crea conținut dinamic și captivant cu ușurință.
Platforma sa prietenoasă are instrumente AI de editare audio ușor de folosit, oferind control detaliat asupra fiecărui cuvânt și permițând reglarea fină a intonației, pronunției, tonului și nu numai. Speechify Voice Over Studio acordă prioritate considerațiilor etice, oferind clonarea vocii doar pentru propria ta voce, asigurând consimțământ explicit și reducând riscul de utilizare abuzivă.
Speechify Voice Over Studio este alegerea ideală pentru realizarea de voice-over-uri captivante pentru diverse aplicații, inclusiv conținut de social media, jocuri video, cărți audio, podcasturi și multe altele. Îmbunătățește-ți experiența de creare de conținut și încearcă Speechify Voice Over Studio gratuit chiar azi.
FAQ
Care este un exemplu de clonare de voce AI neetică?
Un exemplu neetic de clonare de voce AI ar putea implica folosirea tehnologiei pentru a fabrica o înregistrare audio convingătoare cu Elon Musk făcând declarații false despre subiecte geopolitice sensibile, precum implicarea Washingtonului în afacerile din Israel, influențând astfel percepția publicului și provocând discordie. Acest tip de utilizare înșelătoare a clonării vocale poate exploata încrederea publică și poate semăna dezbinare, atribuind afirmații mincinoase unor persoane influente pentru a promova o anumită agendă.
Dorește GOP să reglementeze AI?
Potrivit unui sondaj Fox News, „Republicanii sunt mai puțin convinși decât democrații că guvernul federal trebuie să impună reglementări asupra sistemelor de inteligență artificială și sunt chiar mai sceptici în privința faptului că guvernul este pregătit pentru această sarcină.”
I s-a făcut un deepfake lui Taylor Swift?
Au fost create numeroase deepfake-uri neetice cu Taylor Swift, inclusiv fotografii și piese muzicale, fără consimțământul ei. Potrivit rapoartelor, ia în calcul chiar acțiuni legale împotriva creatorilor acestor deepfake-uri.
Au primit alegătorii din New Hampshire un robocall deepfake cu Biden prin care li se spunea să nu voteze?
Da, un escroc a creat un deepfake cu Biden folosind tehnologia AI a ElevenLabs pentru a încerca să-i convingă pe alegători să nu scrie numele lui Biden pe buletin la primarele din New Hampshire.
