Posljednjih godina nagli uspon AI deepfake tehnologije privukao je pažnju javnosti i stručnjaka. Kao netko koga zanima spoj tehnologije i društva, sve me više fascinira kako umjetna inteligencija (AI) stvara uvjerljiv, ali potpuno lažan digitalni sadržaj. Od deepfake videa do AI-generiranih slika, mogućnosti AI-a čine se gotovo bezgraničnima. No takav napredak otvara i važna pitanja o dezinformacijama, kibernetičkoj sigurnosti i etičkoj upotrebi AI-a.
Što su deepfakeovi?
Deepfakeovi su izrazito uvjerljive digitalne krivotvorine stvorene pomoću AI-a, posebice generativnih AI modela i algoritama dubokog učenja. Ove tehnologije mogu mijenjati zvuk, video i slike kako bi proizvele sadržaj koji izgleda stvarno, iako je u potpunosti lažan. Primjerice, deepfake videi mogu zamijeniti lica ili imitirati glas poznatih osoba, što otežava razlikovanje između pravog i lažnog.
Neki od najpoznatijih deepfakeova
- Mark Zuckerberg deepfake: U široko dijeljenom videu CEO Facebooka Mark Zuckerberg hvali se nadzorom nad milijardama podataka ljudi. Ovaj lažni video, napravljen zamjenom lica, ukazao je na opasnosti deepfakeova te privukao pažnju medija, uključujući i BBC.
- Barack Obama deepfake: Deepfake video bivšeg američkog predsjednika Baracka Obame, koji su izradili Jordan Peele i BuzzFeed, postao je viralan. U njemu Obama izgovara šokantne izjave, a kasnije je otkriveno da ih je generirao AI. Ovaj slučaj pokazao je kako lažni videi mogu širiti dezinformacije.
- Tom Cruise TikTok deepfakeovi: Serija deepfake videa s glumcem Tomom Cruiseom pojavila se na TikToku, prikazujući vrlo realističnu zamjenu lica. Ti su lažni videi zavarali mnoge gledatelje.
- Izmijenjeni video Nancy Pelosi: Video američke predsjednice Zastupničkog doma Nancy Pelosi usporen je tako da djeluje pijano ili bolesno. Iako nije klasični deepfake, ova manipulacija postala je viralna i potaknula rasprave o etici medija. Incident su prenijeli i New York Times.
- Deepfake premijerke Belgije: Deepfake video na kojem premijerka Belgije Sophie Wilmès lažno povezuje COVID-19 s okolišnim problemima. Video je izradila neprofitna organizacija kako bi alarmirala javnost o klimatskim promjenama, no otvorio je i etička pitanja korištenja lažnih videa.
- Indijski političar Manoj Tiwari deepfake: Tijekom izbora u Indiji kružio je deepfake video političara Manoja Tiwarija kako govori na više jezika. Korištenje zamjene lica i deepfake tehnologije u politici pokazalo je koliko se može utjecati na javno mnijenje i ishod izbora.
- Segment Johna Olivera o deepfakeovima: U emisiji "Last Week Tonight" John Oliver govorio je o deepfakeovima i prikazao lažni video samoga sebe. Cilj je bio educirati javnost o opasnostima deepfakeova.
Ovi slučajevi naglašavaju utjecaj i etičke dvojbe oko deepfake tehnologije, kao i njezin potencijal za širenje dezinformacija i manipuliranje percepcijom.
Uloga strojnog učenja i neuronskih mreža
U srži deepfake tehnologije nalaze se strojno učenje i neuronske mreže. Ti AI modeli treniraju se na velikim količinama podataka kako bi prepoznali obrasce i stvarali realističan sadržaj. Analizirajući tisuće slika i videa, modeli mogu kreirati vrlo uvjerljive deepfake slike i AI-generirane videe. Tvrtke poput OpenAI-a i Microsofta predvode razvoj naprednih AI alata.
Utjecaj deepfakeova na društvo
Iako je tehnologija iza deepfakeova impresivna, potencijal za zlouporabu itekako zabrinjava. Deepfake videi i lažne slike mogu masovno širiti dezinformacije, posebno na društvenim mrežama. Primjerice, deepfake javne osobe kao što je Donald Trump može izazvati pomutnju i utjecati na javnost.
Kibernetička sigurnost i prijetnja deepfakeova
Širenje deepfake tehnologije donosi i ozbiljne rizike za kibernetičku sigurnost. Zlonamjerni pojedinci deepfakeove koriste za prijevare, ucjene i druge kaznene radnje. Primjerice, deepfake direktora s lažnim nalozima može zavesti zaposlenike ili ulagače. Za zaštitu su potrebni napredni alati za otkrivanje deepfakeova i snažne sigurnosne mjere.
Borba protiv deepfakeova
Organizacije i vlade poduzimaju korake kako bi se suprotstavile izazovima deepfakeova. EU, primjerice, razmatra regulative za suzbijanje deepfake dezinformacija. Tehnološke tvrtke razvijaju AI sustave za otkrivanje i označavanje deepfake sadržaja, čime pomažu korisnicima razlikovati stvarne slike od manipuliranih.
Budućnost deepfake tehnologije
S razvojem AI-a mogućnosti deepfakeova iz dana u dan rastu. Startupi i velike AI tvrtke razvijaju nove primjene, od stvaranja avatara za digitalne medije do uporabe u filmskim efektima. No takav napredak traži odgovornu upotrebu i razvoj sigurnosnih alata protiv zloupotrebe deepfakeova.
AI deepfakeovi predstavljaju izvanredan tehnološki iskorak s dalekosežnim posljedicama. Nude kreativne mogućnosti, ali i brojne izazove – od dezinformacija do kibernetičke sigurnosti i etike. Nužno je uskladiti inovaciju i odgovornost te osigurati da AI doista služi društvu u cjelini.
