Što su deepfakeovi?
Deepfakeovi su rezultat umjetne inteligencije, točnije algoritama strojnog učenja i neuronskih mreža, koji služe izradi ili izmjeni video sadržaja. Ova tehnologija omogućuje stvaranje iznimno uvjerljivog, a zapravo lažnog sadržaja. Korištenjem dubokog učenja, posebno generativnih suparničkih mreža (GAN), deepfakeovi omogućuju zamjenu lica, sinkronizaciju usana i druge manipulacije koje mogu vrlo uvjerljivo preslikati izraze lica i glas jedne osobe na drugu.
Je li deepfake ilegalan?
Legalnost deepfakeova ovisi o tome kako se koriste. Tehnologija sama po sebi nije protuzakonita, ali njezina zlouporaba, osobito za prijevare, dezinformacije ili osvetničku pornografiju, može biti kažnjiva. Države poput Kalifornije i Virginije donijele su zakone protiv zlonamjerne uporabe deepfakeova, posebno u području izbora, pornografije i širenja lažnih informacija.
Zašto su deepfakeovi zabranjeni?
Deepfakeovi su zabranjeni ili ograničeni na brojnim platformama zbog rizika širenja lažnih informacija i potencijalne štete. Kad se zloupotrijebe, šire dezinformacije, služe za lažno predstavljanje ili prijevare. Na primjer, deepfake videi Marka Zuckerberga, Donalda Trumpa i Baracka Obame završili su u vijestima jer su dovodili gledatelje u zabludu i pokazali koliko ova tehnologija može izokrenuti stvarnost.
Možete li koristiti deepfake besplatno?
Da, nekoliko platformi i aplikacija nudi besplatan pristup deepfake tehnologiji. Ipak, besplatne verzije često imaju ograničene mogućnosti. Važno je paziti da se tehnologija ne zloupotrebljava i pridržavati se osnovnih etičkih pravila.
Kako nastaje deepfake?
Deepfakeovi koriste strojno učenje, osobito GAN-ove (generativne suparničke mreže). Proces uključuje enkoder za kompresiju slike i dekoder koji je dekomprimira i generira novu. S dva skupa podataka, npr. foto dviju osoba, enkoder uči komprimirati slike obiju, dok zajednički dekoder uči dekomprimirati. Tako nastaju hibridne slike zamjenom odlika između skupova.
Koji su rizici deepfakea?
Deepfakeovi mogu predstavljati brojne prijetnje:
- Dezinformacije i lažne vijesti: Obmanjujući sadržaj širi se društvenim mrežama i utječe na javno mnijenje.
- Prijevare: Kriminalci stvaraju uvjerljive deepfakeove kako bi prevarili pojedince ili tvrtke.
- Osvetnička pornografija: Zlonamjerni pojedinci lijepe tuđa lica na eksplicitni sadržaj.
- Politička manipulacija: Stvaraju se izmišljene izjave i lažne podrške političarima.
- Lažno predstavljanje u medijima: Poznate osobe poput Toma Cruisea i drugih hollywoodskih glumaca bile su imitirane, što izaziva zabunu i štetu.
Razlika između deepfakea i fotografije sređene u Photoshopu?
Iako se fotografije mogu digitalno uređivati u Photoshopu, deepfakeovi su prvenstveno usmjereni na video i koriste napredne algoritme za generiranje ili obradu videa. No, zbog tehnološkog napretka sve su češće i statične deepfake slike.
Najčešće primjene deepfakeova
Deepfakeovi, temeljeni na generativnoj AI tehnologiji, imaju razne primjene – i korisne i kontroverzne. Među najpoznatijima su:
- Zabava: Deepfakeovi se koriste u filmovima, virtualnoj stvarnosti i videoigrama za izradu realističnih likova i scena.
- Novinarstvo i edukacija: Mogu se simulirati autentične scene za obrazovanje ili istraživačko novinarstvo, ali pritom otvaraju važna etička pitanja.
- Korporativna obuka: Simulacija realnih scenarija za edukaciju zaposlenika može biti učinkovitija i jeftinija uz pomoć deepfakea.
- Sintetiziranje glasa: Deepfake nije ograničen samo na vizualni dio; može imitirati glas za audio knjige, podcaste ili digitalne asistente.
- Deepfake kao usluga: Neki servisi nude alate za izradu personaliziranih video poruka, često s vodenim žigom kako bi se označio sintetički sadržaj.
Deepfakeovi u vijestima
Deepfakeovi su izazvali puno polemika jer se koriste za izradu lažnih slika i videa, što otvara etičke i pravne dvojbe. Upotrijebljeni su za prijevare, napade i širenje dezinformacija. Godine 2021. ruski deepfake video američkog političara izazvao je političke napetosti i dospio u fokus CNN-a, The Guardiana i The Washington Posta, koji redovito analiziraju utjecaj deepfakeova na društvo, uključujući i američku politiku.
Deepfake sadržaj doista se može izraditi na raznim platformama. Za visokokvalitetne deepfakeove često je potreban snažan hardver na Windows ili Mac računalima, ali jednostavnije verzije mogu se izraditi i na Android uređajima. Dostupno je više softverskih paketa za svaku platformu; neki dodaju vodene žigove radi lakšeg prepoznavanja deepfakea.
S obzirom na njihov utjecaj, važna je uloga medija poput CNN-a, The Guardiana i The Washington Posta u informiranju javnosti o odgovornoj uporabi deepfakeova i opasnostima njihove zlouporabe, osobito kod lažnih slika i videa.
Ukratko, deepfakeovi otvaraju velike mogućnosti za različite industrije, ali nose i značajne rizike. Potrebno je biti oprezan i razmotriti etičke posljedice pri istraživanju ove moćne tehnologije.
Top 8 deepfake softvera ili aplikacija:
- DeepFaceLab: Najčešće se koristi za izradu deepfake videa, osobito je popularan u Reddit zajednici.
- FaceSwap: Open-source alat za izradu deepfakeova.
- ZAO: Kineska aplikacija poznata po vrlo uvjerljivim deepfake mogućnostima.
- DeepArt: Pretvara slike u stil poznatih umjetničkih djela korištenjem deep learninga.
- DeepDream: Googleov projekt koji slike pretvara u snovitu umjetnost putem neuronskih mreža.
- ThisPersonDoesNotExist: Generira realistične slike nepostojećih osoba pomoću GAN-ova.
- Deepware Scanner: Alat za otkrivanje deepfakeova i prepoznavanje manipuliranog sadržaja.
- DeepTrace: Sigurnosna tvrtka s alatima za otkrivanje i borbu protiv zlonamjernih deepfakeova.
Deepfakeovi, kao i svaka tehnologija, donose i mogućnosti i rizike. Kako se njihovo otkrivanje poboljšava zahvaljujući Microsoftu i MIT-u, utrka protiv dezinformacija se nastavlja.
