U svijetu kriminala, prevaranti i varalice su među najlukavijim i najkreativnijim kriminalcima. Neprestano izmišljaju nove načine krađe osobnih podataka, prevara i krađe novca. S porastom komunikacijskih platformi poput društvenih medija prevaranti i kradljivci identiteta imaju više prilika nego ikad prije. Od djece do starijih osoba, nitko nije pošteđen. Od 2020. godine, novac koji su izgubile žrtve mlađe od 20 godina značajno se povećao. U 2023. godini, primjerice, žrtve mlađe od 20 godina izgubile su ukupno 312 milijuna dolara, što je nagli porast u usporedbi s prethodnim godinama. Međutim, starije osobe su najviše žrtvovana skupina, izgubivši preko 4,8 milijardi dolara u 2024. godini. Samo u 2024. godini, gubici od krađe identiteta i prijevara dosegli su 47 milijardi dolara, što je 4 milijarde dolara više nego prethodne godine, a to je, pak, utjecalo na 40 milijuna žrtava - milijun više nego u 2023. godini. S ovim povećanim ciljanjem obitelji i djece, važnije je nego ikad biti svjestan najnovijih prijevara - i kako se boriti protiv njih. Brojna istraživanja su provedena kako bi rasvijetlila različite sheme prijevara, kako ih prepoznati i korake koji se mogu poduzeti kako bismo se zaštitili. No kriminalci su, čini se, uvijek korak i ne libe se prevariti ni najmlađe.
Plodno tlo za prijevare
Drugim riječima, tamo gdje se djeca povezuju i igraju, prevaranti vrebaju. Bez obzira prenose li TikTok videozapis, snimaju fotografije putem Snapchata, šalju videosnimke svojim prijateljima na Instagramu ili igraju igrice na svom telefonu, društvene mreže i mobilne aplikacije igraju ključnu ulogu u životima djece. I iako pružaju niz prilika za djecu da se povežu s prijateljima i influencerima, one također mogu poslužiti kao plodno tlo za prijevare.
Djeca i tinejdžeri na društvenim mrežama često su žrtve prevaranata koji samo čekaju ukrasti njihove osobne, financijske podatke ili fotografije koje se mogu koristiti za ucjenjivanje. Jedna od najpopularnijih shema uključuje prevarante koji se predstavljaju kao legitimne stranice ili influenceri i nude nagradne igre, tombole ili priliku za kupnju artikala s nevjerojatnim popustom. Nesvjesni da se radi o lažnom računu, djeca zatim kliknu na poveznicu koja ih zatim potiče da unesu osjetljive podatke poput e-pošte i lozinke, podataka o društvenim mrežama ili podataka o kreditnoj kartici. Ove zlonamjerne poveznice također mogu preuzeti zlonamjerni softver na njihov uređaj, koji će zatim ukrasti osobne podatke pohranjene na tom uređaju. Prevaranti se također mogu predstavljati kao vršnjaci slične dobi koji započinju prijateljstvo s ciljanim djetetom ili tinejdžerom, na kraju ih uvjeravajući da otkriju osobne podatke ili im čak izravno pošalju uplate.
Seks iznuda
Najopakija i najopasnija prijevara poznata je kao "seks iznuda". U ovoj prijevari, prevarant će se s djetetom ostvariti romantični kontakt odnosno započeti online vezu s ciljanim djetetom. Zatim će poslati svoje eksplicitne fotografije, uglavnom lažne, i tražit će eksplicitne fotografije zauzvrat. Nakon što dijete pošalje te fotografije, prevarant će zaprijetiti da će poslati eksplicitne fotografije prijateljima i obitelji djeteta osim ako im dijete ne pošalje novac ili još eksplicitniji materijal. Nažalost, ova je prijevara vrlo česta i može biti posebno opasna za mentalno zdravlje djece jer ona često osjećaju sram i tjeskobu, što čak može rezultirati pokušajima samoubojstva i samoozljeđivanja, za što nažalost također postoje brojni primjeri.
Predatori se, pritom, služe lažnim identitetima, manipulacijom i emocionalnim taktikama kako bi stekli povjerenje prije nego što iznesu zlonamjerne zahtjeve. Vješti su u obmanjivanju, znaju kako manipulirati djecom da im vjeruju.
Federico Becchetti, zamjenik voditelja Interpolovog odjela za zločine protiv djece kaže da je umjetna inteligencija jako utjecala na zločine protiv djece. Interpol se sve češće susreće sa seksualnim iznudama pri kojima se ustvari koriste nevine fotografije djece. Uz pomoć AI tim se fotografijama manipulira kako bi se ucijenilo djecu. Dok nisu imali pomoć umjetne inteligencije, kriminalci su se trebali puno više pomučiti, a sada uz umjetnu inteligenciju vrlo jednostavno uzmu nečiju fotografiju, promijene je, uklone odjeću i tako mogu ucjenjivati dijete. Istražitelji također imaju puno više posla u otkrivanju jesu li slike generirane umjetnom inteligencijom ili su stvarne, a kako se videomaterijali i fotografije producirane uz pomoć Ai sve više usavršavaju to postaje gotovo nemoguća misija. U moru takvih videa i fotografija, istražiteljima je potrebno jako puno vremena da razluče što je što te imaju puno manje vremena da se fokusiraju na stvarne istrage.
Količina je zastrašujuća
„Količina i ozbiljnost materijala proizvedenog umjetnom inteligencijom je zastrašujuća. Zlostavljači mogu koristiti takve fotografije djece za financijsku ucjenu zauvijek. Više ni ne moraju zadobivati povjerenje maloljetnika već samo uzmu sliku i izmanipuliraju je. Zbog toga su kontinuirani razgovori između roditelja i djece od ključne važnosti. Što su djeca upućenija, to je manja vjerojatnost da će postati žrtve. Komunikacija je najmoćniji alat kojim roditelji raspolažu u zaštiti djece na internetu“, kaže Becchetti. Navodi primjer 15-godišnjeg djeteta koje je počinilo samoubojstvo jer se nije moglo nositi sa sramotom zbog objave kompromitirane fotografije koja uopće nije bila stvarna, već generirana umjetnom inteligencijom. Becchetti drži da moramo stvoriti okruženje u kojem će se djeca moći povjeriti odraslima te znati da ako se slučajno dogodi da ili nekome doista pošalju svoje slike ili njihove slike budu generirane uz ponoć AI, to nije nešto što se dogodilo samo njima.
Interpolova baza podataka o seksualnom zlostavljanju i iskorištavanju djece (CSAM - Child Sexual Abuse Material) sadrži 6,7 milijuna slika i videozapisa te je pomogla u identificiranju gotovo 65.200 žrtava diljem svijeta. Materijal koji prikazuje seksualno zlostavljanje djece generiran umjetnom inteligencijom (AI-CSAM ili sintetički CSAM) predstavlja zlouporabu tehnologije generativnog AI-ja za stvaranje, izmjenu ili širenje eksplicitnog sadržaja koji prikazuje maloljetnike. Suprotno ranijim zabludama da je riječ o djelu bez stvarnih žrtava, stručnjaci, institucije i zakoni jasno definiraju AI-CSAM kao teški oblik zlostavljanja i iskorištavanja djece koji nanosi stvarnu i trajnu štetu.
Ngaire Alexander, voditeljica Hotlinea u neprofitnoj organizaciji Internet Watch Foundation kaže da je AI CSAM sve rašireniji, sve ekstremniji i sve sofisticiraniji. Realističan videoopostosadržaj u punom pokretu s umjetnom inteligencijom sada je uobičajen. Čak 65 posto videozapisa (ukupno 2233) koje je IWF identificirao prošle godine klasificirano je kao najekstremnija klasifikacija. Uz to, IWF analitičari su identificirali AI generirane slike seksualnog zlostavljanja djece koje se dijele na AI chatbot uslugama, što potiče korisnike da odglume simulirane scenarije seksualnog zlostavljanja djece. Internet Watch Foundation (IWF) s interneta uklanja materijale seksualnog zlostavljanja djece. U prvih šest mjeseci ove godine pronašli su 6.310 takvih slika izrađenih umjetnom inteligencijom, 40 posto više nego u cijeloj prošloj godini, a na čak 98 posto njih prikazane su djevojčice
Napredak u umjetnoj inteligenciji potaknuo je konvergenciju alata koji su prije zahtijevali odvojene mogućnosti. Pojedinačne aplikacije sada mogu generirati uvredljive slike uz minimalan napor, uklanjajući potrebu za tehničkom stručnošću i značajno smanjujući prepreke za ulazak. Iako je udio materijala generiranog umjetnom inteligencijom i dalje relativno malen među ogromnom količinom CSAM-a s kojim analitičari IWF-a svake godine postupaju, količina i ozbiljnost AI slika eksponencijalno se povećavaju.
Seksualne slike djece generirane umjetnom inteligencijom uzrokuju stvarnu i trajnu štetu žrtvama - čak i ako se prikazano fizičko zlostavljanje nije dogodilo. Iz perspektive žrtve ili preživjele, bez obzira na to je li slika nastala s kamere ili iz softvera, utjecaj je duboko traumatičan i predstavlja kršenje njihovog prava na slobodu od mučenja i nečovječnog ili ponižavajućeg postupanja, stav je IWF-a.
Povlačenje u sebe
Osjećaj srama, poniženja, ljutnje, tjeskobe i dubokog kršenja prava dovode do povlačenja djece u sebe, a postaje im i teško vjerovati drugima. Ključna značajka slika seksualnog zlostavljanja djece je njihova trajnost: nakon što se slika ili videozapis pojave online, mogu se beskonačno kopirati, mijenjati i distribuirati, ostavljajući žrtve bez osjećaja kontrole. U siječnju 2026. Mara Wilson - koja je bila dječja glumica u filmu Matilda – rekla je da je bila žrtva CSAM-a generiranog umjetnom inteligencijom i to je opisala kao "gubitak kontrole nad vlastitom pričom". Godišnje istraživanje Girlguidinga iz 2024. pokazalo je da je 59 posto djevojčica i mladih žena u dobi od 11 do 21 godine zabrinuto da bi se umjetna inteligencija mogla koristiti za stvaranje lažnih slika o njima ili za njihovo lažno predstavljanje na internetu. Ovu zabrinutost odražavaju i podaci iz 2026. britanskog Centra za sigurniji internet, koji su otkrili da je 60 posto mladih zabrinuto zbog toga da netko koristi umjetnu inteligenciju za stvaranje neprikladnih slika o njima, 61 posto mladih u dobi od 13 do 17 godina zabrinuto je zbog vršnjaka koji generiraju seksualne slike drugih mladih ljudi, a čak 63 posto djece u dobi od 8 do 12 godina dijeli taj strah. Takvi slučajevi ilustriraju kako alati umjetne inteligencije mogu reproducirati i pojačati mizoginiju unutar online okruženja, smanjujući prepreke zlostavljanju i ubrzavajući proizvodnju štetnog materijala u velikim razmjerima.
Također je važno napomenuti da kada je riječ o slikama seksualnog zlostavljanja djece, šire gledano, dječaci također pate od rodno uvjetovanog nasilja i zlouporabe moći. Mlađi dječaci češće se pojavljuju u komercijalno produciranom i distribuiranom materijalu o zlostavljanju od djevojčica. IWF je primijetio da su tinejdžeri posebno meta seksualno motivirane iznude, zločina koji može također biti potpomognut tehnologijom umjetne inteligencije.
Godine 2024. Južna Koreja suočila se s krizom golemih razmjera vezanom uz seksualno zlostavljanje putem sadržaja generiranog umjetnom inteligencijom; stvorene su i distribuirane tisuće „deepfake” slika posredstvom koordiniranih mreža na Telegramu, a slučajevi su zabilježeni u više od 200 škola, sveučilišta, pa čak i u vojsci. Tinejdžeri i mladi u dvadesetim godinama činili su 92 posto žrtava, pri čemu su djevojke i mlade žene bile primarne mete. Šokantno, više od 80 posto uhićenih bili su također tinejdžeri.
Opseg, brzina i hiperlokalno ciljanje zlostavljanja potaknuli su vladu u Južnoj Koreji da kriminalizira posjedovanje i gledanje lažnog seksualnog materijal te poveća postojeće kazne za stvaranje i dijeljenje sadržaja ove prirode.
U veljači 2025., Europol je podržao vlasti iz 19 zemalja u „Operaciji Cumberland“, suradničkoj operaciji velikih razmjera koja je dovela do identificiranja 273 osumnjičenika i 25 uhićenja diljem svijeta. Osumnjičeni su bili dio međunarodne kriminalne skupine čiji su članovi bili uključeni u distribuciju CSAM-a u potpunosti generiranog umjetnom inteligencijom.
Što kaže zakon?
Europol je tada primijetio da je ovo jedan od prvih slučajeva u svijetu gdje je nedostatak nacionalnog zakonodavstva koje se bavi CSAM-om generiranim umjetnom inteligencijom učinio cijelu stvar iznimno izazovnom za istražitelje. Ujedinjeno Kraljevstvo, primjerice, ima robustan pravni okvir koji kriminalizira stvaranje, posjedovanje i distribuciju CSAM-a, uključujući sadržaj generiran umjetnom inteligencijom; u Sjedinjenim Državama, savezni zakon ostaje fragmentiran, a najveći napredak postiže se na državnoj razini, dok u Europskoj uniji trenutačno ne postoji jedinstvena zabrana CSAM-a generiranog umjetnom inteligencijom te se pravne definicije razlikuju među državama članicama.
Direktiva o seksualnom zlostavljanju djece (preinaka Direktive 2011/93/EU)52 ima potencijal za potpunu kriminalizaciju CSAM-a generiranog umjetnom inteligencijom, iako Vijeće EU-a predlaže izuzeće za „osobnu upotrebu“, stvarajući potencijalnu rupu u zakonu. Zakon o umjetnoj inteligenciji (2024.) uspostavlja usklađeni okvir EU-a za umjetnu inteligenciju, prepoznajući CSAM kao sistemski rizik i zahtijevajući od pružatelja usluga da provedu mjere za ublažavanje rizika.
Godine 2025. IWF je identificirao 3443 videozapisa seksualnog zlostavljanja djece generirana umjetnom inteligencijom, što predstavlja porast od 26.385 posto u odnosu na prethodnu godinu, kada je zabilježeno svega 13 takvih videozapisa. Od toga je 65 posto (2233 videozapisa) klasificirano u kategoriju A – najtežu pravnu kategoriju prema zakonodavstvu Ujedinjenog Kraljevstva, koja obuhvaća kaznena djela poput silovanja, seksualnog mučenja i bestijalnosti. Nadalje, 30 posto (1027 videozapisa) svrstano je u kategoriju B, drugu najtežu klasifikaciju. Usporedbe radi, tijekom cijele 2025. godine 43 posto videozapisa s kaznenim sadržajem koje je IWF pregledao, a koji nisu bili generirani umjetnom inteligencijom, pripadalo je kategoriji A – što pokazuje da se umjetna inteligencija koristi za stvaranje nasilnijeg sadržaja.
Dražen Najman
Članak je objavljen uz financijsku potporu Agencije za medije iz Programa poticanja novinarske izvrsnosti.
Photo by Giovanni Gagliardi on Unsplash