Foto: UNICEF
Društveni mediji imaju ogroman utjecaj na živote djece
Autor: Conor Lennon
Zapanjujuća količina štetnog online sadržaja generiranog umjetnom inteligencijom potaknula je hitan poziv iz cijelog sustava UN-a za niz mjera zaštite djece od zlostavljanja, iskorištavanja i mentalne traume.Cosmas Zavazava, direktor Ureda za razvoj telekomunikacija pri Međunarodnoj telekomunikacijskoj uniji (ITU) – jednoj od ključnih agencija koje su sastavile izjavu, koja uključuje smjernice i preporuke – katalogizira vrtoglav niz načina na koje su djeca ciljana.
To se proteže od groominga do deepfakeova, ugrađivanja štetnih značajki, cyberbullyinga i neprikladnog sadržaja: „Vidjeli smo da su tijekom pandemije COVID-19 mnoga djeca, posebno djevojčice i mlade žene, zlostavljana na internetu i, u mnogim slučajevima, to se pretvorilo u fizičke ozljede“, kaže.
Organizacije koje se zalažu za djecu izvještavaju da predatori mogu koristiti umjetnu inteligenciju za analizu djetetovog ponašanja na internetu, emocionalnog stanja i interesa kako bi prilagodili svoju strategiju prikupljanja djece.
Umjetna inteligencija također omogućuje počiniteljima generiranje eksplicitnih lažnih slika stvarne djece, što potiče novi oblik seksualnog iznuđivanja.
Globalni institut za sigurnost djece Childlight, neovisni globalni institut osnovan za prikupljanje najpouzdanijih dostupnih podataka o seksualnom iskorištavanju i zlostavljanju djece, u izvješću iz 2025. godine utvrdio je da su se slučajevi zlostavljanja djece uz pomoć tehnologije u SAD-u povećali s 4700 u 2023. na više od 67 000 u 2024. godini.
Australija prednjači
Države članice UN-a poduzimaju strože mjere dok saznaju o razmjerima i ozbiljnosti problema. Krajem 2025. Australija je postala prva nacija na svijetu koja je zabranila račune na društvenim mrežama za djecu mlađu od 16 godina, na temelju toga da rizici od sadržaja koji dijele daleko nadmašuju potencijalne koristi.
Vlada se pozvala na izvješće koje je sama naručila, a koje je pokazalo da je gotovo dvije trećine djece u dobi između 10 i 15 godina vidjelo sadržaj mržnje, nasilja ili uznemirujućeg sadržaja, a više od polovice je bilo žrtva elektroničkog nasilja. Većina ovog sadržaja viđena je na platformama društvenih mreža.
Nekoliko drugih zemalja, uključujući Maleziju, Ujedinjeno Kraljevstvo, Francusku i Kanadu, spremno je slijediti primjer Australije, pripremajući propise i zakone za slične zabrane ili ograničenja.
Nepismenost vezana uz umjetnu inteligenciju
Početkom 2026. godine, širok raspon tijela UN-a zainteresiranih za sigurnost djece potpisao je Zajedničku izjavu o umjetnoj inteligenciji i pravima djeteta, objavljenu 19. siječnja, koja ne ustručava opisivati rizike – i kolektivnu nesposobnost društva da se nosi s njima.
U izjavi se navodi nedostatak pismenosti u području umjetne inteligencije među djecom, učiteljima, roditeljima i skrbnicima, kao i nedostatak tehničke obuke za kreatore politika i vlade o okvirima umjetne inteligencije, metodama zaštite podataka i procjenama utjecaja na prava djeteta.
Odgovornost tehnoloških divova
Tehnološke tvrtke također su uključene: u izjavi se navodi da većina alata podržanih umjetnom inteligencijom koje proizvode – zajedno s njihovim temeljnim modelima, tehnikama i sustavima – trenutno nije dizajnirana imajući na umu djecu i njihovu dobrobit.
„Stvarno smo zabrinuti i željeli bismo da se privatni sektor uključi, da se angažira, da bude dio priče koju pišemo zajedno s drugim agencijama UN-a i drugim akterima koji vjeruju da tehnologija može biti pokretač, ali može i uništiti“, kaže Zavazava.
Visoki dužnosnik UN-a, međutim, uvjeren je da su te tvrtke predane tome da svoje alate učine sigurnijima.
„U početku smo imali osjećaj da su zabrinuti zbog gušenja inovacija, ali naša je poruka vrlo jasna: odgovornom primjenom umjetne inteligencije i dalje možete ostvariti profit, i dalje možete poslovati, i dalje možete steći tržišni udio.
Privatni sektor je partner, ali moramo upozoriti kada vidimo nešto što će dovesti do neželjenih ishoda.
Redovito imamo sastanke na kojima razgovaramo o njihovim odgovornostima, a neki od njih već imaju izjave o tome kako bi trebali zaštititi stanovništvo i djecu. Naša je dužnost zajedno se boriti protiv problema koji dolaze s tehnologijom.“
Pitanje dječjih prava
Dok tijela UN-a navedena u dokumentu (potpuni popis u nastavku) naglašavaju potrebu da te tvrtke osiguraju da su njihovi proizvodi dizajnirani tako da poštuju dječja prava, također pozivaju sve dijelove društva da preuzmu odgovornost za način na koji se koriste.
Ovo nije prvi put da se izražava zabrinutost iz perspektive prava: 2021. godine, novi
Konvenciji o pravima djeteta – temeljcu međunarodnog prava o pravima djeteta i najratificiranijem ugovoru o ljudskim pravima u povijesti – priložen je određeni tekst kako bi se odrazile opasnosti digitalnog doba.
Međutim, tijela UN-a smatraju da je potrebno više smjernica kako bi se pomoglo zemljama da učinkovitije reguliraju te su izradila sveobuhvatan popis preporuka.
„Djeca se koriste internetom u mlađoj dobi i treba ih zaštititi“, kaže g. Zavazava. Zato smo i izradili ove smjernice za zaštitu djece na internetu. Prvi dio smjernica namijenjen je roditeljima, drugi učiteljima, treći regulatorima, a četvrti je relevantan za industriju i privatni sektor.“
Preporuke ukratko
- Države bi trebale ojačati okvire upravljanja umjetnom inteligencijom kako bi podržale i zaštitile prava djece.
- Globalne organizacije potiču se da integriraju prava djece u sve politike i strategije povezane s umjetnom inteligencijom.
- Vlade i tvrtke moraju osigurati da su sustavi umjetne inteligencije transparentni, odgovorni i osmišljeni za zaštitu djece.
- Države su pod pritiskom da spriječe i riješe nasilje i iskorištavanje djece koje omogućuje ili pojačava umjetna inteligencija.
- Potrebne su snažnije mjere zaštite podataka usmjerene na dijete kako bi se zaštitila privatnost unutar sustava umjetne inteligencije.
- Odluke utemeljene na umjetnoj inteligenciji trebale bi dati prioritet najboljim interesima i holističkom razvoju svakog djeteta. Inkluzivna umjetna inteligencija bez predrasuda ključna je kako bi se osiguralo da sva djeca podjednako imaju koristi od novih tehnologija.