Umjetna inteligencija mijenja način na koji kriminalci proizvode, distribuiraju i monetiziraju seksualizirani dječji sadržaj, upozorava Globalna inicijativa protiv transnacionalnog organiziranog kriminala (GI-TOC). Ističu da najveći izazov nije samo razvoj novih tehnologija, već činjenica da kriminalna upotreba AI alata napreduje puno brže od zakona, institucija i istražnih kapaciteta, izvještava BIRN BiH.
Prema riječima Anese Agović Đozo, više analitičarke Globalne inicijative protiv transnacionalnog organiziranog kriminala i jedne od autorica izvješća "Zlostavljanje u velikim razmjerima: Umjetna inteligencija preoblikuje seksualno iskorištavanje djece", generativna umjetna inteligencija značajno je smanjila tehničke i financijske prepreke stvaranju uvjerljivih seksualiziranih prikaza djece.
- Fotografije preuzete s društvenih mreža sada se mogu brzo izmijeniti, seksualizirati ili uključiti u potpuno sintetički sadržaj bez djetetovog znanja - kaže Agović Đozo.
Dodaje da su postojeći zakoni i alati za detekciju uglavnom razvijeni u razdoblju kada je fokus bio na fotografskom materijalu stvarnog zlostavljanja, dok smo danas suočeni s masovnom proizvodnjom sintetičkog i manipuliranog sadržaja.
Izvješća međunarodnih organizacija upozoravaju da se količina materijala o seksualnom zlostavljanju djece (CSAM) generiranog umjetnom inteligencijom naglo povećala posljednjih godina. Procjenjuje se da je najmanje 1,2 milijuna djece korišteno kao lik za stvaranje takvog sadržaja.
Prema analizi GI-TOC-a, sintetički CSAM možda neće zamijeniti stvarni materijal o zlostavljanju, ali može proširiti tržište, povećati potražnju, normalizirati seksualizaciju djece i olakšati prijelaz počinitelja na teže oblike nasilja.
Livia Wagner, voditeljica osoblja i tematska voditeljica za trgovinu ljudima u GI-TOC-u i jedna od autorica izvješća, objašnjava da se online seksualno iskorištavanje djece prije često povezivalo sa zatvorenim zajednicama u kojima su ključnu ulogu igrali pojedinci s određenim tehničkim znanjem. Međutim, posljednjih godina primjetan je trend industrijalizacije kriminalnih aktivnosti u raznim područjima kibernetičkog kriminala.
- Umjetna inteligencija dio je ovog procesa jer omogućuje stvaranje ekosustava u kojem se različiti akteri mogu specijalizirati za različite funkcije unutar kriminalnog lanca - kaže Wagner.
Ova specijalizacija može uključivati stvaranje sadržaja, distribuciju, financijske usluge, odabir žrtava, regrutiranje djece, administraciju platforme i druge aktivnosti.
- To kriminalne mreže čini otpornijima, jer različiti sudionici preuzimaju različite uloge, a pojedinci postaju zamjenjivi - ističe Wagner.
Agović Đozo dodaje da zlouporabu AI alata i dalje mogu provoditi pojedinci ili manje zatvorene online zajednice, jer generativni alati omogućuju proizvodnju sadržaja bez naprednog tehničkog znanja.
Istovremeno, kaže, primjetna je profesionalizacija i komercijalizacija ovog kriminalnog tržišta.
- Ne bih rekao da organizirane kriminalne skupine u potpunosti preuzimaju ovo područje od pojedinaca. Radije se radi o pojavi slojevitog tržišta u kojem pojedinačni počinitelji, tehnički posrednici, administratori platformi, pružatelji AI alata, distributeri i financijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se ne poznaju - kaže Agović Đozo.
Promjena se ogleda u pomaku prema modelima kriminala kao usluge, gdje kriminalci više ne moraju sami razvijati tehnologiju niti posjedovati posebne vještine. Mogu koristiti gotove AI modele, chatbot usluge, aplikacije za manipulaciju fotografijama, platforme za pretplatu te infrastrukturu za distribuciju i naplatu.
Prema izvješću, umjetna inteligencija se sada koristi u raznim fazama seksualnog iskorištavanja djece, od stvaranja lažnih identiteta i automatiziranog regrutiranja žrtava do proizvodnje i distribucije sadržaja.
Međunarodne policijske operacije pokazale su razmjere problema. Operacija Cumberland, koju su 2025. godine vodile vlasti iz 19 zemalja, razotkrila je jednu od prvih transnacionalnih mreža za distribuciju CSAM sadržaja generiranog umjetnom inteligencijom, identificirajući gotovo 300 korisnika diljem svijeta. Operacija „Baklja“ u srpnju 2026. rezultirala je uhićenjima u nekoliko europskih zemalja.
Detektor je prethodno pisao o prvom uhićenju u Banjoj Luci zbog dječje pornografije generirane umjetnom inteligencijom.
Agović Đozo smatra da je jedan od najvećih propusta tehnoloških tvrtki to što se sigurnost djece često tretira kao dodatna funkcija, umjesto kao temeljno načelo razvoja proizvoda. Tvrtke, kaže, ulažu ogromna sredstva u brzinu, kvalitetu i dostupnost modela, dok se testiranje zlostavljanja, zaštita dječjih podataka i sprječavanje seksualiziranog sadržaja često razvijaju tek nakon što je šteta već učinjena.
Zato smatra da tvrtke moraju biti obvezne provesti detaljne procjene rizika prije izdavanja novih sustava umjetne inteligencije.
- Princip mora biti jednostavan i proizvod koji se može masovno zloupotrijebiti za seksualno iskorištavanje
Prisutnost djece ne bi trebala biti dostupna bez odgovarajuće zaštite - naglašava Agović Đozo.
Europska unija poduzela je određene korake kroz regulaciju koja zabranjuje aplikacije za nudistiku i AI sustave koji stvaraju materijal o seksualnom zlostavljanju djece ili prikazuju intimne dijelove tijela bez pristanka. Međutim, istraživanje upozorava da regulatorni sustavi često ne mogu pratiti brzinu tehnoloških promjena.
- Države reagiraju, ali još uvijek uglavnom reaktivno. Kriminalci mogu testirati i prilagoditi novi alat u roku od nekoliko dana, dok izmjena zakona, obuka tužitelja i policije, nabava forenzičkih alata i međunarodno usklađivanje često traju godinama - naglašava sugovornica.
Kao najvažniju mjeru zaštite, Livia Wagner izdvaja veću odgovornost tehnoloških tvrtki, ali naglašava da se problem ne smije promatrati isključivo kao tehnološki izazov. Ne postoji univerzalno rješenje, tvrdi, i problem je potrebno promatrati kroz okvir globalne odgovornosti.
Prema njezinim riječima, tvrtke koje razvijaju i implementiraju napredne AI sustave moraju sustavno procijeniti rizike za sigurnost djece, provesti mjere za njihovo ublažavanje i dokazati da su te mjere učinkovite.
- Govorimo o djeci koja su najranjivija na online iskorištavanje, ali često su jednako ranjiva i izvan digitalnog okruženja. To je pitanje razvoja, socijalne isključenosti, slabih sustava zaštite, nejednakosti spolova, ali i digitalne pismenosti - naglašava.
Zaključuje da se tehnologija brzo razvija i teško je predvidjeti kako će izgledati u budućnosti, ali da se već sada može zaključiti da su postojeće društvene i ekonomske ranjivosti često odlučujući faktor od same tehnologije. Također upozorava na činjenicu da kriminalne mreže djeluju globalno, dok regulacija, kazneni progon i pomoć žrtvama uvelike ostaju odgovornost pojedinačnih država.
Stoga su, prema njezinim riječima, potrebni jači mehanizmi za međunarodnu razmjenu podataka, usklađivanje pravnih standarda i veće uključivanje tehnološkog i fintech sektora.
Detektor je ranije pisao da je Europski parlament podržao prijedlog kojim bi se aplikacije poput WhatsAppa, Signala i drugih usluga s end-to-end enkripcijom izuzele od automatskog skeniranja privatnih poruka u potrazi za materijalima o seksualnom zlostavljanju djece.
Konačnu riječ sada ima Vijeće Europske unije, koje će u sljedeća tri mjeseca odlučiti hoće li prihvatiti ovaj pristup ili će uslijediti novi pregovori o pravilima koja pokušavaju uskladiti zaštitu djece i pravo građana na privatnu komunikaciju.
Otvori KEKS Pay
