Malezija i Indonezija blokirale su pristup chatbotu umjetne inteligencije (AI) Elona Muska, nazvanom Grok, zbog njegove sposobnosti generiranja seksualno eksplicitnih deepfake sadržaja, odnosno lažnih fotografija i videosnimki. Grok, dostupan na Muskovoj platformi X, omogućuje korisnicima generiranje slika, no u posljednje vrijeme korišten je za uređivanje fotografija stvarnih osoba, pri čemu ih se prikazuje u provokativnoj odjeći.
Vlasti u jugoistočnoj Aziji upozorile su da bi Grok mogao biti korišten za izradu pornografskih i neovlaštenih slika žena i djece, zbog čega su Malezija i Indonezija postale prve zemlje na svijetu koje su zabranile korištenje tog AI alata. Pritisak za blokadu Groka raste i u Velikoj Britaniji, gdje je državni tajnik za tehnologiju izjavio da bi podržao takav potez. To je Muska potaknulo da optuži britansku vladu za pokušaj gušenja slobode govora. Ministarstva komunikacija Malezije i Indonezije objavila su odluke o blokadi Groka u odvojenim priopćenjima tijekom vikenda.
Malezijska komisija za komunikacije i multimediju navela je da je ranije ove godine uputila upozorenja platformi X, zahtijevajući strože mjere nakon što je utvrdila „ponovljene zlouporabe“ Groka za generiranje štetnog sadržaja. Prema regulatoru, platforma X nije se bavila inherentnim rizicima dizajna svoje platforme, već se uglavnom oslanjala na sustav prijave korisnika.
Indonezijska ministrica za komunikacije i digitalna pitanja Meutya Hafid istaknula je na Instagramu da korištenje Groka za seksualno eksplicitne sadržaje predstavlja kršenje ljudskih prava, dostojanstva i sigurnosti na internetu. Ministarstvo je također zatražilo dodatna pojašnjenja od platforme X o načinu korištenja Groka. Indonezijske vlasti posljednjih su godina pooštrile nadzor nad internetskim pornografskim sadržajima, uključujući zabranu platformi poput OnlyFansa i Pornhuba.
Korisnici platforme X u Indoneziji, čije su fotografije bile manipulirane, izrazili su nezadovoljstvo što je takva zlouporaba bila moguća. Kirana Ayuningtyas, korisnica invalidskih kolica koja na društvenim mrežama objavljuje sadržaje o svakodnevnom životu, otkrila je da je nepoznata osoba komentirala njezinu fotografiju, zatraživši od Groka da je prikaže u bikiniju. Unatoč promjenama postavki privatnosti i zahtjevima platformi za uklanjanje fotografija, manipulacije nisu u potpunosti spriječene, a objavljivanje lažnih slika izazvalo je dodatnu nelagodu.
Uporabu Groka za stvaranje seksualiziranih slika osudili su i svjetski čelnici, uključujući britanskog premijera Keira Starmera, koji je takvu praksu nazvao „sramotnom“ i „odvratnom“.
Britanska ministrica znanosti, tehnologije i inovacija Liz Kendall također je izjavila da bi podržala regulatora Ofcom u blokadi pristupa platformi X u Velikoj Britaniji ako se ne budu poštovali zakoni o internetskoj sigurnosti, naglasivši da Zakon o online sigurnosti omogućuje blokadu usluga koje odbijaju poštovati britanske propise.
Otvori KEKS Pay
