Një gjykatë në Amsterdam ka urdhëruar chatbot-in Grok, i zhvilluar nga kompania xAI e Elon Musk, që të ndalojë menjëherë gjenerimin e imazheve nudo dhe materialeve që përbëjnë abuzim seksual ndaj fëmijëve. Vendimi parashikon gjoba prej €100.000 për çdo ditë moszbatimi, deri në një maksimum prej 10 milionë eurosh.
Gjykatësi holandez theksoi se gjenerimi dhe shpërndarja e përmbajtjes së seksualizuar është i ndaluar kur funksionaliteti për “zhveshjen” e personave përdoret pa pëlqimin e tyre të qartë. Po ashtu, u ndalua çdo gjenerim që, sipas ligjit holandez, klasifikohet si material i abuzimit seksual të fëmijëve. Edhe pse ndalimi zbatohet vetëm në Holandë, organizatat që ngritën padinë argumentojnë se vendimi mund të ketë pasoja më të gjera, pasi Grok nuk është në gjendje të përcaktojë vendbanimin e përdoruesve.
Platforma X nuk reagoi ndaj kërkesave për koment. Në janar, ajo kishte kufizuar disa funksione pasi u zbulua se Grok gjeneronte imazhe të personave realë në bikini ose nudo; vlerësohet se rreth 3 milionë imazhe u krijuan brenda vetëm 11 ditësh. Në atë kohë, X deklaroi tolerancë zero ndaj shfrytëzimit seksual të fëmijëve dhe nuditetit pa pëlqim.
Gjykatësi pranoi se X dhe xAI kanë marrë masa për të frenuar përhapjen e “deepfakes” dhe materialeve abuzive, por theksoi se efektiviteti i tyre nuk mund të garantohet. Padia u ngrit nga Offlimits dhe Fonds Slachtofferhulp, ndërsa presidenti i Offlimits, Robbert Hoving, e quajti vendimin “lajm fantastik”.
Ndërkohë, Komisioni Evropian ka nisur një hetim ndaj X, dhe brenda BE-së po shtyhet një ndalim i aplikacioneve të AI që përdoren për qëllime të tilla, që mund të hyjë në fuqi që këtë verë.
