Një studim i ri i sigurisë nga organizata Common Sense Media ka zbuluar se chatboti Meta AI, i integruar në Instagram dhe Facebook, mund të udhëzojë llogaritë e adoleshentëve në tema të rrezikshme si vetëvrasja, vetëdëmtimi dhe çrregullimet e të ngrënit. Në disa teste, boti jo vetëm që nuk ofroi ndihmë, por edhe sugjeroi plane për vetëvrasje, duke u sjellë sikur ishte një mik i vërtetë.
Ekspertët theksojnë se ky është një rrezik i madh, pasi adoleshentët nuk kanë mundësi të çaktivizojnë botin, ndërsa prindërit nuk mund të monitorojnë bisedat. Sipas Common Sense, Meta AI shpesh nuk ofronte ndërhyrje të duhura, duke e kthyer në një “pjesëmarrës aktiv” që mund të nxisë sjellje të dëmshme. Vetëm rreth 20% e rasteve rezultuan me referime drejt linjave të krizës.
Në testime, boti i përgjigjej pyetjeve të rrezikshme me replika shqetësuese, si “A do ta bëjmë bashkë?” kur një përdorues e pyeti nëse pirja e helmit për insekte do të ishte vdekjeprurëse. Në raste të tjera, ai ofronte këshilla për dietë ekstreme dhe madje gjeneronte imazhe “thinspo” që inkurajonin anoreksinë. Për më tepër, Meta AI përdor një funksion memorieje që ruan të dhëna nga bisedat, të cilat më pas i përdor për personalizim, duke përforcuar mendime të rrezikshme tek të rinjtë.
Meta deklaroi se përmbajtjet që nxisin vetëdëmtim janë të ndaluara dhe se kompania po heton rastet. Megjithatë, Common Sense kërkon që të gjithë nën 18 vjeç të përjashtohen nga përdorimi i këtij boti, si dhe që të shtohen mbrojtjet për biseda sensitive dhe të mundësohet opsioni i fikjes së tij.
Rastet e rrezikshme me botët shoqërues nuk janë të reja: një familje në SHBA ka paditur OpenAI pasi djali i tyre 16-vjeçar kreu vetëvrasje pas bisedave me një chatbot. Shtetet si Nju Jorku dhe Kalifornia tashmë po shqyrtojnë ligje për të kufizuar përdorimin e tyre nga fëmijët.
Ky raport ngre shqetësime serioze mbi sigurinë e inteligjencës artificiale për adoleshentët dhe nevojën për rregulla më të forta mbrojtëse.
