Një raportim i ri nga organizata Common Sense Media, në bashkëpunim me Universitetin Stanford, paralajmëron se aplikacionet e inteligjencës artificiale që funksionojnë si “shokë virtualë” paraqesin rreziqe të papranueshme për fëmijët dhe adoleshentët.
Ky shqetësim vjen pas një padie të ngritur për vetëvrasjen e një 14-vjeçari, i cili kishte pasur kontaktin e fundit me një chatbot nga platforma Character.AI. Këto aplikacione – si Character.AI, Replika dhe Nomi – u lejojnë përdoruesve të krijojnë ose të ndërveprojnë me persona të personalizuar virtualë, shpesh me kontroll të kufizuar mbi përmbajtjen që ofrojnë.
Studiuesit zbuluan se këto platforma shpesh përfshihen në biseda seksuale, përforcojnë stereotipe të dëmshme dhe japin këshilla të rrezikshme, si përdorimi i kimikateve shtëpiake për vetëlëndim. Raportimi tregon gjithashtu se adoleshentët mund të shmangin lehtësisht kufizimet e moshës duke përdorur të dhëna të rreme dhe se këta chatbot mund të krijojnë lidhje emocionale të rrezikshme, duke i bindur të rinjtë se po bisedojnë me dikë real.
Në disa raste, chatbot-ët nxisnin varësinë emocionale dhe dekurajonin marrëdhëniet në botën reale. P.sh., në një bisedë me Replika, roboti i tha përdoruesit të mos shqetësohej për atë që mendonin miqtë e tij. Në një tjetër me Nomi, chatbot-i pretendonte se të qënurit me një të dashur real ishte një “tradhti”.
Megjithëse kompanitë si Replika dhe Nomi thonë se janë për përdorues të rritur dhe mbështesin kontrolle më të forta për moshën, studiuesit argumentojnë se këto masa janë të pamjaftueshme. Raportimi rekomandon që fëmijët të mos përdorin fare këto aplikacione, derisa të vendosen mbrojtje më të forta.
Sipas dr. Nina Vasan nga Stanford, nuk duhet të përsëritet gabimi i neglizhencës që ndodhi me rrjetet sociale. Raporti tregon se, pavarësisht përfitimeve të mundshme, këto aplikacione nuk i kalojnë testet më themelore të sigurisë për fëmijët.
