Meta ka prezantuar një funksion të ri sigurie që synon të mbrojë adoleshentët gjatë përdorimit të chatbot-it Meta AI. Tashmë, prindërit që kanë aktivizuar funksionin e mbikëqyrjes për llogaritë e fëmijëve të tyre në Instagram do të marrin njoftime nëse inteligjenca artificiale zbulon biseda që sugjerojnë rrezik për vetëlëndim ose vetëvrasje.
Ky mekanizëm funksionon në të gjitha platformat ku është i disponueshëm Meta AI, përfshirë Instagram, WhatsApp, Facebook Messenger dhe faqen Meta.ai. Sipas kompanisë, funksioni është aktivizuar fillimisht në Kanada, Mbretërinë e Bashkuar, SHBA dhe Australi.
Më herët, Meta AI u përgjigjej rasteve të tilla duke i orientuar adoleshentët drejt linjave të ndihmës dhe duke i inkurajuar të flisnin me një prind ose një person të besuar. Tani, nëse sistemi identifikon shenja shqetësuese, edhe prindërit do të informohen. Meta pranon se, të paktën në fazën e parë, sistemi do të jetë qëllimisht më i ndjeshëm dhe mund të dërgojë njoftime edhe kur situata nuk është plotësisht e qartë, për të shmangur rastet kur një rrezik real kalon pa u vënë re.
Kompania po zhvillon gjithashtu një funksion tjetër që në të ardhmen mund të kontaktojë shërbimet e emergjencës nëse bisedat me chatbot-in tregojnë një rrezik të menjëhershëm për jetën, si për adoleshentët ashtu edhe për të rriturit.
Ekspertët e sigurisë online e kanë mirëpritur këtë hap, por paralajmërojnë se teknologjia nuk është e pagabueshme. Analistët theksojnë se sistemi mund të prodhojë alarme të rreme ose të mos identifikojë çdo rast, ndërsa organizatat për mbrojtjen e fëmijëve argumentojnë se përgjegjësia nuk duhet t’u mbetet vetëm prindërve.
Pas disa rasteve tragjike dhe presionit në rritje ndaj kompanive teknologjike, industria po përballet me kërkesa për masa më të forta mbrojtëse dhe rregullim ligjor të përdorimit të inteligjencës artificiale nga të rinjtë.
