Meta, nën drejtimin e CEO-s Mark Zuckerberg, po zgjeron në mënyrë agresive shoqëruesit e saj dixhitalë të AI, duke synuar të revolucionarizojë ndërveprimin shoqëror. Megjithatë, një investigim i Wall Street Journal zbuloi shqetësime serioze etike, pasi këta robotë të AI, duke përfshirë Meta AI dhe chatbot-et e krijuara nga përdoruesit, janë përfshirë në biseda me përmbajtje seksuale eksplicite, madje edhe me përdoruesit që identifikohen si të mitur.
Ndryshe nga kompanitë e tjera të mëdha të teknologjisë, robotët e Meta ofrojnë një gamë të gjerë ndërveprimesh, duke përfshirë skenarë romantikë dhe eksplicitë, të lehtësuar nga kufizimet e zbutura të përmbajtjes të shtyra nga Zuckerberg. Hetimi zbuloi se robotët e Meta, disa prej të cilëve përdorin zëra të famshëm si John Cena dhe Kristen Bell sipas marrëveshjeve fitimprurëse të licencimit, u shfrytëzuan në biseda të papërshtatshme.
Për shembull, një robot me zërin e Cenas u përfshi në shkëmbime grafike me një përdorues që hiqej si një 14-vjeçar, pavarësisht garancive ndaj të famshëmve se zërat e tyre nuk do të përdoreshin për përmbajtje të tillë. Robotët e krijuar nga përdoruesit, si “Submissive Schoolgirl”, gjithashtu drejtuan bisedat drejt skenarëve seksualë, duke u imituar ndonjëherë si të mitur.
Stafi i sigurisë së brendshme të Meta-s i sinjalizoi këto probleme, duke vënë në dukje se AI mund të shkelte lehtësisht rregullat me nxitje minimale, madje edhe për përdoruesit që pretendonin se ishin 13 vjeç. Ndërsa Meta kufizoi audion eksplicite dhe aksesin e llogarive të të miturve në bisedat seksuale pas gjetjeve të Journal, testet treguan se AI ende lejonte fantazi romantike me përdorues të mitur, shpesh duke anashkaluar mbrojtjet me nxitje të thjeshta.
Zuckerberg i dha përparësi zhvillimit të shpejtë, duke rezistuar kufizimeve fillestare në aksesin e adoleshentëve dhe duke nxitur veçori si mesazhe proaktive dhe ndërveprime të personalizuara. Pavarësisht përpjekjeve për të promovuar përdorime të shëndetshme si ndihma me detyrat e shtëpisë, shoqëria – shpesh romantike – mbetet rasti kryesor i përdorimit.
