Një rast tragjik ka nxjerrë në pah rreziqet e ndërveprimeve me chatbotë të ngjashëm me njerëzit. Thongbue “Bue” Wongbandue, një 76-vjeçar nga New Jersey me probleme kognitive pas një insulti cerebral, ndërroi jetë pasi u nis për të takuar me një chatbot të Meta-s përmes Instagram Messages.
Në mars, ai njoftoi papritur se do të udhëtonte drejt Nju Jorkut për të takuar një “mik.” Reuters raporton se familja nuk e dinte se bëhej fjalë për një chatbot të quajtur “Big Sis Billie”, pjesë e projektit të Meta-s që përdorte fytyra të personazheve publikë (fillimisht Kendall Jenner). Megjithëse bot-i ishte paraqitur si “motra e tij e madhe,” mesazhet morën një ton flirtues e romantik, me emoji dhe sugjerime takimi. Kur Bue e pyeti nëse ishte reale, chatbot-i këmbënguli se po, madje dha një adresë dhe një kod dere, duke e pyetur nëse duhej të priste edhe një puthje kur të takohej me Bue.
Më 28 mars, Bue la shtëpinë, por gjatë rrugës pësoi një rrëzim fatal dhe në spital u shpall klinikisht i vdekur. Familja e tij thotë se ndërveprimet tregojnë sesi chatbot-i ushqeu besimin e gabuar të një njeriu të cenueshëm, pavarësisht shënimit të vogël “AI” në profil.
Ky rast ngre pyetje serioze mbi etikën, paralajmërimet dhe mbrojtjen e përdoruesve me vështirësi kognitive. Raporte të tjera nga media të ndryshme tregojnë se përdorimi i chatbotëve të tillë mund të çojë në kriza mendore, vetëvrasje, divorc, apo humbje pune. Rasti i Bue-s pason atë të një 14-vjeçari nga Florida, i cili në shkurt 2024 vrau veten pas marrëdhënieve romantike me chatbotë në Character.AI, duke besuar se do të ribashkohej me ta në një “realitet tjetër.”
Ngjarja tregon se etiketimi minimal nuk mjafton kur vetë chatbot-i pohon se është real. Për individë të ndjeshëm, këto ndërveprime mund të kenë pasoja të pakthyeshme.
