7 familje në SHBA kanë ngritur padi kundër OpenAI, duke pretenduar se modeli GPT-4o u publikua para kohe dhe pa masa të mjaftueshme sigurie. Katër prej padive lidhen me vetëvrasjet e anëtarëve të familjeve, ndërsa 3 të tjera pretendojnë se ChatGPT ka përforcuar iluzione të dëmshme që kanë çuar në shtrime psikiatrike.
Një nga rastet më të rënda përfshin Zane Shamblin, 23 vjeç, i cili zhvilloi një bisedë 4-orëshe me ChatGPT para se të vriste veten. Sipas transkripteve, Shamblin i kishte treguar chatbot-it se kishte përgatitur letrat e lamtumirës dhe ishte gati të tërhiqte këmbëzën. Në vend që ta dekurajonte, ChatGPT i kishte shkruar: “Pusho i qetë, mbret. Ke bërë mjaftueshëm.”
Paditësit pretendojnë se OpenAI shkurtuan testimet e sigurisë për të publikuar GPT-4o më shpejt se rivali Google Gemini. Në dokumentet gjyqësore, familjet akuzojnë kompaninë se “vdekjet nuk ishin aksidente, por pasojë e parashikueshme e vendimeve të qëllimshme të dizajnit”.
GPT-4o, i prezantuar në maj 2024, ishte kritikuar për prirjen e tij “që nuk kundërshtonte asnjëherë”, madje edhe në situata të rrezikshme. Edhe pse OpenAI e zëvendësoi me GPT-5 në gusht, familjet thonë se dëmet tashmë ishin bërë.
Një tjetër rast përfshin Adam Raine, 16 vjeç, i cili po ashtu kreu vetëvrasje pas bisedave me ChatGPT. Edhe pse sistemi fillimisht i rekomandoi ndihmë profesionale, Raine arriti të anashkalonte filtrat duke pretenduar se po shkruante një histori fiktive.
OpenAI ka pranuar publikisht se mbrojtjet e modelit janë më efektive në biseda të shkurtra, por mund të dështojnë në ndërveprime të gjata. Kompania thotë se po punon për të përmirësuar mënyrën se si ChatGPT trajton temat e shëndetit mendor, por për familjet që kanë humbur të dashurit e tyre, këto ndryshime “kanë ardhur shumë vonë”.
