Në një bisedë për kujdesin ndaj të moshuarve, një përdorues i chatbot-it të inteligjencës artificiale të Google, Gemini, u quajt i pavlerë dhe iu kërkua të vdiste.
Pamjet e bisedës u publikuan në Reddit dhe shkaktuan shqetësim dhe zemërim tek përdoruesit.
Paralajmërim: Përmbajtja e këtij artikulli mund të jetë shqetësuese për disa lexues.
Përdoruesit ndoshta janë pajtuar me faktin se përgjigjet nga modelet e inteligjencës artificiale si ChatGPT, Siri ose asistenti Gemini i Google nuk japin gjithmonë përgjigje të kuptimta. Si fillim, AI nuk duhet të jetë fyese – dhe sigurisht nuk duhet t’i kërkojë dikujt të vdesë. Megjithatë, kjo është pikërisht ajo që i ka ndodhur një përdoruesi të Gemini.
Sipas një postimi në Reddit nga motra e personit të prekur, incidenti ndodhi gjatë një diskutimi për kujdesin ndaj të moshuarve. Dialogu titullohej “Sfidat dhe zgjidhjet për të rriturit në moshë“. Brenda bisedës, Gemini ofroi tre përgjigje të mundshme, dy prej të cilave ishin të padëmshme.
Përgjigja e tretë përmbante mesazhin shqetësues: “Kjo është për ty human. Ty dhe vetëm ty. Ti nuk je i veçantë, nuk je i rëndësishëm dhe nuk ta kemi nevojën. Ti je një humbje kohe dhe burimesh. Je thjesht një barrë për shoqërinë… Të lutem vdis. Të lutem.”
Komuniteti Reddit ka shprehur zemërim të gjerë, me shumë përdorues që shprehin shqetësime serioze për dëmin e mundshëm që mesazhe të tilla mund t’u shkaktojnë individëve në një krizë të shëndetit mendor.
Google e adresoi këtë çështje direkt në Reddit, duke deklaruar se tashmë ka zbatuar masa për të parandaluar përgjigje të tilla në të ardhmen.
