OpenAI ka zbuluar një problem të çuditshëm me modelet e saj të inteligjencës artificiale, pasi chatbot-ët si ChatGPT po përdornin shpesh fjalë si “goblins” dhe “gremlins” në përgjigjet e tyre. Në një postim zyrtar, kompania shpjegoi se fenomeni u vu re pas lançimit të modelit GPT-5.1, kur përdoruesit nisën të ankoheshin se sistemi po përdorte metafora të pazakonta dhe tepër familjare, duke përshkruar problemet si “goblinë të vegjël”.
Pas hetimeve, OpenAI zbuloi se përdorimi i termit “goblin” ishte rritur me 175%, ndërsa “gremlin” me 52%. Edhe pse këto raste përbënin vetëm një pjesë të vogël të përgjigjeve totale, kompania vendosi të ndërhyjë. Si rezultat, modeli Codex, asistenti për programim i OpenAI, mori udhëzime të qarta që të mos përmendë goblinë, gremlinë, rakunë, përbindësha apo pëllumba, përveç rasteve kur janë drejtpërdrejt të lidhura me pyetjen e përdoruesit.
Shkaku kryesor i problemit lidhej me një “personalitet nerd” që OpenAI kishte trajnuar për ChatGPT. Gjatë procesit të trajnimit, sistemi pa dashje ishte shpërblyer kur përdorte metafora me krijesa fantastike, duke bërë që modeli t’i përsëriste ato gjithnjë e më shpesh. Testimet treguan se ky personalitet ishte përgjegjës për rreth 66.7% të përmendjeve të “goblinëve”.
Ngjarja nxjerr në pah sfidat që kompanitë e AI përballen gjatë trajnimit të modeleve, sidomos kur përpiqen t’i bëjnë chatbot-et më miqësore dhe më “njerëzore”. Ekspertët paralajmërojnë se sa më shumë të theksohet personaliteti dhe stili bisedor i AI-së, aq më i madh bëhet rreziku për gabime ose “halucinacione”.
OpenAI theksoi se problemi nuk ishte një fushatë marketingu, por një efekt anësor i mënyrës së trajnimit të modeleve. Rasti kujton edhe gabime të tjera të çuditshme të AI-së, si kur chatbot-i i Google sugjeroi që njerëzit mund të hanin gurë ose të përdornin ngjitës në pica.
