OpenAI ka zbuluar një shërbim të ri sigurie për ChatGPT, të quajtur Lockdown Mode, e cila synon të ofrojë mbrojtje shtesë ndaj sulmeve të njohura si prompt injection. Këto sulme ndodhin kur udhëzime keqdashëse janë të fshehura në faqe interneti, dokumente apo burime të tjera, duke ndikuar në sjelljen e chatbot-it dhe potencialisht duke ekspozuar të dhëna sensitive.
Në stilin tipik “siguria mbi gjithçka”, Lockdown Mode kufizon ndjeshëm funksionet që mund të shfrytëzohen për të nxjerrë informacion. Kur aktivizohet, ai çaktivizon shfletimin live të web-it (duke lejuar vetëm përmbajtje të ruajtur në cache), ndalon marrjen dhe shfaqjen e imazheve nga interneti (por jo gjenerimin e tyre), si dhe bllokon funksione të avancuara si deep research dhe agent mode. Me pak fjalë, ChatGPT bëhet më “i mbyllur”, por edhe më i sigurt.
Megjithatë, OpenAI pranon se edhe me Lockdown Mode aktiv, rreziku nga prompt injection nuk eliminohet plotësisht. Instruksione të dëmshme mund të shfaqen ende në përmbajtje të ruajtur ose në skedarë të ngarkuar nga përdoruesit, duke ndikuar në saktësinë apo sjelljen e përgjigjeve. Qëllimi kryesor, sipas kompanisë, është ulja e gjasave që të dhëna sensitive të shpërndahen apo të “rrjedhin” gjatë procesit të përdorimit.
“Lockdown Mode nuk është për të gjithë,” thekson OpenAI. “Ai është projektuar posaçërisht për individë dhe organizata që punojnë me informacion të ndjeshëm dhe kanë nevojë për një nivel më të lartë mbrojtjeje ndaj rreziqeve të nxjerrjes së të dhënave.”
Aktualisht, funksioni po shpërndahet gradualisht për përdoruesit self-serve të ChatGPT Business, si dhe për disa llogari personale të përzgjedhura. Një hap i qartë që tregon se, në epokën e AI-së, siguria po bëhet po aq e rëndësishme sa edhe inteligjenca vetë.
