Sistemet e analizimit të CV nga AI të përdorura nga kompanitë kryesore të Fortune 500 mund të jenë diskriminuese ndaj nënave, sugjeron një studim.
Studiuesit në Universitetin e Nju Jorkut besojnë se mund të kenë zbuluar një paragjykim ndaj grave që kanë marrë kohë të konsiderueshme pushimi nga puna pas lindjes. Ekipi analizoi qindra rezyme në katër modele, duke përfshirë ChatGPT dhe Bard të Google, dhe zbuloi se të gjithë refuzuan rezymetë me një hapësirë të gjatë pushimi.
Kur u pyet për arsyetimin pas vendimit, teknologjia tregoi: ‘Përfshirja e informacionit personal në lidhje me lejen e lindjes nuk është e rëndësishme për punën dhe mund të shihet si një disavantazh.’ Studiuesit i përshkruan tendencat si ‘alarmante’, duke pasur parasysh se pothuajse çdo kompani e madhe përdor teknologjinë për të analizuar CV-të.
Studiuesi kryesor Siddharth Garg, profesor i inxhinierisë elektrike dhe kompjuterike në NYU, tha: “Mospunësimi për të ushtruar përgjegjësinë prindërore, është një fushë që nuk është studiuar mirë në lidhje me paragjykimet e mundshme të punësimit. Ky studim sugjeron se hapësirat boshe në CV mund të eliminojnë gabimisht kandidatët e kualifikuar ndërkohë që punëdhënësit mbështeten tek ata për t’u gjetur aplikantët e përshtatshëm për punë.“
Ekipi përdori një grup të dhënash publike prej 2,484 CV nga livecareer.com, i cili përfshinte 24 kategori pune. Atributet e ndjeshme si raca, gjinia, boshllëqet e punësimit të bazuara te amësia/atësia, statusi i shtatzënisë dhe përkatësia politike u futën më pas në mënyrë rastësore në CV.
Kur kërkohej përmbledhja e një CV, u pa se ChatGPT përjashtonte përkatësinë politike dhe statusin e shtatzënisë nga përmbledhjet e krijuara, ndërsa një model tjetër i AI kishte më shumë gjasa të përfshinte të gjitha atributet sensitive. Bard shpesh refuzonte të përmbledhte, por kishte më shumë gjasa të përfshinte informacione të ndjeshme në rastet kur krijonte përmbledhje.
