Studimi tregon se shërbimet AI që përdoren për punësimin e personave të rinj nuk arrijnë të shmangin paragjykimet apo të përmirësojnë diversitetin.
“Ekziston një interes gjithnjë në rritje i zgjidhjes së problemeve si përshembull paragjykimi në intervistë.” treguan studiuesit në Cambridge University.
Në 2020, një sondazh i kryer në mbi 500 profesionistë në fushën e burimeve njerëzore sugjeroi se pothuajse çereku i tyre po përdornin AI për “tërheqjen e talentëve, në formë të automatizuar.” Mirëpo përdorimi i AI për të reduktuar paragjykimin është joproduktive dhe “e bazuar në një mit”.
“Këto shërbime nuk mund të trajnohen vetëm në identifikimin e karakteristikave të lidhura me punën dhe të lënë jasht gjininë apo racën gjatë proçesit të punësimit, sepse llojet e karakteristikave që ne mendojmë se janë të rëndësishme për të qenë një punonjës i mirë janë të lidhura në thelb me gjininë dhe racën.” tha Dr Kerry Mackereth.
Disa kompania kanë vënë re disa problematika në këto shërbime. Në 2018, Amazon lajmëroi se kishte ndaluar zhvillimin e një motori punësimi të fuqizuar nga AI pasi mund të zbulonte gjininë në CV dhe të diskriminonte aplikantet femra.
