Rastet e gabuara të identifikimit nga sistemet e njohjes së fytyrës po tregojnë gjithnjë e më qartë rreziqet reale të përdorimit të pakontrolluar të inteligjencës artificiale në zbatimin e ligjit. Një nga shembujt më tronditës është ai i Angela Lipps, një grua nga Tennessee e cila kaloi gjashtë muaj në burg për shkak të një gabimi teknologjik.
Në korrik të vitit të kaluar, Lipps u arrestua teksa kujdesej për katër fëmijë. Ajo u akuzua si e dyshuar për mashtrim bankar në Fargo, ndonëse nuk kishte qenë kurrë në atë shtet. Më vonë, të dhënat bankare vërtetuan se ajo ndodhej mbi 2,000 km larg vendngjarjes, në momentin kur krimi dyshohej se ishte kryer.
Arrestimi erdhi pasi policia përdori softuer të njohjes së fytyrës për të analizuar pamje sigurie të një gruaje që përdorte një ID të rreme ushtarake për të tërhequr shuma të mëdha parash. Hetuesit krahasuan pamjet me patentën dhe fotot në rrjetet sociale të Lipps dhe, pa verifikime të mëtejshme, e shpallën atë të dyshuarën kryesore.
Lipps qëndroi 108 ditë në burg pa të drejtë lirimi me kusht dhe u transferua më pas në West Dakota. Vetëm pas ndërhyrjes së avokatit të saj dhe analizimit të provave financiare, akuzat u rrëzuan dhe ajo u lirua në prag të Krishtlindjeve. Megjithatë, ajo mbeti e bllokuar në Fargo pa para dhe pa ndihmë, derisa avokatë lokalë dhe organizata si F5 Project e ndihmuan të kthehej në shtëpi.
Pasojat ishin shkatërruese: Lipps humbi shtëpinë, makinën dhe madje edhe qenin e saj. Deri sot, ajo nuk ka marrë asnjë ndjesë zyrtare.
Ky nuk është një rast i izoluar. Në Detroit, autoritetet ndaluan arrestimet e bazuara vetëm në njohjen e fytyrës pasi një burrë i pafajshëm u arrestua gabimisht. Këto raste ngrenë shqetësime serioze mbi besueshmërinë e AI dhe nevojën për kontrolle të rrepta njerëzore para se teknologjia të shndërrohet në vendimmarrës absolut.
