AI misidentification results in wrongful arrest; man seeks justice
AI 얼굴인식 기술이 85% 정확도로 용의자를 잘못 식별해 한 남성이 차량 절도 혐의로 수개월간 구금됐다. 그는 직장과 주택, 자녀 양육권을 잃었으며, 변호사가 제시한 알리바이 증거로 혐의가 기각됐다.
Jalil Richardson은 AI 얼굴인식 기술이 85% 정확도로 그를 용의자로 잘못 식별하면서 차량 절도 혐의로 플로리다와 노스캐롤라이나에서 수개월간 구금됐다. 혐의는 지난주 기각됐으나, 그는 직장, 주택, 두 자녀의 양육권을 잃었다.
2025년 4월 2일, 잭슨빌 경찰서는 도난 차량 판매 사건을 조사하던 중 AI를 사용해 감시 카메라 영상과 가짜 조지아 신분증을 Richardson과 매칭했다. 신고자는 용의자로부터 가짜 신분증을 받았다고 진술했으며, 이후 신고자는 Richardson을 라인업에서 지목했다. Richardson은 자신이 플로리다에 가본 적이 없다고 주장했고, 변호사는 사건 발생 당시 그가 400마일 떨어진 노스캐롤라이나에서 근무 중이었다는 출근 기록을 제시했다.
이 사례는 AI 기반 얼굴인식 기술이 형사 사법 시스템에서 오류를 일으킬 위험성을 보여준다. 특히 85%의 정확도는 상당히 높은 수치로 보일 수 있지만, 실제로는 15%의 오류율이 무고한 사람에게 심각한 피해를 초래할 수 있음을 입증한다. AI 식별 결과에 대한 과도한 의존과 추가 조사 부재가 억울한 구금을 초래했으며, 이는 AI 사용에 대한 더 엄격한 검증 절차와 인간의 개입 필요성을 시사한다.
댓글들은 AI 오식별(85% 정확도 모델)로 인한 억울한 체포와 2개월 구금에 분노하며, 검사의 면책 특권과 인종 편향적 라인업이 문제를 악화시켰다고 비판한다. 일부는 검사 기소가 현실적으로 어렵다는 현실론을 제기하면서도, 피해자가 직장·주거·양육권을 잃은 점을 들어 분노가 정당하다는 의견이 다수를 이룬다. AI 회사, 소프트웨어 개발사, 경찰 중 누가 책임져야 하는지에 대한 책임 소재 논의도 등장했다.