Judge Learns Both Sides Used AI, Cancels Trial, Kicks Everyone Off the Case
미국 미시시피주 연방법원에서 소송 양측 변호사들이 모두 AI를 사용해 허위 판례를 인용한 사실이 적발됐다. 판사는 재판을 취소하고 모든 변호사를 사건에서 제척했으며, 일부 변호사는 2년간 법정 출입이 금지됐다.
미국 미시시피주 북부지방법원의 샤리언 에이콕 판사는 계약 분쟁 소송에서 양측 변호사 4명 모두가 AI를 사용해 허위 판례를 인용한 사실을 적발했다. 판사는 재판을 취소하고 모든 변호사를 사건에서 제척했으며, 두 변호사에게 2년간 법정 출입 금지와 1,000~3,500달러의 벌금을 부과했다.
AI가 생성한 허위 판례를 법정 문서에 인용하는 사례는 미국에서 반복적으로 발생하고 있다. 404 Media는 이전에도 유사한 사례를 보도했으며, 판사들은 변호사들의 AI 사용에 대한 우려를 표명해왔다. 이번 사건은 양측 모두가 AI를 사용해 'AI가 AI와 논쟁하는' 상황이 벌어졌다는 점에서 주목받았다.
이번 판결은 법조계에서 AI 사용의 위험성을 강조하며, 변호사가 AI 출력물을 검증하지 않고 법정 문서에 사용할 경우 심각한 제재를 받을 수 있음을 보여준다. AI 사용에 대한 법적 책임과 윤리 기준의 필요성이 제기된다.
해당 사건에서 변호사들이 생성형 AI를 사용해 허위 판례를 제출한 사실이 적발되었으며, 한 변호사는 제재 이후에도 AI 오용을 지속해 법원의 신뢰를 잃었다. 댓글러들은 AI로 생성된 문서의 검토가 직접 작성보다 더 어렵고, 변호사들이 서류를 제대로 읽지 않는 법조계의 관행이 문제라고 지적했다. 일부는 법률 문서의 형식 자체가 시대에 뒤떨어져 AI가 불필요한 부분을 드러냈다는 의견을 제시했다.