LLM, 의료 추론에서 필수 메타인지 부족

한줄 요약

LLM이 의료 시험에서 높은 정확도를 보이지만, 자신의 지식 한계를 인식하지 못하고 확신에 차 오답을 내는 메타인지 결함이 MetaMedQA 벤치마크 평가를 통해 드러났다.

풀어야 하는 문제

LLM이 의료 분야에서 임상 의사 결정 지원 시스템으로 활용되기 위해서는 단순 정답 예측을 넘어, 자신의 불확실성을 인식하고 정보 부족 시 이를 알리는 메타인지 능력이 필수적이다. 그러나 기존 평가는 정확도에만 초점을 맞춰 이러한 능력을 간과했다.

접근 방법

연구진은 의학 다지선다형 문제에 신뢰도 점수와 메타인지 과제(정답 부재 시 인식, 모르는 문제 회피 등)를 통합한 MetaMedQA 벤치마크를 개발했다. 12개 LLM을 대상으로 신뢰도 기반 정확도, 누락 정답 회상, 미지식 회상 등을 평가했다.

결과·기여

모든 모델이 높은 다지선다 정확도에도 불구하고, 정답이 없는 문제에서도 확신을 가지고 답변을 제시하는 등 심각한 메타인지 결함을 보였다. 이는 LLM의 인식 능력과 실제 능력 간의 괴리를 드러내며, 임상 환경에서의 위험성을 강조한다. 향후 메타인지 능력을 포함한 평가 프레임워크의 필요성을 제기한다.