계층적 요인 공간에서 신뢰할 수 있는 확률 추정을 위한 LLM 기반 귀납적 추론 프레임워크

한줄 요약

희소 요인 공간에서 발생하는 '알 수 없음' 예측 문제를 해결하기 위해, LLM이 생성한 요인들을 계층적으로 군집화하고 인과 베이지안 네트워크로 종속성을 모델링하여 신뢰할 수 있는 확률을 추정하는 프레임워크 ANCHOR를 제안한다.

풀어야 하는 문제

불완전 정보 하에서의 대규모 의사결정에서 신뢰할 수 있는 확률 추정은 핵심 과제이다. 기존 LLM 기반 접근법은 설명 요인을 생성하고 나이브 베이즈 모델로 확률을 정제하지만, 요인 공간이 희소하면 '알 수 없음' 예측이 빈번하고, 요인을 확장하면 잡음과 가짜 상관관계가 증가하여 조건부 독립성 가정이 약화되어 추정 신뢰도가 떨어진다.

접근 방법

ANCHOR는 계층적 요인 공간에서 집계된 베이지안 추론 프레임워크이다. 먼저 LLM으로 요인을 반복 생성하고 군집화하여 밀집된 요인 계층을 구축한다. 이후 계층적 검색 및 정제를 통해 맥락을 매핑하고, 나이브 베이즈를 인과 베이지안 네트워크로 확장하여 잠재 요인 간 종속성을 모델링한다.

결과·기여

실험 결과, ANCHOR는 직접 LLM 추론 대비 '알 수 없음' 예측을 현저히 줄이고 더 신뢰할 수 있는 확률 추정을 제공하며, 최첨단 성능을 달성하면서도 시간 및 토큰 오버헤드를 크게 절감했다.