추론 과정에서 답변이 결정되는 경계를 찾아내고 조기 종료로 효율화

한줄 요약

LLM의 사고사슬 추론에서 답변이 결정되는 전환점(커밋먼트 경계)을 찾고, 이후 단계는 생략해도 성능에 영향 없음을 보여 효율적 추론 방법을 제시했다.

풀어야 하는 문제

사고사슬(CoT) 추론은 LLM의 추론 능력을 크게 향상시키지만, 생성된 모든 단계가 최종 답변에 인과적으로 기여하는지 불분명하다. 불필요한 추론 단계가 많으면 계산 비용이 증가하고 지연 시간이 길어지는 문제가 있다.

접근 방법

각 추론 단계의 인과적 중요도를 측정하기 위해 '조기 종료(early exit)'를 활용했다. 특정 단계에서 추론을 중단했을 때 최종 답변 확률 변화를 관찰하여 각 단계의 기여도를 정량화했다. 이를 통해 추론 과정에서 답변이 갑자기 안정화되는 '커밋먼트 경계'를 발견했다. 또한 어텐션 프로브를 사용해 답변 형성 단계를 중간 표현에서 선형 분류 가능함을 보였다.

결과·기여

다양한 모델과 과제에서 커밋먼트 경계가 존재하며, 이 경계 이후의 단계는 최종 답변에 영향을 주지 않는 부수적 현상(epiphenomenal)임을 확인했다. 커밋먼트 경계에서 조기 종료하면 평균 55%의 추론 길이를 단축하면서도 성능 저하가 거의 없었다. 이는 CoT 추론의 효율성을 크게 개선할 수 있는 실용적 방법을 제시한다.