The Reversal Curse: Why LLMs Know Tom Cruise's Mother but Not Her Son
LLM이 'A의 B는 C다'는 알지만 'C의 A는 B다'는 추론하지 못하는 '역전 저주' 현상이 발견됐다. 이는 LLM의 추론 능력에 근본적인 한계가 있음을 시사한다.
LLM이 'A의 B는 C다'라는 사실은 기억하지만, 'C의 A는 B다'라는 역방향 추론을 하지 못하는 '역전 저주(Reversal Curse)' 현상이 발견됐다. 연구진은 GPT-3, GPT-4, Llama 등 여러 모델에서 이 현상이 일관되게 나타남을 확인했다.
LLM은 방대한 텍스트에서 패턴을 학습하지만, 논리적 추론보다는 통계적 연관성에 의존한다. '톰 크루즈의 어머니는 메리 리 파이퍼'라는 문장을 학습해도, '메리 리 파이퍼의 아들은 톰 크루즈'라는 역방향 관계를 자동으로 추론하지 못한다. 이는 LLM이 인간처럼 대칭적 관계를 이해하지 못함을 보여준다.
이 현상은 LLM의 추론 능력에 근본적인 한계가 있음을 시사한다. 특히 사실 검증, 질의응답, 지식 그래프 구축 등 정확한 추론이 필요한 응용에서 오류를 유발할 수 있다. 향후 모델 아키텍처나 학습 방법의 개선이 필요하다.