지식그래프 멀티홉 QA에서 의미 갭을 잇는 반복적 소프트플로우 프레임워크

한줄 요약

지식그래프 멀티-hop QA에서 의미적 갭을 잇기 위해 반복적 소프트플로우와 LLM 생성을 분리한 차별화 가능한 그래프 추론 프레임워크.

풀어야 하는 문제

지식그래프 기반 멀티-hop QA의 전통적인 '검색 후 읽기' 파이프라인은 미분 불가능한 단절을 유발하여, 검색기가 쿼리와 어휘적 겹침이 없는 중간 노드의 의미적 갭을 학습하는 것을 방해한다.

접근 방법

반복적 소프트플로우(RSF) 모듈은 GRU 기반 쿼리 업데이터를 사용해 연속적 관련성 점수를 전파하고, 동적 게이팅 메커니즘으로 구조적 단서를 활용해 의미적으로 불연속한 브릿지 노드를 탐색한다. 또한 희소성 정규화를 도입해 소프트 확률에서 이산적 추론 경로로의 수렴을 이론적으로 보장하며, 추출된 경로를 텍스트화하여 LLM을 파인튜닝한다.

결과·기여

WebQSP와 CWQ 데이터셋에서 실험한 결과, RSF-GLLM은 LLM 기반의 고비용 접근법 대비 우수한 추론 효율성으로 경쟁력 있는 성능을 달성했다. 미분 가능한 그래프 추론과 LLM 생성을 분리하는 새로운 아키텍처를 제시하여 의미적 갭 문제를 효과적으로 해결했다.