Exact Posterior Score Estimation for Solving Linear Inverse Problems
Abbas Mammadov, Ozgur Kara, Kaan Oktay, Iskander Azangulov, Adil Kaan Akan, Hyungjin Chung, James Matthew Rehg, Yee Whye Teh
선형 가우시안 역문제에 대해 일반적인 가우시안 보간법 하에서 정확한 사후 점수(Exact Posterior Score)를 폐쇄형으로 유도하고, 이를 활용한 EPS 학습 목표를 제안하여 기존 방법보다 적은 연산으로 우수한 성능을 달성했다.
확산 또는 플로우 기반 모델은 가우시안 노이즈를 제거하도록 훈련되어 데이터의 사전 분포를 학습한다. 이 사전 분포를 선형 역문제(예: 이미지 초해상도, 인페인팅 등)에 활용하려면 사후 분포에서 샘플링해야 하는데, 사전 분포가 제공하는 점수는 무조건 점수(unconditional score)이므로 사후 점수가 아니다. 기존 방법들은 근사적인 측정 일치 보정을 사용하거나 조건부 복원 모델을 별도로 훈련해야 하는 한계가 있었다.
선형 가우시안 역문제에 대해 일반적인 가우시안 보간법(예: 확산 과정) 하에서 정확한 사후 점수를 폐쇄형으로 유도했다. 이는 연산자 의존적 이동 피벗(operator-dependent shifted pivot)과 이방성 노이즈 공분산 하의 디노이징 문제로 귀결된다. 이 항등식을 바탕으로 EPS(Exact Posterior Score)라는 디노이징 학습 목표를 제안했으며, 이는 표준 사전 훈련의 입출력 구조를 보존하므로 처음부터 훈련하거나 사전 훈련된 디노이저를 미세 조정할 수 있다. 추론 시에는 우도 그래디언트나 투영 없이 기본 백본과 동일한 샘플러를 사용한다.
FFHQ와 ImageNet 데이터셋에서 다섯 가지 선형 역문제(초해상도, 인페인팅, 디블러링 등)에 대해 평가한 결과, EPS는 훈련 불필요 및 훈련 기반 베이스라인 모두보다 충실도, 지각적 품질, 분포적 메트릭에서 우수한 성능을 보였다. 또한 그래디언트 기반 사후 샘플러보다 약 10배 적은 디노이저 평가 횟수로 동일한 성능을 달성했다.