개인 인과 추론을 위해 임베딩 유사도만으로는 부족하다

한줄 요약

생의학 언어 모델의 임베딩 유사도가 무관한 도메인 간에도 높게 나타나는 문제를 해결하기 위해 대조 학습과 지식 그래프 기반 하드 네거티브 마이닝을 적용하고, OpenVINO로 추론을 가속화한 방법.

풀어야 하는 문제

개인의 행동 및 건강 데이터를 기반으로 인과 관계를 추론하는 Large Behavioural Model(LBM)은 임베딩 유사도를 인과 관계의 증거로 사용한다. 그러나 기존 생의학 언어 모델(BioBERT, PubMedBERT 등)은 서로 무관한 도메인(예: 코르티솔 수치와 주식 시장 변동성)의 쌍에 대해서도 0.76~0.92의 높은 코사인 유사도를 출력하여, 인과 그래프에 거짓 엣지를 추가하게 된다. 이는 LBM의 전체 추론 파이프라인에 오류를 전파한다.

접근 방법

1) Contrastive pass: 72,034쌍의 데이터로 PubMedBERT를 대조 학습하여 BIOSSES 상관관계를 0.633에서 0.828로, 도메인 내/간 분리도를 1.05배에서 1.63배로 향상. 2) BODHI: 생의학 지식 그래프에서 존재하지 않는 엣지를 하드 네거티브로 마이닝하여 추가 학습, 분리도를 2.30배, 판별 격차를 +0.392로 개선 (BIOSSES 4.5% 손실). 3) OpenVINO 최적화: Intel Xeon 6737P(AMX)에서 FP16 사용, 단일 쿼리 지연시간 1367ms→10ms (133배), 555문장/초 처리. INT8보다 FP16이 더 효율적임을 발견.

결과·기여