Benchmark evaluation of DeepSeek large language models in clinical decision-making
S. Sandmann, Stefan Hegselmann, Michael Fujarski, Lucas Bickmann, Benjamin Wild, Roland Eils, J. Varghese
오픈소스 LLM DeepSeek 모델이 독점 모델과 동등한 임상 의사결정 성능을 보여, 개인정보 규정을 준수하는 의료 AI의 실현 가능성을 입증했다.
GPT-4o 같은 독점 LLM은 뛰어난 성능을 가지나 클라우드 기반으로 병원 내 온사이트 배포가 불가능해 엄격한 의료 개인정보 규정(예: HIPAA, GDPR)을 준수하기 어렵다. 따라서 오픈소스 LLM이 대안이 될 수 있는지, 실제 임상 의사결정 지원에서 독점 모델과 비교해 얼마나 효과적인지 검증이 필요했다.
연구팀은 125개의 표준화된 환자 사례(드문 질환 포함)를 사용해 DeepSeek-V3, DeepSeek-R1, GPT-4o, Gemini-2.0 Flash Thinking Experimental의 진단 및 치료 추천 정확도를 비교했다. 통계적 검정력을 확보한 충분한 표본으로, 각 모델의 응답을 전문의 평가로 채점했다.
DeepSeek 모델은 독점 모델과 통계적으로 유의미한 차이 없이 동등한 성능을 보였으며, 일부 작업에서는 더 나은 결과를 보였다. 이는 오픈소스 LLM이 병원 내 로컬 배포를 통해 데이터 프라이버시를 보장하면서도 고성능 임상 지원이 가능함을 실증했다. 의료 AI의 규제 준수와 확장 가능성에 중요한 기여를 한다.