한줄 요약
TurboQuant 양자화 알고리즘을 Rust로 구현한 고성능 벡터 인덱스로, 메모리 사용량을 1/8로 줄이면서 FAISS보다 빠른 검색 속도를 제공한다.
핵심 기능
TurboQuant 기반 양자화: 데이터 분포에 무관한 오블리비어스 양자화로 별도 학습 없이 즉시 색인 가능
고속 SIMD 커널: ARM NEON 및 x86 AVX-512BW 최적화로 FAISS IndexPQFastScan 대비 12-20% 향상
필터링 검색: allowlist 또는 비트마스크로 검색 범위 제한, SIMD 커널 내에서 블록 단위 조기 종료로 성능 저하 최소화
IdMapIndex: 외부 ID 기반 추가/삭제/검색 지원, O(1) 삭제
순수 로컬: 외부 서비스 불필요, 완전한 에어갭 RAG 스택 구축 가능
언제 쓰나
대규모 임베딩(수백만~수천만)을 메모리 효율적으로 색인해야 할 때
FAISS보다 빠른 검색이 필요할 때 (특히 ARM 환경)
SQL, BM25 등 외부 시스템과 결합한 하이브리드 검색(필터링 후 재순위화)이 필요할 때
데이터 프라이버시가 중요한 온프레미스/VPC RAG 애플리케이션