GitHubAI인프라프레임워크Python
AI 에이전트 거버넌스 도구킷: 정책 시행, 제로트러스트 인증, 샌드박싱 및 신뢰성 엔지니어링
microsoft/agent-governance-toolkit
★ 4.2K포크 574월간 +2.7K
AI 분석
한줄 요약
AI 에이전트의 행동을 제어하고 감사할 수 있는 정책 시행, 인증, 샌드박싱, SRE 기능을 제공하는 마이크로소프트의 오픈소스 프레임워크입니다.
핵심 기능
정책 시행: 에이전트가 수행하는 모든 액션(이메일 전송, DB 쿼리 등)에 대해 사전 정의된 정책을 적용하여 허용 여부를 결정합니다.
제로트러스트 인증: 다중 에이전트 환경에서 각 에이전트의 신원을 추적하고, 공유 API 키 사용 시에도 개별 행위를 식별합니다.
실행 샌드박싱: 에이전트 코드를 격리된 환경에서 실행하여 시스템 손상을 방지합니다.
신뢰성 엔지니어링: 장애 복구, 로깅, 모니터링 등 SRE 관행을 에이전트에 적용합니다.
OWASP Agentic Top 10 완전 대응: 10가지 주요 보안 위협에 대한 아키텍처 가이드 제공.
프레임워크 독립적: 모든 AI 에이전트 프레임워크와 호환되며, pip install로 간편 설치.
언제 쓰나
자율 AI 에이전트를 프로덕션에 배포할 때 보안 및 규정 준수가 필요한 경우
다중 에이전트 시스템에서 각 에이전트의 행동을 추적하고 제어해야 하는 경우
감사 및 규제 요구사항을 충족하기 위해 모든 결정의 변조 방지 기록이 필요한 경우
프롬프트 인젝션 등 프롬프트 수준의 안전장치만으로는 불충분한 경우