MS, AI 에이전트 보안 강화 위한 오픈소스 도구 ‘램파트·클래리티’ 공개

MS AI 레드팀 창립자가 AI 안전을 주기적 점검이 아닌 지속적 엔지니어링 체계로 자리잡아야 한다고 주장하며, 개발자가 활용할 수 있는 실용적 오픈 도구의 중요성을 강조했다. 문서는 차세대 AI 에이전트가 권한 보유 등 운영적 위험(프롬프트 인젝션, 도구 오용, 권한 상승, 자율행동 등)을 유발할 수 있음을 지적하고, MS의 오픈소스 프로젝트인 램파트(Rampart)와 클래리티(Clarity)를 소개하며 램파트를 반복 가능한 레드팀 테스트를 지원하는 운영 중심 솔루션으로 포지셔닝한다고 전한다.