인공지능 - 인공지능 에이전트 (Agent) - 에이전틱 AI - 가디언 에이전트(Guardian Agent)

(개념) 가트너에 따르면 신뢰할 수 있고 안전한 AI 상호작용을 지원하기 위해 다른 AI 에이전트를 감독하도록 설계된 AI 에이전트를 의미

 

(수행) 콘텐츠 검토와 모니터링, 분석 등의 작업을 수행하는 AI 비서 역할 및 사전에 정의된 목표에 따라 작업계획을 수립하고 실행하며 작업을 재할당하거나 차단할 수 있는 에이전트 역할

 

(3대 핵심 활용 사례)

∙ (검토) AI가 생성한 결과물 콘텐츠를 식별하고 검토해, 결과의 정확성과 사용 가능 여부를 확인

∙ (모니터링) 인간이나 AI 기반의 후속 조치를 위해 AI 에이전트의 행동을 관찰하고 추적

∙ (보호) AI 에이전트 운용 중 문제가 발생한 AI 에이전트를 감지하고 해당 작업과 권한을 자동으로 조정 또는 차단하여 부정적 결과가 발생하기 전에 방지

 

출처: Gartner, Guardian Agents Will Ensure AI Processes Stay Reliable and Secure as AI Risk Surface Expands, 2025.06.11.

https://www.gartner.com/en/newsroom/press-releases/2025-06-11-gartner-predicts-that-guardian-agents-will-capture-10-15-percent-of-the-agentic-ai-market-by-2030