AI 안전성 - Google, AI 지능적 권한 위임

https://arxiv.org/abs/2602.11865

2026.2.12
[Intelligent AI Delegation]

이 문서는 인공지능이 복잡한 과업을 스스로 분해하고 다른 에이전트나 인간에게 실행을 맡기는 지능적 AI 위임(Intelligent AI Delegation)의 필요성과 설계 프레임워크를 설명합니다. 기존의 단순한 방식에서 벗어나 권한 이양, 책임 소재, 신뢰 구축 등 인간 조직의 원리를 결합하여 동적이고 안전한 에이전트 생태계를 구축하는 것이 핵심 목적입니다. 텍스트는 과업 분해와 할당의 기술적 절차뿐만 아니라 다목적 최적화, 적응형 조정, 보안 및 윤리적 통제를 아우르는 포괄적인 프로토콜을 제안합니다. 궁극적으로는 AI 에이전트들이 자율적으로 협력하면서도 인간의 의도에 부합하고 사회적 규범을 준수하도록 보장하는 '에이전트 중심의 웹'을 위한 기반을 마련하고자 합니다.