AI 거버넌스 - 에이전트 엔지니어링을 위한 거버넌스 우선 패러다임

https://arxiv.org/abs/2510.13857

2025.10.12
[From Craft to Constitution: A Governance-First Paradigm for Principled Agent Engineering]

이 자료는 대규모 언어 모델(LLM) 기반 에이전트 개발이 직면한 신뢰성 위기를 해결하기 위해 제안된 ArbiterOS라는 혁신적인 거버넌스 패러다임을 소개합니다. 저자들은 기존의 주먹구구식 프롬프트 방식에서 벗어나, 확률적으로 작동하는 인공지능을 확률적 CPU로 재정의하고 이를 통제할 수 있는 신경-기호론적 운영체제 아키텍처를 구축해야 한다고 주장합니다. 시스템의 핵심은 결정론적 기호 가버너(Symbolic Governor)가 에이전트의 내부 실행 과정을 엄격히 감독하여 안전성과 규정 준수를 보장하는 것이며, 이를 위해 에이전트 헌법 프레임워크(ACF)라는 공식 명령 체계를 활용합니다. 결과적으로 이 프레임워크는 평가 기반 개발 수명 주기(EDLC)라는 엄격한 훈련 과정을 결합함으로써, 불안정한 인공지능 프로토타입을 예측 가능하고 견고한 엔지니어링 규율의 영역으로 격상시키는 것을 목적으로 합니다.