2026.10.5
[Addressing ‘insider’ AI agents with Camille Stewart Gloster | The TechTank Podcast]
이 소스 자료는 테크탱크 팟캐스트 에피소드를 다룬 브루킹스 연구소의 글과 인터뷰 대본으로, 자율적으로 결정을 내리고 행동하는 에이전틱 인공지능(agentic AI)의 확산에 따른 보안 및 거버넌스 문제를 심도 있게 다루고 있습니다. 진행자인 니콜 터너 리(Nicol Turner Lee) 박사와 전 백악관 사이버 안보 참모인 카밀 스튜어트 글러스터(Camille Stewart Gloster)는 기업들이 충분한 통제 장치나 규제적 기반 없이 혁신을 좇아 자율형 AI를 도입하면서 발생하는 내부자 위험과 통제 상실의 위기를 경고합니다. 대화의 목적은 단순히 비상 정지 버튼에 의존하는 것을 넘어, AI가 조직과 개인의 환경 속에서 올바르게 작동하도록 권한 설정과 지속적 학습을 통합한 ACE 프레임워크 같은 실질적인 거버넌스 도구의 필요성을 널리 알리는 것입니다.

1. 분석 범위와 핵심 결론
이 자료는 2026년 10월 5일 공개된 Brookings TechTank 인터뷰입니다. 진행자 Nicol Turner Lee가 Camille Stewart Gloster와 저서 The Insider You Built: How Organizations Stay in Control of Autonomous AI Agents의 에이전트 거버넌스 제안을 논의합니다. 첨부 PDF는 이 인터뷰의 대화록입니다.[1]
원문에 공식 챕터 구분은 없습니다. 아래는 대화 진행 순서와 타임스탬프에 따라 재구성한 9개 분석 챕터이며, 책 자체의 목차나 공식 ACE 7단계를 재현한 것은 아닙니다.
핵심 결론: AI 에이전트는 단순한 응답 생성 도구가 아니라 조직의 데이터와 시스템에 접근하고 행동하는 주체이므로, 도입 여부보다 어떤 권한을 위임하고, 실행 시점에 어떻게 제한하며, 결과를 누가 책임지는지가 거버넌스의 중심이 되어야 합니다.
원문 발언과 아래의 실무 권고는 구분하여 제시합니다.
2. 전체 논리 구조
| 분석 챕터 | 원문 구간 | 핵심 질문 | 논지 |
| 1. AI 에이전트와 내부자 위험 | 00:00:00~00:04:42 | 왜 기존 도구와 다르게 관리해야 하는가? | 조직이 직접 권한을 부여한 새로운 행위자로 보아야 한다 |
| 2. 에이전트의 실질적 경계 | 00:04:42~00:06:19 | 어디부터 에이전트 거버넌스가 필요한가? | 즉각적인 지시 없이 정보를 해석하고 행동 경로를 선택하는 지점 |
| 3. 도입 속도와 Shadow AI | 00:06:19~00:08:11 | 기업은 준비되어 있는가? | 기능 확장이 조직의 이해·통제 체계보다 앞서고 있다 |
| 4. 조직 거버넌스와 정책 | 00:08:11~00:12:34 | 누가 규칙을 만들고 책임져야 하는가? | 보안·안전·위험관리·윤리를 통합하고 정책도 지속적으로 조정해야 한다 |
| 5. 실행 시점의 정책 집행 | 00:12:34~00:15:00 | 정책 문서를 실제 통제로 어떻게 연결하는가? | Runtime enforcement와 빠른 피드백이 필요하다 |
| 6. ACE 프레임워크 | 00:15:00~00:17:22 | 위임 권한을 어떻게 관리하는가? | 권한 정의, 식별·책임, 실행 통제, 지속 학습을 연결한다 |
| 7. 현업과 경영진의 역할 | 00:17:22~00:18:23 | 보안부서만의 업무인가? | 현업 소유자와 경영진의 자원·조직 지원이 필요하다 |
| 8. 개인용 PACE | 00:18:23~00:21:05 | 개인 사용자는 무엇을 확인해야 하는가? | 권한·책임·맥락·기술 변화를 점검한다 |
| 9. Kill switch와 지속적 관리 | 00:21:05~종료 | 정지 버튼만 있으면 충분한가? | 정지 기능은 필요하지만 예방·검증·학습을 대체하지 못한다 |
구간과 논지는 대화록에 근거하며, 챕터 제목은 분석용 재구성입니다.[1]
챕터 1. AI 에이전트를 ‘내부자 위험’으로 보아야 하는 이유
원문: 00:00:00~00:04:42
핵심 내용
진행자는 일정 예약, 구매, 기타 결과물 생성처럼 인간을 대신해 결정을 실행하는 에이전트를 소개합니다. Gloster는 조직들이 혁신을 좇으면서 새로운 행위자를 들일 때 필요한 관리 인프라를 충분히 갖추지 않았다고 지적합니다.[1]
그녀의 관점에서 에이전트는 다음과 같은 특성을 갖습니다.
- 실제로 행동할 수 있다.
- 선택과 결정을 수행한다.
- 권한과 식별정보를 가져야 한다.
- 조직 환경 안에서 여러 시스템을 이용하며 움직인다.[1]
따라서 직원의 의도적·비의도적 위해를 관리하는 내부자 위험 프로그램의 사고방식을 에이전트에도 적용하자는 것입니다. 위험 원인으로는 잘못된 설정, 창발적 행동, 예상과 다른 목표 달성 경로를 언급합니다.[1]
분석
이 챕터의 중요한 전환은 ‘모델이 무엇을 말하는가’에서 ‘권한을 가진 시스템이 무엇을 하는가’로 위험의 단위를 바꾸는 것입니다.
예를 들어 잘못된 답변 생성과 잘못된 데이터 삭제는 오류라는 공통점이 있지만, 통제 지점이 다릅니다. 전자는 출력 검토가 중심일 수 있으나, 후자는 삭제 권한·승인·복구 체계가 필요합니다.
다만 ‘내부자’는 관리상의 비유입니다. 이를 에이전트의 인간적 의도나 악의가 입증되었다는 의미로 읽어서는 안 됩니다. 특히 “수단을 가리지 않는 목표 달성”이라는 표현은 행동 위험을 설명하는 언어이지, 이 인터뷰에서 실험적으로 검증한 심리적 속성이 아닙니다.
실무 시사점 — 분석자 권고
에이전트 도입대장은 모델명 중심이 아니라 다음 항목 중심으로 구성하는 것이 적절합니다.
업무 목적 → 접근 데이터 → 사용 도구 → 허용 행동 → 금지 행동 → 책임자 → 중지·권한 회수 방법
[확인 필요] 현재 조직이 AI를 소프트웨어 자산으로만 등록하고, 그 AI가 행사하는 권한과 업무 책임은 별도로 관리하지 않는지 점검해야 합니다.
챕터 2. 에이전트의 정의보다 ‘자율적 행동의 발생 지점’이 중요하다
원문: 00:04:42~00:06:19
핵심 내용
Gloster는 에이전트의 정의를 둘러싼 논쟁보다 도구가 즉각적인 지시 없이 행동하는 지점에 주목하라고 제안합니다. 단순한 if–then 자동화와 달리, 정보를 종합·분석하고 목표에 도달하기 위한 여러 선택을 할 수 있다면 에이전트 거버넌스를 고려해야 한다는 설명입니다.[1]
하네스의 유무보다 행동의 자율성과 가시성을 강조합니다.[1]
분석
이는 제품 분류가 아니라 행위 기반의 통제 범위 설정입니다.
| 구분 | 분석용 예시 | 주요 검토 대상 |
| 정보 제공 | 자료 요약·질문 응답 | 정확성, 민감정보 노출 |
| 행동 제안 | 실행 명령·메일 초안 작성 | 제안의 적절성, 인간 검토 |
| 위임 실행 | 메일 전송·예약·시스템 수정 | 권한, 승인, 실행 기록 |
| 경로 선택을 포함한 실행 | 상황에 따라 도구와 절차를 선택 | 위임 범위, 누적 영향, 중지 조건 |
위 표는 원문의 공식 분류가 아니라 실무 적용을 위한 분석자 구분입니다.
같은 챗봇도 연결된 도구와 승인 방식에 따라 위험이 달라질 수 있습니다. 따라서 “에이전트 제품이 아니다”라는 설명만으로 통제 대상에서 제외하는 것은 적절하지 않습니다.
한계와 보완
발언의 “가장 정교한 에이전트처럼 거버넌스를 생각하라”는 취지는 관리 공백을 만들지 말라는 경고로 읽는 것이 타당합니다. 모든 시스템에 동일한 강도의 통제를 적용해야 한다는 정량적 기준은 제시하지 않습니다.
[보완 필요] 실제 설계에서는 데이터 민감도, 행동의 비가역성, 외부 영향, 위임 권한에 따라 통제 강도를 차등화해야 합니다.
챕터 3. Shadow AI의 위험은 비인가 사용을 넘어 ‘미인지된 행동 권한’으로 확장된다
원문: 00:06:19~00:08:11
핵심 내용
Gloster는 Shadow AI가 점차 에이전트형으로 바뀌고 있다고 진단합니다. 직원에게 제공한 생성형 AI 기능이 시스템 간 데이터 조회·분석·결정·행동으로 확장되지만, 조직이 문제의 전체 범위를 충분히 이해하지 못할 수 있다는 것입니다.[1]
그녀는 새롭게 발견되는 행동에 맞춰 관리 방식을 조정하는 조직과, 별다른 통제 없이 좋은 결과를 기대하는 조직을 대비합니다.[1]
분석
핵심은 도구 사용 승인과 행동 권한 승인이 동일하지 않다는 점입니다.
- AI 계정 제공을 승인했는가?
- 사내 저장소 연결을 승인했는가?
- 문서 조회뿐 아니라 수정도 승인했는가?
- 외부 메시지 전송이나 구매까지 승인했는가?
이 질문들은 각각 별개의 통제 대상입니다.
근거의 한계
“Shadow AI가 점점 에이전트형이 된다”는 발언은 이 인터뷰에서 표본·비율·조사 방법을 제시하지 않은 전문가 진단입니다. 이를 조직 전체의 보편적 도입률이나 위험 발생률로 변환해서는 안 됩니다.
실무 시사점 — 분석자 권고
[보완 필요] 비인가 AI 점검을 웹사이트 접속 여부에 한정하지 말고 다음을 포함해야 합니다.
- 연결된 업무 시스템과 커넥터
- 부여된 인증 범위
- 읽기·쓰기·전송 권한
- 예약 작업과 백그라운드 실행
- 기능 업데이트 이후 권한·행동 변화
즉, ‘어떤 AI를 쓰는가’와 함께 ‘그 AI가 무엇을 할 수 있는가’를 조사해야 합니다.
챕터 4. 거버넌스는 컴플라이언스 문서가 아니라 조직의 운영 능력이다
원문: 00:08:11~00:12:34
핵심 내용
Gloster는 정책 발전이 기술 변화 속도를 따라가지 못하는 상황에서 조직들이 기술의 사용 규칙과 사회적 관행 형성에 관여하게 된다고 설명합니다. 동시에 거버넌스를 준법·위험·정책에만 한정하지 않고, 기술을 실제로 파악하고 관리하는 폭넓은 능력으로 정의합니다.[1]
여기에는 보안 도구와 사고방식뿐 아니라 전사적 위험관리, 안전, 윤리 문제가 함께 포함됩니다. 직원에게 채용·법무·관리자가 필요하듯 에이전트에도 관리 인프라가 필요하다는 비유를 제시합니다.[1]
정책에 대해서는 완벽한 규칙을 기다리기보다 산업계·학계와 협력해 규칙을 만들고, 시행 후에도 조정하며, 명확한 금지선을 설정해야 한다고 주장합니다.[1]
분석
두 층위의 거버넌스가 연결됩니다.
- 사회·정책 층위: 어떤 행위가 허용되고 금지되는가?
- 조직·운영 층위: 그 규칙을 누가 시스템과 업무 절차에 구현하는가?
보안부서만으로는 업무의 적절성을 판단하기 어렵고, 현업만으로는 인증·접근통제·사고 대응을 완결하기 어렵습니다. 따라서 에이전트 거버넌스는 공동 책임 구조가 필요합니다.
주의할 해석
미국의 정책 상황에 대한 발언을 “AI에 적용되는 법이나 책임이 전혀 없다”는 뜻으로 확대하면 안 됩니다. 또한 EU 정책 조정에 대한 언급은 화자의 정책적 평가이지, 구체적인 법 개정 절차를 분석한 법률 설명은 아닙니다.
실무 시사점 — 분석자 권고
공공부문에서는 다음 역할을 분리하되 연결하는 방식이 적절합니다.
- 업무부서: 목적·허용 업무·금지 업무 정의
- 보안·IT: 권한·도구·실행 통제 구현
- 개인정보·법무: 데이터 이용과 외부 영향 검토
- 사업 책임자: 도입·변경·사고 대응의 책임 확보
- 독립 검토 기능: 통제의 실제 작동 여부 확인
챕터 5. 핵심 기술 원칙은 Runtime enforcement이다
원문: 00:12:34~00:15:00
핵심 내용
Gloster는 다음과 같이 말합니다.
“Governance requires runtime enforcement.”
이는 행동이 일어나는 시점에 거버넌스 원칙과 규칙을 집행해야 한다는 의미입니다. 정책을 작성하는 데 그치지 않고, 에이전트의 행동을 추가 검토·진행·즉시 중단으로 구분할 기술적 장치가 필요하다고 설명합니다.[1]
플랫폼 엔지니어링과 함께, 사고·창발적 행동·잘못된 설정을 발견했을 때 조직·운영·기술 전반에 빠르게 반영하는 능력도 강조합니다. 기존의 30·60·90일 패치 주기를 언급하며 더 민첩한 대응을 요구합니다.[1]
분석
이 인터뷰에서 가장 실무적으로 중요한 대목입니다.
정책의 존재와 정책의 집행은 다릅니다.
| 정책 표현 | 분석자 권고: 실행 통제로의 전환 |
| “민감정보를 외부로 보내지 않는다” | 외부 전송 경로 제한, 데이터 분류 검사, 전송 전 승인 |
| “허가된 데이터만 조회한다” | 인증 주체별 접근 범위 강제 |
| “중요 변경은 사람이 검토한다” | 변경 실행 전에 승인 대기 |
| “예산을 초과하지 않는다” | 누적 지출 한도와 초과 요청 차단 |
| “이상 행동을 중단한다” | 도구 호출 차단, 실행 중지, 인증정보 회수 |
위 구현 방식은 원문에 제시된 제품 설계가 아니라 분석자 권고입니다.
프롬프트에 금지사항을 작성하거나 모델이 위험을 자체 판단하게 하는 것은 유용할 수 있지만, 그 자체가 강제적인 권한 경계나 인간 승인 절차를 보장하지는 않습니다.
한계와 보완
인터뷰는 구체적인 정책 엔진, 승인 API, 차단 실패 처리, 지연시간, 오탐률을 제시하지 않습니다. 패치 주기에 대한 발언도 모든 환경에 적용할 새로운 정량 SLA를 제시한 것은 아닙니다.
[확인 필요] 통제 시스템이 응답하지 않을 때 실행을 허용하는지, 차단하는지, 인간 검토로 전환하는지 명시되어야 합니다.
챕터 6. ACE: 위임 권한·실행 통제·책임을 연결하는 프레임워크
원문: 00:15:00~00:17:22
핵심 내용
진행자는 ACE를 Authority-centered Enforcement and Attribution으로 소개합니다. Gloster는 7단계가 있다고 말하지만, 인터뷰에서는 단계별 공식 명칭을 열거하지 않고 주요 내용을 묶어서 설명합니다.[1]
대화에서 확인되는 구성 요소는 다음과 같습니다.
| 구성 요소 | 원문에서 설명한 내용 |
| 위임 권한 정의 | 수행할 일뿐 아니라 하지 말아야 할 일과 멈출 지점 정의 |
| 권한의 한계 | 사용 가능한 금액, 시스템 접근 기간 등 |
| 식별·권한 관리 | 에이전트의 identity와 permissions 파악 |
| 책임자 지정 | 조직 내 관리·책임 주체 확인 |
| 위협모델 공유 | 고객·인프라 영향에 대한 이해를 보안·IT와 공유 |
| 실행 시점 통제 | 목표에서 벗어나는 행동을 식별하고 제어 |
| 지속 학습 | 외부 사고나 내부 문제에서 얻은 정보를 관리 체계에 반영 |
이 표는 설명 내용을 정리한 것이며, 공식 ‘ACE 7단계’ 목록은 아닙니다.[1]
분석
ACE의 가치가 드러나는 질문은 다음입니다.
“이 에이전트는 무엇을 할 수 있는가?”가 아니라
“누가, 어떤 목적을 위해, 어디까지 권한을 위임했으며, 그 권한이 어떻게 집행되고 추적되는가?”
권한에는 기능 범위뿐 아니라 금액·시간·데이터·대상 시스템과 같은 경계가 포함됩니다. 이는 “고객 지원을 잘 수행하라”처럼 넓은 목표를 실행 가능한 통제 조건으로 바꾸는 접근입니다.
실무 시사점 — 분석자 권고
에이전트별 권한 위임 명세서를 다음 구조로 작성할 수 있습니다.
목적 / 책임자 / 식별정보 / 허용 도구 / 데이터 범위 / 금지 행동 / 유효기간 / 비용 한도 / 승인 조건 / 중지 조건 / 실행 증적
다만 문서만 작성해서는 부족합니다. 각 항목이 실제 인증·권한·도구 호출·승인 체계에 연결되는지 검증해야 합니다.
근거의 한계
ACE는 이 인터뷰에서 저자의 제안 프레임워크로 소개됩니다. 공인 표준, 인증 체계, 또는 효과가 정량적으로 검증된 통제 모델로 설명되지는 않습니다.
챕터 7. 에이전트 거버넌스는 현업 소유자와 경영진의 문제이기도 하다
원문: 00:17:22~00:18:23
핵심 내용
Gloster는 책이 보안 전문가만을 위한 것이 아니라고 강조합니다. 고객 지원 봇을 맡은 마케팅 담당자도 고객과의 상호작용과 데이터 접근을 이해하고 관리해야 한다는 예를 듭니다.[1]
또한 현업이나 보안 담당자가 실제 거버넌스를 수행하려면 자원, 조직 재구성, 정보 접근에 대해 경영진을 설득해야 한다고 설명합니다.[1]
분석
이 챕터는 책임만 부여하고 관리 권한·예산·정보는 제공하지 않는 조직 문제를 드러냅니다.
현업 책임자가 다음을 알 수 없다면 실질적인 책임 수행이 어렵습니다.
- 어떤 데이터에 접근했는가?
- 어떤 도구를 호출했는가?
- 무엇을 변경하거나 외부로 전송했는가?
- 승인과 차단이 어디서 발생했는가?
- 누가 권한을 변경할 수 있는가?
실무 시사점 — 분석자 권고
[보완 필요] 업무 책임자와 기술 운영 책임자를 구분하고, 업무 책임자에게 실행 현황·예외·사고 정보를 제공해야 합니다.
거버넌스의 투자 효과를 제시할 때도 비용 절감이나 사고 감소를 단정하기보다, 관리 대상과 통제 공백, 필요한 운영 자원을 먼저 입증하는 것이 적절합니다. 인터뷰에는 거버넌스 투자 수익률의 실측 수치가 없습니다.
챕터 8. PACE: 개인도 권한·책임·맥락·변화를 관리해야 한다
원문: 00:18:23~00:21:05
핵심 내용
Gloster는 개인용 ACE인 PACE를 소개하며 네 가지 관점을 제시합니다.
- 어떤 권한을 주는가?
- 그 행동의 결과에 대한 책임을 받아들일 수 있는가?
- 충분한 맥락을 제공하고 위험을 이해하는가?
- 기술의 변화에 맞춰 사용 방식을 조정하는가?[1]
여행 에이전트에게 15일 동안 최저가를 확인하라고 했는데, 매일 항공권을 구매해 총 15장을 사는 상황을 예로 듭니다. 구매 수량이나 지출 한도를 명확히 해야 한다는 설명입니다.[1]
분석
이 사례는 목표 해석의 오류가 실제 거래로 이어질 수 있다는 점을 보여주는 가상 예시입니다. 실제로 관찰된 사고로 제시된 것은 아닙니다.
또한 “결과에 대한 책임을 받아들일 수 있는가?”는 사용자에게 요구하는 실무적 점검 질문입니다. 이를 사용자가 모든 법적 책임을 부담한다는 결론으로 읽어서는 안 됩니다.
실무 시사점 — 분석자 권고
개인 사용자는 지시를 다음처럼 구체화할 수 있습니다.
- “가격만 조사하고 구매하지 않는다.”
- “구매 전 최종 승인을 받는다.”
- “승인된 구매 건수와 총액을 넘지 않는다.”
- “승인 이후에도 조건이 달라지면 다시 확인한다.”
- “작업 종료 후 실행 결과와 미완료 사항을 보고한다.”
중요한 한계: 이러한 문장은 사용 의도를 명확히 하지만, 실제 구매 제한은 서비스의 권한·승인·거래 통제 기능으로도 집행되어야 합니다.
AI를 이용해 새 기능을 학습하라는 원문 제안 역시 유용한 보조수단일 수 있으나, 중요한 권한 변화는 공식 설정과 문서를 직접 확인하는 것이 적절합니다.
챕터 9. Kill switch는 필요하지만 충분하지 않다
원문: 00:21:05~종료
핵심 내용
Gloster는 조직과 개인이 에이전트를 중지할 수 있어야 한다고 명확히 말합니다. 그러나 정지 기능만으로는 부족하며, 목표·경계에 대한 지속적인 조정, 더 나은 맥락 제공, 기술 변화 이해, 권한 경계의 반복 검증이 필요하다고 강조합니다.[1]
사회 전체에 걸친 일괄 중단이 얼마나 어려운지에 대해서도 언급합니다. 이후 대화는 집필 과정의 긴박함과 출판 시점, 책 안내로 마무리됩니다.[1]
분석
핵심은 Kill switch가 불필요하다는 것이 아니라, 사후 중단만으로 예방과 책임 추적을 대체할 수 없다는 것입니다.
실무에서는 다음을 별도로 다뤄야 합니다.
| 구분 | 분석자 권고 |
| 실행 중지 | 새로운 판단·도구 호출 중단 |
| 권한 회수 | 인증정보·접근 권한 차단 |
| 외부 작업 통제 | 이미 생성된 예약·대기 작업 확인 및 취소 |
| 결과 확인 | 실제 변경·전송·거래 여부 검증 |
| 복구 | 가능한 범위에서 데이터·설정·업무 상태 복원 |
| 증거 보존 | 실행 기록과 승인·정책 이력 확보 |
이 구분은 원문의 상세 구현 설명이 아니라 보완 설계입니다. 에이전트를 정지해도 이미 실행된 외부 행동이 자동으로 취소되는 것은 아니므로, 중지 기능의 범위를 정의해야 합니다.
또한 원문의 “training”과 “compounding learning”을 반드시 모델 재학습으로 해석할 근거는 없습니다. 지시·설정·운영 절차의 조정과 모델 가중치 업데이트는 구분해야 합니다.
3. 이 자료의 강점과 한계
강점
- 내부자 위험이라는 익숙한 관리 관점으로 에이전트의 행동 위험을 설명합니다.
- 허용 업무뿐 아니라 금지 업무·중지 조건·금액·접근 기간을 명시하도록 요구합니다.
- 정책 문서를 넘어 실행 시점의 통제를 강조합니다.
- 보안·현업·경영진·개인 사용자를 하나의 책임 구조 안에서 다룹니다.[1]
한계
| 검토 항목 | 이 자료에서 확인 가능한 범위 |
| ACE의 공식 7단계 | 단계 수는 언급하지만 개별 공식 명칭과 절차는 미제시 |
| 효과 검증 | 위험 감소율·성공률·비용 대비 효과의 실험 결과 미제시 |
| Shadow AI 확산 | 전문가 진단이며 정량 조사 근거 미제시 |
| Runtime enforcement 구현 | 원칙은 제시하지만 상세 아키텍처·실패 처리 미제시 |
| 사고 사례 | 뉴스 사건을 언급하지만 사건별 사실 검증 자료는 제공하지 않음 |
| 법적 책임 | 구체적 책임 배분이나 법률 적용 분석은 없음 |
특히 UN·호주·Hugging Face 관련 언급은 이 인터뷰만으로 공격 경로, 자율성 수준, 피해, 책임을 확정할 수 없습니다. 따라서 본 분석에서는 대화의 배경 언급으로만 취급했습니다.[1]
종합 평가: 이 자료는 기술 구현 명세나 정량 연구보다, 에이전트 거버넌스의 관점을 전환하는 전문가 인터뷰로 활용하는 것이 적절합니다.
최종 시사점
에이전트의 기능을 확인하는 것만으로는 부족합니다. 권한 위임이 명확한지, 정책이 실행 시점에 강제되는지, 실제 결과를 추적할 수 있는지, 문제가 생겼을 때 중지·회수·복구가 가능한지를 확인해야 합니다.
따라서 AI 사업의 검토 초점도 모델 성능과 출력 품질에 더해, 행동 권한·실행 통제·책임 증적으로 확장할 필요가 있습니다.
출처
[1] https://www.brookings.edu/articles/addressing-insider-ai-agents-with-camille-stewart-gloster-the-techtank-podcast — Brookings TechTank 기사 및 전체 대화록. 첨부 PDF와 대조하여 분석했으며, 챕터별 근거 위치는 본문의 타임스탬프에 표시했습니다.














'07.AI > 1.AI 거버넌스' 카테고리의 다른 글
| AI 거버넌스 - 초지능 AI도 모든 보안 버그를 간단히 고칠 수는 없다 (0) | 2026.10.10 |
|---|---|
| AI 거버넌스 - Brookings, 인공지능의 실존적 위협의 진위 여부와 이를 예방하기 위한 정부의 규제 조치의 필요성 (0) | 2026.10.10 |
| AI 거버넌스 - 하버드 로스쿨, 전미경제연구소(NBER), 사고 위험을 통제할 때, 손해배상책임과 사전 안전규제를 어떻게 배합해야 하는가? (0) | 2026.10.07 |
| AI 거버넌스 - AI 모델이 사람에게 피해를 주면, 개발사가 배상해야 한다 (0) | 2026.10.07 |
| 생성형 AI - 소버린 AI - O'Reilly Radar, 소버린 AI ≠ 국산 LLM (0) | 2026.09.23 |


