AI 안전성 - Google Cloud, 에이전트 기반 AI를 활용한 인프라 코드 보안 강화

https://cloud.google.com/blog/topics/systems/using-ai-agents-to-secure-google-infrastructure

2026.9.19
[Changing the game: Using agentic AI to secure infrastructure code]

구글은 소프트웨어 개발 과정에서 보안을 강화하기 위해 인공지능 기반의 에이전트 시스템을 도입하여 코드를 실시간으로 검사하고 수정하는 방식을 채택하고 있습니다. 전통적인 방식의 느린 대규모 검사 대신에, 이 새로운 접근법은 코드 작성 단계마다 사전 검증을 수행하여 개발 속도를 늦추지 않으면서도 정확하게 취약점을 찾아냅니다. 또한, 시스템은 지역화된 위협 모델과 신속한 검증 절차를 활용해 오탐지율을 현저히 낮추고, 문제가 발견되면 자동으로 수정안을 제시하여 사람이 검토할 수 있도록 돕습니다. 결과적으로 이 문서는 기업들이 자체 개발 주기에 이러한 인공지능 기반 보안 파이프라인을 구축하여 코드의 안전성을 지속해서 높이는 방법을 제시하고 있습니다.

 

제출 전 에이전트 방식의 광범위한 스캐닝: 지속적인 소프트웨어 개발의 일환으로서의 보안

 

핵심 분석

이 글의 요지는 AI로 취약점을 한 번에 대량 탐색하는 방식에서, 코드 변경마다 보안 검증을 수행하는 방식으로 전환했다는 것입니다. Google은 인프라에 배포되는 코드의 변경사항을 사전 제출(pre-submit) 단계에서 검사하고, 취약점 발견·검증·수정 제안을 개발자의 기존 리뷰 흐름에 결합했다고 설명합니다. “매월 수백 건의 취약점이 코드베이스 또는 운영환경에 도달하지 않도록 막는다”는 성과는 Google의 자체 발표입니다.[1]

 

작동 구조

코드 변경 → 국소 위협모델을 활용한 사전 스캔 → 발견사항 검증 → 수정안 제안 → 사람의 리뷰·편집 → 병합 → 사후 통합검사

• 국소 위협모델: 정적인 문서만 주입하는 대신, 현재 코드베이스 메타데이터와 패키지·라이브러리 간 호출·의존 관계를 활용해 해당 변경의 공격 맥락을 좁힙니다.[1]
• 분류(triage) 에이전트: AI가 찾은 의심 지점을 추상 구문 트리(AST), 호출 그래프, 사전 색인된 안전 규칙으로 확인하여 공격자가 취약 경로에 도달할 수 있는지 검증합니다. Google은 이 단계의 precision이 92%를 넘고 1분 이내에 완료된다고 밝힙니다.[1]
• 이중 방어: 빠른 사전 검사가 개발 흐름을 지원하고, 야간 사후 검사가 여러 변경사항의 결합으로 생길 수 있는 취약점을 추가로 살핍니다. 수정 에이전트가 패치를 만들지만 최종 반영에는 사람의 리뷰가 포함됩니다.[1]

수치를 읽을 때 주의할 점

발표 수치	정확한 해석	확인이 필요한 부분
오탐률 일부 사례에서 3%	국소 위협모델을 적용한 일부 경우의 결과	전체 코드·언어·취약점 유형의 평균치가 아님
분류 에이전트 precision 92% 초과, 1분 미만	검증 단계의 긍정 판정 품질과 처리시간에 관한 주장	재현 가능한 평가집합, 표본 수, 부하 조건이 제시되지 않음
월 수백 건 예방	Google이 보고한 내부 성과	무엇을 ‘취약점’과 ‘예방’으로 집계했는지, 기존 절차 대비 순증 효과는 공개되지 않음

특히 precision이 높다는 사실만으로 탐지 누락이 적다는 뜻은 아닙니다. 글에는 재현율(recall), 미탐률, 취약점 심각도별 성과가 제시되지 않아 보안 효과 전체를 독립적으로 평가하기는 어렵습니다.[1]

실무적 시사점

가장 중요한 설계 원칙은 에이전트를 늘리는 것이 아니라 역할과 증거를 분리하는 것입니다. 개발 에이전트와 스캔·분류 에이전트의 규칙·맥락을 분리하고, AI의 의심 판정 뒤에는 구조적 검증 또는 격리된 재현시험을 배치하며, 패치는 사람이 승인하는 구성이 합리적입니다.[1][2]

조직에 적용한다면 처음부터 전 코드베이스 자동수정으로 확장하기보다, 고위험 저장소의 PR 사전 검사 → 검증 가능한 취약 경로 기록 → 오탐·미탐 측정 → 인간 승인형 패치 순으로 시작하는 것이 적절합니다. 필수 관리지표는 취약점 유형·심각도별 precision/recall, PR 지연시간, 실제 재현 성공률, 수정 후 회귀결함률입니다. 이는 원문의 성과 수치를 자사 환경에서 검증 가능한 지표로 바꾸기 위한 제안입니다.

도입상 경계: 공개된 Mantis는 Google 내부 운영체계와 동일한 완제품으로 취급하면 안 됩니다. 저장소는 이를 출발점·참조 구현으로 설명하며, 자동 생성 코드를 실행하므로 격리된 제한 환경에서 사용하고 발견사항은 보안 전문가가 수동 검증하라고 경고합니다. 운영망·민감정보에 접근 가능한 환경에서 그대로 실행하는 방식은 피해야 합니다.[3]

Sources

[1] Google Cloud Blog — Changing the game: Using agentic AI to secure infrastructure code
[2] Google Cloud Blog — Getting started with Mantis
[3] Google Mantis 공개 저장소