인공지능 - 보안 - 자율 AI 사이버 역량 가속화

https://www.aisi.gov.uk/blog/how-fast-is-autonomous-ai-cyber-capability-advancing

이 보고서는 프론티어 AI 모델이 자율적으로 수행 가능한 사이버 작업의 복잡도와 시간적 범위가 최근 몇 개월 단위로 급격히 배복(doubling)하며 가속화되고 있다는 분석을 담고 있습니다. 영국 AI 안전 연구소(AISI)는 최신 모델인 GPT-5.5와 Claude Mythos Preview가 기존의 예측 경로를 크게 상회하여 인간 전문가 수준의 긴 과업을 성공적으로 완수하고 있음을 정량적 지표로 제시합니다. 특히 토큰 제한이나 에이전트 환경의 제약에도 불구하고 취약점 분석 및 네트워크 침투 역량이 빠르게 성장하고 있어, 연구진은 이러한 기술적 진보가 실질적인 보안 위협과 방어 기회로 직결될 수 있음을 경고합니다. 결론적으로 이 자료는 정부와 기업이 AI의 자율적 사이버 역량 변화 속도에 맞춰 탄력적인 보안 표준을 수립하고 대응 체계를 서둘러 구축해야 한다는 긴급한 필요성을 강조하고 있습니다.

 

그림 1: AISI의 제한된 사이버 공격 과제 모음(토큰 예산 250만 개)에서 80% 신뢰도의 사이버 공격 시간 예측 범위. 음영 처리된 영역은 각 모델의 부트스트랩 분포(과제/실행의 계층적 재표본 추출 1,000회)를 나타냅니다. 안쪽 영역은 중앙 50%, 바깥쪽 영역은 중앙 95%입니다. 사이버 공격 과제 모음에서 가장 긴 과제는 12시간입니다.

 

그림 2: 총 토큰 지출액에 따른 "The Last Ones"(32단계로 구성된 모의 기업 네트워크 공격)에서 완료된 평균 단계 수. 각 선은 서로 다른 모델을 나타내며, 음영 영역은 각 토큰 예산에서 모든 실행에 걸친 최소-최대 범위를 보여줍니다.