2026 - 국제 AI 안전 보고서

UK AI Security Institute

 

Contributors 2

Acknowledgements 4

Forewords 6

About this Report 9

Key developments since the 2025 Report 10

Executive summary 11

Introduction 14

 

1. Background on general-purpose AI 16

1.1. What is general-purpose AI? 17

1.2. Current capabilities 26

1.3. Capabilities by 2030 32

 

2. Risks 44

2.1. Risks from malicious use 45

　2.1.1. AI-generated content and criminal activity ㄱ 45

　2.1.2. Influence and manipulation 50

　2.1.3. Cyberattacks 57

　2.1.4. Biological and chemical risks 64

2.2. Risks from malfunctions 71

　2.2.1. Reliability challenges 71

　2.2.2. Loss of control 76

2.3. Systemic risks 84

　2.3.1. Labour market impacts 84

　2.3.2. Risks to human autonomy 89

 

3. Risk management 96

3.1. Technical and institutional challenges 97

3.2. Risk management practices 105

3.3. Technical safeguards and monitoring 120

3.4. Open-weight models 132

3.5. Building societal resilience 138

 

Conclusion 146

Glossary 147

How to cite this report 156

References 157

 

 

https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026

 

본 자료는 2026년 국제 AI 안전 보고서의 주요 내용을 담고 있으며, 전 세계 30개국 이상의 전문가들이 참여하여 **범용 인공지능(General-purpose AI)**의 급격한 발전과 그에 따른 잠재적 위험성을 분석합니다. 보고서는 AI가 수학, 코딩, 과학 분야에서 인간 전문가 수준의 역량을 갖추게 되었으나, 여전히 허위 정보를 생성하거나 물리적 세계와 상호작용하는 데 한계가 있다는 불균형한 성능 문제를 지적합니다. 특히 악의적 이용, 시스템 오작동, 노동 시장 변화 등 새롭게 부상하는 위협을 분류하고, 이를 관리하기 위한 기술적·제도적 방안을 구체적으로 제시합니다. 정책 입안자들이 혁신과 안전 사이에서 균형을 잡을 수 있도록 최신 연구를 종합한 과학적 증거를 제공하는 데 목적이 있습니다. 향후 2030년까지의 시나리오를 통해 AI 기술의 미래 경로를 예측하며, 국제적인 협력과 사회적 회복탄력성 구축의 중요성을 강조하고 있습니다.