인공지능 - 범용 일반 지능(AGI) - 범용인공지능(AGI)의 5가지 국가 안보 난제

 

인공지능의 글로벌 안전 문제

인공지능(AGI)의 발전은 여러 가지 복잡한 국가 안전 문제를 촉발합니다. 특히 미국의 국가 안보에 있어 AGI의 출현은 다음과 같은 다섯 가지 주요 문제를 제기합니다.

1. 경이로운 무기

AGI가 발전함에 따라 새로운 고도화된 무기의 개발이 가능해져, 이를 통해 전투력의 불균형을 초래할 수 있습니다. 이러한 무기는 적의 방어를 뚫고 신속하게 목표를 타격할 수 있으며, 이를 통해 전쟁의 양상이 급변할 수 있습니다.

2. 시스템 변화

AGI의 등장으로 인해 국가 안보 시스템 내의 전통적인 힘의 균형이 붕괴될 수 있습니다. 이는 군사, 경제, 정치적 힘의 변화를 초래하며, 여러 국가들이 새로운 기술적 도전에 직면하게 될 것입니다.

3. 사이버 보안의 위협

AGI는 사이버 공격의 효율성을 극대화할 수 있으며, 이는 중요한 국가 기반 시설에 대한 위협을 증가시킵니다. 적군이 AGI를 활용하여 사이버 공격을 감행한다면, 심각한 데이터 유출이나 시스템 마비와 같은 사태가 발생할 수 있습니다.

4. 비대칭 전쟁

AGI는 비대칭 전쟁의 형태를 바꿀 수 있는 잠재력을 가지고 있습니다. 소규모 그룹이나 비국가 행위자가 AGI를 활용하여 대국과의 전쟁에서 우위를 점할 수 있는 상황이 발생할 수 있습니다.

5. 민주적 과정의 위협

AGI의 활용은 민주적 절차와 정치적 과정에 대한 신뢰를 해칠 수 있습니다. 정보 조작 및 불법적인 정치 개입 등이 가능해져, 공정한 선거 및 사회의 자유가 위협받을 수 있습니다.12

---

AGI의 발전은 다음과 같은 추가적인 국가 안보 문제를 고려해야 합니다.

AGI의 발전에 따른 주요 문제 중 하나는 비전문가들이 대량 파괴 무기를 개발할 수 있는 능력입니다. AGI가 민주적 통제 없이 발전할 경우, 지식이나 기술이 없던 비전문가들이도 무기 개발에 참여하게 되면서 대규모 파괴가 가능해지는 위험이 커집니다.

또한, AGI는 전략적 불안정을 초래할 수 있습니다. AGI가 국가의 안보를 강하게 위협하거나 군사적 도발에 사용될 경우, 긴장이 고조되어 전쟁이나 갈등의 위험이 증대할 수 있습니다.

마지막으로, AGI가 특정 국가나 대기업에 의해 독점적으로 통제될 경우, 이들 기관은 결정적인 전략적 우위를 점하게 되며, 이는 국제 정치와 경제의 불균형을 심화시킬 수 있습니다. 이는 궁극적으로 우리 사회의 질서를 위협하게 됩니다.12

 

표 3 주요국 정부의 AI 안전·신뢰 관련 동향

 

미국	• “국가 AI R&D 전략계획 2023 업데이트”에서 AI 안전·신뢰 기술개발을 주요 내용으로 담음(’23. 5)
	• AI 행정명령 발표(’23. 10)
	• 국립표준기술연구소(NIST) 산하에 AI안전연구소 설치(’23. 11)
유럽	• (EU) 세계 최초로 AI 규제 법안인 AI법 제정(’24. 5)
	• (영국) AI 안전성 정상회의 개최 및 브레츨리 선언 발표, 세계 최초 AI 안전연구소 설립(’23. 11)
	• (프랑스) AI 행동 정상회의(AI Action Summit) 개최 예정(’25. 2)
일본	• 문부과학성은 사회를 위한 AI 연구에 30억엔 예산을 배정하고 AI 신뢰성 확보 추진(’23)
	• 경제산업성 산하기관 정보처리추진기구에 AI 안전연구소 설립(’24. 2)
중국	• AI 규제인 “생성형 AI서비스 관리 잠정방법” 공포(’23. 7)
한국	• AI-반도체 이니셔티브의 9대 기술혁신 과제에 AI Safety 포함(’24. 4)
	• AI안전연구소 설립(’24. 11)

[i]

출처 참고자료 활용하여 저자 작성[48-53].

 

https://www.rand.org/pubs/perspectives/PEA3691-4.html

https://ettrends.etri.re.kr/ettrends/212/