인공지능 - 법/규제 - EU, AI 협약 (AI Act)

(개념) 업계가 EU의 'AI 법'이 본격 시행되기 전 유예기간에도 안전하고 투명한 AI 사용을 위해 노력하겠다는 자발적 서약

참여 기업은 '고위험' AI 기술로 분류될 만한 자사 시스템을 사전 점검한다. 또 AI법 준수를 위한 조직 내 AI 거버넌스 전략 수립 등이 요구되며 12개월 뒤 집행위에 진행 경과를 공유해야 한다.

 

 

1.EU AI Act 추진경과

 

●︎(추진경과) '21년부터 3년간의 임법 논의 후 유럽의회 본회의 표결에서 「유럽연합 인공지능법(EU Artificial Intelligence Act)」가결(’24.3), 이후 유럽연합 이사회의 최종 승인(’24.5)

 

- (’21년 4월) 유럽연합 집행위원회(European Commission, 행정부 기능 담당)는 세계 최초로 유럽연합 인공지능법을 발의

* EU의 AI 관련 정책 논의는 ’18년 4월 AI 기술개발과 적용에 대한 종합계획인 ‘유럽의 AI 전략(AI for Europe)’ 수립부터 시작되었으며, 12월 AI 기술개발 및 배포 촉진을 위한 ‘AI 합동계획(Coordinated Plan on AI)’를 발표함

* ’19년 4월 ’신뢰할 수 있는 AI 윤리기준(Ethics Guidelines for Trustworthy AI)’ 발표, ’20년 2월 ’AI 백서(White Paper on AI)‘ 등의 정책 및 초기 논의를 바탕으로 인공지능법으로 발전함

 

- (’22년 12월) 유럽연합 이사회(집행위원회 제안 심의･의결 역할)에서 AI 시스템의 안전한 사용 및 기본권 존중을 촉구하기 위한 인공지능법 수정안 마련

* AI 시스템의 정의, AI 규제, AI 시스템의 고위험 분류 및 요구사항, 범용 AI 시스템 등의 내용 포함

 

- (’23년 6월) 유럽의회(European Parliament, EP)는 본회의 표결을 통해서 인공지능법 수정안 채택

* 생체 감시, 감정 인식 등을 위한 AI 전면 금지, Chat GPT와 같은 생성형 AI 시스템의 데이터 저작권 표시 의무, 선거에서 유권자들에게 영향을 미치는 AI 시스템은 고위험으로 간주 등의 내용 포함

 

- (’23년 12월) 이사회 의장국인 스페인 주도 하에 집행위원회･의회･이사회 간 3자 협상을 통해 인공지능법 최종안 합의

* 이 과정에서 독일, 프랑스 이탈리아는 과도한 규제로 인해 유럽연합의 AI 기업의 경쟁력을 억압할 수 있다는 점을 우려함. 기반모델(Foundation Models, FM / 생성형 AI의 기초가 되는 모델)의 직접적인 제재에 반대하며, 제한적 규제를 행동 강령을 통한 자율 규제로 낮출 것을 주장함

 

- (’24년 2월) 인공지능법 시행을 지원하기 위해 유럽 인공지능 사무국(European Artificial Intelligence Office)이 통신 네트워크, 콘텐츠 및 기술 사무국 산하 위원회 내에 출범

 

- (’24년 3월) 유럽의회 본회의에서 인공지능법안(세계 최초의 포괄적 AI법) 가결

 

- (’24년 5월) 유럽연합 이사회에서 인공지능법안 공식 채택

※ 자료 : EU Artificial Intelligence Act(https://artificialintelligenceact.eu/developments) 홈페이지

 

●(향후일정) ’24년 7월 유럽의회와 유럽이사회 의장 서명을 거쳐 유럽연합 공식저널에 게재되며, 이는 새로운 법률의 공식 통지 역할을 하게 됨. 게재 20일 후에 발효될 예정

EU AI Act 향후 일정

- 일부 조항은 발효 뒤 6개월부터 적용, 이후 순차적으로 도입되어 ’26년 이후 전면 시행

 

'금지 AI', '고위험 AI', '범용 AI 시스템' 등 총 12개의 주요 장으로 구성돼 있다.

특히 AI 시스템의 위험도를 기준으로 규제를 달리하는 '위험 기반 접근법(Risk-based approach)'을 채택해 엄격한 규제를 적용하거나 심지어는 금지한다.

 

 

 

주간기술동향 제2160호, AI시대의 사이버보안 기술, 2024.12

 

2. EU AI Act 주요내용

 

● (목적)EU의 가치에 따라 인간 중심적이고 신뢰할 수 있는 인공지능(AI)의 도입 촉진, 민주주의, 법치 및 환경 보호를 포함한 유럽연합 기본권 헌장에 명시된 건강, 안전, 기본권을 포함한 높은 수준의 보호 보장, 혁신을 지원함으로써 내부 시장의 기능을 향상

 

- AI 기반 상품 및 서비스의 자유로운 이동, 국경 간 이동을 보장하여 이 규정에 따라 승인되지 않는 한 회원국이 AI 시스템의 개발, 마케팅 및 사용에 제한을 가하는 것을 방지

 

● (AI 시스템의 정의) 다양한 수준의 자율성을 가지고 작동하도록 설계된 기계 기반 시스템으로서 설치 및 실행 이후에 적응성을 나타낼 수 있으며, 명시적 또는 묵시적인 목적을 위하여 수신된 입력을 바탕으로 물리적 또는 가상 환경에 영향을 줄 수 있는 예측, 콘텐츠, 추천 또는 결정과 같은 결과물을 생성하는 방법을 추론할 수 있음

* 작업을 자동으로 실행하는 단순한 기존 소프트웨어 시스템이나 프로그래밍 방식은 AI 시스템에 미포함

 

● (적용범위) EU 내 사람들에게 영향을 미치는 모든 AI 시스템에 적용(AI 시스템이 EU 내에서의 구축･운영 여부와 관계없이 모든 부문에 걸쳐 적용, 어떠한 경우에는 AI 법이 해당 법 이전 시장에 출시된 AI 시스템에도 적용). AI 가치사슬의 모든 행위자에게 서로 다른 의무를 부과 

[AI 법안 내 다양한 주체의 밸류체인]

 

 

 

 

https://www.kiat.or.kr/front/board/boardContentsView.do?board_id=71&contents_id=86494f15d03b4e20ac33e58bf93faeb9&MenuId=878cb9b6d5ec41bf914ad5c0f590ed14

한국산업기술진흥원

https://spri.kr/posts/view/23764?code=issue_reports&study_type=&board_type=issue_reports&flg=

유럽연합 인공지능법(EU AI Act)의 주요내용 및 시사점 - SPRi

https://spri.kr/posts/view/23779?code=magazine&s_year=&data_page=1

2024년 10월호 - SPRi