인공지능 - 법/규제 - EU, AI 시스템 규정(Regulation (EU) 2024/1689)

제정 배경 및 필요성

• 유럽연합은 AI 기술을 규제하는 세계 최초 포괄적인 AI 규정(Regulation (EU) 2024/1689)을 제정함. 이는 최근 AI 기술의 급격한 발전과 확산으로 AI 시스템의 잠재적 위험이 크게 증가함에 의함이며, 특히 고위험 AI 시스템이 사회적, 경제적, 법적 문제를 야기할 수 있는 가능성이 높아짐에 따라 변화에 대응하기 위해 제정됨
• 이 규정은 유럽연합에 진출하려는 비유럽연합 기업에도 적용되어 국제적 영향력을 가지게 되며, AI 기술의 혁신을 장려하면서도 위험을 관리해 AI 시스템이 사회에 미치는 영향을 최소화하고 인간의 기본 권리와 자유를 보호하는 것을 목적으로 함

❶ 위험관리: AI 시스템 위험 수준을 평가하고 관리하기 위한 규제 기준 확립

❷ 투명성과 책임성 강화: AI 시스템 개발 및 사용에 대한 투명성 보장과 책임성 강화

❸ 혁신 촉진: AI 기술의 혁신을 촉진하면서도 윤리적 사용 장려

 

주요 내용

• AI에 대한 인공지능 시스템의 개발, 배포 및 사용과 관련된 전반적인 사항에 대해 규정하고 있음

❶ AI 시스템 분류: AI 시스템의 위험 수준에 따라 분류하여 규제

❷ 투명성 및 안전성 요건: AI 시스템이 투명하고 안전하게 작동하도록 하기 위한 구체적인 요건을 규정

❸ 감독 및 집행: 각 국가에서 AI 시스템을 감독하고 집행할 당국을 명시

 

AI 시스템의 위험 수준에 따른 분류

 

• 허용할 수 없는 위험(Unacceptable Risk): 인간의 안전이나 기본권에 심각한 위협을 가하는 AI 시스템은 금지됨. 예를 들어, 신용점수 시스템에 적용되는 AI는 인간의 기본권이나 개인정보의 안전에 심각한 위험을 초래할 가능성이 있으므로 전면적으로 금지됨. 이러한 AI 시스템은 어떠한 형태로도 EU 내 개발, 배포, 사용이 허용되지 않음
• 고위험(High Risk): 고위험으로 분류된 AI 시스템은 엄격한 규제를 받으며, 개발자와 사용자 모두에게 의무사항이 부과됨. 주로 의료, 교육, 법 집행, 고용 등에서 사용되며, 높은 규제 요구사항을 준수해야 함. 위험 평가와 관리체계, 높은 품질의 데이터 사용, 투명성, 설명 가능성, 사람의 직접 감독 등을 요구하며 기술명세서 작성, 시스템 운영 기록 보관, 이용자에 대한 정보 제공 등의 의무를 포함함
• 제한적 위험(Limited Risk): 제한적 위험 수준 AI 시스템은 상대적으로 낮은 위험을 갖지만, 사용자가 이용하는 시스템이 AI에 의해 구동된다는 사실을 인지할 수 있게 하는 투명성을 제공해야 함. 예를 들어, 챗봇*이나 자동화된 고객서비스 시스템은 사용자가 AI와 상호작용하고 있음을 명확히 고지해야 함 * 챗봇은 컴퓨터 프로그램으로, 사람처럼 대화하는 것처럼 보이지만, 실제로는 미리 설정된 규칙이나 인공지능 기술을 사용해 대답을 생성함
• 최소 위험(Minimal Risk): 최소 위험 범주에 속하는 AI 시스템은 일반적으로 규제대상이 아니며, 자유롭게 개발 및 배포될 수 있음. 그러나 기본적인 안전과 윤리 기준을 준수하는 것이 권장되며, 대부분의 AI 애플리케이션에 해당됨

 

규제 비준수 시 제재사항

• 조직이 법안에 대한 의무를 제때 이행하지 않거나, AI 법안이 완전히 발효된 이후에도 의무를 소홀히 할 경우 비준수에 대한 무거운 제재를 받을 수 있음

❶ 금지된 사항을 어기거나 의무를 준수하지 않을 경우, 전년도 연매출의 최대 7% 또는 최대 3,500만 유로(한화 523억 9,430만원) 중 더 높은 금액으로 벌금이 부과될 수 있음

 

❷ 고위험 AI 시스템과 관련된 의무를 준수하지 않을 경우, 전년도 연매출의 최대 3% 또는 최대 1,500만 유로(한화 224억 5,590만원) 중 더 높은 금액으로 벌금이 부과될 수 있음

 

❸ 감독기관 요청에 대해 부정확하거나 불완전한 오해의 소지가 있는 정보를 제공할 경우, 전년도 연매출의 최대 1% 또는 최대 750만 유로(한화 112억 2,795만원) 중 더 높은 금액으로 벌금이 부과될 수 있음

 

규정 적용 타임라인

 

 

 

 

 

https://www.khidi.or.kr/board/view?pageNum=1&rowCnt=10&no1=533&linkId=48914495&menuId=MENU01784

글로벌 보건산업 동향 Vol.523(2024.08.19)