인공지능 - 법/규제 - 인공지능 기본법(AI기본법) - 인공지능 사업자별 규제 내용

이성엽 교수의 AI 기본법 분석과 평가

이성엽 교수는 AI 기본법의 주요 내용을 분석하며, 인공지능 사업자별 규제 내용을 다음과 같이 정리했다.

1. AI 개발 및 운영 사업자

AI 시스템을 개발하거나 운영하는 사업자는 안전성과 윤리를 고려한 기술적 조치를 이행해야 하며, 이는 특히 고위험 AI 시스템에 대한 규제를 포함한다.

2. 데이터 제공 사업자

AI 시스템의 학습에 사용되는 데이터를 제공하는 사업자는 데이터의 품질과 신뢰성을 보장해야 하며, 데이터 사용과 관련된 투명성을 유지해야 한다.

3. AI 응용 프로그램 사업자

AI를 기반으로 하는 다양한 응용 프로그램을 개발하는 사업자는 사용자의 개인 정보를 보호하고, 해당 시스템의 결과에 대한 설명력을 제공해야 한다.

4. AI 서비스 제공자

AI 서비스를 제공하는 기업은 서비스의 공정성을 보장해야 하며, 특정 집단에 대한 차별을 방지하는 조치를 취해야 한다.

이러한 규제들은 전반적으로 인공지능 기술의 발전을 촉진하면서도 관련된 위험을 관리하기 위한 목적을 가지고 있다. AI 기본법이 국내 기업이 외국 기업에 비해 역차별 받지 않도록 설계되었다는 점도 강조되었다.

 

5. 인공지능사업자별 규제 내용

 

1. 고영향 인공지능사업자:

• 사전고지의무: 고영향 인공지능을 이용한 제품 또는 서비스를 제공 시, 이를 사전에 고지해야 합니다.
• 안전성·신뢰성 확보조치 이행의무: 고영향 인공지능의 안전성과 신뢰성을 확보하기 위한 일련의 조치를 이행해야 합니다.
• 영향평가: 사람의 기본권에 미치는 영향을 사전에 평가해야 하며, 공공기관이 이를 우선적으로 고려해야 합니다.
• 설명요구권: 이용자에게 이해할 수 있는 설명을 제공해야 합니다.

 

1. 생성형 인공지능사업자:

• 사전고지의무 및 표시의무: 생성형 인공지능으로 생성된 결과물임을 명확하게 표시해야 합니다.
• 만일 딥페이크와 같은 결과물 제공 시, 해당 사실을 명확하게 고지해야 합니다.

 

1. 고성능 인공지능사업자:

• 인공지능 수명주기별 위험 식별, 평가 및 완화를 위한 의무와 위험관리체계를 구축해야 합니다.
• 과기정통부장관에게 이행 결과를 제출해야 합니다.

 

이와 관련된 구체적인 규제 사항 및 의무는 더욱 상세하게 대통령령을 통해 규정될 예정입니다.

 

 

 

 

https://www.lawtimes.co.kr/news/205336

인공지능 기본법의 분석과 평가