개인정보 - 인공지능

질문: 악의를 가진 제3자 혹은 공격자가 민감한 개인정보를 (얼마나) 알아낼 수 있는가

 

기존 개인정보보호 기법

1) 비식별화(anonymization)

 

개념: 민감한 개인정보가 포함된 데이터를 공개할 때 특정 개인의 정보를 식별할 수 없게끔 하는 ‘데이터 공개 메커니즘’

 

한국: 개인정보 비식별 조치 가이드라인

애플: 디퍼렌셜 프라이버시(Differential Privacy)

 

 

개인정보의 적합한 사용’을 위해 새로운 차원의 프라이버시 기준

1) 직접사용 프라이버시(Use-based Privacy; Direct-use privacy)

- 개인 정보의 사용을 ‘특정한 용도, 시간, 범위에서만 사용’할 수 있게끔 제한해 사용자의 개인정보를 나쁜 목적으로 사용하는 것을 미연에 방지

 

2) 간접사용 프라이버시(Use Privacy; Proxy-use privacy)

- 인공지능이 사용자의 민감한 개인정보를 유추하려고 하는지 파악하고, 그렇게 유추한 민감한 개인정보를 사용하는 것을 제한함으로써 사용자의 개인정보를 보호

 

한국: 데이터3법 제정 (자동 의사결정 프로세스에 관한 조항 미포함)

유럽: GDPR(General Data Privacy Regulation)에는 ‘개인의 정보를 사용하는 자동 의사결정(Automated Decision-Making) 프로세스에 대해 설명을 요구하고 이의를 제기할 권리가 있다’

 

 빠르게 변화하는 AI 특성을 반영해 개인정보 처리원칙과 기준을 구체화하기 위해 산업계, 학계, 법조계, 시민단체 등 다양한 이해관계자가 참여하는 ‘AI 프라이버시 민·관 정책협의회’를 10월 중 구성한다.

 

협의회에서는

▲AI 데이터 처리기준

▲리스크 평가

▲투명성 확보 등 세부과제를 논의하고 실제 현장에서 적용할 수 있는 구체적 가이드라인을 내년 중 마련할 계획이다.

 

새로운 디지털 질서의 기본방향을 선언한 ‘파리 이니셔티브’(2023년 6월)와 ‘디지털 권리장전’(2023년 9월)의 기조에 따라 글로벌 AI 규범논의에 주도적으로 참여하고, 주요국 개인정보 감독기구 및 사업자와의 소통·협력도 활성화한다.

 

 

https://www.boannews.com/media/view.asp?idx=89586&kind=0

[CSRC@KAIST 차세대보안R&D리포트] 인공지능 시대의 개인정보와 프라이버시

https://byline.network/2023/10/5-153/

개인정보위, 인공지능프라이버시 전담팀 출범...민·관 정책협의회도 구성 예정 - 바이라인네트