인공지능 - AI 신뢰성 인증(Certification of AI Trustworthiness, CAT)

AI 신뢰성(Trustworthiness)

(개념) AI 시스템의 의사 결정과 활동에 영향을 받는 모든 이해관계자의 기대치를 충족시키는 역량 ( ISO/IEC 22989)

 

(인증대상) AI 신뢰성 인증의 주 대상은 ‘AI 모델’과 ‘AI 시스템’

 

 

(근거 표준 및 지침)

1. ISO/IEC TR 24028(AI 신뢰성 개요, 2020.5)  :

•  표준관점에서 폭넓은 AI 신뢰성 확보 접근 방안을 조사한, 최초의 기술보고서

 

2. ISO/IEC 22989:2022 (AI 개념 및 용어)

•  AI 신뢰성 개념: AI 시스템의 의사결정 및 활동에 영향을 받는, 모든 이해당사자의 기대치 를 충족시키는 역량을 지칭. 확인 가능함을 전제로 함

• AI 신뢰성 특성: 강건성, 안정성, 회복탄력성, 제어가능성, 설명가능성, 예측가능성, 투명성, 편향 및 공정성, 보안, 프라이버시, 안전, 책무성, 무결성, 진실성, 품질 및 사용성 등

 

3. ISO/IEC 23894:2023 (AI 위험관리 가이던스)

• AI를 개발·생산·배포하거나 AI를 활용한 제품·시스템·서비스를 사용하는 조직이 AI와 관련된 위험을 관리할 수 있도록, 핵심 임무들을 제시하고 위험관리 절차를 안내

• ISO 31000 위험관리 표준과 연계해 사용

 

4. ISO/IEC 42001:2023 (AI 관리 시스템)

• AI를 활용한 제품·서비스를 제공하는 조직에서 이행해야 하는 관리적 요구사항

 

5. NIST, AI 위험관리 프레임워크

• 신뢰할 수 있는 AI 시스템 특성: 안전, 보안 및 회복탄력성, 설명가능성 및 해석가능성, 향상된 개인정보보호, 편향 관리 및 공정성, 책무성 및 투명성, 유효성 및 안정성

• 위험관리 핵심기능: 감독(GOVERN), 매핑(MAP), 측정(MEASURE), 관리(MANAGE)

 

6. 과학기술정보통신부, 신뢰할 수 있는 인공지능 개발안내서 7종(TTA 발간)

• 2023년 발간분야: 일반, 공공사회, 의료, 자율주행

• 2024년 발간분야: 일반(개정), 생성형 AI 서비스, 스마트 치안, 채용

 

7. 단체표준, TTA.KO-10.1497 AI 시스템 신뢰성 제고를 위한 요구사항

• 전 AI 생명주기에서 AI 위험관리 및 신뢰성 제고를 위해 준수해야 할 요구사항 15개 제시

• 주요 신뢰성 특성: 설명가능성, 투명성, 제어가능성, 회복탄력성, 안정성, 강건성, 예측가능 성, 보안성, 공정성, 프라이버시, 안전성, 책임성

 

(인증범위) AI 거버넌스 체계, AI 제품 신뢰성

• AI 거버넌스 체계 : 책임 있는 AI를 위한 AI 거버넌스 구축 및 이행

• AI 제품 신뢰성 : 투명성, 공정성(편향관리), 안전성, 설명가능성, 정확성, 강건성, 안정성 등

 

(인증기준)

 

(AI 신뢰성 인증 사례)

 

http://weekly.tta.or.kr/weekly/files/20243201033213_weekly.pdf

 

20243201033213_weekly.pdf

0.19MB