생성형 AI - 챗GPT 등 생성형 AI 활용 보안 가이드라인(2023.6)

1. 개요 1

1.1. 생성형 인공지능 기술 소개 1

1.2. 생성형 인공지능 기술의 기본 개념 - GPT를 사례로 3

1.3. 해외 주요국 동향 8 2. 생성형 인공지능 기술의 대표적인 보안 위협 10

 

2.1. 개요 10

2.2. 잘못된 정보 11

2.3. 생성형 AI 모델 악용 13

2.4. 유사 AI 모델 서비스 빙자 15

2.5. 데이터 유출 16

2.6. 플러그인 취약점 19

2.7. 확장 프로그램 취약점 21

2.8. API 취약점 23

 

3. 안전한 생성형 인공지능 기술 사용 가이드라인 25

3.1. 개요 25

3.2. 서비스 사용 주의사항 26

3.3. 서비스와의 대화 시 주의사항 28

3.4. 서비스 플러그인 사용 주의사항 33

3.5. 서비스 확장 프로그램 사용 주의사항 35

3.6. AI 모델 생성기반 공격 대처 방안 37

 

4. 생성형 인공지능 기반 정보화사업 구축 방안 및 보안 대책 39

4.1. 개요 39

4.2. 구축 유형에 따른 생성형 AI 기술 도입시 고려사항 40

4.3. AI 모델 API 활용 및 민간 AI 모델 도입 방안 42

4.4. 자체 데이터 세트 및 AI 모델 구축 단계별 보안 위협 대응 방안 47

 

5. 부록 50

5.1. 약어 51

※ 챗GPT 등 생성형 AI 활용 보안수칙 52

 

 

 

 

 

 

https://www.ncsc.go.kr:4018/main/cop/bbs/selectBoardArticle.do?bbsId=InstructionGuide_main&nttId=54340&menuNo=070000&subMenuNo=070300&thirdMenuNo= 

국가사이버안보센터