LLM - 카카오 Kanana LLM - 안전성 평가 분석서

 

한국정보통신기술협회 AI신뢰성센터는 한국 인공지능 안전연구소와 협력하여 카카오의 AI 모델 'Kanana'를 대상으로 한 제3자 AI 안전성 평가를 수행했습니다.

이번 평가는 AI의 안전성을 객관적으로 검증하고 안전한 AI 생태계를 조성하기 위해 진행되었습니다.

 

∎ 평가 주요 내용

  o 대상 모델: (한국) Kanana Essence 1.5 (9.8B 파라미터, 비공개)
* 비교 모델: (미국) Llama 3.1(8B), (프랑스) Mistral 0.3(7B)

  o 평가 데이터셋
- AssurAI (9110건, 위험요소 32종, Huggingface 공개)
- 고위험 분야 데이터셋 (총 1,351건, 비공개)
  * CBRN-E(사회공학, 사이버보안, 탈옥 방어, 출력 위해성 등)

  o 평가자: 한국 인공지능 안전연구소•한국정보통신기술협회 공동 수행

 

 

 

https://www.tta.or.kr/tta/selectBbsNttView?bbsNo=20&key=9&nttNo=13416