LLM - SLM(Small Language Model) - 서울형 경량화 언어모델(S-sLM)

■ 주요 내용 ■
○ 서울시 맞춤형 경량 언어 모델(S-sLM) 개발

• ○ 공공 데이터 학습 및 사전 학습(Pre-training), 미세 조정(Fine-tuning) 과정
• ○ 공공 부문에서 경량화된 AI 모델을 활용하는 방안 연구
• ○ 한국어 특화 AI 모델 개발 및 평가 지표 분석

 

■ 목 차 ■

제1장 연구 개요

  1. 연구 배경

  2. 연구 목표

  3. 연구 방법

 

제2장 언어모델 개발

  1. 학습데이터

  2. 사전학습(Pre-training)

  3. 미세조정(Fine-tuning)

 

제3장 결론

 

 

SK텔레콤의 DEVOCEAN 팀에서 고안한 LLM 품질 평가 방법

 

 

 

 

 

 

https://saif.or.kr/research-report/2661