LLM - 경량

(필요성)

리소스 한계 극복을 위해 LLM이 모바일, 임베디드 시스템 또는 리소스가 제한된 환경에서 리소스 제약을 고려하여 모델을 축소하고 효율적으로 실행할 수 있는 경량화 표준개발이 필요하다.

 

배포 및 전파를 위해서는 모델의 크기가 작은 경우에도 다운로드, 설치 및 업데이트 시간이 단축되며, 효율적인 배포가 가능해지도록 경량화 표준개발이 필요하다.

 

또한 LLM이 많은 양의 데이터를 필요로 하기 때문에 발생하는 사용자의 개인정보 보호에 대한 기준을 제시할 수 있는 경량화 표준개발이 필요하다.

 

인터페이스를 통한 협업 연구를 위해 표준 인터페이스와 도구를 사용하여 모델을 공유하고 협업할 수 있는 환경을 제공함으로써 기술 발전을 도모할 수 있는 경량화 표준개발이 필요하다.

 

LLM 경량화 모델이 상호운용성이나 생산성 등을 갖도록 하기 위해서는 프레임워크 및 아키텍처 표준화 기술개발 등이 필요하다.

 

 

(기대효과)

LLM 경량화 표준은

 

LLM 보급과 활용을 촉진하며,

자원 효율성, 보안,

개인정보 보호,

협업과 연구 지원을 통해 다양한 업체와 연구 기관들의 생태계의 표준화와 통일성을 촉진할 수 있을 것이다.

 

또한 LLM 경량화 표준을 통해

다양한 애플리케이션 간 상호운용성,

개발생산성,

성능향상,

보안과 신뢰성 강화 등의 기술적 파급효과를 가져올 수 있을 것이다.

 

출처: TTA 저널 제207호

20232901012950_weekly.pdf

0.40MB