LLM - 업스테이지, Solar Pro Preview

https://huggingface.co/upstage/solar-pro-preview-instruct

2024.9.20
[upstage/solar-pro-preview-instruct ]

Solar Pro Preview는 업스테이지(Upstage)가 개발한 220억 개의 파라미터를 가진 고성능 언어 모델로, 강력한 지능을 유지하면서도 단일 GPU 환경에서 효율적으로 구동되도록 설계되었습니다. 이 모델은 '깊이 업스케일링' 기술을 통해 성능을 극대화하여, 훨씬 더 거대한 규모의 모델들과 대등한 지시 이행 능력 및 지식 평가 점수를 기록하는 등 뛰어난 효율성을 보여줍니다. 본 텍스트는 개발자를 위해 ChatML 템플릿을 활용한 최적의 대화 방식과 다양한 라이브러리에서의 구현 코드 및 벤치마크 지표를 상세히 안내합니다. 결과적으로 이 문서는 정식 출시 전의 미리보기 버전으로서 모델의 기술적 우수성을 입증하고 실제 활용을 돕는 종합적인 기술 가이드 역할을 수행합니다.