LLM - SK 텔레콤, A.X-K2

https://huggingface.co/docs/transformers/main/en/model_doc/axk2

2026.7.24
[A.X-K2]

이 문서는 SK텔레콤이 개발한 A.X-K2라는 대규모 언어 모델의 기술적 구조와 사용 방법을 상세히 설명하는 Hugging Face Transformers 라이브러리 문서입니다. 해당 모델은 Mixture-of-Experts(MoE) 기술을 바탕으로 구축되었으며, 효율적인 연산을 위해 Sparse Gated Attention(SGA)과 Gated RMSNorm 같은 독창적인 최적화 기법을 도입한 것이 핵심입니다. 텍스트에는 개발자가 모델을 직접 구동할 수 있도록 돕는 AXK2Config 및 AXK2Model과 같은 필수 클래스 명세와 더불어, 인과적 언어 모델링(Causal LM) 및 분류 작업을 위한 코드 예제들이 포함되어 있습니다. 결과적으로 이 자료는 연구자와 개발자들이 해당 모델을 활용해 텍스트 생성 및 데이터 분류 등의 고도화된 인공지능 작업을 수행할 수 있도록 돕는 포괄적인 기술 가이드 역할을 합니다.