데이터센터 - AI 데이터센터

https://www.itfind.or.kr/trend/weekly/latestWeekly.do

 

 

AI 컴퓨팅을 위한 데이터센터 기술 동향 [주간기술동향 2210호]

AI 기술은 이미지 생성, 동영상 생성, 챗봇 서비스 등 생성형 AI의 활용과 확산에 이어 에이전틱 AI, 피지컬 AI 등의 급속한 발전과 적용으로 인해 산업 전 분야로 파급되고 있다. 정부에서도 AI 3강을 국가적 어젠다로 채택하여 AI 기술 개발과 활용 확산에 대규모 투자를 진행하고 있지만, LLM이나 피지컬 AI, 산업 특화 AX와 같은 AI 서비스 개발에 치중하고 있다. 인프라 분야에서는 그동안 AI 반도체 분야에서 GPU 대안으로 NPU 개발에 집중하였으나 활용성은 아직 낮은 상태이다. 본 고에서는 AI 컴퓨팅의 인프라 차원에서 AI 컴퓨팅 기술, 일반 데이터센터와 AI 데이터센터의 차이, AI 데이터센터의 참조 구조를 소개한다. 또한, AI 데이터센터를 구성하는 하드웨어 구성 요소와 소프트웨어 기술, 전력과 쿨링 동향에 대해 살펴본다. 이러한 설명과 더불어 AI 데이터센터의 추진과 AI 인프라 기술 경쟁력 강화를 위해서는 꼭 필요한 기술인 국내 컴퓨팅 산업, 시스템 소프트웨어 산업, 데이터센터 산업이 당면한 문제를 살펴본다.

 

(개념) AI 모델의 학습 (training), 배포(deployment), 추론(inference) 등 AI 응용 서비스 전반을 지원하기 위해 특화된 고성능 IT 인프라와 기반 설비를 갖춘 시설

- 대규모 연산 처리를 위한 가속기와 이를 뒷받침하는 물리적 환경이 유기적으로 결합된 시스템