반도체 - 메모리 - DPU(Data Processing Unit)

연산 중심의 아키텍처(compute-centric architecture) -> 데이터 중심의 아키텍처로 변경

 

[개념] 데이터센터와 디바이스, 그리고 네트워크 간 데이터 처리를 담당하는 프로세서 

- 데이터 처리 및 데이터 중심 컴퓨팅을 위해 설계된 하드웨어 가속기입니다. 이는 CPU와 GPU와 같은 다른 하드웨어 가속기와 차별화되며, 높은 병렬 처리 능력과 MIMD(Multiple Instruction, Multiple Data) 아키텍처

 

폭발적으로 증가하는 데이터에 CPU 혼자 대응하기 힘들기 때문에 데이터 처리를 전문으로 하기 위해 등장한 프로세서

대량의 데이터를 관리하는 기업의 데이터센터에서 활용

CPU 상에서 구동되던 데이터 관련 기능을 DPU가 담당

 주로 스마트 *NIC(Smart NIC)와 통합된 형태로 사용

SDDC에서 다수 User 내 클라우드 접속시 CPU 과부하 Reduce

 

*NIC(Network Interface Controller) :  단일 컴퓨터 간 네트워크를 담당하는 컨트롤러

*스마트 NIC:  스토리지, 컴퓨팅 가속화 기능이 융합

 

시스템의 ▲보안 ▲데이터 저장(storage) ▲인프라 관리 ▲타 디바이스와의 네트워킹 등을 담당

 

[기술] NVMe 기본, 오픈스택 및 쿠버네티스 가속 지원

 

 

[OS]  도카(DOCA) :  데이터센터 단위의 프로그래밍

• 사용자 임의로 선택한 프로세서에만 데이터를 할당하도록 설정할 수 있는 것
• 데이터센터 단위의 프로그래밍 가능

 

소프트웨어 정의 네트워킹, 소프트웨어 정의 스토리지, 원격 측정을 통한 인프라 앱을 만들 수 있다. 주요 클라우드 OS에서 실행할 수 있으며 블루필드 2 DPU를 포함한 블루필드의 다른 제품에서도 사용할 수 있다.

 

DPU의 주요 기능

1. 네트워킹 및 통신 작업 오프로드
   • DPU는 CPU에서 네트워킹 및 통신 작업을 분리하여 CPU가 애플리케이션 지원 작업에 집중할 수 있도록 합니다.
2. 데이터 중심 작업 최적화
   • 데이터 전송, 데이터 압축/해제, 데이터 보안 및 분석 같은 작업을 가속화합니다.
3. 전용 운영체제(OS) 탑재
   • DPU는 자체 OS를 사용하여 기본 OS와 자원을 공유하며 암호화, 삭제 코딩, 압축 등 다양한 기능을 수행할 수 있습니다.

---

데이터 센터에서의 활용

1. 스토리지 지원
   • NVMe 스토리지 장치로의 액세스를 가속화하고 NVMe-oF 기반 원격 스토리지 장치를 표준 NVMe 장치로 인식시켜 드라이버 없이 연결 가능하도록 합니다.
2. 데이터 중심 아키텍처 구현
   • 데이터가 중심이 되는 인프라 설계에서 DPU는 데이터 이동과 전달을 효율화하고 서버 간 데이터 공유의 비효율성을 해결합니다.

---

주요 기술 발전 및 도입

1. 초기 도입
   • 슈퍼컴퓨팅, AI, 빅데이터와 같은 고성능 작업을 위해 클라우드 및 하이퍼스케일 기업들이 먼저 도입했습니다.
   • VMware와 같은 기업이 지원을 시작하면서 더 광범위한 기업들도 DPU를 채택하고 있습니다.
2. 주요 제조업체
   • 2020년 Fungible이 처음으로 DPU를 출시, 이후 Nvidia, Intel, AWS, Marvell 등이 자체 DPU를 발표하며 시장이 확대되고 있습니다.
   • Intel의 **인프라 처리 장치(IPU)**와 Nvidia의 DPU는 네트워킹, 스토리지, 보안 및 가상화를 위한 작업을 가속화하고 데이터센터의 효율성을 높입니다.

---

DPU의 미래 전망

DPU는 특히 데이터 중심 아키텍처를 기반으로 하는 기업에 적합하며, 점점 더 많은 데이터센터와 산업 분야로 확산될 가능성이 높습니다. 클라우드 서비스 제공업체, 통신 회사 및 대규모 데이터 처리 작업을 다루는 기업에서 채택이 가속화될 것으로 보입니다.

결론적으로, 조직의 데이터 처리 및 관리 요구 사항에 따라 DPU가 큰 가치를 제공할 수 있습니다.

 

 

https://www.seminet.co.kr/channel_micro.html?menu=content_sub&com_no=827&category=product&no=6044

엔비디아, DPU를 아시나요? CPU와 GPU에 이어 가속 컴퓨팅의 또 다른 핵심 축 될 것

 

https://egstory.net/edge-news/edge-story/1817/

DPU(Data Processing Unit)를 아시나요? - 루바루바의 엣지있는 네트워크 이야기

https://www.sedaily.com/NewsView/2DGWNBFVRX

데이터센터에 DPU·HBM 적용…MS, AI 혁신 속도낸다

https://www.techtarget.com/searchdatacenter/feature/What-does-a-DPU-do

What does a DPU do? | TechTarget

https://velog.io/@jean1042/SmartNICDPU%EA%B0%80-Hypervisor%EC%97%90%EC%84%9C-%EC%9E%91%EB%8F%99%ED%95%98%EB%8A%94-%EB%B0%A9%EC%8B%9D-feat.-CPU-GPU%EB%8A%94-%EB%93%A4%EC%96%B4%EB%B4%A4%EC%96%B4%EB%8F%84-DPU%EB%8A%94-%EC%B2%98%EC%9D%8C%EC%9D%B8-%EB%8B%B9%EC%8B%A0%EC%9D%84-%EC%9C%84%ED%95%B4

CPU GPU는 들어봤어도 DPU는 처음인 당신을 위해 (feat. SmartNIC(DPU)가 Hypervisor에서 작동하는 방식)