AI 데이터센터 - 스케일 아웃에서 공동 패키징 광학(CPO)까지의 기술 로드맵

https://daily.semidoped.com/p/semi-doped-20260715-datacenter-interconnects

2026.7.15
[Semi Doped: 2026.07.15 - Datacenter Interconnects]

이 글은 현대 AI 연산의 핵심 병목 현상인 데이터 이동 및 상호 연결 기술을 심도 있게 분석한 팟캐스트 녹취록으로, 수만 개의 칩을 하나의 거대한 컴퓨터처럼 작동시키기 위한 네트워크 계층 구조를 설명합니다. 본문은 거리와 목적에 따라 물리적 범위를 확장하는 스케일 업(Scale-up), 스케일 아웃(Scale-out), 스케일 어크로스(Scale-across)의 세 가지 계층을 정의하고, 각 단계에서 전력 효율과 성능을 최적화하기 위한 구리선과 광섬유의 치열한 기술 경쟁을 다룹니다. 특히 데이터 센터 내부의 복잡한 배선 문제를 해결하기 위해 칩과 광학 엔진을 직접 결합하는 공동 패키징 광학(CPO) 기술을 미래 컴퓨팅의 중추적인 혁신으로 제시하며, 하드웨어 제조사들이 직면한 설계상의 도전 과제와 시장 전망을 입체적으로 조명합니다. 결과적으로 이 자료는 단순한 부품 성능을 넘어, 연결의 속도와 효율성이 차세대 인공지능 모델의 성능을 결정짓는 가장 중요한 요소가 되었음을 시사합니다.

 

다루는 내용:
* 데이터센터 네트워크의 세 가지 유형: 스케일업, 스케일아웃, 스케일어라운드
* 다양한 도달 거리에 따른 구리 케이블과 광 케이블 비교
* 플러그형 광 케이블 및 코패키지드 광 케이블(CPO)로의 전환
* 엔비디아의 NVLink와 UALink와 같은 개방형 표준 비교
* 광 링크에서 DSP와 트랜시버의 역할
* 400G에서 1.6T까지의 네트워킹 속도

 

데이터센터 인터커넥트의 미래: 스케일 아웃에서 공동 패키징 광학(CPO)까지의 기술 로드맵

 

1. 서론: 컴퓨팅 역사상 가장 거대한 병목, '데이터 이동(Data Movement)'

현대 AI 컴퓨팅 패러다임은 이제 단일 칩의 연산 성능을 최적화하는 단계를 넘어섰습니다. 오늘날 데이터센터는 수만 개의 GPU가 유기적으로 결합된 '하나의 거대한 컴퓨터'로 진화하고 있으며, 여기서 성패를 결정짓는 핵심 요소는 실리콘의 성능 그 자체가 아니라 칩들을 어떻게 연결하느냐에 달려 있습니다.

 

단언컨대, '데이터 이동(Data Movement)'은 현대 컴퓨팅 역사상 가장 거대한 병목이자 해결해야 할 최우선 과제입니다. 컴퓨트 기능의 성장 속도는 칩 간 상호 연결(Interconnect) 기술의 발전 속도를 압도적으로 앞지르고 있습니다. 이러한 기술 격차는 데이터센터 설계의 중심축을 연산에서 네트워킹으로 강제 이동시켰습니다. 이제 네트워크는 부수적인 인프라가 아니라, 전체 시스템의 생존과 효율을 결정하는 아키텍처의 심장입니다.

 

2. 네트워킹의 세 가지 기둥: 스케일 업, 스케일 아웃, 스케일 어크로스

데이터센터 네트워크는 도달 거리와 목적에 따라 세 계층으로 구분됩니다. 이를 이해하는 것은 인프라 확장 전략의 기초입니다.

 

전략적 비유 (학생 및 비전문가 대상)

• 스케일 업(Scale-up): 한 방 안에서의 대화입니다. 옆 사람과 노트를 공유하듯 매우 빠르고 직접적이며, 서로의 기억(메모리)을 자신의 것처럼 쓸 수 있는 거리입니다.
  
  
• 스케일 아웃(Scale-out): 마을 내 건물 간 통신입니다. 거리가 멀어지며 중계소(스위치)를 거쳐야 하고, 통신에 시간이 조금 더 걸립니다.
  
  
• 스케일 어크로스(Scale-across): 도시 간 고속도로입니다. 수십 마일 떨어진 데이터센터 캠퍼스들을 하나로 잇습니다.

기술적 비교 분석 및 전략적 확장 계층

구분	도달 거리	주요 기술	핵심 목적
스케일 업 (Scale-up)	수 미터 (Rack 내)	NVLink, UA-Link, E-SUN(Ethernet)	GPU 간 메모리 공유 및 초저지연 통신
스케일 아웃 (Scale-out)	수십 미터 (Cluster 내)	InfiniBand, Spectrum-X Ethernet	랙 간 확장 및 백엔드 패브릭 구성
스케일 어크로스 (Scale-across)	20~50 마일 (DCI)	Coherent Optics, WDM	캠퍼스 간 통합 및 재해 복구

[Strategist's Sidebar: 확장된 지평] 위 세 계층 외에도 컴퓨팅 트레이 내부의 연결을 최적화하는 '스케일 인(Scale-in)'과 위성 통신 등을 통해 지구 궤도까지 연결 범위를 넓히는 '스케일 위(Scale-above)' 개념이 등장하며 네트워킹의 경계가 무너지고 있습니다.

3. 스케일 업의 물리적 한계: 78레이어 미드플레인과 구리의 사투

업계의 흔들리지 않는 원칙은 "구리를 사용할 수 있을 때까지 사용하고, 광학(Optics)은 반드시 필요할 때만 사용한다"는 것입니다. 이는 구리가 비용과 전력 효율 면에서 압도적이기 때문입니다. 그러나 데이터 전송 속도가 레인(lane)당 200Gbps에 도달하면서 구리는 물리적 한계 지점에 직면했습니다.

엔지니어링 심층 분석: 구리의 마지막 보루

• 78레이어 미드플레인 PCB: Nvidia는 광학 전환의 비용 부담을 늦추기 위해 78레이어에 달하는 거대 미드플레인 PCB를 도입하는 '소설(Novel)'과 같은 공학적 시도를 단행했습니다. 이는 78층짜리 초고층 입체 교차로에서 수천 개의 신호가 서로 간섭 없이 흐르도록 설계한 것으로, 제조 공정의 극치를 보여줍니다.
  
  
• 물리적 한계와 신호 무결성: PAM4(4단계 전압으로 데이터를 구분하는 변조 방식) 기술을 사용하더라도, 구리 케이블은 거리와 속도가 증가함에 따라 신호 손실이 기하급수적으로 늘어납니다.
  
  
• 운영적 복잡성: xAI의 'Colossus' 데이터센터 사례를 보면, 단일 랙 내부에만 약 2,000미터(2km)에 달하는 케이블이 얽혀 있습니다. 5,000개 이상의 케이블 관리(Purple Cables)는 단순한 정리를 넘어 냉각과 유지보수 측면에서 운영적 재앙에 가까운 복잡성을 야기합니다.

4. 광학 트랜시버의 작동 원리: 레이저, 포토다이오드, 그리고 DSP의 부하

구리의 한계를 넘기 위해 전기 신호를 빛으로 변환하는 광학 트랜시버가 동원됩니다. 하지만 이 변환 과정은 공짜가 아닙니다.

공학적 메커니즘과 전력 문제

1. TOSA & ROSA: 송신부(TOSA)의 레이저가 0과 1에 맞춰 빛을 쏘고, 수신부(ROSA)의 포토다이오드가 이를 다시 전기로 바꿉니다.
   
   
2. DSP(Digital Signal Processor)의 '수학적 중노동': 고속 전송 중에는 0이 1로 읽히는 오류가 빈번합니다. DSP는 파리티 비트(오류 검출용 비트)를 계산하여 이를 실시간으로 교정합니다. 이 수학적 연산 과정이 막대한 전력을 소모하며, 트랜시버 한 개당 약 30W의 전력을 잡아먹는 주범이 됩니다.
   
   

5. 차세대 하드웨어 패러다임: 공동 패키징 광학(CPO)으로의 전환

전력 소모와 신호 손실 문제를 해결하기 위한 궁극적인 생존 전략은 광학 엔진을 칩(GPU/Switch) 옆으로 직접 가져오는 것입니다.

기술 시나리오 및 신뢰성 리스크

• CPO의 구조: TSMC의 CoWoS 또는 Intel의 EMIB와 같은 첨단 패키징 기술을 사용해 실리콘 다이 바로 옆에 광학 엔진을 배치합니다. 구리 경로를 최소화함으로써 DSP의 부하를 줄이고 전력 소모를 기존 대비 1/3 수준으로 절감할 수 있습니다.
  
  
• 치명적인 신뢰성 문제: CPO의 최대 약점은 '교체 불가능성'입니다. 수천 달러 가치의 2나노(nm) 공정 스위치 실리콘이 고작 레이저 하나의 수명이 다했다는 이유로 폐기될 위험이 있습니다. 이를 방지하기 위해 레이저 소스만 랙 외부에 별도로 두는 '외부 레이저 소스(ELS)' 방식이 대안으로 부상하고 있습니다.
  
  
• 속도 로드맵: 800G를 넘어 1.6T, 그리고 Google이 주도하는 레인당 300G 기반의 2.4T와 향후 3.2T 시대로 접어들며 CPO는 선택이 아닌 필수적인 '생존 전략'이 될 것입니다.

6. 시장 역학 및 공급망 전략: 가치 포착을 위한 레이스

기술 표준과 공급망의 주도권을 쥐는 기업이 AI 인프라 경제의 승자가 됩니다.

전략적 경쟁 구도

• 폐쇄형 vs 개방형: Nvidia의 NVLink가 제공하는 수직 계열화된 고성능에 맞서, Broadcom과 AMD는 UA-Link 및 E-SUN(스케일 업 이더넷)을 통해 개방형 생태계 확장을 꾀하고 있습니다.
  
  
• 공급망 기회 분석:

o Credo: 구리의 수명을 연장하는 AEC(Active Electrical Cable) 기술을 통해 1.6T 전환기에서 핵심적인 역할을 수행하며 시장 가치를 증명하고 있습니다.

o Corning: 스케일 어크로스와 CPO 도입 확대로 인한 광섬유 수요 폭증의 수혜를 입을 것입니다.

o Google의 시그널: 자체 TPU 포드를 위해 2.4T 세대를 선제적으로 도입한 것은 업계 전체에 속도 경쟁의 서막을 알리는 강력한 기술적 선언입니다.