반응형

https://newsletter.semianalysis.com/p/vera-rubin-nvl72-agentic-inference

2026.9.15
[Vera Rubin NVL72 Agentic Inference: 67x better Performance per Dollar]

이 보고서는 엔비디아의 차세대 AI 플랫폼인 베라 루빈(Vera Rubin) NVL72가 복잡한 에이전틱 추론(Agentic Inference) 작업에서 보여주는 압도적인 성능과 경제성을 분석하고 있습니다. 저자들은 자체 벤치마크인 AgentX를 활용해 루빈이 이전 세대인 블랙웰(Blackwell)보다 전력 대비 토큰 처리량은 최대 7배, 총소유비용(TCO) 대비 성능은 최대 67배까지 우수하다는 실측 데이터를 제시하며, 엔비디아 CEO 젠슨 황이 오히려 성능을 보수적으로 발표(Sandbagging)하고 있다고 주장합니다. 특히 긴 문맥과 잦은 도구 호출이 특징인 에이전틱 워크로드에서 루빈의 극한의 공동 설계(Extreme Co-design)가 수익성을 극대화함을 강조하며, 기가와트(GW)당 연간 이익이 블랙웰 대비 약 446억 달러 더 높을 것으로 추정합니다. 결론적으로 이 자료는 하드웨어와 소프트웨어의 최적화를 통해 AI 인프라 제공업체가 더 많이 구매할수록 더 많은 이득을 얻을 수 있는 구조를 증명하는 데 목적이 있습니다.

728x90
반응형
Posted by Mr. Slumber
,