에이전트 AI - 재귀적 자기 개선(RSI), AI 연구 가속, 미·중 격차, 현실세계 병목의 재평가

https://www.interconnects.ai/p/debating-rsi-the-us-china-gap-and

2026.9.22
[Debating RSI, the US-China Gap, and Jaggedness with JS Denain of Epoch AI]

이 대담은 Epoch AI의 JS Denain과 Nathan Lambert가 인공지능 발전의 핵심 쟁점인 재귀적 자기 개선(RSI)과 미국-중국 간의 기술 격차를 심도 있게 분석한 내용을 담고 있습니다. 두 전문가는 AI가 연구 과정을 자동화하며 발전을 가속화하는 현상을 짚어보는 한편, 데이터 센터와 컴퓨팅 자원의 차이에도 불구하고 중국이 어떻게 기술적 간극을 좁히고 있는지에 대한 실질적인 가설들을 논의합니다. 또한, 로보틱스의 산업화 가능성과 모델 보안의 취약성 등 실무적인 도전 과제들을 탐구하며 미래 AI 경로에 대한 불확실성과 예측을 공유합니다. 결론적으로 이 자료는 급변하는 AI 생태계 속에서 성능 측정 지표와 연구 방법론이 어떻게 진화하고 있는지를 조명하는 전문적인 통찰을 제공합니다.

 

현재의 AI 가속은 ‘국소적·측정 가능한 업무’에서는 강하지만, 조직 전체의 연구속도·과학적 통찰·물리세계 확산으로 전환되는 과정에는 계산자원, 실험, 데이터, 조정, 제조 등 병목이 남아 있다.

 

1. RSI(재귀적 자기개선): “징후는 있으나, 임박한 폭발의 증거는 부족”

대담의 주장

• OpenAI 내부 연구자들의 Codex 사용 지출이 월 단위로 크게 증가한 것은 AI가 모델 개발·엔지니어링 업무에서 실질 가치를 내고 있다는 신호다.
• 그러나 이것만으로 6개월 내 소프트웨어 지능폭발이나 AI 연구자의 전면 자동화를 주장하기에는 증거가 약하다.
• 특히 AI의 효과가 큰 영역은 엔지니어링, 트러블슈팅, 비용·추론 효율화처럼 비교적 평가 가능한 업무이며, 연구방향 설정·컴퓨트 배분·전략적 의사결정에는 아직 뚜렷한 향상이 확인되지 않았다는 해석이다.[1]

분석

•  [보완 필요: 측정체계] “AI가 연구생산성을 10배 높였다”는 표현은 최소한 다음 세 층위를 분리해야 합니다.

1. 개인 단위 생산성: 연구자 한 명의 코드·문헌·실험 반복 속도

1. 조직 단위 생산성: 연구소가 같은 기간에 산출하는 검증된 성과

1. 분야 단위 생산성: 새로운 과학적 이해와 기술 패러다임의 진전

• 대담은 1번의 향상이 2번·3번에 기계적으로 전이되지 않는다고 지적합니다. 이 구분이 빠지면 “도구 사용량 증가”를 “지능폭발”로 과대해석하게 됩니다.[1]

 

2. ‘Jaggedness’: AI 역량은 균질적으로 상승하지 않는다

• Lambert의 핵심 반론은 AI 성능이 모든 영역에서 연속적으로 올라가는 것이 아니라 검증 가능하고 보상 설계가 쉬운 영역에서 먼저 급격히 상승하는 불균질성(jaggedness)을 보인다는 것입니다.[1]

• 수학의 공개 난제는 정답 판별이 명확하므로 AI 학습·평가에 특히 유리하다.
• 반면, 기초화학의 발견·암 치료법 개발·새 아키텍처 창안처럼 장기적이고 개방형인 과제는 보상 신호와 평가환경을 만들기 어렵다.
• 따라서 벤치마크·코딩·추론 점수의 급등이 곧바로 “범용 과학지능” 또는 “현실세계 자율성”의 급등을 의미하지는 않는다.[1]

3. 로보틱스와 산업 가속: 대담 내 가장 큰 불확실성

• RSI가 현실경제의 폭발적 생산성으로 이어지려면, 소프트웨어 역량이 로봇·공장·에너지·물류로 확산되어야 합니다. 여기서 두 사람의 견해가 갈립니다.[1]

Lambert의 견해

• 로보틱스는 LLM보다 자율주행차에 가까운 확산곡선을 보일 가능성이 크다.
• 물리세계는 긴 꼬리(long-tail) 예외상황, 신뢰성, 안전성, 제조·설비 구축 문제가 커서 2~5년 내 급격한 전면 자동화에는 회의적이다.
• 다만 반복적이고 제약된 환경의 제조·물류 자동화는 더 빠르게 진전될 수 있다.[1]

Denain의 견해

• 로봇이 인간 블루칼라 노동을 유의미하게 대체할 수준이 되면 경제적 유인이 매우 커 공급·공장 구축은 빠르게 늘 수 있다.
• 인간용으로 설계된 환경을 로봇 우선 환경으로 재설계하면, 인간 수준의 범용 손재주가 없어도 일부 산업의 생산성은 크게 상승할 수 있다.[1]

판단

현 시점에서 더 견고한 결론은 다음입니다.

• 단기(1~3년): 소프트웨어·사무·제약된 산업환경의 부분 자동화가 핵심
• 중기(3~7년): 특정 산업의 로봇 우선 재설계 여부가 분기점
• 불확실성의 핵심: 모델 지능보다도 현장 신뢰성, 물리적 예외처리, 자본투자, 규제·보험·책임 구조

• 즉, “AI 모델이 사람보다 똑똑한가”보다 AI가 허용오차 내에서 반복 실행되는 사회기술 시스템을 구성할 수 있는가가 더 중요한 질문입니다.

 

4. 미·중 모델 격차: 자본·컴퓨트 격차보다 능력 격차는 작다

• Denain은 공개 모델 기준으로 중국 선도 모델이 미국 선도 모델보다 대략 6~8개월 뒤처진다고 보며, 지표·방법에 따라 약 4~8개월의 범위를 인정합니다. Lambert는 Kimi·GLM 계열의 일부 모델이 특정 지표에서는 2~4개월 수준으로 근접해 보인다고 봅니다.[1]

격차 축소의 후보 설명

대담은 다음 가설들을 제시하지만, 상당수는 실증이 아니라 해석·업계 관측 수준입니다.

후보 요인	대담의 평가	증거수준
증류(distillation)	격차 축소에 유의미할 수 있음	불확실
공개 API·라우터를 통한 고품질 프롬프트 분포 확보	실제 사용 분포 학습에 유용할 수 있음	개연성
미국 연구·개발 투자에서 파생된 RL 환경의 재판매	중국 측 자본효율을 높일 수 있음	업계 전언
공개·출시 속도 차이	격차 측정에 일부 영향	제한적
중국의 데이터 작업·인력 조직화	점진적 영향 가능	추정
장기·개방형 R&D 투자 격차	미국이 우위일 가능성	대담자 판단

 

중요한 해석

[확인 필요: ‘모델 성능’과 ‘혁신 선도’의 분리]

• 중국 모델이 공개 벤치마크에서 빠르게 근접한다는 사실은, 중국이 다음 세 가지 모두에서 같은 수준이라는 뜻은 아닙니다.

1. 프런티어 모델의 내부 비공개 성능

1. 차세대 학습법·아키텍처의 원천 혁신 능력

1. 대규모 컴퓨트·고급 데이터·RL 환경에 대한 지속적 접근 능력

• 대담 자체도 “공개 ECI/벤치마크 격차”가 실제 배포능력, 광범위한 사용자 경험, 비정형 역량의 차이를 과소평가할 수 있다고 명시합니다.[1] 따라서 정책적으로는 단일 ‘몇 개월 격차’ 숫자를 국가 AI 역량의 총합으로 해석하면 안 됩니다.

 

5. 증류 논쟁: 기술 이슈이면서 공급망·안보 이슈

• 증류는 단순히 “모델 출력으로 다른 모델을 학습시키는 기술”을 넘어 다음을 의미합니다.

• 선도 모델이 탐색·실험해 얻은 고품질 추론·데이터·평가환경을 후발주자가 더 낮은 비용으로 흡수하는 경로
• 컴퓨트·자본 격차를 일부 상쇄하는 지식·데이터 전파 메커니즘
• API 보안, 추론 흔적 노출, 모델 라우터, 고급 평가환경 거래와 결합된 경쟁·안보 문제

• Denain은 증류가 차단될 경우 미·중 공개 모델 격차가 현재 약 6개월에서 8~9개월 정도로 확대될 수 있다는 개인적 추정을 제시합니다. 다만 이는 실증 추정치가 아니라 대담 중의 조건부 견해입니다.[1]
• [보완 필요: 정책 논의] 증류 규제는 “금지 여부”보다 아래의 층위별 통제가 현실적입니다.
• API 대량·반복 호출의 이상행위 탐지
• 고가치 추론흔적(CoT)·도구사용 궤적의 노출 최소화
• 고객확인(KYC), 사용목적 기반 위험등급, 계정·조직 단위 행동분석
• 모델 자체 안전장치와 서비스 계층 모니터링의 분리 설계
• 고품질 RL 환경·평가환경·인간데이터 공급망의 관리

 

6. 오픈 모델 vs 폐쇄 모델: 안전성의 핵심은 ‘가중치 공개’만이 아니다

• 대담은 단순한 “오픈은 위험, 폐쇄는 안전” 구도를 부정합니다.[1]

• 오픈 모델은 사용자가 자체 호스팅·미세조정할 수 있어 서비스 계층의 통제, 모니터링, KYC, 차단정책이 약해지기 쉽다.
• 폐쇄 모델은 안전장치와 모니터링을 적용할 수 있지만, API가 존재하는 이상 우회·추출·탈옥 가능성을 완전히 제거하기 어렵다.
• 안전성의 실질적 차이는 모델 가중치 자체의 정렬 수준뿐 아니라, 추론 시점의 필터·계정관리·행동 모니터링·사후 조사 능력에 있다.[1]

핵심 정책 함의

위험관리 단위는 “오픈소스인가 아닌가”가 아니라 다음과 같이 재정의되어야 합니다.

• 특히 대담에서 가장 타당한 결론은 구체적 위협모델 없이는 오픈·폐쇄 모델의 상대 위험을 일반론으로 판단하기 어렵다는 점입니다.[1]

 

종합 결론

• 이 대담은 과도한 RSI 낙관론과 과도한 회의론 사이에서 다음의 균형 잡힌 프레임을 제공합니다.

1. AI 연구 가속은 현실이며, 코드·서빙·디버깅·정형 RL 업무에서 강하게 나타난다.

1. 지능폭발은 아직 검증되지 않았다. 개인 업무 생산성 향상, 조직 성과 향상, 과학기술 전반의 가속을 혼동하면 안 된다.

1. 미·중 격차는 컴퓨트·자본 격차보다 작아 보이지만, 이는 모델 성능 지표의 근접성을 뜻할 뿐 원천 혁신·내부역량·공급망 자립까지 같다는 뜻은 아니다.

1. 증류·데이터·평가환경·API 보안은 향후 국가 간 AI 격차와 모델 안전성을 함께 좌우할 핵심 중간층이다.

1. 안전정책의 중심은 모델 공개 여부가 아니라 위협모델 기반의 접근통제·모니터링·사후대응 체계여야 한다.