클라우드 컴퓨팅 - AI 클라우드 컴퓨팅

 

The five trends defining AI Cloud in 2024

 

 

# AI 파운데이션 모델이 Big Tech의 새로운 전쟁의 무대를 마련함

• 모든 기술 변화는 기반(파운데이션) 계층을 제어하기 위한 경쟁을 촉발시킴. AI 시대도 예외는 아님
• 파운데이션 모델은 다운스트림 AI 애플리케이션과 도구를 추진할 새로운 "기름(Oil)"임
• 2023년에 파운데이션 모델 기업들은 AI 벤처 펀딩의 60% 이상을 차지
  • OpenAI, Anthropic, Mistral, Cohere 등은 1,240억 달러의 시가총액으로 230억 달러를 모금
  • 특히 이 자본 유입은 주로 기업 VC에 의해 주도, 모건 스탠리에 따르면 2023년 민간 GenAI 펀드레이징의 90%를 차지함(2022년 40%에서 증가)
  • Microsoft, Google, Amazon, NVIDIA, Oracle 같은 빅테크 기업들은 이제 파운데이션 모델 기업에 상당한 지분을 보유하고 있음
  • 이러한 투자는 이들 기술 대기업의 AI 역량을 강화하고 핵심 클라우드 및 컴퓨팅 서비스의 소비를 촉진하기 위해 전략적으로 조정중
  • 이 외에도 Google의 Gemini와 Meta AI의 Llama와 같은 자체 파운데이션 모델 이니셔티브를 진행하는 빅테크 기업들도 있음
• 이 기반 계층에 많은 자금이 유입되면서 경쟁이 전례 없는 속도로 격화, 생태계에서 엄청난 양의 혁신을 추진중
• 2023년에 관찰한 주요 트렌드:
  • 베이스 모델이 빠르게 개선되고 있음:
    • 범용 LLM은 정확도와 지연 시간과 같은 기본 성능 기능 측면에서뿐만 아니라 멀티모달 기능을 포함한 프론티어에서도 점점 더 좋아지고 있음
    • GPT-4o의 출시는 우리 모두를 놀라게 했고, 새로운 릴리스는 업로드된 파일에서 비디오와 오디오를 보고 이해할 수 있는 기능과 짧은 비디오를 생성할 수 있는 기능을 보여주었음
    • 모델 개선의 현기증 나는 속도는 수개월 단위로 반감기를 가지는 모델에 대한 투자 전략에 대해 의문을 제기하게 함
  • 개방형과 폐쇄형 소스 간의 전투 격화:
    • Llama 3의 최근 출시와 함께 오픈 소스 리더들이 폐쇄 소스 모델 성능을 거의 따라잡게 되면서 오픈 소스 대 폐쇄 소스 논쟁은 2024년에도 뜨거운 주제로 남아 있음
    • 규제 영향으로 폐쇄형 소스 플레이어가 새로운 상용화 전략의 일부로 이전 모델을 공개해야 하는지 여부 또는 오픈 소스 리더가 역사상 처음으로 이 시장의 승자가 될 수 있는지에 대한 새로운 질문이 제기
  • 작은 모델 운동이 커짐:
    • HuggingFace의 CEO이자 공동 창업자인 Clem Delangue는 2024년이 SLM의 해가 될 것이라고 선언
    • 올해 출시된 Mistral 8x22b와 같은 예는 더 큰 모델이 성능 면에서 항상 더 좋지는 않으며 작은 모델이 비용과 지연 시간 면에서 상당한 이점을 가질 수 있음을 보여줌
  • 새로운 아키텍처와 특수 목적 기반 모델의 등장:
    • 트랜스포머를 넘어서는 새로운 모델 아키텍처의 등장에 대한 흥분
    • 예를 들어 상태 공간 모델과 기하학적 심층 학습은 덜 계산 집약적이고 더 긴 맥락을 처리할 수 있거나 구조화된 추론을 보여줄 수 있는 기반 모델의 프론티어를 밀어붙이고 있음
    • 또한 코드 생성, 생물학, 비디오, 이미지, 음성, 로보틱스, 음악, 물리학, 뇌파 등을 위한 특정 목적 모델을 훈련하는 팀도 폭발적으로 증가
    • 이는 모델 계층에 또 다른 다양성 벡터를 추가함
• 기반 계층에서 너무 많은 일이 일어나고 있어서 땅이 움직이는 기분이 듬
• 하지만 여기에 투자된 막대한 양의 자금에도 불구하고 현재 승자는 명확하지 않음

예측: AI 모델의 전투는 가까운 미래에도 계속 뜨거울 것. 왜냐하면 이것은 향후 몇 년 동안 어떤 빅테크 기업이 클라우드 및 컴퓨팅 시장에서 최고가 될 것인지를 결정하는 중요한 "토지 쟁탈전"이기 때문

• 이 모델 계층 싸움에서 누가 가장 많은 가치를 잡게될 지에 대한 근 미래 현실 예상:
  • 현실 1: 모델 계층이 상품화됨
    • 수억 달러의 자본이 VC와 빅테크가 AI 리더 더비를 후원하면서 낭비될까?
    • 가장 자본이 풍부한 모델이 승자가 된다는 의미는 아님
    • 오픈 소스 모델이 계속해서 주요 시장 플레이어에 도전하기 때문
    • 그러나 AI 모델이 상품화된 미래가 반드시 모델의 가치가 감소한다는 것을 의미하지는 않음
    • 상품으로서의 AI 모델은 상품으로서의 컴퓨팅이나 석유와 비슷할 것
    • 언젠가는 글로벌 비즈니스 운영에 필수적인 자산이 될 것
    • 이 현실에서 AI 생태계의 궁극적인 가치는 모델 자체가 아니라 컴퓨팅 및 클라우드 서비스 제공업체, 마켓플레이스 및 애플리케이션에 의해 포착될 것
    • 그러나 AI 모델이 상품화되는 세상에서는 석유 시장에서 보았듯이 이러한 "상품"을 판매하는 극히 가치 있는 기업 한두 곳이 생길 수 있음
  • 현실 2: AI 모델 대기업들이 파이를 나눔
    • 클라우드 전쟁과 유사하게, 빅테크 전략 투자자나 기업 VC의 막대한 지원을 받는 몇몇 주목할 만한 새로운 모델 기업들이 기반 모델 생태계를 소유하고 거인이 될 것
    • 각 승자는 유통, 가격/비용 효율성, 규제 영향 등을 통해 기술적 차별화와 결합할 수 있는 차별화된 쐐기를 찾을 것
    • 여전히 (특히 오픈 소스) 다양한 플레이어들이 있을 수 있지만 가치는 상위 몇 개의 모델 플레이어에게 돌아갈 것
    • 내일의 AI 거인을 결정하는 것은 우수한 기술뿐만 아니라 그들의 확립된 유통 채널임
  • 현실 3: AI 모델은 감자 칩 시장만큼 다양하고 인기 있게 됨
    • 감자 칩에는 무한한 맛이 있는 것처럼, AI 모델 경제의 미래도 지역 식료품점의 스낵 코너와 매우 비슷해 보일 수 있음
    • 많은 모델 회사들이 번창할 수 있는데, 다른 모델 회사들이 생존할 수 있을 만큼 충분히 차별화된 사용 사례(예: 형태, 성능, 지연 시간, 비용, 보안 등)가 있기 때문
    • 또한 지정학적 고려 사항이 AI 모델의 영역에 들어오면 지리와 규제가 여기에서 역할을 할 수 있는데, 이는 규제와 주권 문제가 이 계층의 다양성 확산을 지원하기 때문

예측: 합의점에는 도달하지 못했지만, 우리 파트너십의 약 과반수는 폐쇄형 소스 모델이 LLM 컴퓨팅 사이클의 대부분을 주도할 것이며, AI 모델 거인들이 결국 경제적 파이를 나눌 것이라고 예측함(위의 현실 #2).

• 우리는 클라우드 거인들이 컴퓨팅, 칩, 자본에 대한 접근성을 활용하여 그들에게 유리하게 전투에 영향을 미칠 것으로 기대함
• 그리고 선두 주자들은 이미 경주에 참여하고 있음
  • Microsoft/OpenAI, AWS/Anthropic, Google/Gemini, 그리고 Meta/Llama는 유럽 리더인 Mistral을 포함하여 Linux와 동등한 OSS 대안임

# AI가 우리 모두를 10배의 개발자로 만들고 있음

• 요즘 엔지니어는 항상 빌더이자 학생으로, 본업을 하면서도 새로운 언어, 프레임워크, 인프라 등을 지속적으로 배워야 함
• AI의 등장으로 개발자는 데이터 관리, 큐레이션, 프롬프트, 사전 학습 및 파인 튜닝을 위한 새로운 인프라 제품군을 포함하여 끊임없이 진화하는 LLM을 활용하기 위한 완전히 새로운 툴체인과 모범 사례를 익혀야 하게 됨
• AI 시대에는 매년 10년 치의 새로운 개발자 지식을 빠르게 습득해야함
• 그러나 AI는 이러한 복잡성에 대한 해결책도 제공할 수 있음
  • 2023년에는 코드 코파일럿이 널리 채택되었고,
  • 2024년 초에는 단순 코드 작업의 엔드투엔드 자동화 가능성을 시사하는 에이전트 도구의 초기 버전들이 나타남

예측: AI에 의해 개발자의 역할은 다른 어떤 직업보다 급격히 변화할 것임. 10년 후에는 컴퓨터를 가진 모든 사람이 상당한 개발 능력을 갖추게 될 것이며, 이로 인해 소프트웨어 개발 속도가 급격히 빨라지고 기술 스타트업 창업자의 평균 연령이 크게 낮아질 것임

• AI 개발자 경제의 빠른 진화를 이끄는 세 가지 주요 영역:
  • 1. 코드 코파일럿 산업은 혁신과 경쟁의 온상이 되었으며, 2023년에는 GenAI 기술과 도구에 39억 달러의 VC 자금이 투자됨.
    • Github의 기존 Copilot 제품은 OpenAI의 GPT-4와 Codex 모델을 기반으로 1400만 건 이상 설치되었음
    • Tabnine, Magic.dev, Augment, Poolside, Cursor AI, OpenDevin, Cognition's Devin, Supermaven 등 많은 자금을 받고 성장하는 스타트업 경쟁자들이 개발자와 함께 구축하고 반복하고 있음
  • 2. 에이전트 검색 및 생성 기능을 내장한 코파일럿의 "Graduation Motion"은 향후 수년간 막대한 가치를 창출할 것임.
    • Devin, SWE-agent, OpenDevin은 개발자 환경(예: 파일 편집기, bash 셸)및 인터넷과 상호 작용하여 코딩 작업을 완료하는 엔드투엔드 에이전트 도구의 잠재력을 보여줌
  • 3. 코드-언어 추론은 AI 활동의 중심지로 남아, 모델 계층 혁신(예: GPT-4, Claude 3 Opus)과 새로운 추론/에이전트 패러다임(예: Cognition's Devin, SWE-agent, OpenDevin) 모두에서 혜택을 받을 것임.
    • 모델 계층 개선은 코드 편집 및 완성 품질로 이어져 궁극적으로 개발자와 소프트웨어 조직에 가치를 제공할 것
    • 지연 시간, 컨텍스트 크기의 경계를 넓히고 언어 도메인/사전 훈련 세트를 확장하는 시스템도 개발자에게 막대한 가치를 주게 될 것
• AI는 혁신과 격변을 모두 주도하며 개발자 속도, 생산성, 소프트웨어 조직의 레버리지를 가속화하고 있음
• 미래 지향적인 소프트웨어 조직은 신흥 도구와 공급업체를 정기적으로 조사하고, 고부가 가치 개발자 소프트웨어를 신속하게 우선순위화하고 채택하고 있음
• 개발자 예산은 다시 한 번 흐르고 있으며, 가시적인 영향을 미치는 도구에 대한 지불 의사가 높음
• 개발자 기업가들에게 지금은 뭔가를 구축하기에 흥미로운 시기임. 코파일럿은 물론 인프라, 개발 도구, QA, IT 구성 및 프로비저닝, 보안 운영 모니터링, 침투 테스트 등 기회가 많음
• 코파일럿은 현재 가장 분명한 기회일 수 있지만, 이는 가장 경쟁이 치열한 분야일 가능성이 높음
  • 보안의 SecOps에서 SRE, QA, 펜 테스트에 이르기까지 보다 특정한 개발자 영역에서 도구의 폭발적인 증가를 보았음
  • 이러한 도구는 LLM을 사용하여 저수준 복잡성을 추상화하고 시간이 많이 소요되고 고통스러운 엔지니어링 작업을 자동화하여 고차원 작업을 위한 엔지니어링 리소스를 확보함
  • DevOps 프로세스에 AI를 통합하면 CI/CD 파이프라인, 자동화된 테스트 및 배포 전략이 향상되어 더 빠르고 안정적인 소프트웨어 제공이 가능해짐
• 코드 리팩토링은 개발자 워크플로와 에코시스템에서 AI의 영향을 보여주는 또 다른 훌륭한 예임
  • 많은 현대 엔지니어링 팀은 FTE 시간의 일부만 순수 신규 코드 작성에 할애함
  • 특히 대규모 조직에서는 SWE 시간의 상당 부분이 소프트웨어 엔지니어링 역할의 "섹시하지 않은" 부분인 코드 유지 관리, 보안 및 테스트에 소요됨
  • 코드 리팩토링과 같은 많은 작업은 스택에 대한 깊은 지식이 필요하며 종종 시니어 엔지니어가 두려움으로 수행하는 다루기 힘든 프로젝트임
• AI는 이러한 과제를 해결할 수 있는 분명한 잠재력을 가지고 있음
  • Gitar, Grit, ModelCode 등의 스타트업은 코드 생성 모델, 정적 분석, AST 파서를 활용하여 코드 구조를 해석하고 언어, 패키지 라이브러리, 프레임워크 간에 코드를 마이그레이션함
  • 이러한 노력 중 일부는 최신 웹 프레임워크에 초점을 맞추고 있는 반면, 다른 일부는 시간이 지남에 따라 숙련된 엔지니어가 구식이 되고 있는 취약한 레거시 엔지니어링 스택(예: COBALT, PEARL 등)에서 작동함
  • 핵심 소프트웨어 엔지니어링 기능에 인접한 많은 워크플로우도 시간이 많이 소요되고 반복적이며 자동화에 적합함

예측: 2030년까지 기업 소프트웨어 개발자의 대다수는 소프트웨어 리뷰어 비슷한 역할을 하게 될 것임. 개발 비용이 떨어지고 경험 있는 개발자의 생산성이 높아짐에 따라 급여가 인상될 것임

• AI는 모든 직업 시장의 범위와 필요한 기술에 영향을 미칠 것이지만, 아마도 개발자만큼 큰 영향을 미치지는 않을 것임
• AI 개선은 이 직업의 생산성을 크게 향상시킬 뿐만 아니라 개발자 세계의 경계를 확장할 것임
• 10년 후에는 개발 능력이 전 세계 대다수 인구에게 접근 가능한 기술이 될 것임

# 멀티모달 모델과 AI 에이전트가 소프트웨어와의 인간 관계를 변화시킬 것

• 멀티모달 모델과 AI 에이전트의 부상은 AI의 차세대 혁신을 주도
• 초기의 텍스트 기반 모델보다 훨씬 더 광범위한 사용 사례로 AI의 잠재적 적용 범위를 극적으로 확장
• AI 기업가에게는 에이전트 워크플로우뿐만 아니라 음성, 이미지, 동영상과 같은 새로운 모달리티 전반에서 혁신을 이룰 수 있는 새로운 기회가 생김
• 이 모달리티들은 AI에게 시각, 청각, 언어 등 인간의 능력과 동등한 능력을 부여하여 이러한 감각에 의존하는 인간 업무의 상당 부분을 보강하는 데 AI가 역할을 할 수 있는 기회를 열어줌

음성

• 음성 AI 기업의 첫 번째 물결은 주로 Automatic Speech Recognition(ASR)의 발전을 활용하고 있음
  • Abridge는 의사-환자 대화에 대한 메모를 기록
  • Rillavoice는 영업 교육을 지원하기 위해 현장 영업 담당자와 고객의 대화를 캡처함
• 지루하고 반복적인 워크플로를 처리할 수 있는 대화형 음성 제품을 개발하는 새로운 음성 AI 기업들이 등장하고 있음
  • 이를 통해 영업, 채용, 고객 성공, 관리 사용 사례에서 인간이 더 가치 있는 일에 집중할 수 있도록 함
  • Ada는 최근의 음성 혁신을 활용하여 채팅 기반 고객 지원 제품에 대화형 음성을 통합함
• 이러한 발전을 뒷받침하는 것은 새로운 음성 아키텍처
  • 음성을 텍스트로 전사하지 않고 원시 오디오 데이터를 처리하고 추론할 수 있음
    • GPT-4o와 같은 새로운 모델에서 보여지는 캐스케이드 아키텍처에서 음성 네이티브 아키텍처로의 전환
  • 이러한 전환은 레이턴시가 훨씬 더 낮고 감정, 톤, 정서와 같은 비텍스트 정보에 대한 이해도가 훨씬 더 높은 대화형 음성 제품을 가능하게 할 것
• AI 음성 애플리케이션은 자동차 대리점, 소매점, 레스토랑, 가정 서비스 등 많은 산업에서 등장하고 있음
  • 영업시간 이외의 시간에 발생하는 인바운드 영업 전화의 상당 부분 또는 대부분을 놓치는 경우가 많은데, 이러한 경우 AI가 그 공백을 메우기에 적합함
  • 영업에서의 AI 음성 애플리케이션은 AI가 본질적으로 이러한 기업의 손실된 수익을 회수하고 있기 때문에 ROI가 매우 높은 사용 사례임
• 음성 AI의 최전선에서 구축하는 기업가들은 그 어느 때보다 자연스럽고 대화형이며 거의 인간 수준의 성능을 제공할 수 있는 인터페이스를 제공할 수 있음

이미지 / 비디오

• 컴퓨터 비전 모델은 수년 동안 존재해 왔지만, 새로운 세대의 다중 모달 LLM이 흥미로운 점은 이미지와 텍스트 데이터(다른 모달리티 중에서)에 대한 이해를 결합할 수 있다는 점
  • 이러한 조합은 많은 작업에 매우 유용함
• 엔터프라이즈 기반 이미지 애플리케이션의 초기 물결은 주로 데이터 추출 사용 사례에 중점을 두었음
  • Raft와 같은 회사는 화물 문서를 수집하여 고객의 ERP에 채우고 청구서 조정 워크플로를 자동화하는 중요한 정보를 추출함
• 기본 모델이 계속 개선됨에 따라 애플리케이션에 입력을 공급하기 위해 점점 더 많은 양의 데이터를 수집할 수 있는 수직 특정 이미지 및 비디오 처리 애플리케이션이 등장할 것으로 예상됨
• Flux.ai와 같이 도식이나 건물 디자인의 렌더링을 생성하기 위해 그래픽 데이터에 대한 추론을 돕는 비전 모델과 이미지 생성 모델을 활용하는 엔지니어링 및 디자인 분야의 애플리케이션도 있음

자율 AI 에이전트

• AI의 가장 흥미로운 새로운 주제 중 하나는 복잡한 다단계 작업을 완전히 자율적으로 처리할 수 있는 AI 에이전트의 개발임
• 대부분의 AI 에이전트는 아직 복잡한 사용 사례에서 안정적으로 작동하지는 않지만, 에이전트 워크플로에 대한 진전은 매우 빠르게 진행되고 있으며 무엇이 가능한지에 대한 단편적인 것들을 보고 있음
  • Cognition AI의 Devin(AI 소프트웨어 엔지니어)은 AI의 계획 및 추론 능력이 계속 확장됨에 따라 무엇이 가능한지를 보여줌
• 더 많은 애플리케이션이 다단계 프로세스에서 복합 오류의 영향을 제한할 수 있는 매우 제한된 사용 사례에서 AI 에이전트를 구현하기 시작하고 있음
  • 기업들은 Leena AI와 같은 솔루션을 활용하여 IT, HR, 재무 관련 작업을 지원하는 AI 에이전트를 제공하여 이러한 팀이 번거로운 작업에서 벗어나 직원 경험을 개선할 수 있도록 지원함
• 또한 에이전트가 더 복잡한 워크플로를 실행할 수 있도록 강력한 추론 기능을 갖춘 새로운 모델이 등장하고 있음
  • 더 흥미로운 것은 사고 연쇄 추론, 자기 성찰, 도구 사용, 계획 및 다중 에이전트 협업을 포함한 다양한 방법을 통해 에이전트 구현을 개선하는 새로운 아키텍처 접근 방식에 초점을 맞춘 연구가 활발히 이루어지고 있다는 점

# 레거시 SaaS를 능가할 수 있는 잠재력을 보여주는 Vertical AI

• Vertical SaaS는 첫 번째 클라우드 혁명 동안 산업을 변화시킨 숨은 거인임이 입증됨
  • 상위 20개 미국 상장 Vertical SaaS 기업의 시가총액 합계는 약 3천억 달러이며, 이 중 절반 이상이 지난 10년 동안 IPO를 진행
• 이제 대형 언어 모델(LLM)의 등장으로 새로운 기능과 레거시 Vertical SaaS의 경계를 넘나드는 산업을 목표로 하는 새로운 LLM 기반 기업의 탄생을 보며 Vertical SaaS의 다음 물결이 시작됨
  • Vertical AI 애플리케이션은 많은 산업 분야와 경제의 큰 부분을 차지하는 고비용 반복적인 언어 기반 작업을 목표로 함
• 미국 노동통계국에 따르면 비즈니스 및 전문 서비스 산업은 미국 GDP의 13%를 차지
  • 반복적인 언어 작업이 주를 이루는 이 부문에서만 소프트웨어 산업 규모의 약 10배에 달함
  • 전문 서비스 부문을 넘어 모든 산업에서 수직적 반복 언어 기반 작업은 상당한 비중을 차지
  • 수직적 AI가 이러한 비용의 의미 있는 부분을 차지하기 위해 경쟁할 것이며, 또한 인간의 노동력이 부족했던 영역에서 활동을 촉진할 것이라고 믿음
  • 예를 들어, EvenUp은 타사 법률 서비스와 내부 법률 보조원 워크플로우를 자동화하여, 과거에는 인건비가 너무 비싸거나 일관성이 없어 적용하기 어려웠던 업무 영역에 새로운 가능성을 열어줌

예측: 버티컬 AI가 서비스 경제를 주도하고 새로운 비즈니스 모델을 선보이면서 버티컬 AI의 시가총액은 기존 버티컬 SaaS의 최소 10배 규모가 될 것

Copilot, Autopilot, AI 지원 서비스의 세 가지 새로운 비즈니스 모델

• Vertical AI 경제의 세 가지 새로운 비즈니스 모델은 Copilot, Autopilot, AI 지원 서비스로 구성됨
• Vertical AI는 또한 여러 다른 비즈니스 모델을 통해 제공되어 AI 기능을 특정 산업 요구 사항과 일치시킬 가능성을 높임
• Copilot
  • LLM을 활용하여 작업을 자동화함으로써 작업자의 효율성을 높임
  • Sixfold는 보험 인수자가 데이터를 더 잘 분석하고 위험을 이해할 수 있도록 지원함
  • Copilot 모델에서 AI 애플리케이션은 사용자와 나란히 앉아서 사용자가 더 성공적일 수 있게 지원
• Agent
  • Copilot이 직원의 업무 수행을 돕는 반면, Agent는 워크플로를 완전히 자동화하고 사용자를 대체함
  • Agent는 아웃바운드 영업이나 인바운드 콜 수신과 같은 수직 기업 내의 특정 기능에 중점을 둠
  • Slang AI는 레스토랑의 인바운드 전화를 처리하여 예약을 받고 질문에 답변하는 등의 작업을 수행함
• AI-Enabled(기반) 서비스
  • 일반적으로 회계, 법률 서비스, 의료 청구 등 제3자 공급자에게 아웃소싱되는 서비스들
  • 이러한 비즈니스는 인력 집약적이기 때문에 전통적으로 마진이 낮고 확장하기 어려우며 기술 비즈니스보다 차별화하기 어렵고 가치가 낮음
  • 소프트웨어를 사용하여 작업을 자동화함으로써 이러한 AI 기반 서비스 기업은 시장에 더 저렴하고 더 나은 서비스를 더 빠르게 제공하고 기존 서비스 지향 비즈니스의 점유율을 확보하는 것을 목표로 함
  • SmarterDx는 AI를 사용하여 청구서와 해당 임상 문서를 지불자에게 보내기 전에 의료 시스템 및 병원을 대신하여 입원 청구를 감사함
    • 기존에는 감사작업을 수행하는 공급업체에 아웃소싱했었음

Vertical AI 비즈니스 모델 강점에 대한 초기 신호

• 우리(Bessemer)는 여러 산업 분야에서 레거시 SaaS 리더를 지원할 수 있는 행운을 누렸으며, 이제 가장 큰 Vertical AI 포트폴리오 중 하나를 보유하고 있음
• 결과적으로 Vertical AI 기업과 레거시 Vertical SaaS 비교 기업을 비교하는 데 사용할 수 있는 의미 있는 데이터를 이미 확보함
• 우리의 Vertical AI 포트폴리오에 대한 세 가지 분석은 이 새로운 애플리케이션 클래스의 강점을 보여줌
  • Vertical AI 플레이어는 레거시 SaaS와 경쟁하지 않는 기능으로 시장을 선도하고 있음
    • 이러한 애플리케이션의 유용성은 일반적으로 레거시 SaaS 제품을 보완하는 것이며 기존 제품을 대체/복제할 필요 없음
    • 이러한 Vertical AI 신생 기업은 이미 전통적인 핵심 Vertical SaaS 시스템의 ACV의 약 80%를 차지하고 있음
    • 이는 Vertical AI가 서비스 지출을 대체함으로써 수직 최종 시장 내에서 상당한 지출을 창출하고 궁극적으로 기존 SaaS의 상당한 배수가 될 수 있는 TAM을 제공함으로써 수직적 AI의 역량을 입증
  • 의미 있는 규모($4M ARR 이상)의 Vertical AI 기업의 효율성과 성장 프로필도 고무적임
    • 이 들은 연간 약 400%의 성장률을 보이며 지금까지 본 것 중 가장 빠른 성장세를 보이고 있음
    • 또한 평균 약 65%의 매출 총이익률과 약 1.1배의 BVP 효율성 비율(순신규 CARR/순손실)로 건전한 효율성을 보여주고 있음
  • Vertical AI 기업이 모델 비용에 지출하는 매출 비중을 분석하여 이러한 애플리케이션이 단순히 얇은 래퍼에 불과하다는 우려를 해소함
  • 평균적으로 이러한 기업은 현재 매출의 약 10% 또는 총 COGS의 약 25%만 모델 비용에 지출하고 있음
  • 따라서 LLM 위에 구축된 이러한 수직 애플리케이션은 이미 기본 모델 비용의 약 6배에 달하는 마진을 창출하고 있음
• 전반적으로 모델 계층에서 막대한 가치 창출이 예상되지만, 이 데이터에 따르면 과거의 인프라 혁신과 마찬가지로 기업 가치의 대부분은 애플리케이션 계층에서 다시 한 번 포착될 것
• 버티컬 소프트웨어의 기존 업체들도 완전히 잠들어 있는 것은 아님
  • 톰슨 로이터(6억 5,000만 달러에 CaseText 인수)와 다큐사인(1억 6,500만 달러에 Lexion 인수)과 같은 기업이 최초로 주목할 만한 버티컬 AI 인수를 진행
• 그러나 아직 버티컬 AI 마라톤의 출발선에 가깝게 있다고 생각
  • 몇 년 안에 새로운 영속적인 공개 수직 AI 기업이 탄생할 것으로 기대
  • 성장 속도를 고려할 때, 향후 2~3년 내에 최소 5개의 버티컬 AI Centaur(ARR 1억 달러 이상)가 등장할 것으로 예상함

예측: 향후 3년 이내에 최초의 버티컬 AI IPO가 이루어질 것

# AI로 인해 소비자 클라우드가 부활함

• 소비자 클라우드가 지난 10년 동안 저조한 성장세를 보인 것은 공공연한 사실임
  • 소비자 클라우드는 개별 소비자에게 직접 클라우드 기반 스토리지, 컴퓨팅 및 디지털 애플리케이션을 제공하는 회사로 정의됨 (동시에 B2B 및 "프로슈머" 제품도 포함)
• 9년 전 시작된 Cloud 100 데이터를 분석한 결과, 누적 목록의 4%만이 소비자 제품을 가진 회사
  • 2018년 IPO를 한 Dropbox 이후 '순수' 소비자 클라우드 기업의 엑시트는 없었다고 볼 수 있음
• 소비자 클라우드 유니콘은 대규모 기술 변화의 여파로 탄생해 왔음
• 하지만 15년 전 아이폰 출시와 이후 소셜 미디어 플랫폼의 발전 이후 소비자 대면 기술의 광범위한 지각 변동은 없었음
• 그러나 2년 전 소비자들은 큰 격변을 접했음
  • LLM의 빠르게 진화하는 다중 모달 기능을 통해 이전에는 불가능했던 방식으로 텍스트, 시각 및 청각 감각을 확장하고 향상시킬 수 있게 되면서, 기존 소비자 클라우드의 모든 카테고리에서 혼란의 가능성이 열리고 있음
• AI의 소비 능력에 대한 척도는 이러한 애플리케이션이 우리의 시간과 주의를 얼마나 많이 차지하는지임
  • ChatGPT는 이제 Reddit와 같은 Attention Economy의 리더들과 경쟁하고 있으며, Claude와 Gemini를 포함한 다른 범용 AI 어시스턴트들도 빠르게 견인력을 얻고 있음
• 범용 어시스턴트 외에도 검색을 위한 Perplexity, 동반자를 위한 Character.ai, 이미지 창의성을 위한 Midjourney, 음악 생성을 위한 Suno와 Udio, 비디오 생성을 위한 Luma, Viggle, Pika 등 해당 카테고리에서 혁신을 주도하는 소비자 AI 기업의 사례를 이미 볼 수 있음
  • 이러한 회사들은 전용 사용자 기반을 유치하고 유지하며, 경우에 따라 현대 기존 기업을 효과적으로 대체할 수 있는 LLM 기반 애플리케이션의 잠재력을 보여주고 있음
• AI가 기술과 상호 작용하고 즐기는 방식을 바꾸면서, 이는 소비자 클라우드 구축자와 투자자에게 가장 흥미로운 시기 중 하나임
• 향후 5년 동안 여러 소비자 클라우드 IPO가 이루어질 것으로 예상

예측: 합성 미디어, 새로운 소비자 애플리케이션, 대화형 AI 에이전트의 놀라운 부상으로 인해 2030년까지 주목 경제를 지배하는 상위 3개 비즈니스는 AI가 생성한 콘텐츠 또는 제품을 기반으로 할 것

• 특정 기능의 소비자 AI 애플리케이션(예: 콘텐츠 생성 및 편집, 교육)의 롱테일에서 상당한 초기 단계의 활동이 나타나고 있음
  • 좋은 소식은 소비자들이 삶을 개선하기 위해 AI를 찾고 있다는 초기 징후라는 점
  • 나쁜 소식은 Wrapper를 넘어서는 제품 깊이를 보여주거나 강력한 리텐션으로 고객의 지속적인 사랑을 입증한 카테고리별 소비자 AI 네이티브 앱이 10개를 넘지 않는다는 것
  • 충족되지 않은 많은 소비자 니즈를 해결하기 위해 지속 가능한 클라우드 기업을 구축할 수 있는 분명한 기회가 여전히 있다고 믿음
• 소비자의 니즈에 대한 두 가지 핵심 질문:
  • 현 상황이 소비자에게 얼마나 심각한 고통이나 노동 집약적인가?
  • 얼마나 반복적이고 예측 가능한 언어/시각/청각적 노력이 필요한가?
• AI는 소셜, 엔터테인먼트, 쇼핑, 여행 등 우리가 좋아하는 취미 생활을 재창조할 뿐만 아니라 사람들이 세상을 연결하고, 놀고, 구매하고, 탐험하는 새로운 방법을 발견하고 상상할 수 있도록 도와줄 것

# 결론 - AI 클라우드: 현실 vs. 과대 광고(Hype)

• Roy Amara는 "우리는 단기적으로는 기술의 효과를 과대평가하고 장기적으로는 과소평가하는 경향이 있다"고 말했음
  • 이는 닷컴, 나노테크, 클린테크, 블록체인 등 과거 많은 기술 물결에서 VC의 숫자를 정확히 짚어냈음
  • 심지어 지루한 구식 SaaS도 2021년에 지나치게 급성장했음
• 그렇다면 AI 클라우드에 대한 과대 광고가 현실을 능가하는 것일까?
  • 향후 1~2년 내에 AI의 약속이 클라우드 VC를 압도했다는 것을 인정하게 될 운명일까?
  • 아니면 AI가 "아마라의 법칙"을 깨뜨릴 위협을 하는 걸까?
  • 현실이 미친 듯한 과대 광고를 능가하는 첫 번째 기술 물결일까?
• 전 세계의 Bessemer 투자자 대상 설문 조사 결과는 명확한 답변을 제시함
  • 지금까지 Hype는 충분히 가치가 있었음
  • 어디를 보든 역사적 선례가 없는 수준의 AI 영향의 증거를 볼 수 있음
• 우리 포트폴리오의 대다수가 내부적으로 AI 기술을 채택했으며 제품 로드맵을 업데이트하여 AI를 통합하고 있음
• AI 기반 포트폴리오 기업은 의미 있는 상업적 견인력을 발휘하고 있으며, 우리가 지금까지 목격한 그 어떤 집단보다 빠르고 효율적으로 성장하고 있음
• 작년 예측을 돌이켜보면 심각한 낙관론과 흥분에도 불구하고 이러한 변화의 속도와 규모를 완전히 예측할 수 없었음
  • 구체적으로 AI 기반 기업이 기존 클라우드 기업보다 50% 더 빨리 10억 달러의 매출에 도달할 것이라고 예측했음
  • OpenAI는 올해 2월 20억 달러의 매출을 기록했으며, 몇 달 후 34억 달러의 연환산 매출을 넘어선 것으로 보고
  • Anthropic은 2024년 말까지 연간 8억 5천만 달러의 매출을 올릴 것으로 예상됨
  • 다른 보고서에 따르면 Midjourney는 2억 달러의 매출을 올리고 있으며 Character.ai도 이와 비슷한 규모라고 추정함
• 우리의 마지막 예측은 아마도 2025년 State of the Cloud에서 1년을 되돌아볼 때, AI가 현재 받고 있는 주목을 전혀 잃지 않을 것이라는 점

 

 

https://www.bvp.com/atlas/state-of-the-cloud-2024

State of the Cloud 2024

https://news.hada.io/topic?id=15649