AI 시대 최대의 수혜주

AI 시대에 진짜 수혜주는 NVIDA 라고 얘기합니다.

AI 산업은 기술도 기술이지만 인프라 비즈니스라고 볼 수도 있습니다. AI에는 엄청난 컴퓨팅 리소스가 필요하고 이 모든 작업은 시스템의 성능과 규모와 직결됩니다. AI 학습에 가장 핵심적인 부품은 GPU이고, 현재 전세계에서 가장 강력한 GPU 프로세스를 가지고 있는 기업이 바로 NVIDA 입니다. 오픈AI, 구글, 마이크로소프트, 앤트로픽, 메타 등 생성형 AI 시대를 이끌고 있는 기업들 모두 NVIDA의 GPU로 구성된 시스템을 통해 운영됩니다. 그러니 AI 시대에 진짜 돈을 버는 곳은 NVIDA라고 말할 수 있겠죠.

NVIDA는 현재 시점 전세계 시총 3위의 기업입니다.

NVIDA GTC 2024가 열리다

지난 3월 18일 (미국 현지시간) 캘리포니아주 새너제이에서 NVIDA GTC (GPU Technology Conference)가 5년만에 대면행사로 열렸습니다. 온오프라인 30만명이 참관한 이번 행사의 핵심은 CEO인 젠슨 황의 기조연설 (Keynote)이였죠. 2시간이 넘는 시간을 혼자서 진행하는 모습이 정말 대단했습니다. AI 시대를 이끄는 거대한 반도체 기업의 수장이 기술의 핵심을 넘어 시대의 미래와 방향성에 대해 꽤차고 있다는 강한 인상을 받았습니다. 특유의 가죽자켓은 여전히 멋지더군요. (그런데 여름엔 좀 덥지 않을까요?)

이번 GTC 2024는 AI 시대를 선도하고 있는 반도체 공룡 NVIDA의 차기 전력 제품을 선보이고 향후 AI 산업의 방향을 예측할 수 있다는 측면에서 관련 기업 뿐만 아니라 테크 산업 전체의 관심이 집중되었습니다. 그래서 오늘 수요레터에서는 GTC 2024의 젠슨 황의 키노트에서 가장 핵심적인 내용을 정리하고 그 의미에 대해 살펴보겠습니다.

역사장 가장 강력한 GPU의 등장

현재까지 가장 빠르고 강력한 GPU는 NVIDA의 H100 (호퍼 아키텍처) 입니다. 그런데 이번 컨퍼런스에서 차세대 플래그십 AI GPU 칩인 블랙웰 (Blackwell) 아키텍처 기반의 B200 을 선보였습니다. 가장 핵심적인 성능 향상 지표를 보면 다음과 같습니다.

• 2080억개의 트랜지스터로 구성되어 기존 H100 대비 2배 증가
• 에너지 전력 소비는 1/25로 줄임
• ChatGPT 와 같은 AI모델이 응답을 생성하는 추론시간이 5배 빨라짐

추가적인 제품 소개

B200을 이용한 다양한 구성의 AI 인프라 제품들도 소개를 했습니다. CPU 1개와 GPU B200 2개를 합친 GB200 이라는 슈퍼칩도 공개했구요. GB200을 통해서 기존 H100 기반의 GH200 슈퍼칩에 비해서 LLM 추론성능이 최대 30배까지 높아졌다고 소개했습니다. 이런 GB200 시스템을 조합한 DGX 슈퍼포드 (SuperPOD)라고 하는 슈퍼 컴퓨터도 선보였는데, 여기에는 36개의 GB200이 들어가 있는 업청난 장비입니다. 각각의 슈퍼칩들이 마치 단일한 칩처럼 동작시키기 위한 전용 스위치 칩을 개발하기도 했습니다. NVLink 스위치라는 것으로 초동 1.8TB 라는 속도로 4개의 칩을 연결해서 빠른 속도의 통신 및 트래픽 처리가 가능하도록 했습니다.

H/W 인프라를 넘어 플랫폼으로

이번 GTC 2024에서는 또 하나의 새로운 서비스를 소개했습니다. 생성형 AI 환경을 기업이 더 잘 구축하고 활용할 수 있도록 지원하는 마이크로서비스 인데요. 하드웨어 시스템 제품과 더불어서 소프트웨어 솔루션을 포함한 개발 운영 플랫폼까지 NVIDA에서 제공하겠다는 의지의 표명이었습니다. 기존 쿠다(CUDA) 플랫폼에 NIM 이라고 하는 여러 AI 모델들을 서로 연결하고 배포할 수 있는 추론 서비스를 통해 새로운 GPU인 B200 시스템에서 가장 효과적으로 운영되는 AI 플랫폼을 제공하는 기업을 전환하겠다고 선포한 겁니다. 그간의 성과를 바탕으로 하는 자신감의 표출이라고 생각도 들지만 기존 AI 서비스 플랫폼 기업과 정면으로 대치되는 내용으로 아마도 다른 협력 파트너들은 그리 반갑지만은 않은 소식이겠네요.

줄을 서시오

그럼에도 불구하고, NVIDA의 GPU를 구하지 못해 AI 기업들은 안달이 나있습니다. 새로운 B200을 먼저 적용하고자 하는 기업들은 이미 NVIDA에 손을 내밀어서 강력한 협력 체제를 구축했다고 먼저 공표하고 있죠. NVIDA가 슈퍼을입니다. 정확한 시장가가 알려지지는 않지만 기존 NVIDA에서 GPU인 H100의 가격이 2만5천 달러에서 4만 달러 정도라고 알려져 있습니다. H200은 더 비쌀테고, 이번 GTC에서 B200의 가격이 공개되지는 않았지만 10만 달러에 육박할 거란 예상도 있습니다.  물론 TSMC의 4나노 공정을 사용함으로써 수율과 가격에 좀 더 신경쓰는 모습을 보인 것이나, 인텔, AMD 등의 기존 CPU 강자들의 강력한 도전과 자체 칩을 사용하고자하는 AI 서비스 기업들의 움직임에 대응하기 위해서 좀 더 저렴한 가격 정책을 보일 수도 있을 겁니다. 하지만 어차피 공급이 딸리는 상황에서 먼저 가격을 낮추지는 않겠죠. 돈은 정말 NVIDA가 쓸어담고 있습니다. 

AI 시대의 비젼

젠슨 황은 AI 시대에 자신감이 넘치는 것 같습니다. 미래에 대한 청사진들을 자신들의 기술과 제품을 베이스로해서 펼쳐치리라 예상하고 정말 다양한 분야에 대한 비젼들을 이번 GTC에서 소개를 했습니다. 양자컴퓨터, 소프트웨어 개발 플랫폼, AI 로봇, 헬스케어, 신약 개발, 날씨 예측에 이르기까지 자신들의 인프라와 플랫폼이 가장 중심에서 핵심적인 역할을 하게 되리라 자신합니다. 현재까지 NVIDA의 위상과 향후의 제품과 서비스 포트폴리오를 볼 때 아마도 그의 공언이 허튼 얘기는 아닐 것입니다.

그럼에도 리스크

NVIDA는 AI 시대에 가장 강력하고 중요한 기업이 되었고, 그 영향력은 당분간 넘볼 수 있는 곳이 없을 겁니다. 하지만 NVIDA에게도 위기와 리스트는 있죠.

AI 인프라에 NVIDA의 GPU 점유률은 거의 90%에 육박한다고 알려져 있습니다. 시장 경쟁 체제에서 이런 독주는 정상적이지 않죠. AI 기술과 산업이 워낙 빠르게 발전하다 보니 현재 시점에서 NVIDA 외에는 다른 대안이 없기 때문에 이런 현상이 발생하는 건데, 앞으로는 이런 형태의 독주가 계속되지 않으리라는 예상도 많습니다. 구글, 메타, 마이크로소프트 등이 자체적인 칩을 개발하고 적용하려는 움직임이 계속되고 있고 어느 정도 성과를 보이기도 합니다. 애플도 최근 자동차 프로젝트를 공식적으로 폐기하고 AI 개발에 본격적으로 뛰어든 모양새입니다. 애플은 자신들이 직접 만든 칩을 개발해서 적용해온 반도체 설계의 강자입니다. 그럼에도 불구하고 당분간 클라우드 및 서버 인프라에서 NVIDA 에 대응하는 경쟁력을 갖춘 제품이나 기업은 쉽게 나오지 않을 겁니다.

AI on Chip 이라는 분야가 지난 CES2024에서도 중요한 전략 산업으로 부각되었어요. AI 서비스들이 더이상 클라우드로 연결되어 사용되는 것이 아니라 칩에 내장된 AI 소프트웨어를 통해 바로 사용될 수 있는 서비스들이 점차 늘어난다는 거죠. 스마트폰 기업들이 가장 앞서서 이런 AI on Chip을 구현해 내리라 생각합니다. 이렇게 되면 퀄컴, 삼성, 애플 등의 테크기업들의 능력이 또다시 발휘될 가능성도 있지 않을까요? 중국발 리스크도 사실 NVIDA의 지정학적 이슈이기도 합니다.

좀 길게 이번 NVIDA의 GTC 2024를 정리해 봤습니다. 앞으로도 흥미롭게 AI 산업의 혁신들을 지켜보고 업데이트해 드리겠습니다.

촌장 드림