기업가치 3조달러의 회사라면 무엇을 보여줘야할까요? AI 붐의 중심에 서 있는 기업이라면 무엇을 해야할까요? 이번 GTC2025에서 엔비디아는 왜 엔비디아가 세계 1위 테크 기업인지를 보여주려는 것 같았어요.

GTC는 엔비디아가 만드는 데이터센터용 반도체와 하드웨어를 발표하는 것이 제일 중심에 있습니다. 이를 기반으로 많은 소프트웨어가 만들어지고, 고객과 협력사들이 제품을 준비하기 때문이죠. 엔비디아는 지난해 블랙웰이라는 새로운 반도체와 관련 제품들을 발표했고, 이 블랙웰이 현재 고객들에게 판매되고 있어요. 이번 행사에서는 내년 공개될 루빈의 자세한 스펙을 공개했습니다.

2026년 하반기에 출시될 예정인 루빈은 지난해 컴퓨텍스에서 이름이 공개됐어요. 신형 CPU인 베라와 짝을 이루게됩니다. 2027년 하반기에 공개되는 루빈 울트라에는 4개의 반도체를 하나로 만든 울트라칩이 탑재됩니다. 현재 블랙웰은 두 개의 반도체를 처음으로 하나의 다이에 합친 반도체인데요. 이번에는 4개의 반도체를 하나로 붙인다는 것! 최근 엔비디아 블랙웰 반도체의 불량 이슈가 이런 구조에서 나온다는 관측도 있었는데 젠슨 황 CEO는 "과거로 돌아가지 않을 것이다"라면서 이런 구조를 더 가속화시킬 것이라고 말했습니다,.   

루빈이 탑재된 데이터센터 랙인 베라루빈(VR NBL144)은 올해 하반기 출시되는 블랙웰 울트라보다 3.3배 뛰어난 성능을 보여주고, 베라루빈 울트라는 블랙웰 울트라보다 14배 뛰어난 성능을 가질 것이라고 합니다. 

루빈에서부터는 HBM4라고 불리는 4세대 HBM이 들어가는데요. 이 HBM4를 공급하기 위해 SK하이닉스, 삼성전자, 마이크론의 경쟁이 이미 치열한 상태입니다. 루빈 울트라에 들어가는 HBM4e는 자그마치 1테라바이트의 HBM메모리가 들어간다고 합니다. 현재의 HBM3e가 256Gb 인 것을 감안하면 엄청나게 공격적인 성능 향상이에요. 

루빈의 다음세대 GPU의 이름도 공개됐습니다. 파인만이라는 이름은 물리학자 리차드 파인만의 이름을 가져온 것 같은데요. 파인만이 양자컴퓨팅 이라는 개념을 제시한 사람이라는 점이 재미있습니다. 2028년 판매될 예정인 파인만은 다음 세대의 HBM (아마도 HBM5가 되겠죠?)이 탑재된다고 합니다.

엔비디아는 이날 처음으로 실리콘포토닉스도 공개했어요. 실리콘포토닉스는 네트워크 장비인데요. 전자가 아니라 빛(광자)로 데이터를 전송한다는 개념이에요. AI 반도체에 중요한 반도체간 연결에 실리콘 포토닉스를 사용하면 발열도 줄이고 연산 속도도 높일 수 있다는 것이죠. 세계 최초의 실리콘포토닉스 반도체인 스펙트럼-X가 올해 하반기에 출시된다고 밝혔습니다.

젠슨 황 CEO는 기조연설의 초반부에 ‘AI 추론’에 대한 수요가 폭발할 수 밖에 없는 이유에 대해서 많은 시간을 들였어요. 1월 딥시크 쇼크가 발생한 이후 AI 인프라에 대한 수요가 줄어들 것이라는 우려가 나오면서 엔비디아 주가가 폭락했는데요. 여기에 대한 일종의 변명을 한 것이죠.

오픈AI의 o3, 딥시크의 R1과 같은 사고능력(Reasoning)을 갖춘 AI의 경우 AI 데이터센터에서 많은 추론을 하게되는데, 이것이 1회 추론에 그치는 기존 모델에 비해 필요한 추론 컴퓨팅자원이 무척 높다는 것이죠. 사고능력의 경우 AI가 한번 나온 결과를 다시 입력해서 추론하기 때문에 컴퓨팅 파워가 많이 소모된다는 것이에요. 

동일한 질문에 대해서 오픈소스인 라마를 사용했을 때는 추론과정에 439개의 토큰이 사용되고 틀린 답이 나오지만, 딥시크를 사용할 경우 8559개의 토큰이 나오면서 정확한 답을 얻을 수 있다고합니다. 여기서 토큰이란 AI에서 처리되는 데이터의 단위라고 보면 됩니다.

엔비디아는 추론 성능을 높이기 위한 라이브러리도 공개했어요. 엔비디아 다이나모라고 불리는 이 분산 추론 라이브러리를 사용하면 추론 성능을 훨씬 높일 수 있다고 주장. 다이나모가 탑재된 블랙웰 GPU는 기존 세대인 호퍼보다 25배 뛰어난 성능을 가지고 있다고 밝혔습니다.

젠슨 황 CEO는 지난 CES에서 공개했던 데스크탑 형태의 GPU컴퓨터에 대해서도 새로운 내용을 공개했습니다. 미니 PC 형태의 DGX스파크와 워크스테이션 형태의 DGX 스테이션도 공개.  

데이터센터 관련 중요한 발표가 많다보니 물리적 AI(Physical AI)에 대한 설명은 기조연설에서 상대적으로 비중이 작았어요. GM이 엔비디아와 손을 잡고 자율주행차를 만든다는 것, 구글과 디즈니가 손을 잡고 엔비디아와 로봇을 만든다는 것 정도가 인상적인 내용이었습니다.

저는 실리콘밸리 특파원을 맡으면서 지난해 GTC도 보고, 엔비디아에 대한 책도 낼 수 있었어요. 그만큼 엔비디아라는 회사에 대한 관심과 애정이 많은데요. 이번 발표는 작년 발표에 비하면 B학점 정도를 주고 싶어요.

먼저 발표의 많은 부분이 기술적인 부분에 대한 설명에 할애가 됐습니다. 젠슨 황 CEO의 기조연설이 한국 개인투자자가 시청할 정도로 대중적이 됐지만, 기술적인 내용은 전혀 쉬워지지 않았습니다. 오히려 점점 더 어려워지고 있죠. 그런 점에서 기술적인 설명이 필요한 것은 어쩔수 없었습니다. 하지만 젠슨 황 CEO가 제시했던 비전과 인사이트는 약해진 느낌이 들었습니다.

또한 발표의 결론이 결국에는 엔비디아의 제품, 등히 엔비디아가 직접 생산하는 자체 랙을 사야한다는 결론으로 이어집니다. 블랙웰에 대한 우려가 완전히 사라지지 않은 상태에서 고객들의 불안을 잠재우기 위한 목적이겠지만 너무 '깔대기'처럼 흘러가는 것 같았습니다. 또한, 앞으로 제시한 로드맵들이 매우 공격적으로 느껴져서 과연 이를 파트너사들이 맞춰줄 수 있을 것인가라는 걱정도 생겼습니다. 

그러나 실리콘포토닉스를 비롯해 로보틱스, 자율주행 등 모든 분야에서 새로운 기술을 제시하고 파트너들을 이끌어간다는 점에서 '세계 1등 기업'의 존재감도 느껴졌어요. 생성형AI 스케일링의 법칙이 한계에 도달했다는 우려, AI 전력이 너무 많이 소모된다는 우려 등 시장의 모든 우려를 내가 직접 해결할테니 나를 믿고 따라오라는 느낌이었습니다. 

황 CEO의 기조연설 처음에 우주를 비행하는 로켓처럼 보이는 것이 등장하는데요. 사실은 그것이 산타클라라에 있는 엔비디아의 본사 건물이라는 것이 밝혀져요. 엔비디아의 본사는 '엔데버'와 '보이저' 두 개의 건물로 구성되어있는데 공교롭게도 둘다 SF 스타트렉에 나오는 우주선의 이름이죠. 우리가 인류를 AI라는 신세계로 이끌어가겠다는 자부심이 느껴졌습니다. 

올해 GTC2025는 지난해보다 훨씬 규모가 커졌어요. 18일 산호세 다운타운은 엔비디아 데이라고 불러도 과언이 아닐 정도로 엔비디아 관련된 전시물이 도시 곳곳을 채웠습니다. 이날 행사장 앞에는 ‘GTC파크’라는 공원이 꾸려졌고 2만5000여명이 행사장에 직접 참석했다고 합니다. 

관련기업들의 마케팅도 활발했습니다. 엔비디아 GPU의 가장 큰 고객이라고 할 수 있는 클라우드서비스프로바이더(CSP)인 AWS, 구글클라우드가 적극적으로 마케팅을 하는 것이 눈에 띄었구요. 엔비디아 GPU를 가지고 고객에게 서버컴퓨터를 만드는 휴렛팩커드엔터테인먼트, 델 같은 회사들도 주요 스폰서로 등장했습니다.

한국기업들도 등장했습니다. 미라클레터에 자문을 많이 맡아주신 신정규 대표님의 래블업, 최근 엑사원 AI를 오픈소스로 공개한 LG AI연구원이 부스로 참여했습니다. SK하이닉스와 삼성전자도 참여했습니다. (부스 구경을 가볼 예정입니다)

왜 엔비디아 GTC2025는 전세계를 대표하는 AI 행사가 되었을까요? 이는 엔비디아가 AI산업 밸류체인의 정점에 있기 때문입니다. 우리가 요즘 사용하는 챗GPT 부터 모든 AI는 큰 회사들이 소유한 데이터센터에서 돌아가는데요. 그 AI가 작동되는 반도체가 엔비디아가 만드는 GPU입니다. AI를 고객에게 서비스하기 위해서는 많은 GPU가 필요하기 때문에 GPU에 대한 수요가 급증했고, 이 때문에 엔비디아는 기업가치가 3조달러를 넘으며 전세계 기업 시가총액 1위에 오르기도 했습니다. 엔비디아에 제품을 납품하는 파트너 회사들의 주가도 많이 올랐는데요. 대표적인 곳이 TSMC와 SK하이닉스입니다. 반면 엔비디아에 제품을 납품하지 못한 삼성전자는 주가가 SK하이닉스 대비해서 오르지 못했습니다. 엔비디아가 한국 반도체 기업들의 판도를 뒤바꿔놓은 것입니다.

다만 주목할 것은 현재 AI 반도체에 대한 수요가 어플리케이션에 대한 수요를 압도하고 있다는 점입니다. AI 인프라에 대한 투자는 많이 해놨는데 AI 소프트웨어를 사용하는 사람들이 적으면 지금의 AI에 대한 투자시장의 과열은 무너질 수 있다는 것이죠. 엔비디아GTC에 전세계가 주목하는 이유입니다. 오늘 GTC2025 발표에도 불구하고 엔비디아 주가는 3% 가량 하락했습니다.