2026년 5월14일 현재 전세계 기업들의 시가총액을 살펴보면 재미있는 것을 발견할 수 있는데요. 바로 상위기업들 중에 반도체와 상관이 없는 기업들을 찾아보기 어렵다는 점입니다.

1위인 엔비디아, 6위 TSMC, 7위 브로드컴, 11위 삼성전자는 긴 역사를 가진 반도체 기업이구요. 2위 구글(2016년 TPU 출시), 3위 애플(2014년 부터 자체 칩 출시), 4위 마이크로소프트(2023년 자체칩공개), 5위 아마존(2017년부터 자체 칩 출시), 9위 테슬라(2023년부터 자체 칩 출시), 10위 메타(2023년 자체 칩 출시)도 자체 칩을 설계해서 사용하고 있어요. 

심지어 최근에는 SK하이닉스(14위), 마이크론(15위), AMD(18위), ASML(20위), 인텔(22위)까지 갑자기 시총이 빠르게 올라오고 있습니다. 바야흐로 2026년은 반도체의 시대라고 할만합니다.

이런 시총의 변화는 미국기업만 한정해서 시계열로 보면 더 의미가 있는데요.

2017년부터 2022년까지의 기간은 본격적으로 빅테크의 시대가 열린 해입니다. 애플, 알파벳, 마이크로소프트, 아마존, 페이스북이 미국기업 시총 최상위를 오랫동안 점령하고 그 순위는 거의 움직이지 않았죠. 조금씩 특징은 다르지만 플랫폼과 클라우드라는 두가지 영역을 지배하는 기업들입니다. 

그런데 2017년 이전을 보면 미국 기업 시가총액 상위에 반도체 기업이 있었던 적은 정말 드뭅니다. IBM이 2위, 인텔이 3위, 퀄컴이 16위 정도까지 오른적이 있는데요. 반도체 기업들은 CPU든 메모리든 장비회사든 미국 기업 시총 탑10에 오래 머물지는 못했습니다. 

어째서일까요? 결국 세계에 필요한 연산(compute)의 수요가 과거에는 훨씬 낮았기 때문이 아니었을까요. PC의 시대가 오기 전에는 IBM이 전체 연산 시장의 규모를 보여줬습니다. IBM이 만든 기업용 컴퓨터가 컴퓨터의 주류였으니까요. PC의 시대가 오면서 인텔이 필요한 연산의 규모를 보여줬습니다. 인텔은 개인용 컴퓨터용에 들어가는 CPU를 만들면서 이 시대를 대표하는 기업이 되었습니다. 

스마트폰과 클라우드의 시대에는 애플과 빅테크기업들의 시총이 스마트폰과 데이터센터에 필요한 연산을 보여줬습니다. 애플은 직접 스마트폰에 들어가는 반도체를 만들면서, 소프트웨어와 하드웨어가 하나로 통합된 애플 생태계를 구축했어요. 구글은 삼성, 퀄컴 등과 함께 안드로이드 생태계를 구성했지만, 스마트폰에서 반도체는 성능보다는 전력이 중요했습니다. 중요한 컴퓨팅이 이제 데이터센터에서 대부분 처리돠면서, 스마트폰은 클라우드의 데이터를 가져오는 단말기 정도의 역할을 했습니다.

반면 서버의 영역에서 빅테크 기업들은 자체 반도체를 만들기 시작합니다. 구글은 AI의 학습을 위해, 아마존은 인텔 CPU에서 독립을 하기 위해 자체 반도체를 만들기 시작했습니다. 하지만 2022년 챗GPT의 등장 이전까지만 해도 데이터센터에서도 반도체의 역할은 그렇게 중요하지 않았습니다. 마이크로소프트, 메타 같은 기업들이 직접 반도체 만들기에 나서고, 브로드컴이 함께 부상한 것은 이제 데이터센터에서 AI 연산이 너무너무 중요해졌기 때문입니다.  

이렇게 각 시기마다 필요한 연산의 규모가 곧 반도체 기업의 시가총액으로 나타난 것이라고 생각해보면, 지금 엔비디아를 정점으로 TSMC, 브로드컴, 삼성전자, SK하이닉스, 마이크론, AMD, 인텔의 시총이 급등하고 있는 것은 AI가 만들어낸 연산에 대한 필요성이 어마어마하게 크다는 뜻으로 저희는 생각해볼 수 있습니다.  

그런데 중요한 포인트는 과거 인텔이 CPU, 애플이 스마트폰용 AP, 클라우드 기업들이 서버용 CPU라는 하나의 반도체에 그 역할이 집중되었다면, 지금의 AI는 여러 반도체들의 역할이 하나도 빠짐없이 중요한 시대라는 점이에요. 젠슨 황 엔비디아 CEO는 이를 '이기종 컴퓨팅(heterogeneous computing)'이라고 부르기도 했습니다. CPU와 GPU, 메모리 반도체의 역할도 중요하지만, 이런 반도체로 구성된 여러개의 서버가 협력해서 작동하는 것이 지금의 AI이기도 합니다. 우리가 연산(computing)을 하는 하나의 단위를 '컴퓨터'라고 본다면, 지금의 컴퓨터는 곧 데이터센터입니다. 

지금 반도체 주가가 모두 상승하는 또다른 이유 중 하나는 인공지능(AI)의 중심이 '학습'에서 '추론'으로 변했기 때문입니다. 처음 챗GPT가 등장하고 빅테크 기업들의 AI 모델 개발 경쟁이 시작될때만 하더라도 저희는 AI 컴퓨팅에서 엔비디아의 GPU가 제일 중요하다고 생각했습니다. 물론 그때도 HBM, CPU 등 다른 반도체의 역할은 있었죠. 하지만 점점 AI 사용자가 많아지고, 그들이 사용하는 '토큰(AI 연산의 단위)'가 많아지면서 GPU의 주변에 있는 반도체의 중요성이 커졌습니다. 특히 범용 제품으로 평가받던 메모리 반도체의 위상이 달라졌는데요. 이는 추론 과정에서 데이터를 저장하는 KV캐시의 중요성이 커졌기 때문이라고 합니다. 

저는 이런식으로 비유를 해보려고하는데요. 스마트폰이 대중적으로 보급이 늘어나면서 우리에게 필요한 저장공간의 용량이 늘어났습니다. 과거에는 128GB 저장공간의 제품을 쓰던 사람들이 요즘은 많게는 1TB 저장공간의 스마트폰을 구매하기도 합니다. AI의 사용이 늘면 메모리 반도체 사용이 크게 늘어나는 이유입니다. 

인텔의 시대를 끝나고 ‘대 반도체’의 시대를 연 역사적인 사건. 무엇인지 아시나요? 바로 1987년 대만 TSMC의 설립입니다. 반도체를 만들기 위해 반드시 생산시설인 ‘팹’이 필요했던 시대를 지나 ‘팹’이 없어도 설계만 할 수 있으면 반도체를 만들수있는 시대를 열었기 때문이죠.

그런데 2011년 정도까지만 해도 TSMC는 지금 처럼 잘 나가는 기업이 아니었습니다. TSMC가 본격적으로 잘 나가게된 것은 2014년 애플의 주문을 받기 시작하면서부터. 이후 AMD, 구글, 퀄컴까지 고객으로 합류하면서 TSMC는 반도제 위탁제조(파운드리)의 왕이 되었습니다. 특히 TSMC의 첨단 공정 노드에는 엔비디아, 구글, 애플, 퀄컴, AMD 등 가장 잘나가는 반도체 설계기업들이 줄을 서 있습니다.

그런 점에서 TSMC의 첨단 반도체 생산능력은 전세계 첨단 반도체 생산능력의 80% 이상을 차지합니다. 엔비디아의 GPU, 애플의 스마트폰에 들어가는 AP, 구글과 아마존의 데이터센터용 자체 반도체, 삼성전자의 플래그쉽에 들어가는 퀄컴의 AP, AMD의 서버용 CPU와 GPU. 이 모든 것이 TSMC의 정해진 생산능력을 나눠먹기 해야한다는 것입니다.

그런점에서 AI 시대에 필요한 반도체는 TSMC라는 기업에 종속되어 있는 상황입니다. 여기서 우선순위에 들지못한 테슬라와 같은 기업은 TSMC를 탈피해 삼성전자와 인텔과 손을 잡은 것이죠.

삼성전자와 인텔은 TSMC의 대안이 될 수 있는 첨단 공정의 반도체를 만들 수 있는 유일한 회사라고 합니다. 어째서일까요? 삼성전자 같은 경우 엑시노스라고 하는 갤럭시 스마트폰에 들어가는 반도체를 삼성 파운드리의 첨단 공정에서 만듭니다. 자사 제품에 들어가는 반도체를 직접 설계하고 생산하기 때문에 여기서 검증된 생산능력을 외부에게 오픈합니다. 인텔도 비슷한데요. 자체 CPU를 만들기 때문에 이 공정에서 쌓은 기술을 외부에게 오픈하는 것이죠. 

하지만 두 회사가 TSMC 같이 우수고객을 확보하는 것은 쉽지 않다고 합니다. 그건 두 회사 기술력의 문제도 있지만 다른 분야와 달리 파운드리에서는 이른바 멀티 벤더 전략이 효율적이지 못해서입니다. 

예를 들어 애플의 스마트폰용 반도체라면 이를 두 곳 이상의 파운드리에 맡겨서 서로 경쟁을 시키는 것이 좋겠지만 똑같은 반도체라고 해도 파운드리를 바꾸는 것은 설계를 두번하는 것가 같은 비용과 시간이 투자된다고 합니다. 그렇기 때문에 두개의 파운드리를 사용하는 것보다는 하나의 파운드리만 사용하는 것이 비용이 덜 든다고 하죠. 이 처럼 독점적인 위치에 있다는 점은 TSMC 비즈니스의 엄청난 강점이기도 합니다.

엔비디아의 경우도 대부분의 주력 반도체들은 TSMC에서 생산하는데요. 로봇에 들어가는 엔비디아 반도체는 삼성 파운드리에서 만드는 것으로 알려져 있습니다. 상대적으로 물량이 적고 비즈니스적으로 덜 중요한 반도체를 다른 파운드리에 맡기는 것이죠.

이런 점에서 TSMC와 파운드리 분야에서 경쟁해야하는 회사들은 전혀 다른 영역에서 경쟁하는 것이 필요하다고 합니다. 삼성전자가 엔비디아로부터 그록 LPU를 수주한 것이 대표적인데요. LPU는 AI를 고객들에게 서비스하는 추론에서의 일부 단계를 기존의 GPU+HBM의 구조가 아닌 SRAM을 사용해서 처리합니다.

삼성전자는 그록이 스타트업일때 직접 투자를 하면서 이 회사를 파운드리 고객으로 유치했는데요. 그록이 엔비디아에 인수되면서 자연스럽게 엔비디아의 그록 LPU가 고객이 되었습니다. 최근 상장을 앞두고 있는 반도체기업 세레브라스의 경우도 SRAM을 사용하는 방식인데요. 이 회사의 경우 TSMC에서 제품을 생산합니다.  

그런데 지금의 AI는 반도체의 입장에서 볼때 심각한 문제가 있습니다. AI로 인해서 과거에는 상상도 하지 못했던 일들을 해낼 수 있게 되었는데요. 예를 들어 제가 미라클레터에서 챗GPT를 사용해서 한글로 만들어진 인포그래픽을 만드는 것이 대표적입니다. 코딩을 모르는 사람들도 코딩을 짜게 해주는 일이나, AI 에이전트가 스스로 일을 하도록 만드는 것이죠. 그런데 이런 과정에 너무나 많은 AI연산이 필요합니다. AI 연산을 하기 위해 어마어마한 사이즈의 데이터센터가 필요하고, 막대한 양의 전력이 소모됩니다. 이 AI 연산은 곧 돈이고, 사용자들에게 많은 비용이 들어갑니다.

우리가 AI가 가치 있다고 보고, AI가 사람들의 일자리를 대체할 수 있다고 두려워하는 것은 사람을 사용할 때보다 종합적인 비용이 더 낮다고 보기 때문이에요. 그런데 지금의 AI 연산 비용이 사람보다 효율적이라고 우리는 장담할 수 없습니다. 어떻게보면 빅테크 기업들과 오픈AI, 클로드 같은 곳들이 사용자가 내야했던 돈을 대신 내주고 있었다고 해야할까요. 

물론 이는 빅테크/플랫폼 기업들이 시장을 지배하는 전형적인 방법 중 하나입니다. 쿠팡은 지금의 물류 인프라를 구축하기 위해 막대한 투자를 했는데요. 이는 대부분 소프트뱅크와 같은 투자자들의 돈으로 구축되었습니다. 그래서 소비자들은 돈을 덜 내고 쿠팡의 '익일 배송'을 누릴 수 있었죠. 이제 모든 경쟁자들이 시장에서 퇴출되고, 쿠팡의 인프라 구축이 완료가 되면서 쿠팡은 본격적으로 이익을 내고 있습니다.

AI 업계에서도 사실 동일한 일이 벌어지고 있는데요. 2023년부터 빅테크 기업들은 막대한 돈을 투자해 AI 인프라(=데이터센터)를 구축하고 있습니다. 덕분에 실제로 AI 연산 비용은 낮아지고 있는데요. 문제는 AI의 성능 발전이 너무 빠르다 보니, 개별적인 토큰의 비용은 낮아졌을지 몰라도 사용하는 토큰의 양 자체는 늘어났습니다. 그러다보니 AI 기업들이 감당할 수 있는 손실의 규모도 지나치게 커지고 있습니다. 오픈AI나 앤스로픽 같은 회사들은 기업 공개를 추진하면서 회사들은 점차 수익성을 따지게 되었습니다. 앤스로픽의 모델인 클로드도 최근 비싼 방향으로 요금제를 개편하고 있다고 합니다.   

AI의 이런 치명적인 약점을 해결하는 방법. 바로 온디바이스 AI를 하는 것인데요. 디바이스에 탑재된 반도체가 AI 데이터센터가 해야할 일을 상당부분 대신 처리해주는 것이죠. 이 온디바이스AI의 컨셉은 챗GPT가 등장한 때부터 사실 있었어요. 삼성의 AI폰, 애플의 애플인테리전스, 마이크로소프트의 코파일럿+ PC 등이 온디바이스AI를 현실화 시키고자 하는 제품들이었죠.

그런데 냉정하게 말하자면 온디바이스AI는 아직 킬러 서비스가 무엇인지 등장하지 못한 상태입니다. 온디바이스AI는 그 특성상 개인소비자들을 위한 서비스인 경우가 많은데요. 요즘은 24시간 어디에서든 인터넷에 연결되어있기 때문에, 굳이 스마트폰이나 랩탑에서 AI를 처리할 이유가 없기 때문입니다. 

뿐만 아니라 반도체의 성능도 한계가 있는데요. 아무리 디바이스에 들어가는 AI칩의 성능을 높인다고 해도, 데이터센터에 구축되어있는 거대한 인프라의 성능을 따라갈 수는 없죠. 이를 위해서 AI 모델의 크기를 줄여보기도 하지만, 그럴 경우 우리가 기대할 수 있는 AI의 성능이 낮아지는 문제점이 있습니다.  

하지만 예상 못했던 온디바이스AI의 사용사례도 나오고 있습니다. 바로 엣지 AI 기반 웨어러블 디바이스입니다. 우리가 '웨어러블'이라고 부르는 제품들에 AI 처리 장치와 AI모델을 넣는 것입니다. 대표적으로 스마트 워치, 이어버드(TWS:True Wireless Stereo), 스마트 안경, 스마트 링 등이 있습니다. 

스마트폰이나 랩탑에서 많이 쓰이지 않는 AI가 왜 웨어러블 디바이스에서는 유용해진 것일까요? 하나는 지연시간입니다. 스마트폰에 의존하는 기기인 웨어러블 제품은 데이터센터까지 데이터를 보내서 처리하기에는 너무 지연시간이 오래 걸리죠. 그러니 웨어러블 디바이스에서 연산을 처리하는 것이 효과적입니다. 두번째는 개인정보인데요. 건강정보, 개인정보 등 민감한 데이터를 클라우드에 보내지 않으려면 역시 디바이스 내에서 AI를 처리하는 것이 필요합니다.

온디바이스 AI는 사실 기기내에서 모든 것을 처리한지는 않습니다. 필요에 따라 웨어러블기기-스마트폰-클라우드 사이에 적절한 역할분담을 통해서 AI 연산이 처리된다는 것을 의미합니다. 정확하게는 '하이브리드AI'가 가깝죠.

장기적으로는 웨어러블기기와 스마트폰의 반도체 성능이 높아지면서 클라우드에 대한 부담을 줄이는 쪽으로 AI는 발전할 것으로 보입니다. 이를 뒷받침하기 위해 다양한 메모리 반도체 솔루션도 나올 것으로 보이구요.