2025.6.4 | 896호 | 구독하기 | 지난호

  

  

 

세계 최대의 클라우드 기업 아마존웹서비스(AWS). AWS에서 전세계 매체를 초대해서 텍사스주 오스틴에 위치한 반도체 연구소 '안나푸르나랩스'를 공개했습니다. 미라클레터도 초대를 받아 오스틴에 다녀올 수 있었습니다.

특히 AWS가 집중적으로 소개한 것은 아마존이 직접 자체 설계한 AI 반도체(AI 가속기), 트레이니움2 였습니다. 인공지능 모델을 학습시키는 반도체인데요. 실제로 앤트로픽의 클로드, 데이터브릭스의 AI 모델이 트레이니움2를 통해서 학습시켰다고 합니다.

트레이니움2는 2022년 AWS가 공개한 트레이니움1의 후속 제품으로 2023년 AWS 리인벤트에서 처음 공개됐고, 2024년 12월에 일반 고객들에게도 서비스를 시작했죠. AWS에 따르면 AWS 클라우드 상에서 트레이니움2로 학습을 시키는 것은 경쟁 GPU(엔비디아 H100) 대비해 30~40% 가성비를 보여준다고 설명했습니다.

학습 성능은 엔비디아 GPU 보다 낮을지 몰라도, 외신에 따르면 가격이 25% 정도에 불과하기 때문에 가성비가 있다는 것이 AWS이 밝히는 강점이었습니다.

실제로 AWS는 2세대로 옮겨오면서 노드(서버컴)에서 케이블을 없애고, 제조를 자동화했습니다. 또, 엔비디아 처럼 자체 칩-칩 네트워크인 뉴로링크(엔비디아 NV링크와 대응하는 제품)를 개발하고, 서버와 서버를 연결하는 광섬유 케이블도 직접 개발했죠. 케이블의 먼지를 줄이기 위해 파이어플라이옵틱플러그라는 자체 플러그까지 개발했습니다. 

이처럼 AWS는 반도체부터, 서버컴퓨터, 케이블, 클라우드 서비스까지 완전한 수직계열화를 이룩하고 있었습니다. 단지 자체 AI반도체를 만드는 것에 그치는 것이 아니라 엔드투엔드로 수직계열화를 하고 있다는 것을 알 수 있었습니다.   

AWS는 왜 엔비디아 GPU와 경쟁하는 자체 반도체를 만드는 것일까요? 고객의 비용, 그리고 AWS의 비용을 절감하기 위해서입니다. AWS를 비롯해 마이크로소프트 애저, 구글클라우드는 엔비디아의 GPU를 구매하기 위해 막대한 돈을 쓰고 있으니까요.

사실 AWS는 하이퍼스케일러 중에서도 자체 반도체 개발에 가장 적극적인 회사였습니다. AWS에 따르면 자체 반도체 설계를 해야한다는 의사결정을 내린 것은 2013년 이었습니다. 수석부사장인 제임스 해밀턴이 6페이지의 문서를 작성했고, 이에 따라 가장 먼저 '니트로'라고 하는 데이터센터 효율을 높이는 반도체를 먼저 개발했다고 합니다. 요즘 DPU(데이터처리유니트)라고 부르는 반도체와 유사한 것이었다고 합니다.

이 '니트로'를 개발한 곳이 이스라엘 반도체 기업 안나푸르나랩스. 립부탄 인텔 현 CEO, TSMC, Arm의 투자를 받았을 정도로 총망받던 곳이었습니다. AWS는 2015년 안나푸르나랩스를 인수하고 본격적인 자체 반도체 설계에 나서죠. 

니트로 다음으로 자체 반도체로 만든 것이 데이터센터 서버용 CPU인 '그라비톤'이었습니다. 데이터센터에서 인텔의 CPU를 대체하는 제품이었죠. 그라비톤은 인텔이 주도하는 x86 설계가 아니라 모바일용 반도체에 주로 쓰이는 Arm 설계로 처음 만들어진 서버용 CPU였습니다. 2018년 처음 나온 그라비톤은 이제 4세대까지 나왔고, AWS가 최근 2년간 새롭게 데이터센터에 설치한 CPU 중 50% 이상이 그라비톤 CPU라고 합니다. 서버 시장에서 인텔의 아성을 무너뜨린 것은 AMD뿐만 아니라 AWS도 큰 역할을 했던 것이죠.

AWS는 AI가속기 시장에서도 엔비디아 GPU를 자체 AI반도체인 트레이니임과 인퍼런시아로 대체하려는 것으로 보입니다. 

이런 자체 설계 반도체 개발 트렌드는 다른 클라우드 업체들도 따라오고 있는데요. 구글의 경우 AI가속기는 TPU를 일찌감치 개발해 쓰고 있었지만, 자체 CPU인 액시언을 공개한 것은 2024년이었습니다. 마이크로소프트는 2023년에 자체 AI 반도체인 마이아, CPU인 코발트를 공개했죠. 결국 내재화를 통해 비용을 줄이고, 엔비디아와 협상에서 우위를 점하는 것이 대형 클라우드 회사의 목표. 

AWS의 트레이니움에 대한 설명을 들으면서 오히려 엔비디아 GPU의 성능이 얼마나 대단한지를 알수가 있었습니다. 현재 서비스 되고 있는 트레이니움2는 지난해 엔비디아 주력 제품이었던 H100과 경쟁 반도체임에도 불구하고 성능은 뒤쳐집니다. 지금 엔비디아가 고객들에게 전달하는 블랙웰에 비하면 훨씬 더 뒤쳐지겠죠. 올해 말 AWS는 트레이니움3의 자세한 스펙을 공개할 예정인데, 그 사이에 엔비디아는 한발 더 앞서있을 수도 있습니다.

하지만 비싸다고 과연 꼭 좋은 것일까요? AI 모델 학습 경쟁은 어떻게 보면 이미 끝났다는 얘기가 많아요. 오픈AI, 앤트로픽, 구글 등의 프론티어 모델이 압도적이고, 오픈소스에서는 라마, 딥시크같은 모델들이 가성비로 나와있습니다. 마이크로소프트와 구글의 소형 오픈소스 모델도 좋은 대안이 되고 있구요. 이미 인간수준의 능력을 가진 LLM이 나왔기 때문에 여기서 더 큰 성능의 향상을 사용자들이 체감하긴 어려워보입니다. 이렇게 기술 발전이 한계에 달하면 결국 가격 경쟁이 시작될 수 밖에 없을 것 같습니다.  

AWS 글로벌 데이터센터 부사장은 미라클레터와 인터뷰에서 "AI 추론(inference)에 대한 수요는 계속 늘어날 것이지만 AI 학습(training)은 다를 수 있다"고 설명했습니다. 

이처럼 학습보다는 추론의 시장이 더 커지는 상황에서 가성비 트레이니움2가 엔비디아 GPU보다 나을 수 있다는 것이 AWS의 생각인 것으로 보입니다. 

과학과 예술이 합쳐진 컨퍼런스, 들어본 적 있으신가요? 여기, 과학과 예술을 통합한 복합 컨퍼런스인 'Organoid Developer Conference 2025(이하 ODC25)'를 소개해 드립니다! ODC25는 오가노이드 기술을 비롯한 AI·인공장기·정밀의료 등 첨단 바이오 분야의 학술적 성과 및 비전을 공유하고, 영화·예술·패션 등 다양한 분야의 지속가능한 기술을 함께 조명합니다. 

이번 컨퍼런스에는 50여 명의 글로벌 인사를 포함해 연구자, 예술가, 정책가, CEO 등 다양한 분야의 전문가들이 대거 참여할 예정입니다. 또한 AI 영화제, 하이서울쇼룸 패션쇼, 아트 퍼포먼스, 과학 유튜버 '궤도'와 친환경 엔터테이너 '줄리안'의 특별 강연까지 다양한 콘텐츠가 예정되어 있답니다.

오가노이드에 대한 연구와 AI· 의료 분야의 새로운 가능성과,

푸드테크, 아트, 패션, 영화 등 다양한 문화예술 장르에 과학이 어떻게 스며들게 되었는지에 관심 있으신 분들은 이번 컨퍼런스에 참여해 보시는 것을 추천드립니다! 

■ 일시: 2025년 6월 13일(금)~14일(토)

■ 장소: 코엑스 마곡 4F 르웨스트홀

■ 주관: 오가노이드사이언스, 매일경제 TV, Animal free initiative, VOS DISCOVERY, Lambda Biologics, Mahidol University

■ 무료 사전등록: 사전등록 선착순 1,000명 ’ODC25 스페셜 굿즈‘ 현장 증정

■ 전 세션 AI 실시간 통역 제공 (개인 이어폰 지참 필요)

 

지금 테크업계의 가장 큰 이슈는 사실 '인공지능'이 아니라 '관세전쟁'이라는 것. 미라클레터에서도 말씀드렸는데요. 전자제품, 반도체 등에 부과되는 트럼프 관세는 빅테크기업들에게 큰 타격을 줄 것으로 보입니다. 현재는 전자제품, 반도체 등에 관세가 일시 면제되고 있지만 트럼프 행정부와 각국 정부의 협상에 따라 관세율은 달라질 수 있습니다. 

이런 트럼프 관세에 가장 큰 영향을 받는 기업은 다름 아닌 애플입니다. 애플 아이폰이 미국 시장에서 70% 이상의 높은 시장점유율을 갖고 있는데 이런 제품의 대부분이 중국에서 생산되고 있기 때문입니다. 애플은 몇년전부터 생산의 일부를 인도로 옮기고 있는데, 트럼프 대통령은 인도가 아니라 미국으로 옮겨야한다고 애플을 협박하고 있습니다. 

이런 상황에서 전 파이낸셜타임스 기자의 책이 미국에서 나왔는데요. 바로 '애플 인 차이나(Apple In China)'. 부제는 중국에 사로잡힌 세계에서 가장 위대한 기업. 이 책은 애플의 역사에서 시작해서 어떻게 애플이 모든 제조 시설을 중국으로 옮겼고, 이것이 중국에 어떤 영향을 미쳤는지를 설명해주고 있습니다. 중국의 제조업에 포위당한 전세계 국가들이 어떻게 대응해야하는지에 대해서도 아이디어도 주고 있습니다. 

 

이 책에는 여러가지 흥미로운 내용이 많이 나오는데요. 바로 애플은 제조 아웃소싱을 가장 늦게 한 컴퓨터 회사라는 점이었습니다. 애플2 컴퓨터로 개인용컴퓨터(PC)의 시대를 연 애플은 1990년대 IBM호환 PC들과의 경쟁에서 완전히 밀리고 있었습니다. 개방성이 장점인 IBM호환 PC들은 전세계에서 가장 싼 부품을 조달해서 만들어졌고, 나중에는 점차 제조를 다른 전문 제조업체에 위탁하는 형태로 발전해왔습니다. 

애플은 비교적 늦게까지 자체 제작을 유지해왔습니다. 하지만 회사가 파산위기에 몰리면서 공장을 처분하고 점차 전문제조업체에 제조를 맡기는 방향으로 변해갑니다. 애플은 처음에는 일본에서, 나중에는 대만으로 위탁제조 공장을 옮겨가죠. 1997년 애플에 복귀한 스티브 잡스도 처음에는 직접 제조를 선호했습니다. 하지만 역시 자금상의 문제로 위탁제조업체를 찾아야만 했습니다.

복귀한 잡스의 첫 제품. 바로 아이맥이었는데요. CRT모니터와 컴퓨터가 일체화가 된 디자인의 이 컴퓨터는 CRT모니터 제조에 강점이 있던 한국 회사에게 위탁생산을 맡기게됩니다. 바로 LG전자였습니다. 

아이맥이 공전의 히트를 치면서 스티브 잡스도 화려한 복귀에 성공하고, LG전자도 큰 성공을 거둡니다. LG전자는 아일랜드와 멕시코에 공장을 짓고 여기서 아이맥을 위탁생산하기도 합니다.

하지만 LG전자와 애플의 파트너십은 썩 좋지 않았습니다. 책에 따르면 LG전자 직원들은 애플을 무시하는 모습을 보여주기도 했고, 자꾸 애플의 기술을 빼가려고 했다는 설명도 나옵니다. 이런 빈틈을 공략하고 들어온 회사가 있는데요. 바로 대만의 혼하이정밀(폭스콘)이었습니다.

 

애플과 본격적으로 거래를 하기 시작한 폭스콘. 폭스콘은 애플의 중국 진출 문을 열어준 회사였습니다. 중국에서 전자제품 생산 공장을 운영하고 있었기 때문이죠. 2001년 중국의 WTO 가입 이후 대만 기업들은 중국에 앞다퉈 진출해 그곳에 공장을 건설했습니다. 대만에서 해오던 제조업을 그대로 중국으로 옮겨간 것이죠. 파격적으로 저렴한 인건비, 성실한 직원, 중국 정부의 보조금까지 중국에서 사업을 하기 좋은 시기였습니다. 

폭스콘과 손잡은 애플은 2001년 아이팟, 2007년 아이폰, 2010년 아이패드를 연속으로 히트시키면서 엄청난 속도로 성장하게됩니다. 폭스콘은 중국 공장을 통해서 애플의 엄청난 수요를 만족시키면서 안정적으로 제품을 공급해줬고 이는 애플이 세계 시가총액 1위 기업이 되는 중요한 비결이 됩니다. 스티브 잡스 사후 팀 쿡이 애플의 CEO가 된 이유이기도 하죠. 

중국은 애플의 제조기지일뿐만 아니라 나중에는 성장동력이 되기도 합니다. 중국의 경제성장으로 14억 중국 인구가 아이폰을 구매하기 시작하자 애플의 실적은 수직상승하게 됩니다. 중국과 애플의 이런 동반 성장은 '윈-윈 전략'처럼 느껴졌습니다. 

 

저자는 애플과 중국에 대한 흥미로운 가설을 제시합니다. 바로 지금의 제조강국 중국을 키운 것이 바로 애플이라는 것이죠. 특히 최근 중국 스마트폰이 엄청난 가성비와 성능을 구축할 수 있었던 것은 애플의 덕이 크다는 것입니다. 어떤 덕을 봤다는 것일까요?   

첫번째, 애플이 중국에 첨단 제조기술을 전파했습니다. 애플은 폭스콘에게 제품 위탁생산을 맡겼지만, 직접 제품을 제조하는 수준으로 공장의 생산 과정을 관리했습니다. 애플 직원들이 폭스콘의 공장을 찾아가 살다시피 했습니다. 애플은 자신들이 직접 구매한 제조설비를 폭스콘 공장에 배치시켰고, 이 제조설비는 애플만 사용할 수 있었습니다. 이를 통해 위탁제조업체를 강력하게 컨트롤 할 수 있었습니다. 

이 과정에서 애플이 아이폰을 비롯해 전자제품을 개발하고 생산하면서 쌓은 노하우가 중국인과 중국기업에 고스란히 전수되었습니다. 나중에 화웨이가 아이폰과 경쟁하는 프리미엄 스마트폰을 내놓으면서 이는 결국 애플에게 부메랑이 되어 돌아왔습니다. 

두번째, 애플이 중국에서 생산을 하면서 전자제품 공급망과 생태계가 중국에 구축됐습니다. 초기에는 전세계 여러 곳에서 생산한 부품을 중국으로 가져와 수입했지만 나중에는 아예 중국에서 부품을 직접 생산한 후, 중국내 공장에서 조립돼 바로 해외로 수출되기 시작합니다. 하지만 이때만 해도 중국에 진출한 해외기업들의 공장에서 만들어진 것이었습니다. 

최근에는 애플 공급망에 납품하는 회사들도 점차 중국기업으로 변해가고 있었습니다. 삼성전자의 중국 공장에서 만든 부품이 아니라, 중국 기업의 부품이 애플 제품에 들어간다는 의미입니다. 최근 애플의 중요한 위탁제조업체로 부상한 '럭스쉐어'가 대표적인 본토 중국 기업인데요. 럭스쉐어는 대만 폭스콘, 페가트론에 이어 세계 3위 위탁제조업체까지 순위가 올랐습니다.

 

문제는 이런 애플의 중국 올인 전략이 지금은 애플의 최대 리스크가 되었다는 점입니다. 먼저 과거 코비드19 때 확인된 것처럼 중국 경제가 마비되자 애플의 제품 전체의 생산이 중단되어버렸습니다. 한 국가에 의존하는 공급망의 위험성을 보여줬습니다.

더 큰 문제는 미국과 중국이 점차 적대적인 관계로 변해간다는 점 입니다. 미국 정부로부터 애플 제품의 중국 생산을 줄여야한다는 압박이 점점 강해지고 있습니다. 또, 중국내에서는 아이폰을 비롯한 미국제품에 대한 반감이 커지고 있습니다. 중국와 미국의 갈등이 계속되는 한 애플 제품의 중국 판매는 줄어들 수 밖에 없습니다. 또, 인도나 다른 지역으로 생산시설을 옮기는 것은 애플에게 큰 경제적 부담이 될 것으로 보입니다. 

저자는 인도로 생산을 옮긴다고 해도 절대 중국같은 생산성을 확보할 수 없다고 말합니다. 왜냐면 중국처럼 낮은 임금으로, 우수한 손재주를 가진 인력을, 노무에 대한 걱정 없이 활용할 수 있는 국가는 중국 외에는 없기 때문입니다. 공산당이라는 권위주의적인 공권력을 가진 국가만이 가질 수 있는 힘이라는 것이죠. 아이폰을 미국에서 생산해야한다는 트럼프 대통령의 요구는 터무니 없는 일 이라는 것이죠. 

하지만 애플과 중국의 관계는 미국의 국가안보에 위협이 됩니다. 미국인들이 가장 중요하게 생각하는 제품을 중국 제조에 의존하고 있기 때문이죠. 그래서 저자는 미국의 안보와 현실성을 감안해 '리쇼어링'이 아니라 '프렌드쇼어링'이 유일한 해결책이라고 말합니다. 인도, 베트남 처럼 미국과 적대적이지 않은 우방국으로 애플의 생산을 옮겨야한다는 것이죠.  

 

미국의 대표적인 데이터 플랫폼 회사 스노우플레이크. 이 회사가 매년 개최하는 스노우플레이크 써밋이 6월2일과 3일 샌프란시스코에서 열렸습니다. 저도 작년에 이어 2년 연속 행사에 참여했는데요. 지난해 젠슨 황 엔비디아가 참석했던 AI써밋에 올해는 샘 올트먼 오픈AI CEO가 직접 참여했습니다. 샘 올트먼이 행사에 참석한 것은 스노우플레이크와 엔터프라이즈 사업에서 파트너십을 맺고 있기 때문이었습니다. 무엇보다 샘 올트먼이 엔터프라이즈 AI에 대해서 어떤 생각을 갖고 있는지 들을 수 있었기 때문에 흥미로웠습니다. 지금의 오픈AI는 챗GPT를 중심으로하는 소비자 AI 기업이지만, 성장을 위해서는 반드시 B2B 부문에서 성장을 해야하기 때문이죠.

샘 올트먼은 오픈AI가 최근 공개한 코딩 에이전트 '코덱스'를 언급하면서 지금은 AI 에이전트가 몇시간 정도의 일을 대신해주는 인턴에 불과하지만, 언젠가는 경험 많은 소프트웨어 엔지니어가 되어서 며칠이 걸리는 일을 하게될 것이라고 말했습니다. 그러다 어느 시점에는 AI가 스스로 과학적인 발견을 해내는 'AI 과학자'가 될 것이고 그것이 엄청 중요한 순간이 될 것이라고 설명했습니다. 

샘 올트먼은 그래서 대기업들이 AI 기술이 빠르게 변화하는 것을 지켜보기 보다는 '그냥 하라'는 조언을 남겼어요. 새로운 AI모델이 등장하는 것을 기다리거나 관망하기보다는 초기에 시도하고 빠르게 반복하는 기업이 가장 큰 가치를 얻을 것이라는 설명입니다. 그는 "이는 기술의 일반적인 원칙으로, 상황이 빠르게 변할 때는. 가장 빠르게 실행을 반복해서, 실수의 비용을 최소화하고, 성공의 성과를 최대화하는 기업이 성공한다"고 설명했습니다.

 

1년전 스노우플레이크의 행사에 참석했을 때, 스노우플레이크의 주가는 상장 이후 최저 수준이었고, 막 새롭게 취임한 스리다 라마스와미 CEO는 아직 회사에 적응하는 듯한 모습을 보였습니다. 하지만 1년 사이에 스노우플레이크의 주가는 50% 이상 올랐고, 매출은 사상 최대치를 넘었습니다. 그래서인지 CEO를 비롯해 스노우플레이크 직원들은 밝아보였습니다. AI 시대가 데이터 플랫폼 기업들에게 사업기회가 된 것이 분명해 보였습니다.

스노우플레이크는 스노우플레이크 인텔리전스라는 AI 플랫폼을 공개했고, 특히 데이터에 특화된 데이터 사이언스 에이전트도 내놨습니다. 스노우플레이크는 이날 데이터 스타트업 크런치 데이터를 인수하고 에이전트 부문을 강화한다고 밝혔습니다. 심지어 2026년 LA 하계올림픽의 공식 데이터 스폰서로 스노우플레이크가 참여했다고 발표하죠. 🥁

저는 이번 행사에서 스노우플레이크 창업자 중 한 사람인 베누와 다쥬빌 제품 부문 사장을 인터뷰할 수 있었습니다. 그는 2012년 스노우플레이크를 창업했지만 초기부터 경영은 전문경영인에게 맡기고 본인은 제품 개발에만 집중했습니다. 그래서인지 '생성형AI'가 왜 '데이터'에 혁명적인 기술인지를 들을 수 있습니다. '창업자의 인사이트란 이런 것이구나'라고 느꼈다고 해야할까요? 

우리는 보통 데이터를 AI를 만들어내는 원료로만 생각하죠. 그런데 수많은 데이터를 학습해서 만들어진 '생성형AI'는 이른바 '비정형 데이터'를 해석해낼 수 있습니다. 아래는 베누와 창업자의 설명입니다. 

하지만 AI는 비구조화된 데이터를 플랫폼에 연결한다. 문서를 AI가 추출한 데이터와 결합할 수 있고, 이를 나머지와 결합해 대시보드를 만들 수도 있다. 데이터 분석 플랫폼이 다루는 데이터 스펙트럼이 혁명적으로 확장됐다.

우리는 이제 AI를 사용해 데이터를 추출하고 분석에 활용할 수 있다. AI가 이력서를 분석해 여기서 데이터를 추출해낼 수 있다. 이제 AI로 전체 파이프라인을 자동화할 수 있다. 이는 정말 혁명적인 것이고 이 분야의 초기 단계에 불과하다"