AI 기술이 급격히 발전하면서, 기업들은 AI 인프라를 확장하는 것에 많은 관심을 쏟고 있습니다. 더 많은 데이터를 처리하고, 더 복잡한 모델을 학습시키기 위해서는 강력한 컴퓨팅의 자원이 필요하기 때문입니다. 하지만 인프라 확장만으로는 AI 성능을 극대화하기 어렵습니다. 한 설문조사에 따르면 경영진 중 93%가 컴퓨팅 리소스를 자체적으로 활용할 수 있다면 AI 팀의 생산성이 크게 향상될 것이라고 믿고 있다고 합니다. 

이처럼 인프라를 효과적으로 사용하기 위해서는 자원을 어떻게 하면 더욱 잘 활용할 수 있을지에 대해 고찰해 보고 그에 맞는 방안을 찾는 것이 매우 중요합니다. 고가의 고성능 자원들을 효과적으로 활용하지 못한다면, 인프라를 확장한 만큼의 효과성을 보지 못할 가능성이 높습니다. 이번 IT 트렌드에서는 AI 인프라 확장의 필요성과 당면 과제, 그리고 GPU 자원을 최적화할 수 있는 방안에 대해 알아보겠습니다.

최근 인공지능의 발전과 함께 고성능 연산을 위한 그래픽처리장치(GPU) 수요가 폭발하면서 'GPUaaS'라고 하는 서비스형GPU(GPU as a Service) 시장이 주목받고 있어요. 국내에서는 아직 생소한 개념이지만 해외에선 GPUaaS 시장의 성장 잠재력을 높게 평가하고 있는데요. 시장조사기관 '포천 비즈니스 인사이트'에 따르면 글로벌 GPUaaS 시장은 연평균 35.8%로 성장해 2032년 498억 4000만 달러에 달할 것으로 예상돼요.

국내에선 최근 SK텔레콤이 미국 GPUaaS 기업 '람다'와 손잡고 12월부터 사업을 본격화하겠다고 밝혔고, 삼성SDS도 엔비디아 GPU 기반의 GPUaaS 시장에 뛰어든 바 있어요. 더불어 KT클라우드는 슬라이싱 기술을 통해 고성능 GPU 인프라를 쪼개서 제공하는 서비스를 제공하고 있어요.

▶ 삼성·SK도 뛰어든 'GPUaaS'... 신흥 AI 먹거리 될까

28일 삼성동에서 '델 테크놀로지스 포럼 2024(DTF 2024)'이 개최되었어요. 한국 델 테크놀로지스 총괄사장은  "생성형 AI는 모든 산업의 화두이자 시대의 과제로 자리잡았다"라며 "AI 인프라를 구축하려는 움직임이 가속화되고 있지만, 핵심은 방대한 데이터로부터 비즈니스 통찰력을 얻는 것이 중요하다"라고 강조했어요.

델테크놀로지스 아시아태평양·일본·중국(APJC) 총괄 사장은 생성형 AI 기반의 혁신 리더십을 구축하는 방안을 제시했는데요. AI 시대를 산업 혁명 시기에 비교하며, 이번 혁신의 주요 동력은 데이터라고 강조했어요.  AI 시대에 앞서 나가기 위해 데이터센터와 고성능 AI PC로 주요 데이터를 빠르게 처리하는 것이 중요하다고 얘기했어요.

▶ 델테크놀로지스 "AI 핵심은 데이터... 실시간 분석 역량 갗줘야"