'AI 에이전트'라는 말, 요즘 부쩍 더 많이 듣고 계시지 않나요? LLM(대규모 언어 모델)과 AI 모델, 각 기업들의 경쟁 현황이 늘 이어지는 가운데, 잠시 흐름을 놓치면 "갑자기 AI 에이전트는 무엇일까?"라고 할 수밖에 없을 만큼 AI 시장의 방향은 빨리 바뀌고 그 흐름도 빨라지고 있습니다. 그리고 그 이유는 천문학적인 액수가 투입된 이 시장에서 사용자를 확보하고 수익을 낼 제품을 만드는 경쟁을 대표적인 테크 회사들이 한순간도 뒤돌아보지 않으며 진행하고 있기 때문인데요.

사실 AI 에이전트는 AI 모델의 발전이 이전만큼 빠른 속도로 이루어지지 않는 상황에 이르면서 나온 각 기업들의 '상품'이라고도 할 수 있습니다. 이런 AI 에이전트의 핵심은 사용자를 대신해 작업을 수행해 준다는 것이고요. 이전보다 훨씬 더 효율적인 검색뿐만 아니라, 시간이 오래 걸리는 스프레드시트 작업부터 쇼핑까지, 효과적으로 명령을 하면 작업에 에너지를 쏟지 않아도 되는 세상을 만들고 있는 중이죠.

그렇다면 과연 이렇게 발전하는 AI 에이전트는 광범위하게 퍼지는 AI 기반의 새로운 '플랫폼'이 될까요? 오늘 [준의 테크 노트]는 훈련에서 추론 능력 향상으로 바뀐 AI 모델 발전 방향의 의미 그리고 현재 나온 제품들의 현황을 통해 그 가능성이 어떤지 살펴볼 수 있습니다.

최근 몇 년간 AI의 발전은 파죽지세였습니다. 오픈AI를 필두로, 수 많은 스타트업들과 빅테크 기업들은 일주일 단위로 충격적일 정도로 놀라운 개발 결과를 앞다투어 공개했습니다. 그리고 그 근간에는, "AI의 성능은 컴퓨팅 파워를 증대시키는 것과 비례하려 증가한다"라는 믿음이 있었습니다. 그렇기에 메타, 구글, 마이크로소프트 등의 빅테크 기업들은 어마어마한 금액을 컴퓨팅 파워, 즉 GPU 구매에 사용했죠.

하지만 최근 로이터, 블룸버그, 디인포메이션의 보도에 따르면, 오픈AI를 비롯한 구글, 앤트로픽 내 복수의 관계자들이 "더 이상 이전의 확장의 법칙(Scaling Law)이 통하지 않기 시작했다"라고 말했다는 사실이 전해졌습니다. AI가 사용되는 과정에서 컴퓨팅 파워가 필요한 것은 크게 훈련과 추론으로 구분됩니다. 지금까지의 확장 법칙은 훈련 단계에서 더 많은 데이터와 더 많은 훈련을 시켜 더 나은 성능을 기대하는 것이었죠.

이러한 확장 법칙이 점점 한계에 부딪히기 시작했다고 말하는 것입니다. 더 많은 데이터를 넣고, 더 많은 훈련을 시켜도 결과값으로 나오는 AI의 성능이 이전만큼 빠른 속도로 성장하지 않게 된 것이죠.

이러한 한계에 부딪힌 AI 기업들의 다음 스텝은 무엇일까요? 어떤 타개책을 만들고 있을지를 통해서 무슨 미래를 그리고 있는지를 살펴보고자 합니다. 

앞서 말했듯이, AI 모델의 성능은 크게 훈련과 추론이라는 두 가지 단계에 의해 좌우됩니다.

오픈AI는 위와 같은 한계를 극복하기 위해, 훈련과 추론 중 추론의 단계에 컴퓨팅 파워를 집중하고 있습니다. 그래서 탄생한 것이 o1이라는 모델이죠. 엔비디아의 CEO 젠슨 황은 최근 인터뷰에서 "AI의 목표는 훈련이 아니다, 추론이다"라는 말을 하기도 했는데요.

그렇다면 추론을 잘한다는 것은 어떤 의미일까요?

지난 10월에 있었던 TED AI 컨퍼런스에서 오픈AI의 연구자 노암 브라운(Noam Brown)은 "AI봇이 진행하는 포커 게임에서, 20초 더 생각하는 것이 훈련양과 학습 데이터를 10만 배 늘리는 것과 동일한 성능을 낸다"라고 말해 화제가 되었는데요. 결국 더 나은 추론을 한다는 의미는, 같은 양의 학습 데이터를 가지고 더 높은 성능을 낼 수 있다는 이야기입니다.

예를 들어, "발표를 더 잘하는 방법은 뭘까?"라는 질문을 사용자가 던졌다면 추론 시간이 짧은 모델이라면 즉각적으로 답을 생성해 낼 것입니다. 하지만 더 많은 추론을 하는 모델이라면 "발표를 잘하기 위해 중요한 요소"를 먼저 생각해 보고, 요소별로 중요한 역량을 생각해 보고, 역량별로 키우는 방법을 생각해 보는 등, 단계적인 접근을 통해 더 좋은 답변을 생성해 낼 것입니다.

AI 검색 엔진으로 포지셔닝하고 있는 퍼플렉시티는 최근 검색 엔진 내에 '쇼핑' 기능을 추가했습니다. 사용자가 "서재를 만들고 싶어, 뭘 사야 되는지 알려줘"라고 검색하게 되면, 퍼플렉시티 AI는 직접 이를 검색하고, 적절한 상품들을 골라 사용자에게 추천해 줍니다.

위 회사들은 표면적으로는 각각 다른 기능들을 통해 사용자들에게 접근하고 있습니다. 하지만 근간에 있는 전략은 모두 유사합니다.

결국 훈련 단계에서의 확장 법칙은 성능 개선의 한계가 보이니, 더 나은 추론에 컴퓨팅 파워를 집중하여, 사용자들의 문제를 '대신' 풀어주자는 것입니다. AI 모델에게 현재 사용자가 컴퓨터/스마트폰 상에서 겪고 있는 문제에 대해 더 깊게 생각할 수 있도록 자원을 집중하고, 문제를 해결하는 방법에 대해서도 빠르지만 부정확할 수 있는 방향 대신, 조금 느리더라도 정확하고 유용한 방향으로 개발하기 시작한 것이죠.

오픈AI, 메타, 구글은 사용자 대신 검색하여 요약해 주고, 앤트로픽은 사용자 대신 스프레드시트를 보고, 컴퓨터를 사용합니다. 퍼플렉시티는 사용자 대신 상품을 찾아주고, 결제까지 해줍니다. 

구글은 프로젝트 자비스라는 이름으로, 앤트로픽의 ‘컴퓨터 활용’ 기능과 유사한 것을 개발 중에 있으며, 마이크로소프트 또한 코파일럿 비전이라는 이름으로 사용자의 화면을 함께 공유하며 대화를 나누고, 작업을 시킬 수 있는 비서 AI를 개발 중에 있습니다. 애플 또한 시리가 사용자의 완벽한 비서가 되어 각종 작업들을 대신 수행하는 것이 최종 목표에 있는데요. 오픈AI는 내년 1월에 오퍼레이터라는 이름으로 AI 에이전트를 출시할 계획을 가지고 있다고도 알려졌습니다. 

AI 에이전트는 시장의 대세가 될까?  

갑자기 모든 AI 회사들이 왜 AI 에이전트에 열을 올리기 시작한 것일까요? 

특정 회사의 AI 에이전트의 유용성이 소비자들에게 충분히 소구된다면, 이는 어떠한 플랫폼보다도 강력한 지위를 가질 수 있게 되기 때문입니다. 마치 아무리 애플이 많은 기기를 통제하고 있더라도 검색은 구글을 통해 진행하는 것처럼, 현재 시장에서 가진 하드웨어 지배력이나 소프트웨어 지배력은 큰 의미가 없어집니다. AI 에이전트가 사용자를 '대신해' 지도, 이메일, 검색, 쇼핑 서비스 등 다양한 서비스를 쓰게 될 것이고, 사용자는 해당 AI 에이전트와만 일대일로 소통하게 될 테니까요.

AI 에이전트 시장의 잠재력과는 별개로, 우리는 계속해서 질문들을 해볼 수 있습니다.

AI 에이전트의 시대가 올까요? 만약 오게 된다면, 어떤 기업이 AI 에이전트 시장을 지배하고 있을까요? 다양한 AI 에이전트들이 있다면, 우리는 어떤 기준으로 나와 함께할 AI 에이전트들을 고르게 될까요? 친절함? 정확함? 빠른 속도? AI 에이전트들끼리의 소통이 가능할까요? 가능하다면, 그들 간의 금전 거래도 가능해질까요? 어떠한 수단으로 거래가 될까요?

아직 아무도 답을 모르는 이 질문들 사이에서 유효한 질문들을 적절하게 골라내서 소비자들에게 최선의 답안을 제시하는 기업들이 AI 에이전트 시장을 지배하게 될 것입니다.

글쓴이: 준. O2O 스타트업에서 일했고, 현재는 글로벌 콘텐츠 회사에서 일하고 있습니다. 스타트업, 웹3, AI 등 새로운 기술이 바꾸어 나가는 세상의 모습에 관심이 큽니다.

아티클 중간중간에도 언급되면서 소개되었지만, [준의 테크 노트]는 그간 AI 시장이 변화하는 모습과 그 핵심을 짚은 이야기들을 꾸준히 전해왔습니다. 그 이야기들을 따라가다 보면 현재 전체 시장이 변화하는 큰 그림을 볼 수 있으니 놓치지 말고 살펴보세요!