AI 혁신일까, 거품일까

알아야 할 5가지 팩트

실리콘밸리뱅크가 발간한 혁신경제 전망 보고서가 나왔는데요. AI 투자 붐을 둘러싼 복잡한 장면들을 정리해 보았습니다.

돈은 몰리고 있는데...

지난 2년간 AI 기업에 대한 투자가 급증하면서 오픈AI 앤스로픽 등 상위 5개 유니콘 기업의 기업가치가 5000억 달러(697조원)를 돌파했습니다. 이는 닷컴 붐 당시 이뤄진 모든 IPO의 합계보다 큰 수치입니다. 또 AI 스타트업 가운데 98%는 아직 연간 매출 10억 달러를 넘기지 못하고 있다는 분석입니다.

더욱이 상당수 AI 기업은 AI가 아닌 기업보다 더 많은 인력을 고용하고, 더 많은 돈을 태우면서도 오히려 효율성은 낮은 것으로 나타났습니다. 예를 들어 창업 초반 단계인 시리즈(Series) A 규모의 AI 스타트업은 신규 매출 1달러를 만들기 위해 5달러를 사용했다고 해요.

독점 LLM에 지나친 의존성

보고서는 AI 스타트업 생태계가 소수의 LLM(대형언어모델)에 과도하게 의존하고 있다는 점 또한 지적합니다. 스타트업은 오픈AI와 같은 큰 스타트업의 언어 모델을 활용해 서비스를 만듭니다. 그 제품을 보고 투자자들은 스타트업에 투자를 하고, 스타트업이 성장하면서 LLM 제공업체의 수익이 커집니다.

몇몇은 매우 커질 수 있다

같은 크기의 스타트업이더라도 AI 기업은 평균적으로 AI가 아닌 기업보다 2~3배 높은 기업가치(밸류에이션 프리미엄)을 인정 받고있다고 합니다. 시리즈 D 기준(상장 직전 스타트업)으로는 85% 이상 더 높은 것으로 나타났습니다.

그렇다면 이를 버블로만 볼 수 있을까요. 아닙니다. 일부 기업은 우려를 만회할 정도로 큰 성장을 할 수 있다고 합니다. 어떤 투자자가 한 스타트업에 2억 달러를 투자했다고 해볼게요. 기대하는 목표는 10배 수익, 즉 20억 달러를 회수(엑시트, Exit)하는 것이라고 한다면요. 만약 투자자가 지분 10%를 확보했다면, 회사의 기업가치는 현재 20억달러에서 200억달러까지 올라가야 합니다.

회사의 기업가치를 평가하는 방법은 많은데요. 스타트업에서 많이 쓰이는 방식 중 하나가 PSR(Price to Sales Ratio, 주가매출비율)입니다. 매출액 × 가치배수.  예를 들어, 연 매출을 10억 달러라고 하고 가치배수를 10으로 한다면 100억달러 기업가치가 되는 것이죠. 이처럼 PSR이 10배 이상인 기업이 전체 유니콘 중 2% 정도인데요. 이들 기업은 더 성장 가능성이 있습니다.

신규 채용 일자리를 줄인다

또 많은 분들이 AI가 일자리를 즉시 없애고 있다고 생각하는데요. 실제 데이터는 조금 다르게 나왔습니다. 챗GPT가 출시된 이후 테크 업계의 해고 건수는 오히려 감소했습니다. AI가 해고에 영향을 준다기 보다는, 정확히는 신규 채용을 억제하는 방식으로 노동 시장에 영향을 주는 것입니다.

초기 스타트업인 시드 단계에서 변화가 두드러지는데요. 2024~2025년에 자금을 조달한 스타트업은 2019년에 비해 평균 4명이 적은 팀으로 투자를 받았습니다. AI 때문에 적은 인원으로 더 큰 성과를 낼 수 있다는 가능성을 보여준 것입니다.

나스닥 사이클 중반에 진입했다

2023년 이후 AI가 등장하면서 주식시장, 특히 나스닥이 크게 올랐는데요. 1994년 넷스케이프 브라우저가 출시되면서 인터넷 시대가 열렸을 때와 비슷합니다. 당시에도 투자자들의 기대감이 몰리며 주식시장이 약 5년간 큰 상승을 경험했습니다.

SVB 보고서는 지금의 상황을 그때와 비교합니다. 챗GPT가 출시된 2022년 말이 마치 넷스케이프 출시 시점과 같고, 그 이후 나타나는 나스닥 상승세가 인터넷 초기와 닮아 있다는 것이죠. 따라서 우리는 지금 AI 사이클의 초입이 아니라, 이미 상승이 한창 진행 중인 중간 국면에 들어와 있다는 분석입니다.

🟥장면2: 윤리

기억하는 GPT

잊어버린 클로드

기억이란 무엇일까요? 저에게 기억은 추억을 떠올리게 해주는 거울과 같은 존재인데요. 인공지능마다 기억을 하는 방법이 다르다는 분석이 있었습니다. 오늘날엔 두 개의 대표적인 AI 어시스턴트가 있습니다. 하나는 오픈AI의 챗GPT, 또 하나는 앤스로픽의 클로드입니다. 겉보기엔 둘 다 비슷한 질문에 답하고, 코드를 짜고, 글을 요약하는데요.

기억에 대한 다른 철학

하지만 두 AI 모델은 기억에 대해 완전히 반대의 철학을 갖고 있습니다. 기억은 사실 정체성을 구성하는 요소이기 때문에, AI의 본질을 어떻게 바라보는지에 대한 철학적 선택이기도 합니다. 먼저 클로드는 대화를 시작할 때, 항상 완전히 비워진 상태로 출발한다고 해요. 과거 대화를 요약하거나 자동으로 기억하지 않고요. 명시적으로 "기억해줘", "예전에 말한 거 기억나?"와 같은 요청을 해야만, 클로드는 그때서야 자신의 기억 툴을 작동시킵니다.

특히 클로드는 “작년 11월 마지막 주에 뭐 했더라” “아무개에 대해 물었던 것을 기억해”라고 물어야지만 기억을 복원합니다. AI가 기억을 불러내지만 근거는 모두 실제 대화 원문입니다. 반면 챗GPT는 자동 기억을 사용합니다. 챗GPT는 사용자와의 대화 내용, 성향, 스타일 등을 자동으로 파악하고요.

10년뒤에도 나를 기억한다면

GPT는 나만의 프로필을 조용히 만들어 둡니다. 별도로 요청하지 않아도, 이전 대화를 참고해 일관된 반응을 제공하고요. 이런 시스템은 편리하기는 합니다. 질문을 반복할 필요도 없고, 복잡한 설정도 필요 없으니까요. 하지만 동시에, 사용자는 자신의 정보가 어떻게 기억되고 있는지, 어디까지 기록되고 있는지 알기 어렵습니다.

사실 지금은 대규모 언어모델이 서비스로  태동한지 얼마 안 돼 나에 대한 기억이 많지는 않습니다만, 10년 20년 뒤에도 나와의 대화를 보관하고 꺼내 쓰도록 만들도록 하는게 온당한지에 대한 질문도 나오고 있습니다. 

기억의 설계는 권력이다

무조건 기억하는 것이 더욱 똑똑한 것도 아니고, 다 잊어버리는 것이 더 윤리적인 것도 아닙니다만, 사용자에게 어떤 선택권이 주어지는가는 앞으로 이슈가 되지 않을까 합니다. 기억을 설계한다는 것은 그 자체가 권력이자 윤리이기 때문입니다.

우리는 AI에게 얼마나 많은 걸 기억하게 해야 할까요? 10년, 20년 뒤에도 나와의 대화를 보관하고, 꺼내 쓰도록 허용해야 할까요? 아니면 매번 새롭게 시작할 수 있도록 설계해야 할까요?

🟥장면3: 규제

트럼프의 새 AI전략

규제 뚫고 질주할까?

미국 정부는 직접 AI 개발 속도를 높이기 위해 규제를 풀겠다는 입장을 밝혔어요. 미국 백악관 과학기술정책실(OSTP) 국장인 마이클 크라치오스는 악시오스를 통해 “AI 개발의 발목을 잡고 있는 연방 규제를 국민과 기업이 직접 지목할 수 있도록 하겠다”고 했습니다

트럼프 AI 규제 첫 개혁

이번 발언은 트럼프 대통령의 두 번째 임기에서 펼쳐질 AI 규제 개혁의 첫 단추로 보이는데요. 한국도 규제 샌드박스 제도를 운영하고 있지만, 미국의 속도는 훨씬 더 빠르고, 방향도 더 명확해 보입니다. 현재 미국 상원에서는 AI 규제 샌드박스 법안이 발의 돼 있는데, 처리에 속도를 낼 것으로 보여요.

규제 샌드박스란 전반적인 규제 속에서도 제한된 환경에서 기술을 자유롭게 시험하고 출시해볼 수 있도록 허용하는 제도입니다. 예를 들어 의료 분야에서는 신약이나 의료기기 AI가 불필요한 규제로 인해 출시가 늦어질 수 있고, 금융 분야에서는 알고리즘 거래나 소비자 보호 규제가 혁신을 가로막을 수 있다는 우려가 있는데 이를 풀겠다는 것이죠.

규제 샌드박스 전영역으로

핀테크, 바이오, 드론 등에서 검증된 샌드박스 모델이 이제는 AI 전 분야로 확장될 것으로 보입니다. 단 아이들 관련된 이슈는 규제를 계속 하겠다는 입장입니다. 규제 샌드 박는 왜 하는 것일까요? 과학기술정책실 국장은 '미국산 AI 수출'을 목표로 한다고 했습니다.

단순히 오픈AI의 GPT 소프트웨어를 수출 하는 것이 아니고요. “칩에서 소프트웨어까지, 완전히 미국산으로 구성된 ‘풀스택 AI 기술 패키지’를 만들고, 이를 동맹국에 수출하겠다는 계획”이라고 합니다. 명백하게 중국의 AI 패권 확대에 대한 전략적 대응으로 보이는데요.

3위 목표로 한국, 어떤 선택?

화웨이, 샤오미, 센스타임, 바이두 등이 저렴한 비용과 빠른 로컬화로 글로벌 시장에서 미국을 위협하고 있어, 이에 대한 미국식 해법이 바로 미국 기술로 구성된 풀스택 패키지인 것 같아요. 한국은 3위의 AI 국가를 목표로 하고 있는데요. 인력이나 자본력에서 미국과 중국에 밀리고 있어, 지금 보다도 훨씬 더 강한 정책이 필요해 보입니다.

🟥장면4: 기술

흔들림 없이 일관적인

답변 생성은 가능할까

챗봇에 같은 질문을 여러 번 해도, 매번 해주는 대답은 조금씩 다릅니다. 마치 오늘의 기분에 따라 책의 결말이 바뀌는 것처럼요. 엔지니어는 이를 가리켜 AI의 비결정성(nondeterminism)이라고 불렀는데요. 사용하다보니 익숙해서 당연한 것처럼 받아들였습니다.

싱킹머신랩의 새로운 발견

하지만 주말을 전후해 오픈AI CTO 출신 미라 무라티가 설립한 싱킹머신랩에서 새로운 기술적 탐색을 해 주목을 받았습니다. 무라티는 “우리는 AI가 항상 같은 대답을 하도록 만들 수 있다고 믿는다”고 말했는데요. 싱킹머신랩의 공식 블로그 첫 글은 ‘LLM 추론 단계에서의 비결정성을 어떻게 제거할 수 있을까’라는 질문에서 시작합니다.

싱킹머신랩은 AI 모델의 답변이 달라지는 이유를 GPU 커널에서 찾았습니다. AI가 질문에 답하려면 GPU는 수많은 작은 연산을 수행하는데요. 이런 작은 연산들의 연결 순서가 매번 미묘하게 바뀐다는 주장입니다. 연산의 오케스트레이션을 정교하게 통제할 수 있다면, AI의 답변도 일관되게 만들 수 있다는 메시지입니다.

기업용 AI에 중요한 일관성

왜 일관된 AI가 중요할까요. 기업용 AI 제품에서는 같은 입력에 같은 출력이 나온다는 보장이 핵심이기 때문입니다. 일관성 없이는 자동화나 규제 준수가 어려워지고요. 아울러 AI 학습을 더 정밀하게 만들 수 있습니다. 강화학습은 정답을 맞히면 보상하는 방식으로 학습을 유도하는데요. 답이 매번 달라진다면, 학습 데이터가 불안정해집니다.

하지만 일관된 응답이 가능하다면 학습도 훨씬 매끄럽고 정확해질 수 있습니다. 싱킹머신랩은 창업과 동시에 약 2조원 규모의 시드 투자를 받은 AI 스타트업입니다. 무라티를 비롯해 오픈AI, 구글 딥마인드 출신의 인재들이 대거 포진해 있는데요. 오픈AI나 앤스로픽 제미나이와는 어떻게 다른 AI 모델을 내놓을지 주목을 받고 있어요.