미라클 모닝을 하는 일잘러들의 참고서 “AI(인공지능)는 더 이상 거대해질 필요가 없다. 이제는 작고 효율적으로 진화할 때다.”
오픈AI는 지난해 새로운 모델인 ‘GPT-4o mini’를 발표하며 이렇게 선언했습니다. 불과 1년 전만 해도 AI 경쟁의 핵심은 누가 더 큰 모델을 가지고 있는가였죠. 수십억~수천억개의 파라미터를 학습한 거대 모델은 복잡한 문맥을 이해할 수 있었고, 사람처럼 사고하며 여러 언어와 이미지를 동시에 다룰 수 있어 AI 기술이 얼마나 뛰어난지를 보여주는데 적합했습니다. 경제학에서 널리 쓰이는 ‘규모의 경제’를 살짝 패러디하자면 모두가 ‘규모가 곧 지능’이라는 신념을 굳게 따랐던 것이죠.
하지만 이 신념이 최근 변하고 있습니다. AI의 무게중심이 거대함에서 효율성으로 변하고 있기 때문인데요. 최근 오픈AI, 메타, 구글 등 빅테크 기업들은 잇달아 소형 모델들을 선보이고 있습니다. 메타는 스마트폰에서도 작동하는 ‘라마 3.2’를 , 구글은 ‘젬마 2’, 미스트랄은 효율적인 전문가 모델 ‘미스트랄 8x7B’를 공개했어요.
한때 크고 육중한 몸집을 자랑했던 AI는 이제 가볍지만 똑똑한 조력자, 손 안의 디바이스에서도 자유롭게 작동하는 ‘생활 속 AI’로 진화하고 있습니다. 긴 연휴 후 첫 주말을 앞둔 오늘 미라클레터는 이렇게 작아지고 있는 AI의 흐름을 따라 기업들이 왜 소형화로 방향을 선회한 것인지. 이 변화가 시장을 어떻게 바꿀지를 살펴보고자 합니다.
|
|
|
- 더 크게, 더 더 크게요
- 똑똑한데 실용성이 떨어진다?
- AI 새로운 3대 트렌드
|
|
|
※ 레터 읽는 법 ※
볼딕 단어나 밑줄 단어 혹은 분홍색 단어에는, URL이 포함돼 있습니다. 클릭하면 세부 내용이 연결됩니다. |
|
|
2~3년 전만 해도 빅테크들 사이에선 더 큰 AI 모델을 만드는 경쟁이 치열하게 벌어졌습니다. 모델이 클수록 더 많은 추론을 할 수 있었고, 더 많은 추론은 그만큼 더 똑똑하단 의미였으니까요. [챗GPT 생성]
더 크게, 더 더 크게
몸집 불렸던 AI 모델
AI 산업은 불과 2~3년 전까지만 해도 ‘규모의 전쟁’이었습니다. 모델이 크면 클수록 더 많은 언어를 다룰 수 있고, 더 정교한 추론을 수행할 수 있었기 때문이에요. 여기서 잠시 AI 모델명들을 떠올려볼게요. 모델 이름 뒤에 붙는 7B, 70B 같은 숫자들은 해당 모델이 학습한 파라미터(parameter) 즉 지능을 구성하는 연결망의 개수를 의미합니다. B는 10억(Billion)을 의미하죠. 70B 모델이라면 700억개의 매개변수를 가진 초거대 모델인 셈입니다. 숫자가 커질수록 학습할 데이터와 연산량이 폭발적으로 증가하고 그만큼 모델의 이해력과 응답 품질이 향상됐습니다. 더 똑똑해지는거에요. 따라서 규모는 곧 지능이었습니다.
실제 시장에서도 거대 모델들이 속속 등장했어요. 2020년 175B 파라미터의 GPT-3를 선보인 오픈AI가 3년 뒤 공개한 GPT-4는 구체적인 수치가 공개되진 않았지만 업계에선 약 1조 파라미터일 것으로 추정했죠. GPT 3의 1750억 파라미터와 비교하면 약 6배 가량 커진 것입니다. 메타 ‘라마 2(2023)’, 앤스로픽 ‘클로드 3 오푸스(2024)’, 구글 ‘제미나이 1.5 프로(2024)’ 모두 ‘거대 모델’을 대표하는 AI 대표 주자들입니다. 이처럼 각 기업은 더 크고 더 똑똑한 모델을 만들기 위해 치열하게 경쟁했습니다. 하지만 모든 일엔 양면이 있는 법이죠. 크기가 커진만큼 빅테크들은 비싼 대가를 치러야했습니다.
|
|
|
거대모델이라고 장점만 있는 것은 아닙니다. 유지에 큰 비용이 들어가기 때문이죠. 빅테크들이 거대한 모델 대신 소형 모델로 눈을 돌리는 이유가 여기에 있습니다. [챗GPT] |
|
|
비용·에너지는 큰데
실용성은 떨어진다?
대형 모델은 겉보기엔 화려하지만 그 이면엔 숨겨진 비용이 컸습니다. 규모의 전쟁을 치르기엔 자본과 막대한 에너지를 쏟아부어야했기 때문입니다. 대형 모델을 유지하기 위한 비용은 상상을 초월합니다. GPT-4 같은 초거대 학습 모델은 수천개의 GPU가 필요합니다. 한 번의 훈련 비용만 수천억원에 달하는데, 모델을 지속 업데이트 해야하다보니 일회성 비용이 아니라 주기적으로 청구서가 날아들죠.
또한 실용성 면에서도 거대 모델은 불리한 점이 있습니다. 아무리 뛰어나도 질문 하나에 답하는데 오랜 시간이 걸린다면 그런 모델을 쓸 사람은 없겠죠. 거대 모델은 지연(latency) 문제가 필연적으로 발생합니다. 수많은 파라미터를 동시 계산하다보니 한 번의 요청에도 서버에 큰 부하가 걸리면서 응답이 몇 초씩 지연되곤 하죠. 별 것 아닌 것 같아보여도 사용자 경험 면에서 1~2초의 지연은 불편함을 느끼기엔 충분한 시간입니다. |
|
|
지난 6월 열린 WWDC 2025에 참여한 팀 쿡 애플 CEO. 애플은 AI를 클라우드가 아닌 기기 안으로 옮겨넣겠다고 선언했습니다. 기기에 AI를 탑재하면 AI를 더 빠르게 구동할 수 있고, 개인정보가 밖으로 유출되지 않는다는 장점이 있습니다. [애플]
새로운 '3대 트렌드'
효율·온디바이스·대중화
앞서 기업들이 겪은 문제는 결국 효율의 문제입니다. 얼마나 큰지는 결국 중요한게 아니에요. 단순 크기보단 얼마나 효율적인가가 중요하기 때문입니다. 그래서 빅테크 기업들은 이제 더 크고 비싼 모델 대신 더 똑똑하게 움직이는 모델을 만드는데 집중하고 있어요. 자연스럽게 AI의 크기를 줄이는 ‘소형화’ 시대가 열리게 도입니다. 많은 사람들이 AI를 쉽고 편하게 사용할 수 있으러면 이는 필연적인 변화였죠. 새로운 시대의 트렌드는 크게 효율성, 온디바이스, 그리고 대중화로 요약해볼 수 있습니다.
효율성은 작지만 똑똑한 AI를 만들겠단 것이에요. 작지만 연산능력에선 대형 모델 못지않은 성능을 내면서도 전력 사용과 비용은 크게 줄이는 것이죠. 대표적인 사례가 미스트랄의 8x7B 입니다. 미스트랄에 따르면 이 모델은 ‘스파스 전문가 구조’를 도입해 8개의 전문가 중 2개만 활성화시키는 방식으로 연산 효율을 극대화했습니다. 쉽게 설명하면 필요할 때만 계산을 한다는 것이죠. 한 번에 필요한 계산량을 줄이면서도 품질을 유지하는 방법을 개발한 것입니다. 메타가 선보인 라마 3.2의 경우 1B, 3B 모델은 스마트폰과 노트북에서도 구동 가능한데, GPU 효율은 기존 대비 40% 이상 개선됐습니다. 2B, 9B 모델로 출시된 구글의 젬마 2 역시 대형 모델 대비 연산 효율을 약 50% 개선한 것으로 알려져있죠.
또 다른 트렌드는 온디바이스 AI입니다. 인공지능이 클라우드를 벗어나 밖으로 나오기 시작한 것인데요. 과거엔 모든 연산이 서버에서 이뤄졌지만 이제는 스마트폰과 가전 PC 같은 디바이스에서 직접 이뤄지고 있습니다. 애플의 애플 인텔리전스가 대표적인데요. 애플은 지난 6월 WWDC에서 “AI를 클라우드가 아닌 기기 안으로 옮기겠다”고 선언했습니다. 기기 내에서 작동하기 때문에 속도는 빨라지면서도 개인 데이터가 외부로 유출되지 않는다는 특징이 있어요. 퀄컴의 스냅드래곤 X 엘리트 칩셋도 AI 가속기를 내장해 향후 스마트폰이 미니 AI 컴퓨터가 될 것이란 전망도 나오고 있습니다.
마지막은 대중화입니다. AI가 작아지면서 누구나 AI를 다룰 수 있는 시대도 가까워지고 있습니다. 수천억원의 예산과 데이터센터 인프라가 있어야만 뛰어들 수 있었던 AI 분야에 개인 개발자들이 과감히 도전장을 던질 수 있는 환경이 만들어지고 있는 것이죠. 구글 젬마, 메타 라마, 미스트랄 스몰, 오픈AI의 에이전트키트가 이를 주도하고 있습니다. AI가 거대 기업만의 전유물이 아닌 누구나 창조할 수 있는 플랫폼이 된 셈입니다.
|
|
|
※ 붉은 제목을 누르면 상세 내용으로 연결됩니다. |
|
|
애플이 인공지능(AI) 분야 핵심 인재들을 줄줄이 경쟁사에 뺏기면서 도태될 위기에 처했다고 합니다. 16일(현지시간) 블룸버그 통신에 따르면 애플의 음성비서 ‘시리’에 정보 검색 기능을 추가해 챗GPT처럼 만드는 것을 목표로 하는 AKI(Answer Knowledge Information) 조직 수장인 양 커가 임명 몇 주 만에 메타로 이직했다고 하네요.
게임형 인공지능(AI) 스타트업 알레프 랩(Aleph Lab)이 올해 가을(F25) 와이콤비네이터 배치 프로그램에 선정돼 후속 투자를 유치했다고 16일 밝혔습니다. 알레프 랩은 아이들이 좋아하는 게임을 통해 자연스럽게 영어를 습득하는 경험을 목표로, AI 원어민 친구와 함께 게임 마인크래프트 안에서 실시간으로 대화하며 영어를 배우는 학습 서비스 ‘알레프 키즈(Aleph Kids)’를 개발하고 있어요.
퓨처플레이 류중희 대표가 창업한 피지컬 AI 선도기업 리얼월드가 아마존웹서비스(AWS) 육성 프로그램에 낙점됐다고 합니다. 퓨처플레이는 AWS가 주관하는 ‘2025 AWS 생성형 AI 액셀러레이터’ 3기 프로그램에 선정됐다고 16일 밝혔습니다.
|
|
|
거대함을 추구하던 AI가 다시 소형화로 눈을 돌린 것은 마치 공룡에도 비유할 수 있을 것 같습니다. 한 때 지구를 지배했던 거대한 생명체 공룡들은 환경의 변화로 인해 모두 멸종하고 말았습니다. 거대한 몸집이 오히려 급격한 환경 변화에는 치명적인 약점이 됐기 때문이에요. 공룡이 멸종하고 새로운 왕좌의 주인공이 된 생명체들은 공룡보다도 훨씬 작고 민첩한 동물들이었습니다.
AI의 세계도 이와 비슷하다고 할 수 있을 것 같아요. 거대 모델의 한계를 작고 효율적인 모델들이 등장하며 보완해나가고 있기 때문입니다. AI는 더 이상 거인들의 도구가 아닌 우리 생활 속으로 들어온 기술이 되는 것이죠. 가장 효율적으로 세상에 적응한 동물이 살아남았듯 AI는 작아졌지만 우리 삶으로 더 깊이 들어왔습니다.
긴 연휴가 끝나고 맞는 첫 주말, 오늘의 미라클레터에서는 작아지는 AI의 가능성이 어디까지 커질지 살펴봤습니다. 다음에도 유익한 이야기로 찾아올게요.
미라클한 하루가 되시길 바라며
이영욱 드림 |
|
|
서울 중구 퇴계로 190 매경미디어센터
매경미디어그룹
miraklelab@mk.co.kr
02-2000-2165
|
|
|
|
|
