이번 주 AI 빅 뉴스 둘! 우리가 반드시 알아야 하는 이유

2023.7.21 | 624호 | 구독하기 | 지난호

글씨가 잘 안보이시나요?

요즘 미라클레터가 다시 ‘AI(인공지능)’에 대한 얘기를 많이 하고 있는데요. 모자이크ML 에 일론 머스크의 xAI 까지. ‘너무 AI 얘기만 하는거 아닐까?’라는 생각이 들 즈음. 이번 주 두 가지의 큰 AI 뉴스가 나왔습니다. 😹 오늘은 이 두 가지 뉴스에 대한 간단한 해설과 함께, 이 두 뉴스가 우리에게 왜 중요한지 한번 말씀 드려보려고 합니다.

오늘의 에디션

라마2 공개한 메타
애플 "나도 챗GPT 만들 줄 알아"
한줄 브리핑

라마2는 3가지 크기의 모델로 되어있어요. <사진=메타>

오픈소스 라마2 공개한 메타!

18일 아침 8시. 저는 마이크로소프트의 인스파이어(Inspire) 컨퍼런스를 온라인으로 듣기 위해 졸린 눈으로 화면을 보고 있었습니다. 사실 MS 가 사전에 엠바고를 걸어 놓고 보도자료를 기자들에게 배포했기 때문에 무슨 내용이 나올지는 알고 있었습니다. 그런데 사티아 나델라 CEO 가 보도자료에는 없던 얘길 하는 것이었습니다. 메타의 라마2 를 클라우드 애저와 윈도우에서 사용하게 협력하겠다는 것.

메타의 라마2? 라마2 라는 것이 있었나? 😪 아니나 다를까 그날 아침 메타는 오래전부터 예고해왔던 상업용 오픈소스 거대언어모델(LLM)을 라마2라는 이름으로 공개했습니다. 나름 빅 뉴스였기 떄문에 라마2의 공개는 소셜미디어에서도 큰 화제가 되었습니다. (매일경제 1면에도 나왔습니다.. 두둥!)

대체 오픈소스로 공개하는 것이 무슨 의미가 있길래?

a llama is wearing a pirate hat <오픈AI/달리2>

大 '라마' 시대를 열겠다!

AI 연구에서 오픈소스의 중요성에 대해서는 미라클레터에서 지난 해부터 지겨울 정도로 반복을 해왔는데요. 🤣 라마2 는 그동안 오픈소스 진영이 폐쇄적인 AI 진영에 대한 공격의 ‘결정타’라고 할 수 있을 정도로 큰 의미가 있습니다.

AI 연구의 '대왕'격인 회사가 구글이고, 이 구글에 대항해서 나온 회사가 오픈AI 라는 것. 알고 계시죠? 오픈AI 는 MS 와 손잡고 지난해 챗GPT 를 내놔서 구글의 코를 납작하게 해줬습니다. 챗GPT 라는 챗봇을 만든 AI 모델이 바로 거대언어모델(LLM)입니다.

하지만 이제 오픈AI 가 점점 오픈소스 정신과 멀어지면서 많은 AI 연구자, 개발자들이 오픈소스 프로젝트를 자체적으로 하기 시작했어요. AI 그림 모델 스테이블디퓨전을 만든 스태빌리티AI 가 대표적인 회사. 이미지 쪽과 달리 LLM 쪽은 오프소스가 활발하지 않았는데 올해 2월 메타가 공개한 라마1 이 유출되면서 LLM 쪽의 오픈소스 개발 활동이 불이 붙기 시작했어요.

LLM 쪽의 오프소스가 활발해 지자 드디어 메타가 결단을 내립니다. 우리가 만든 거 너희가 가지고 맘대로 써도 돼! 그거 맘대로 고쳐도 되고, 그리고 그걸 가지고 돈도 벌어도 된다! 😎

a robot llama and a humanoid robot is fighting <오픈AI/달리2>

오픈AI 와 오픈소스 뭐가 낳냐??

만약 오픈AI 의 GPT 나 구글의 LLM 모델을 어떤 기업이나 개인, 학교에서 쓰려고 하면 보통은 돈을 주고 API 를 사용해야 해요. 모델이나 코드가 공개되어 있지 않으니 당연히 수정하기도 힘들겠죠. 물론 돈을 내고 사용했으니 상업적인 활용은 가능해요.

반면 라마2를 쓴다면 API 사용료가 없어요. 하지만 전자상가에서 컴퓨터 부품을 사와서 컴퓨터를 조립하는 것처럼 직접 해야하는 일은 많아지겠죠. 하지만 만들어진 AI 모델은 ‘내가 만든 것’이라고 주장할 수 있습니다.

오픈소스라고 해서 완전히 공짜인 것도 아니에요. AI 모델을 파인튜닝 시키거나 서비스에 사용하려면 클라우드에서 돌려야하는데요. 클라우드 사용료를 내야하죠. MS 가 라마2 와 손을 잡겠다고 한 것은 “라마2로 클라우드를 써야하면 우리 MS 의 애저를 써”라고 얘기하는 것에요. 🤠

이처럼 AI 에서 오픈소스와 폐쇄적인 모델 중 어느 쪽이 선하다거나, 우수하다거나, 돈이 덜 든다든가 하는 판단은 내리기 어렵다는 것 먼저 말씀 드릴게요. 오픈AI 나 구글의 경우 중앙화된 기업이 통제하고 AI 얼라이먼트(AI 와 사람 이해관계를 일치시키는 것)를 해야한다고 주장하죠. 반면 오픈소스 쪽에서는 개방된 상태에서 서로 감시하고 고치는 것이 중앙에서 하는 것보다 AI 의 문제점을 해결하는데 더 낫다고 보고 있어요.

2007년 페이스북에 2억4000만달러 투자한 회사가 어디인지 아시나요.<인스타그램>

라마2 오픈소스로 공개한 이유?

메타는 왜 라마2를 오픈소스로 공개했을까요? 일단 모두에게 무료는 아니에요. 월간 사용자가 7억명 이상인 서비스는 메타의 허락을 받아야해요. MAU 7억명 이상인 서비스는 어디일까요? 구글 유튜브, 틱톡, 스냅 등 메타의 경쟁사들이죠. 🤣

사실 메타는 파이토치라고 하는 AI 프레임워크를 만들었고 이를 오픈소스로 운영하고 있어요. 그러니까 예전부터 AI 오픈소스에 진심이었다는 것. 하지만 프레임워크와 달리 학습에 엄청난 돈이 들어가는 거대언어모델을 공개로 풀어버린 것은 오픈소스 생태계에서 리더십을 유지하기 위한 목적인 것 같아요.

그리고 오픈소스라고 돈을 벌 수 있는 방법이 없는 건 아니거든요. 아까 말씀드린 대로 직접 컴퓨터를 조립하고 싶지 않은 사람들이 있으니 그런 사람들에게 서비스를 제공해주고 돈을 벌기도 합니다.

결론적으로 말하자면 이제 LLM 을 사용해서 뭔가를 만들고 싶은 사람이나 기업은 라마2 라는 오픈소스 선택지가 생겼어요. 비싸고 편리한 오픈AI 나 구글의 것을 쓸 것이냐, 불편하지만 오픈소스 라마2 를 쓸 것이냐.

라마2 는 챗GPT 가 처음 나올 때 사용한 GPT-3.5 정도의 성능이라고 알려져 있어요. 그리고 챗GPT 와 달리 한국어능력은 좋지 않다고 해요. 한국 기업들에게도 아직 기회는 남아있어요.

an apple that has robot eyes and holding a notebook. <오픈AI/달리2>

애플 "나도 챗GPT 같은거 만들 줄 알아"

메타가 라마를 발표한 다음날. 이번에는 애플이 LLM 을 연구하고 있다는 보도가 나왔습니다. 애플도 챗GPT 같은 것을 만들고 있다는 건데요. 이제 우리가 빅테크라고 알고 있는 모든 기업들이 다 LLM 이라는 것을 직접 만들고 있다는 거에요.

애플은 갑자기 왜 챗GPT 같은 걸 만들려는 걸까요? 저는 전날 발표된 메타의 뉴스와 이걸 연결시켜보려고 하는데요. 메타는 스마트폰에 들어가는 반도체를 만드는 회사인 ‘퀄컴’과 손잡고 2024년부터는 ‘라마2’를 온디바이스에서 돌릴 수 있게 만들겠다고 발표했어요.

이것이 무슨 뜻이냐 면요. 지금의 챗GPT 는 클라우드 서버에서 돌아가는데요. 챗GPT 에 우리가 질문을 하면 5G망을 타고, 우리 주변 어딘가에 있는 MS의 애저 클라우드 데이터센터로 그 질문이 들어가요. 그리고 거기에 있는 GPU 에서 ‘추론(inference)’을 거친 후 나온 답을 우리에게 줘요. 즉, 학습을 마친 AI 를 서비스로 쓰기 위해서는 클라우드 서비스와 GPU 가 필요하다는 뜻이에요.

설명 들어도 잘 모르겠지만.. 여하튼. <ByteByteGo>

LLM 을 스마트폰에서 돌린다면?

그런데 라마2 처럼 모델을 경량화해서 만들면 데이터센터 GPU 까지 갈 필요 없이 내가 사용하는 스마트폰 AP 에서 추론을 할 수 있게 됩니다. 아니 24시간 인터넷에 연결되어있는데 굳이 스마트폰에서 챗GPT 를 돌려야할까요?

몇 가지 장점이 있습니다. 일단 네트워크의 영향을 받지 않으니 속도가 빨라지구요. 제 개인 정보가 외부로 전송되지 않습니다. 그리고 정말 똑똑한 개인 맞춤형 AI 비서를 갖게 될 수 있어요.

챗GPT 같은 LLM 이 재미있는 점은 엄청난 지식과 능력을 갖고 있음에도 불구하고 그걸 조그만 모델 안에 담고 있다는 것이에요. 만약 챗GPT 가 말해주는 지식을 얻으려면 우리는 인터넷 전체를 검색해야 될 거에요. 하지만 챗GPT 의 크기는 인터넷에 비하면 정말로 작죠.

특정 목적에 맞는 챗봇이라면 훨씬 작은 크기로 내 스마트폰에 넣을 수 있을거에요. 전세계 모든 요리의 레시피를 알고 있는 요리사 챗봇이라던지, 아니면 연예인이나 내 가족의 말투와 성격을 그대로 가져온 챗봇도 가능하겠죠. 지금도 클라우드로 가능한 일이지만, 온디바이스로 가능해진다면 좀더 사람들이 대중적으로 사용하게될 것 같아요.

애플의 M2 반도체에는 16코어 뉴럴엔진이 들어가요. <애플>

번도체 시장에도 영향?

이런 측면에서 애플도 LLM 에 관심을 가지는 것 같은데요. 일단 음성AI 를 만든 회사들은 모두 LLM에 관심을 갖고 있어요. 애플 ‘시리’나 아마존 ‘알렉사’의 성능을 강화할 수 있겠죠.

제가 애플이라면 모든 애플기기에서 쓸수있는 개인비서를 고객들에게 만들어주는걸 생각해볼 것 같아요. 텍스트부터 음성까지 모두 가능한 만능 비서에요. 이 비서는 클라우드에서 기본적으로 돌아가지만 아이폰이나 아이패드내에서도 돌아갈 수 있다면 더 좋겠죠.

사실 이미 많은 AI(머신러닝)가 우리의 갤럭시폰이나 아이폰에서 돌아가고 있어요. (예:아이폰 누끼 따기) 거대언어모델은 말 그대로 거대하기 때문에 클라우드에서 돌아가야하는데, 엣지(단말기)에서 LLM을 돌리는 것이 가능해진다면 지금처럼 GPU를 만드는 엔비디아의 독주체제가 약해질 수도 있어요. 요즘 엔비디아 주가가 한참 오르는 것은 LLM 을 돌리려면 결국 GPU 가 필요하기 때문이거든요. 스마트폰이나 PC 에서 LLM 을 돌리는 경우가 늘어난다면 퀄컴, 인텔, 삼성전자, 애플 같은 기업들에게는 좋은 소식이겠죠? 스마트폰이나 PC 에 들어가는 두뇌격의 반도체인 AP 와 CPU 를 만드는 회사들이니까요. 자체적으로 설계한 반도체에 ANE(Apple Neural Engine)라는 머신러닝 기능까지 넣은 애플이 LLM 에 관심을 보이는 것도 이런 측면에서 생각해볼 필요가 있을 것 같아요.