MS 의 투자를 받다  

2015년은 알파고가 이세돌 기사와 대결을 펼치기 이전이었어요. 딥러닝을 통해서 AI 기술이 빠르게 발전하고 있었지만 이에 대한 대중적인 인식은 크지 않았던 시기. 하지만 구글이 누구보다도 앞서나가고 있고 독점 수준의 경쟁력을 갖고 있다는 것은 알려져 있었죠.

그래서 오픈AI 는 이름 그대로 누구나 연구에 참여할 수 있고 AI 기술을 나눌 수 있는 것을 목표로 시작합니다. 

하지만 곧 오픈AI 는 위기에 봉착하는데요. AI는 돈 먹는 하마였기 때문이에요. AI를 학습시기위한 컴퓨팅 파워의 중요성은 점점 커져가고 있었고, 일리아 수츠케버 같은 A급 연구자들의 몸값은 어마어마하게 높으니까요. 오픈AI 같은 비영리 단체의 모델로는 한계가 있었어요.

그래서 샘 올트만은 2019년 영리법인으로 오픈AI를 전환하고 마이크로소프트로부터 10억달러의 투자를 받습니다. 나중에 알려진 것으로는 이 10억달러 투자의 대부분은 MS의 애저 클라우드를 제공하는 형태였어요.

오픈AI 가 만든 성과 

MS 의 투자를 받을 무렵, 오픈AI는 차례차례 연구성과를 내기 시작했는데 2019년 2월에 GPT-2 가 나왔고, 2020년에 GPT-3 가 나왔어요. 두 가지는 그냥 언어를 학습한 AI 라고 보면 됩니다. 2021년 1월에 DALL-E 가 처음 등장했는데 이건 언어를 그림으로 바꿔주는 AI. 사실 여기까지는 ‘신기하다’는 정도의 결과물이었는데요.

2022년 즈음부터 일반인들을 깜짝 놀라게 하는 인공지능들이 오픈AI에서 나오기 시작했어요.

첫 번째는 2022년 초에 나온 DALL-E 2. 기존의 DALL-E 가 장난스러운 수준의 그림을 그려줬다면 DALL-E 2 부터는 전문 일러스트레이터 수준의 그림이 나오기 시작했습니다.

코딩을 해주는 AI 인 코덱스(CODEX)도 마찬가지. 코덱스는 마이크로소프트가 2018년 인수한 개발자 커뮤니티인 깃헙의 코드를 학습해 나온 건데 2021년 중순에 세상에 등장했어요. 이 코덱스는 깃헙 코파일럿이라는 서비스로 사용되고 있어요. 

ChatGPT 의 등장 

그리고 2022년 11월 지금 세상을 깜짝 놀라게 하는 ChatGPT 가 나왔어요. ChatGPT는 출시 2주만에 사용자가 200만명에 도달하는 것으로 추정됩니다. 

ChatGPT 는 IntructGPT 라는 2022년 1월에 나온 모델의 동생인데요. 2020년에 나온 GPT-3를 훈련시킨 모델이에요. 어떻게 훈련시켰냐면 RLHF(Reinforcement Learning from Human Feedback) 를 사용했어요. 말 그대로 사람의 피드백으로 강화학습을 시켰다는 뜻.

GPT-3 는 학습을 거쳐 어떤 문장에 대해서 다음에 올 확률이 가장 높은 문장을 만들어 주는 것이 기본 원리에요.

“1+1 은 무엇인가?”

이런 질문의 답을 얻는다고 할 때, 우리가 생각하는 지능은 '1' 이란 무엇이고 '+(덧셈)'란 무엇인가의 수학적 개념을 알고 '2'라는 결과를 도출 하는 것이에요.

하지만 AI가 인터넷 상의 수많은 문장들을 학습하다보면 “1+1 은 무엇인가?” 라는 문장의 뒤에는 "답은 2입니다"라는 문장이 나오는 경우가 확률적으로 가장 많이 나올거에요. (제가 이해하기로는) GPT-3는 이 같은 방식으로 작동하는 인공지능이에요. 

사람의 피드백을 반영하다  

그런데 인간의 언어는 단순한 사칙연산이나 논리학이 아니라 좀 더 복잡한 요소들이 개입하죠.  또, 인간다운 말투라는 것도 있어요. 문화적인 요소도 많이 개입하고요. 단답으로 1회 주고 받는 것이 아니라 서로 주고받는 것이 반복되는 대화(conversation)의 경우에는 나의 잘못을 인정하거나, 상대의 잘못을 지적하는 경우가 발생해요.

InstructGPT 가 사용한 RLHF 는 사람의 피드백을 반영해서 가장 사람이 말하는 것 같은 결과물에 가점을 줘서 학습을 시켰어요. 당연히 그 결과물은 더 사람 같아졌겠죠?

사람의 피드백을 반영했다는 것은 결국 사람이 노가다(?)를 했다는 것인데요. 사실 정확히 어떻게 했는지는 모르겠어요. 하지만 InstructGPT 는 AI 데이터 전문업체인 스케일AI 와 업워크(용역외주사이트)를 통해 40개의 하청업체를 사용했다고 되어있어요. 즉, 꽤 많은 수의 사람이 동원되었다고 예상할 수 있습니다.

참고로 여러분이 ChatGPT 나 Lensa AI 등을 사용하면서 남기는 피드백은 모두 AI 의 학습으로 사용된답니다. 바로 여러분들이 자발적으로 RLHF(Reinforcement Learning from Human Feedback) 에 참여하고 계신거죠. 😹

ChatGPT 는 프로덕트 혁명이다  

ChatGPT 는 InstructGPT에서 한발 더 나아가 연속적인 대화가 이뤄지는 듯한 인상을 줄 수 있는 방향으로 더 학습을 강화했습니다. 아까 말씀드린 대로 나의 잘못을 인정하거나, 상대의 잘못을 지적하는 것이 대표적. 우리가 ChatGPT 를 사용할 때 '사람인 것 같다'고 느끼는 이유죠. 

AI가 코딩을 해준다던지, 어떤 지식에 대한 결과물을 내놓는다던지(검색)하는 것들은 사실 이전의 오픈AI 가 차곡차곡 만들어온 것이었어요. 

ChatGPT 가 엄청난 바이럴을 일으키고 있는 이유는 누구나 사용해볼 수 있다는 점 때문이죠. 누구나 AI 에 대한 호기심이 있고, 한번 이걸 써보고 싶어하거든요. 그런데 ChatGPT는 채팅하는 형태로 이것을 체험해볼 수 있게 해줘요, 그리고 이 경험을 소셜미디어에 공유할 수 있죠!

이렇게 보면 ChatGPT 는 단순한 모델을 넘어 훌륭한 AI 프로덕트(제품)라고 볼 수 있을 것 같아요. 이 점이 기존에 나왔던 AI 와 가진 가장 큰 차이점이 아닐까요. 

오픈AI 의 샘 올트먼은 챗GPT 에 대해서 이렇게 말했어요.

"챗GPT는 매우 한계를 가지고있는 서비스입니다. 하지만 뭔가 대단해 보이도록 만드는 오해가 뭔지는 충분히 보여주는 서비스에요.  

아주 중요한 일을 할 때 지금 챗GPT 에 의존하는 것은 실수가 될 수 있습니다. 앞으로의 진보에 대한 '미리보기'정도로 봐야합니다. 진짜 성취와 진실함을 얻기위해서는 여전히 많은 노력이 필요합니다"

ChatGPT is incredibly limited, but good enough at some things to create a misleading impression of greatness.

it's a mistake to be relying on it for anything important right now. it’s a preview of progress; we have lots of work to do on robustness and truthfulness.

챗GPT 는 대단해보이지만, 그건 오해라는 거에요. 너무 바이럴이 되어버려서 스스로가 좀 놀라서 한 말일 수도 있지만 진실을 담고 있다고 생각해요. 

AI가 구글 검색을 대체한다? 충분히 가능성은 있겠죠. 하지만 당장은 아닐 것 같아요.  

오픈AI 는 2019년 투자를 받으면서 MS 에게 GPT 사용 독점권을 부여했고, 이에 대한 반발이 커졌어요. AI 연구자들 사이에서 오픈AI 가 처음의 정신이 퇴색되었다는 비판이 나왔죠.

구글의 독점에서 벗어나 AI를 오픈하자는 취지에서 나온 것이 오픈AI 인데 MS에 독점권을 부여한다?

그래서 만들어진 것이 일루더AI, LAION 과 같은 오픈 소스 AI 커뮤니티에요. 이 커뮤니티는 AI 연구에 중요한 데이터셋과 모델을 무료로 제공하고, 이를 상업적 비상업적 양쪽으로 다 사용하는 것을 허용하고 있죠.

그런데 대기업이 아닌 민간 수준에서 AI 연구를 하기에는 어마어마한 장벽이 있는데요. AI를 학습시키기 위해 어마어마한 컴퓨팅 파워가 들어요. 이것도 다 돈이죠. 그리고 데이터를 확보하는 것도 힘들고 돈도 많이 들어요.

스테이블 디퓨전의 등장   

이런 문제를 해결한 곳이 바로 스태빌리티AI 에요. 오픈소스 커뮤니티에 속한 AI 연구자들과 LAION 이 제공하는 데이터셋, 그리고 스태빌리티AI 라는 회사가 제공하는 컴퓨팅 파워가 합쳐져서, DALL-E 2 와 같이 텍스트를 입력하면 그림을 그려주는 모델을 만들었어요. 바로 스테이블 디퓨전(Stable Diffusion)이고, 이것을 오픈소스로 공개했어요.

스테이블 디퓨전은 스태빌리티AI 에 API 사용료를 내면 누구나 상업용으로 사용할 수 있어요. 마이크로소프트의 입김이 큰 오픈AI 와는 달라요.

스테이블 디퓨전을 이용해 만화체 그림을 그려주는 서비스를 만든 노블AI, 셀피를 20장 입력하면 다양한 아바타 사진을 그려주는 렌사AI 의 기능이 대박을 내면서 오픈소스를 활용한 비즈니스의 가능성은 이미 입증되었어요.

이처럼 스태빌리티AI처럼 ‘민주화된 AI’를 내세운 곳으로 오픈AI 출신이 2021년에 만든 앤스로픽(Anthropic) 이라는 곳도 있어요. 다만 최근 파산한 FTX 로부터 지난해 대규모 투자를 받은 곳이라서 앞으로의 운명이 불투명한 것이 문제.

AI 와 빅테크의 관계 

그런데 사실 오픈소스 AI 가 무엇인가라는 개념은 좀 애매한 부분이 있어요. AI 연구나 개발 자체는 오픈소스로 이뤄지고 있죠. 그렇다면 모델이나 데이터를 무료로 사용할 수 있는지가 문제인데 스테이블 디퓨전도 오픈AI 도 API를 제공해서 돈을 벌고 있거든요.

오픈AI 의 뒤에 마이크로소프트의 클라우드 애저가 있다면 스테이블 디퓨전은 아마존의 클라우드 사업인 AWS 와 관련이 깊어요. 

그렇다고 MS 나 AWS가 오픈AI 나 스테이블 디퓨전을 완전히 통제하고 있는가 라고하면 그것도 명확하지는 않은 것 같아요.

사실 새로운 AI 의 영역은 빅테크가 직접 뛰어들기에는 어려운 측면이 있어요. 빅테크가 하는 것은 부정적인 시선이 앞서는 것이 사실이고(스카이넷!!) 법적인 리스크도 대기업이 감당해야하거든요. 하지만 오픈소스 프로젝트나 스타트업이 진행한다면 훨씬 리스크를 감당하고 진행할 수 있어요. 

MS 나 아마존은 대신 클라우드 인프라를 공급하는 방식으로 수익을 얻으려고 하는 것 같아요. AI 학습에는 엄청난 클라우드 자원이 소모되기 때문에 자신들의 클라우드 인프라를 최우선으로 사용하길 원하는 거죠.

구글은 그럼 뭐하지?  

요약하자면 지금의 오픈AI 나 스태빌리티AI 같은 생성형AI 와 최신 성과들은 구글이라는 거대 기업에 대한 대항차원에서 나왔어요. 오픈소스로 AI 를 개발해서 특정 기업에 종속되지 않고 모두가 사용할 수 있는 '모두를 위한 AI'를 하자는 것이죠. 하지만 그 특성상 AI 는 빅테크로부터 독립적이기 어렵고 빅테크 들은 클라우드 인프라라는 형태로 AI 커뮤니티에 영향력을 발휘하고 있습니다. 

그렇다면 알파고를 만든 구글은 무엇을 하고 있을까요? 

구글은 사실 전세계에서 가장 큰 AI 연구조직을 갖고 있어요. 알파벳의 직속 자회사인 딥마인드 외에도 자체 구글 리서치 소속에 어마어마한 규모의 조직이 있죠. 초거대 언어모델이나 생성형 AI, 코딩을 하는 AI 까지 모두 구글 내부에서 이미 연구가 이뤄지고 있습니다. 

생성형 AI 가 큰 유행을 하면서 구글도 이마겐(Imagen) 이나 페나키 같은 생성형 AI 서비스를 대외적으로 선보이기도 했습니다. 특히, 구글은 유튜브라는 엄청난 동영상 데이터의 보고를 가지고 있기 때문에 매우 유리한 입장에 있습니다. 

하지만 구글의 경우 오픈AI 나 스태빌리티AI 처럼 개방성이 부족한 것이 한 가지 문제인 것 같아요. AI 아카데미와 연구자 커뮤니티에서는 활발하게 교류가 이뤄지겠지만 이 성과를 공개하고 일반 대중을 대상으로 바이럴을 일으키기에는 너무 몸집이 무거워진 것이 아닌가 하는 생각이 듭니다. 또한, AI 가 만들어낸 솔루션을 클라우드 인프라를 통해서 팔아야하는데 애저나 AWS에 비해서 좀 떨어지는 것이 아닌가하는 생각도 들어요. 이는 구글클라우드플랫폼(GCP)이 해결해야할 문제일 것 같아요. 

이처럼 생성형 AI 로 대표되는 AI 프로덕트 들이 쏟아져 나오고 있는데요. 한국 기업들은 무엇을 하고 있는가 하는 생각이 드실 것 같아요.

그런데 사실 우리도 잘 아는 한국 기업들은 활발하게 초거대 AI 와 이를 사용한 솔루션을 내놓고 있습니다. 네이버 하이퍼 클로바, 카카오 브레인의 KoGPT, LG 의 엑사원, 그리고 최근 KT 의 초거대 AI '믿음'까지. 테크 기업들은 초거대 AI 와 이를 뒷받침하는 클라우드 인프라를 서비스하기 시작했어요. 이미 좋은 서비스들이 한국의 초거대 AI 를 통해서 나오고 있습니다. 다만 스테이블 디퓨전이나 챗GPT 처럼 대중적으로 어필하는 부분이 부족한 것이 아닌가 하는 생각이 듭니다. 

'모두의 AI'를 표방하는 대표적인 회사인 스태빌리티AI 의 에마드 모스타크는 이런 얘기를 한 적이 있어요. 

방글라데시 계 영국인인 그는 각 국가마다, 언어마다, 문화마다 각각의 AI 가 필요하다고 얘기를 해요. 지금의 AI 는 영어권, 북미를 중심으로 개발되어있죠. 하지만 챗GPT 가 한국어에서는 성능이 떨어지듯이 한국사람들이 가장 만족할만한 결과물은 한국어 데이터를 가지고, 한국문화에 맞게 파인튜닝이나 강화학습을 한 결과물에서 나올거에요. 

한국어뿐 아니라 중국어, 프랑스어, 힌디어 등 각 언어에 맞는 AI 가 개발되어야한다는 것이 그의 주장이에요. 그렇게 본다면 특정한 직업군, 팬덤, 성별에 맞는 AI 가 만들어질 수도 있다는 생각도 들어요. 포용적인AI, 민주화된 AI, 나를 위한 AI 가 나올 수 있다는 것. (뭔가 정치구호같긴하네요 🙂)  

이 말은 한국의 기업과 스타트업들에게 여전히 많은 기회가 열려있다는 뜻이라고 생각해요. 늦지 않았어요. 이제부터가 시작입니다. (참고할만한 인터뷰)

• 런던증권거래소(LSE) 지분 4% 인수한 MS: 마이크로소프트가 영국의 주식거래소인 LSE 지분 4%(약 28억달러 규모)를 대주주로부터 매입하기로 했어요. MS의 애저(Azure) 클라우드를 확장하기 위한 목적이라는 설명. 구글은 지난해 11월 시카고상업거래소(CME)에 투자하기로 했고, AWS 는 나스닥과 비슷한 파트너십을 맺었어요. 모두 세계최대거래소들을 클라우드로 옮기는 계획! 
• 양자컴퓨터 AWS서 돌아간다: 양자컴퓨터 아퀼라(Aquila)가 AWS의 퀀텀컴퓨팅 전용 서버인 아마존 브라켓(Amazon Braket)에서 돌아간다고 해요. 아퀼라는 큐에라컴퓨팅(QuEra Computin)이라는 회사에서 만든 양자컴퓨터(QPU)인데 이를 AWS 클라우드에서 사용할 수 있게 만든다는 것 같아요. 
• 좋은 실적 발표한 오라클: 클라우드 빅3에 끼고자 고군분투중인 오라클이 호실적을 발표했어요. 3분기 매출이 18% 증가. 인수한 헬스케어 IT 업체 서너(Cerner) 효과. 서너 덕분에 오라클의 클라우드 매출은 43% 증가. 
• 미국 핵융합 발전으로 순 에너지 생산: 미국 에너지부 산하 로런스 리버모어 국립연구소 과학자들이 최근 핵융합 기술을 이용해 투입된 에너지보다 생산된 에너지가 더 많은 '순 에너지 생산(net energy gain)'을 달성했고 이것이 곧 공개적으로 발표될 것이라는 보도. 
• FTX 사태 만든 SBF 체포됐다: 지난 11월 갑자기 망해버린 세계 3위 암호화폐거래소 FTX의 창업자 샘 뱅크먼 프리드가 바하마에서 체포되었다는 보도가 나왔어요. SBF 는 증권사기와 돈세탁 혐의로 기소되었다고 알려져있어요. 
• 바이낸스 너마저? : FTX의 파산으로 압도적인 세계 1위 암호화폐거래소가 된 바이낸스. 하지만 최근 부정적인 뉴스가 계속되면서 돈이 빠져나가는 상황. 최근 9억달러 이상이 빠져나갔다고 해요.