①오픈AI 적자 폭증

2023년 5월, 더인포메이션에서 오픈AI가 막대한 적자에 시달리고 있다는 기사가 나옵니다(기사). 대형언어모델을 만들기 위해 드는 컴퓨팅, 연구개발(R&D) 과정에서 필요한 막대한 비용이 원인이었어요. 오픈AI의 지난해 손실은 5억4000만 달러로 우리 돈 7200억원에 달합니다. 2021년 대비 두배 이상 많아졌다고 해요. 

구글 검색과 비교했을 때 챗GPT에게 질문을 하고 ‘엔터’를 입력해 답을 얻었을 때 드는 비용은 최대 1000배 가까이 차이가 난다고 해요(기사). 즉 많은 사람들이 쓸 수 있는 AI모델을 제공하는 기업은 시장 점유율을 확보하려는 욕구와 재정적인 손실 사이에서 균형을 맞춰야만 합니다. 올트먼도 이를 간접적으로 인정합니다. 그는 지난 5월 미 상원에 출석해 “그래픽처리장치(GPU)가 너무 부족하기 때문에 우리 제품을 사용하는 사람이 적을수록 좋습니다”라고 말합니다. 

②2023년 7월, 슈퍼얼라인먼트 출범

지난 2023년 7월 5일, 오픈AI는 ‘슈퍼얼라인먼트(Superalignment)’를 출범합니다(홈페이지). 이 팀을 이끄는 사람은 오픈AI 공동 설립자이자 올트먼을 쫓아내는 데 ‘기여’한 일리야 수츠케버, 그리고 얀 라이카에요. 

AI 분야에서 ‘정렬’이란 간단히 이야기해 인간에게 도움을 주는 AI를 뜻합니다. 얼라인먼트는 ‘가지런함’ ‘지지’ 정렬’이란 뜻을 가지고 있는데요, AI의 목표를 인간의 가치와 일치하도록 한다, 정렬하도록 한다, 이런 의미로 해석하면 될 것 같아요.

그리고 중요한 것, 슈퍼얼라인먼트는 향후 오픈AI가 확보할 컴퓨팅 능력의 20%를 사용할 것이라 발표합니다. 컴퓨팅 능력이란 메모리, 네트워킹, 성능 등 일반적인 용어(AWS 설명)인데요, ‘GPU’를 먼저 떠올릴 수 있을 것 같아요. 

GPU는 부족한데, 오픈AI가 쓰는 GPU의 양은 엄청났어요. 그리고, 오픈AI는 MS의 ‘애저’를 씁니다. 결국 부족한 GPU를 오픈AI와 MS가 나눠 쓰는 상황인데, 오픈AI 내에서도 또다시 GPU를 나눠야 하는 거죠. 당연히 힘겨루기가 이어질 테고요. 연구팀은 “우리 좀 쓰자. AI 안전을 위한 연구라고!” 세일즈팀은 “돈 안 벌 거야? 우리가 돈 벌어야 너 연구도 할 수 있는 거라고! 적자 늘어나잖아!”

올트먼이 엔비디아에 대응하는 AI 반도체 회사를 설립하려고 했던 이유와도 연결이 됩니다(미라클아이 기사). 

지난 9월 수츠케버는 MIT테크놀로지리뷰와의 인터뷰에서 이러한 말을 남깁니다. 물론 이 말은 당시 보도되지 않았다고 해요. 최근 MIT테크놀로지리뷰는 당시 수츠케버가 남긴 말을 이렇게 정리합니다. “오픈AI처럼 빠른 속도로 움직이며 야심 찬 목표를 추구하는 조직에서는 긴장이 불가피하다. 나는 제품의 성공이 연구 성공과 밀접하게 연관되어 있다고 믿기 때문에 제품과 연구 사이의 긴장이 우리를 발전시키는 촉매제라고 생각한다(한국판 기사)."

적자 폭이 늘어나고 있는 오픈AI, 비영리적 성격과 영리적 성격의 가운데 어디쯤 존재하는 오픈AI에게 이는 심각한 갈등 요인이 됐을 겁니다.

생성형AI 시장에서 ‘원탑’으로 떠오른 오픈AI는 시장을 빨리 선점해야 했습니다. 그래야 적자를 줄이면서 지속해서 성장할 수 있는 기업으로 진화할 수 있거든요. 단지 ‘기부’만을 받아서는 회사를 운영할 수 없습니다. 적자 폭은 늘어나는데, 돈을 쓰는 일과는 상관없이 연구하는 조직도 있어야 했고, 그 연구 조직은 컴퓨팅의 20%를 가져가겠다고 한 상황입니다. 

④오픈AI 직원들, 더 이상 ‘그’ 직원들이 아니다

“오픈AI 직원들은 오픈AI의 ‘이상’을 따르지 않는다.”

업계에 계신 많은 분이 해주신 이야기입니다. “지난 2년 사이 새로 입사한 사람이 들어온 사람보다 많아요. 물갈이됐다고 봐야 해요” “이들은 오픈AI의 비영리적인 성격보다는, 세계 최고의 AI 회사에 들어온다는 생각으로 입사했습니다.”

2015년 당시 오픈AI의 직원은 400여명이었다고 합니다. 여러 통계를 살펴보면 지난해 335명이었다고 해요. 올해 초에는 524명, 그리고 최근 ‘연판장’ 사건으로 확인된 직원 수는 770여명입니다(여기). 

상당히 많이 바뀌었겠죠. 직원들이 많이 바뀌었음을 보여주는 대표적인 사례가 2021년 있었던 ‘앤트로픽 설립’이라고 봐요. 오픈AI에서 GPT-2와 GPT-3 개발을 지휘했던 다리오 아모데이가 만든 엔트로픽은 생성형AI의 부작용을 최소화하고 AI 윤리를 중시한다는 취지로 설립됐어요. 오픈AI가 추구하던 ‘이상’입니다. 오픈AI에서 해도 되는데, 굳이 나와서 새로운 스타트업을 만든 이유, 아마 오픈AI 내에서는 AI 윤리, AI 안전을 위한 R&D 보폭이 좁아졌기 때문이 아니었을까요. 

하여튼, 오픈AI에 새로 입사한 직원들의 대우는 달라집니다. 지난 10월 보도에 따르면 오픈AI는 미국 벤처캐피털 ‘스라이브캐피털’을 통해 우리사주 매각을 추진 중이었어요. 당시 오픈AI의 기업가치는 약 860억 달러(116조7000억원)였는데요, 올트먼의 축출과 함께 매각이 불투명해졌다는 기사가 속속 올라옵니다. 직원들 입장에서는 자신들이 가진 지분을 팔 좋은 기회였는데, 올트먼 축출로 못 받을 수도 있다는 생각이 들었을 것 같아요(기사). 

AGI의 출현과 규제

한국 시간으로 지난 목요일이었죠. 23일에는 새로운 소식이 등장합니다. 바로 범용 AI, AGI가 등장해요. AGI란 1997년 나크 구브루드 노스캐롤라이나대 교수가 자기 복제 시스템을 갖춘 군사용 AI 출현을 예고하면서 사용한 개념으로 알려져 있어요(미라클아이 기사). 

쉽게 이야기해 스스로 판단하고, 행동할 줄 아는 AI를 뜻합니다. 지난 23일 “오픈AI가 AGI로 발전할 수 있는 ‘큐스타’를 개발했고, 이것이 올트먼 축출의 씨앗이 됐다”는 내용의 기사가 보도됩니다(기사). 

오픈AI가 큐스타라고 불리는 알고리즘을 개발했는데, 초등학교 수준의 수학 문제를 스스로 풀었다고 해요. AI 연구자들은 수학을 AI 개발의 최전선으로 보고 있다고 합니다. 현재 상용화된 생성형AI는 다음에 올 단어를 통계적으로 예측해 글쓰기, 언어 번역 등을 할 수 있어요. 하지만 정답이 한 개인 수학 문제를 해결한다는 것은 AI가 인간 지능과 유사한 추론 능력을 갖추게 됨을 의미합니다. 

오픈AI가 정말 큐스타를 개발했다면, 그리고 그곳에서 AGI의 가능성을 확인했다면, 그리고 그 보고가 이사회에 전달이 됐고, 이 과정에서 “개발 속도를 조절해야 한다” “아니다. 어디까지 할 수 있는지 개발해봐야 한다”의 갈등이 있었을 것 같아요. 👉큐스타는 두개 중 하나(미라클아이 기사)

다만 이번 사건에 정통한 또 다른 관계자는 이를 부인했다고 합니다(기사). 큐스타 개발을 이사회에 보고한 적도 없고, 올트먼 축출과 관련이 없다고 말입니다. 어찌 됐건, 큐스타는 있는 것 같아요. 기존 AI가 가진 능력을 뛰어넘을 가능성을 확인한 것도 맞아보입니다. 

악한 AGI 울트론, 선한 AGI 비전

AGI의 개발과 활용을 조금 쉽게 비유해볼게요. 영화 ‘어벤져스’와 ‘스파이더맨’으로 비교할 수 있습니다. 영화 어벤져스에 등장했던 ‘울트론’ 기억하시나요. 외계 종족 치타우리가 가지고 있던 ‘마술봉(셉터)’에는 반짝이는 ‘마인드 스톤’이 있어요. 이를 살펴보니 지금껏 보지 못했던 ‘신경망’이 발견됩니다. 아이언맨의 개인 비서, 자비스보다 진화된 형태라고 해요. 토니 스타크는 외계종족으로부터 인류를 지키기 위해, 이를 끄집어 냅니다. 

하지만 각성한 울트론은 학습 결과 “오히려 인류의 적은 인류다”라는 결론을 내리고 인류를 없애려 합니다. 인류를 없애는 게 지구를 지키는 일이라는 답을 냈기 때문이에요. AGI에 대한 논란을 가장 잘 보여주는 사례가 아닐까 싶어요. 

인류는 선한 의지로 AGI를 개발했는데, 생각지도 못한 일이 발생한 거죠. 결국, 어벤져스는 마인드 스톤을 이용, 자비스와 결합해 선한 AGI, 비전을 만들어 냅니다. 비전은 울트론을 제압하고 지구를 지키죠. 

AGI가 사람에 의해 통제 돼도 문제가 발생할 수 있어요. ;스파이더맨, 파프롬홈'의 사례가 좋아 보입니다. 토니 스타크가 만든 제2의 자비스, ‘프라이데이’는 막강한 힘을 가지고 있어요. 인간의 의지에 따라 작동하는 AGI입니다. 프라이데이는 피터(스파이더맨)의 목소리에 반응, 그의 명령을 따릅니다. 피터는 선하니까,  별 문제가 없었는데요, 빌런 미스테리오가 이를 활용하기 시작하면서 인류는 또다시 위기에 처합니다. 

“AGI의 출현? 멀긴 멀었는데..."

AGI를 이야기하면 많은 전문가는 “어떻게 만드는지도 모른다” “아직 그러한 미래가 오려면 멀었다” “지금의 AI는 아주 단순하다. 챗GPT도 단순한 알고리즘일 뿐이다. 의식을 갖는다는 건 말이 안 된다”라는 말을 자주 합니다. 즉 걱정할 필요가 없다는 거죠. 

그런데 AI의 아버지라 불리는 제프리 힌턴 교수를 비롯해, 일론 머스크 테슬라 CEO, 심지어 올트먼 조차 AI가 인류에게 위협이 될 수 있다고 지적합니다. 그래서 규제가 필요하다고 하고요. 일반인보다 AI에 대한 이해가 훨씬 더 뛰어난 사람들이 이런 이야기를 해요. 

처음에 저는 “사다리차기” “너무 먼 미래를 왜 벌써 얘기하나”라고 생각했습니다. 하지만 최근 AI를 연구하는 분이 제게 이런 말을 했습니다. 

“슈퍼 초 울트라 전문가들도 아직 AGI가 뭔지 몰라요. 어떻게 구현되는지도 모르죠. 그런데 AGI가 위험하다며 AI 개발에 속도 조절이 필요하다고 하죠. 그분들이 몰라서 그럴까요? 아니라고 봐요. 모로가도 서울만 가면 된다고, 지금 우리가 사용하는 AI가 나쁜 쪽으로 활용되는 사례, 악용되는 사례는 셀 수 없이 많아요. 앞으로 더 많아질 거고요. AGI는 단지 지능을 가진 AI만을 의미하지 않아요. 지금의 AI도 '악한 AGI'처럼 세상을 혼란스럽게 할 수 있습니다. 슈퍼 초 울트라 전문가들은 그걸 걱정하는거고요."

저 역시 반성했습니다. 과거 레터에서(👉샘 올트먼, 당신의 생각은?) 올트먼은 기업인이고, 챗GPT의 빠른 시장 선점을 위해 규제를 이야기하고 있을지 모른다, 라는 내용을 전해드린 적이 있습니다. AGI는 아직 먼 미래의 일인데 규제하자고 하는 것은 후발 기업들을 견제하려는 의도 아니냐, 하는 것이었어요. 

하지만 생각을 조금 바꾸게 됐습니다. AGI의 출현이 아직 먼 것도 사실이지만 그 말이 "AI는 끊임없이 개발되어야 한다"라는 것을 뒷받침하는 것은 아니라고 말이에요. 물론, 그렇다고 AI규제를 강화하게 되면 인류가 새롭게 맞이할 AI 시대는 늦춰질 겁니다. 

모든 곳에 있는 AI, 부작용도 모든 곳에...

식상한 이야기로 마무리하겠습니다. 다 아시는 이야기지만, AI는 어디에나 있습니다. 얼굴인식을 통해 스마트폰을 열고, 아침마다 날씨를 확인할 때, 배달의 민족으로 치킨을 시켰을 때, SNS를 하며 시간을 보낼 때, 카카오T를 이용해 택시를 부를 때, 챗GPT를 열어 번역을 시키거나 질문을 할 때, 심지어 우리가 게임을 할 때도 AI는 작동 중입니다. 

우리가 인지하지 못하는 상황에서도 AI는 움직이고 있어요. 채용 과정에서 AI를 사용하는 기업들이 늘고 있습니다. 현재 직원의 데이터는 물론, 입사 원서를 낸 사람들의 데이터를 AI로 학습해 분류 또는 필터링하는 기업들이 많아요(블로그, 기사). 

비록 IBM왓슨은 병원에서 실패했지만 AI를 기반으로 한 의료 기술은 분야별로 빠르게 발전하고 있습니다. 알파고의 후손, 알파폴드는 단백질 예측 분야에서 독보적인 능력을 보여주고 있어요. 이는 신약 개발 속도를 빠르게 하는 데 영향을 미칠 수 있습니다. 진단에도 도움을 줄 수 있고, 환자들이 복용하는 약을 정밀하게 제어하는 데 AI가 활용되고 있어요(기사). 

AI가 어디에나 사용되고 있는 만큼, 우리는 AI가 가지고 있는 한계를 어디에서나 찾을 수 있다는 점을 놓쳐서는 안 됩니다. AI는 과거의 데이터를 학습해 판단을 내립니다. 남성 위주의 채용 데이터를 학습한 AI는 여성에게 편견을 가질 수밖에 없습니다. 미국에서 흑인, 라틴계 사람들이 대출을 신청하면 백인보다 높은 이자를 내야 했고, 이를 학습한 AI는 여전히 이러한 편견을 드러냈어요(기사). 

그뿐만 아니라 AI로 다양한 그림(실제 사진과 유사한!)은 물론 영상을 만드는 일도 간단해졌습니다. 나쁜 목적으로 활용될 수 있고, 실제 이러한 일은 벌어지고 있습니다. 보이스피싱은 AI를 활용해 진화하고 있고(기사), 생성형AI의 환각 문제 역시 존재합니다(기사). 100% 완벽한 기술은 없습니다.