논리, 수학 문제 풀이 등의 추론(Reasoning) 능력은 이전 모델의 약점으로 꼽혔습니다. 심지어 GPT-4o에서도 ‘Strawberry🍓’에 쓰인 ‘r’의 개수를 추론하는 단순한 문제도 틀리며 논란이 되기도 했습니다. 그러나 이번 o1 모델은 비약적으로 추론 능력이 개선됐습니다. 벤치마크를 기준으로, 프로그래밍 경진대회 플랫폼인 Codeforces에서 상위 11%에 해당하는 뛰어난 성적을 거두고 미국 수학 올림피아드 예선전인 AIME에서 미국 내 상위 500명 학생들과 견줄 만한 성과를 보였습니다. 게다가 물리학, 생물학, 화학 문제를 포함한 GPQA 벤치마크에서도 인간 박사 수준의 정확도를 능가하는 결과를 보여주었습니다.

‘DOOM’ 게임 포스터 | 출처: Epic Games

그렇다면 o1은 무엇이 달라졌을까요? o1의 비약적인 추론 능력 향상의 배경에는 Chain of Thought이라고 불리는 접근 방식이 있습니다. 이 방법은 2022년 초에 발표된 논문 <Chain-of-Thought Prompting Elicits Reasoning in Large Language Models> (Wei et al., 2024)에서 제안됐습니다. 프롬프트 엔지니어링에 관심 있는 분들이라면 한 번씩 들어봤을 법한 방식일텐데요. 정답을 추론하는 과정을 언어 모델에게 알려줌으로써 더 정확한 답변을 추론할 수 있도록 유도하는 방법입니다. 아래 예시를 보면 직관적으로 이해할 수 있습니다.

Chain-of-Thought 프롬프팅 방법의 예시
출처: <Chain-of-Thought Prompting Elicits Reasoning in Large Language Models> (Wei et al., 2024)

어려운 질문에 답하기 전에 오랜 시간 고민하는 인간과 유사하지요? 이번 o1도 문제를 해결할 때 일련의 사고 과정을 거칩니다. 연구진은 여기에 강화학습을 통해 이러한 사고 과정을 연마하고 사용하는 전략을 개선했다고 밝혔습니다. 자신의 실수를 인식하고 수정하며, 복잡한 문제를 더 단순한 단계로 분해하고, 현재의 접근 방식이 효과적이지 않을 때는 다른 방법을 시도하는 등 다양한 전략을 학습하도록 한 것입니다.

OpenAI에서 공개한 실제 사례를 살펴봅시다. OpenAI는 이번 o1 모델을 공개하면서 특이하게도 번역하기 어렵게 만든 한국어를 영어로 번역하는 사례를 영상으로 공개했는데요. 이를 일종의 암호화 과정으로 여기고, 모델은 한 단계씩 추론해나가며 해독(Decipher)해나갑니다. 영상 말미에는 완벽하게 해독한 결과를 보여줍니다.

출처: YouTube ‘OpenAI’ 채널 <Korean Cipher with OpenAI o1>

이번 OpenAI 모델은 ‘GPT’를 뺀 채 ‘o1’으로 표기합니다. ‘o’가 무엇의 약자인지 밝히진 않았지만, OpenAI의 이전 모델 GPT-4o를 토대로 추론하자면 이는 ‘omni’로 보입니다. 말 그대로 ‘어디에서나’ 활용할 수 있는 모델이라는 의미죠. 여전히 서비스는 ChatGPT를 통해 공개하고 있지만 모델명에서 ‘GPT’ 빠졌다는 것은 언어 모델 발전의 새로운 단계로 접어들었음을 시사합니다.

경쟁 기업이 새로운 모델을 공개할 때마다 언론에서는 OpenAI의 위기를 거론하곤 하는데요. 이번 o1으로 OpenAI가 또다시 한 발 앞서 나가고 있다는 평가가 나옵니다. 사고 과정을 추론하는 과정에서 컴퓨팅 비용이 높게 쓰이는 만큼 일반 사용자에게 허용된 사용량은 제한적입니다. OpenAI 입장에서는 당분간 많은 비용을 감수하더라도 수집한 데이터를 기반으로 다시 경쟁 모델보다 진일보한 모델을 공개해나갈 것으로 보입니다.

: Apple이 AI 기능이 통합된 신제품 'iPhone16'을 공개했습니다. Apple이 공개한 AI 모델, Apple Intelligence 기능은 사용자의 개인 데이터를 기반으로 AI 비서 역할을 하며, 일정 제안 및 메일과 통화 내용 요약 등을 자동으로 수행합니다. 하지만 Apple Intelligence는 초기에 영어만 지원하고, 한국어 버전은 2년 후에나 출시될 예정입니다. 이로 인해 한국에서는 '반쪽짜리 AI폰'이라는 비판이 제기되고 있습니다.

Mistral AI, 멀티모달 모델 ‘Pixtral’ 공개

: 프랑스의 AI 스타트업 Mistral AI가 이미지와 텍스트를 처리하는 멀티모달 모델 'Pixtral 12B'를 처음으로 출시했습니다. 이 모델은 과거 자사의 텍스트 모델 NeMo 12B를 기반으로 합니다. 'Pixtral 12B'는 이미지에 대한 질문에 답할 수 있는 능력을 갖추고 있으며, Mistral AI의 표준 개발 라이선스에 따라 상업적으로는 유료, 연구용으로는 무료로 사용할 수 있습니다. 또한, 이 모델은 Mistral AI의 API 플랫폼인 'Le Chat'와 'Le Platforme'에서 곧 테스트될 예정입니다. 이 모델은 6억 4,500만 달러 규모의 펀딩을 마감한 후 출시되었으며, 미스트랄의 시장가치를 60억 달러로 끌어올렸습니다.

OpenAI, 기업가치 201조 원 육박해

: OpenAI가 자금 확보를 위해 투자 유치와 은행 대출을 통해 총 115억 달러를 조달할 계획입니다. 투자 유치는 65억 달러 규모로 스라이브 캐피털(Thrive Capital) 주도 하에 MS, Apple, NVIDIA가 참여하고 있습니다. 또한, OpenAI는 은행으로부터 50억 달러 대출도 고려 중입니다. 이번 자금 조달로 OpenAI의 시장 가치는 1,500억 달러(한화 약 201조 원)로 평가받고 있습니다.