미국 수학협회가 주관하는 미국 수학올림피아드 기출 문제를 가지고 LLM을 평가하는 벤치마크 점수입니다. AI가 올림피아드에서 금메달을 땄다!라는 기사를 쓴게 엊그제 같은데, 이제 죄다 95%를 넘네요. [자료=앤스로픽]
미토스는
다르다
예상하셨다시피 미토스는 사이트의 취약점을 찾아내는 능력이 월등한 AI입니다. 마치 능력있는 해커처럼요. 금융 당국과 은행들이 발 빠르게 움직였던 이유는 금융 시스템이 사이버 공격에 취약하면서도 동시에 가장 치명적인 피해가 발생할 수 있는 영역이기 때문이에요.
은행, 결제망, 자산관리 시스템은 모두 디지털 인프라 위에서 돌아갑니다. 만약 AI가 취약점을 자동으로 찾고 공격 코드까지 만들어내는 수준에 도달한다면 단순한 해킹을 넘어 금융 시스템 전체를 흔드는 공격도 가능해질 수 있어요.
영화에서 보던 것처럼 버튼 하나 누른 뒤 “네 연금이 다 사라졌네?”라고 할 수도 있고요(이 영화 대사 아시는 분이라면 저와 같은 80년대생😅). 그래서 각국 당국은 ‘실제로 공격이 발생하느냐’보다 ‘그 가능성이 생겼느냐’를 더 중요하게 봅니다. 가능성만으로도 대응을 시작해야 하는 영역이 바로 금융이니까요.
미토스는 앤스로픽이 발표한 또 하나의 AI처럼 보입니다. 하지만 많은 부분이 달라요. 보안 취약점을 스스로 찾아내고, 이를 어떻게 공격에 활용할지까지 설계할 수 있는 ‘완전히 다른 차원의 AI’라는 평가가 나옵니다.
우선 앤스로픽이 발표한 시스템 카드부터 들여다볼게요. 여기서 미토스의 성능을 가늠해볼 수 있는 지표가 ‘SWE-bench’입니다. 소프트웨어 문제 해결 능력을 측정하는 시험인데요. 미토스는 이 테스트에서 93.9%를 기록했습니다. 이전 모델이 80% 수준이었던 점을 고려하면 단순한 개선이 아니라 ‘점프’에 가까운 변화예요.
더 어려운 ‘SWE-bench Pro’에서도 77%대를 기록했는데, 경쟁 모델들이 60% 아래에 머무는 것과 비교하면 사실상 세대가 한 번 바뀐 수준이라는 평가가 나옵니다. 이 숫자가 의미하는 건 단순히 “코드를 잘 짠다”가 아니라고 해요. 수백만 줄의 코드 속에서 문제를 찾아내고, 해결 계획을 세우고, 실행까지 이어가는 능력이 거의 인간 수준, 아니 그 이상으로 올라왔다는 뜻입니다. 특히 긴 문맥을 유지하며 복잡한 구조를 이해하는 능력이 크게 개선되면서 운영체제나 브라우저 전체를 한 번에 분석하는 것도 가능해졌다는 해석이 나옵니다.
또한 미토스는 사람이 일일이 지시하지 않아도 ‘제로데이 취약점’을 스스로 찾아내고 이를 실제 공격 코드로 연결하는 능력을 보여줬습니다. 제로데이는 개발자도 모르는 결함이라 찾는 데 수개월이 걸리던 작업인데요. 이 과정이 분 단위로 줄어들었다는 보고가 나온 거죠.
실제 테스트 사례도 충격적이라는 반응입니다. 리눅스 커널에서 여러 취약점을 조합해 권한을 탈취하는 공격을 스스로 만들어냈고, 수십 년간 발견되지 않았던 버그들도 찾아냈습니다. 웹 브라우저 테스트에서는 기존 모델이 10%대 성공률에 머물던 공격을 80% 이상 성공시키기도 했고요.
취약점을 ‘발견’하는 수준이 아니라 어떤 취약점이 실제 공격에 가장 효과적인지 판단하고, 여러 개를 엮어 공격 시나리오를 완성하는 단계까지 넘어간 것입니다. 이 지점에서 우려가 나옵니다. “이 기술이 보편화되면 아마추어도 국가 인프라를 공격할 수 있는 시대가 올 수 있다”, “사이버 공격 능력이 임계점을 넘었다”는 표현이 나오기 시작한 거예요.
더 주목해야 할 건 ‘확산 속도’입니다. 오픈AI를 포함한 주요 기업들도 유사한 방향의 모델을 준비 중인 것으로 알려진 만큼 업계에서는 1~2년 내 이 수준의 능력이 전반으로 퍼질 것이라는 전망이 나옵니다.
결국 문제는 이 기술이 표준이 되는 순간인데요. 그때가 되면 은행, 병원, 전력망 같은 핵심 인프라가 감당해야 할 리스크의 성격 자체가 바뀝니다. 지금까지는 “취약점이 발견되면 패치한다”라는 구조였다면 앞으로는 “패치되기 전에 공격이 먼저 완성되는” 상황이 될 수 있기 때문이에요.
그래서 앤스로픽은 완성된 모델임에도 불구하고 공개를 보류했습니다. 다만 여기서 또 다른 질문이 생깁니다. 이렇게 강력한 기술의 공개 여부를 한 기업이 결정하는 것이 과연 가능한가 하는 점이에요.
누가 접근할 수 있고 어디까지 허용할 것인지에 관한 판단이 기업 내부에만 맡겨져 있다는 사실 자체가 지금 AI 질서의 불안정성을 보여주는 장면이라는 생각이 듭니다. 만약 앤스로픽이 나쁜 마음을 먹었다면, 이를 국가나 전산망 마비에 이용한다면, 어떤 미래가 펼쳐질까요. | 
