"AI를 규제해야 한다"라는 주장에는 크게 세 가지 영역이 섞여 있다고 생각해요. AI가 자의식을 갖기 전에 기술 개발 속도를 조절해야 한다는 게 첫 번째에요. 두 번째는 AI 기술을 악의적으로 활용하는 사례에 대한 규제입니다. 마지막으로 세 번째는 AI가 습득하고 출력해내는 정보, 즉 데이터와 관련된 규제입니다.

 

첫 번째 규제부터 볼게요. 이는 알파고가 이세돌 9단을 이긴 이후 끊임없이 제기된 문제입니다. AI가 발전하면 언젠가 인간의 지능을 추월할 것이고, '자의식'까지 갖게 되는 순간 인간은 기계에 지배당할 수 있다는 거예요. 그래서 기술 개발을 규제해야 한다는 겁니다. 당시에는 이 같은 AI를 '강'AI, ‘초’ AI라는 말로 표현했는데 요즘에는 이 표현을 잘 쓰지는 않는 것 같아요. 알파고와 같이 특정 분야에 사용하는 AI는 '약' AI라고 합니다. 챗GPT도 마찬가지에요. 

 

"인간 초월하는 AI는 안돼"...챗GPT는 '약(弱)' 인공지능

알트만 역시 이에 동의해요. 알트만을 비롯해 데미스 하사비스 구글 딥마인드 CEO, 빌 게이츠 등 IT업계의 거물들은 모두 지난달 'AI안전센터(Center for AI Safety, CAIS)'가 발표한 성명서에 서명을 합니다. 성명서에는 "AI로 인한 멸종 위험을 완화시키는 것은 전염병, 핵전쟁과 마찬가지로 다른 사회적 규모의 위험과 함께 우선순위가 되어야 한다"는 간결한 내용이 담겨 있어요.

 

다만 챗GPT가 스카이넷이 될 수 있으니 규제해야 한다는 주장은 설득력이 떨어져요. 알트만도 이야기했듯이 "(챗GPT는)심각한 약점이 있고 멍청한 실수를 합니다." 또한 알트만은 "챗GPT는 믿을 수 없을 정도로 제한적이다... 지금 당장 중요한 일을 위해 챗GPT에 의존하는 것은 실수다"라고 말하기도 했어요.

 

챗GPT를 비롯한 현재의 AI는 인간이 쌓아왔던 수많은 데이터를 확률로 계산해 우리 앞에 던져 주는 도구일 뿐이에요. AI가 자의식을 가질 수 있다는 과학적 증거는 부족합니다. AI도 결국 인간이 만들어낸 컴퓨터 언어일 뿐이에요. 에밀리 벤더 워싱턴대 교수가 워싱턴포스트에 남긴 말은 유명합니다. "우리는 머리를 쓰지 않고 글을 생성할 수 있는 기계를 갖고 있다. 그런데 우리는 그 기계가 마음을 갖고 있다고 상상하는 걸 멈추는 방법을 배우지 못했다."

 

그런데 지난 3월, 알트만은 "챗GPT의 출시에 규기관과 사회가 최대한 참여해야 할 필요가 있다"고 말합니다. 규제 당국과도 정기적인 접촉을 하고 있다고 해요. 그가 말하는 규제는 AI를 악의적으로 사용하는 사례를 의미합니다. 바로 두 번째 규제입니다. 

 

알트만은 한국을 방문해 "기술 자체가 아니라 기술을 활용하는 사례를 규제해야 한다"고 언급했어요. 그는 "허위 정보 확산, 권위주의 정부에 의한 사용 같은 AI의 악용이 우려된다"고 말합니다. 

AI 악용이 일으킬 문제는 어떤 게 있을까요. 미국에서는 AI를 이용해 은행의 생체 인식 시스템을 통과하는 사례도 있었어요. AI를 이용한 전화 피싱도 실제 발생했고요. 챗GPT와 같은 생성형AI는 간단하지만 해킹 코드를 짤 수 있다는 말도 들어보셨죠? 은행을 모방한 사이트를 만든 뒤 이를 범죄와 연결 지을 수 있어요. 범죄의 문턱이 낮아지는 셈입니다.

 

"가짜사진, 가짜영상... 규제 시작해야"

AI를 이용해 가짜 영상, 가짜 동영상을 만드는 일도 간단해졌어요. 이를 악용할 수 있는 사례는 무궁무진합니다. '선거'를 생각해보세요. 유명 인사가 특정 정당을 지지하는 영상을 만드는 건 이제 일도 아닙니다. 선거 때 만 되면 가짜 정보들이 넘쳐났는데 이제는 저렴한 가격으로, 진짜와 같은 가짜 정보를 퍼뜨리는 게 가능한 시대가 된 거예요. 알트만은 이를 규제해야 한다고 수차례 강조합니다. 그는 "AI를 통한 가짜뉴스 확산은 가장 경계해야 할 부분이다. 내년 대통령 선거 전까지 이에 대한 규제가 마련돼야 한다"라고 이야기해요. 

 

세 번째 규제는 데이터입니다. 여기에는 챗GPT가 수집한 데이터, 그리고 사용자들이 넣은 데이터 모두 포함돼요. 개인정보와 관련된 이슈입니다. 오픈AI의 이름으로 몇 차례 개인정보가 언급된 적이 있어요.

 

내 개인정보, 챗GPT가 사용했을까

챗GPT-4 기술보고서에는 이전 버전에서는 찾을 수 없던 부분이 있었습니다(53p에요!). 바로 '프라이버시' 조항이에요. 이 챕터의 첫 문장에는 "GPT-4는 다양한 라이센스, 창작물, 공개된 데이터를 학습했는데 여기에는 대중이 접근 가능한 '개인 정보'가 포함되어 있을 수 있습니다"라는 문구가 있어요. 즉 개인이 동의하지 않더라도, 인터넷에 우리가 올려놓은 개인정보를 활용했을 수 있다는 거에요. 또한 지난 3월 오픈AI는 약 9시간 동안 유료 계정인 챗GPT 플러스를 사용한 회원 중 1.2%의 이름과 신용카드 번호 4자리, 주소 등이 공개됐다고 밝히기도 했습니다.

 

결국 이탈리아 정보보호기관(GPDP)은 챗GPT의 개인정보 침해 여부 조사를 위해 자국 내 서비스를 일시 중단시키는 일도 있었죠. 프랑스, 독일, 영국 등의 EU의 여러 나라들은 GPDP에 개인정보 침해와 관련된 정보를 요청하기도 했습니다. 현재 이탈리아는 개인정보를 수정, 삭제하는 등의 도구를 프로그램에 반영한다는 조건으로 접속 차단 조치를 해제했어요.

 

챗GPT가 학습한 데이터 외에, 사용자들이 이를 활용하면서 넣는 정보 또한 학습을 위해 재활용될 수 있어요. 이 과정에서 기업의 영업비밀이나 민간한 데이터가 오픈AI 쪽으로 넘어갈 수 있다는 우려도 나옵니다. 실제로 국내외 대기업 상당수는 이 같은 이유로 회사 내에서 챗GPT의 사용을 막거나, 허가를 받고 사용할 수 있도록 하고 있어요.

 

알트만의 발언을 정리하면, 그는 AI 기술의 발전을 원하지만, 그것이 악용되길 바라지는 않습니다. 또한 AI 기술이 급속도로 발전해 AI가 자의식을 갖고 인간을 해치려 하는 상황을 만들고 싶어 하지 않아요. 여기까지는 특별한 게 없어요.

 

지금부터는 '뇌피셜'이에요. 국내에서 AI를 개발하고 계신 분들을 비롯해 IT업계에 계신 분들의 이야기를 들어봤어요. 이를 기반으로 알트만의 발언을 다시 살펴볼게요(항상 글의 마지막에 도움주신 분들의 성함을 적었는데요, 이번 호에서는 행여라도 오해가 생길 수 있는 만큼 적지 않도록 할게요😏).

비영리단체가 MS에게 독점 사용권을?   

오픈AI는 비영리 단체에요. 그들의 목적은 인류에게 도움을 주는 똑똑한 AI 시스템을 만드는 거에요. 또한 알트만을 비롯해 오픈AI의 공동창업자인 일론 머스크는 강력한 AI를 소수의 대기업이 독점하는 것에 반기를 듭니다. 대표적으로 ‘구글’이에요. 이같은 생각이 오픈AI의 창업으로 연결됩니다. 오픈AI처럼 비영리 단체가 강력한 AI 기술을 확보해 사람을 위해 써야 한다는 거죠.

그런데 한계가 있었어요. 구글보다 앞선 AI를 개발하려면 더 뛰어난 인력과 함께 많은 연구비가 있어야 했어요. ‘돈’이 필요했던거죠. 결국 오픈AI는 자회사인 ‘오픈AI LP’를 설립하고 마이크로소프트(MS)로부터 10억 달러, 우리 돈 1조2000억 원에 달하는 자금을 투자받아요. 머스크는 오픈AI의 취지가 무색해졌다며 오픈AI를 떠납니다. 오픈AI의 철학이 무색해지는 순간이에요.

 

지난 4월, MS는 오픈AI와 협약을 체결합니다. MS는 오픈AI에 클라우드 서비스 '애저'를 독점 공급하고 챗GPT 등 오픈AI의 핵심 서비스를 애저에서 제공해요 이를 위한 MS의 투자 규모는 130억 달러(약 16조원)에 달한다고 합니다. 

 

"만드는 법은 공개 안하지만 많이 써 줘"

오픈AI는 챗GPT-4를 출시하면서 학습 데이터와 방법, 모델 크기 등은 공개하지 않았어요. 챗GPT-4와 같은 초거대 AI를 만들 수 있는 정보를 빼버린 거죠. 그러면서 전 세계를 돌며 규제를 이야기합니다.

챗GPT와 같은 생성형AI가 대세가 된 지금, 이 시장을 꽉 잡고 있는 오픈AI가 갑자기 규제를 이야기하며 여러 국가와 대화에 나섭니다. 규제 당국 입장에서는 '땡큐'입니다. 챗GPT가 주목받고 AI 악용에 대한 우려가 커지고 있는 만큼 규제를 해야 겠는데, 그 AI를 만든 당사자가 "규제합시다"라고 하고 있으니까요. 규제가 만들어지는 순간, 오픈AI는 ‘아니다’라고 할지 모르지만 후발주자들의 기술 개발은 어려워질 수밖에 없습니다.

업계에서 알트만의 이 같은 행보를 두고 ‘사다리 걷어차기’라는 비판이 나오는 이유에요. 생성형AI라는 시장을 선점한 오픈AI와 MS가 후발 주자들의 성장을 ‘규제’를 통해 방해한다는 겁니다. 

 

챗GPT-4는 API를 공개합니다. 즉 개발하는 법은 가르쳐주지 않겠지만, 이를 마음껏 활용하라는 거죠. 한국에 온 알트만은 국내 벤처 기업이 챗GPT를 연동해 만든 기술이 눈부시다고 칭찬합니다. 미국으로 초대해 지원, 협력하고 싶다고 해요. 챗GPT가 AI 시장을 휩쓸고 있는 지금, 알트먼 입장에서는 챗GPT를 기반으로 좋은 활용 사례가 지속적으로 나오는 것이 시장 지배적인 관점에서 이득일 겁니다.

"싹을 자르자"

챗GPT가 나오기 전 메타는 비슷한 챗봇인 '블렌더봇'을 출시합니다. 하지만 챗GPT처럼 인기를 끌지 못했어요. 메타의 수석 AI 과학자인 얀 르쿤은 그 이유에 대해 "블렌더봇은 안전하게 만들어졌기 때문"이라고 했어요. 메타가 만든 챗봇이 종교, 인종, 성별 등과 관련해 문제되는 발언을 할 경우 어떤 일이 일어날까요.

구글, 애플, 메타와 같은 빅테크 기업들은 자신들이 만든 기술이 사회에 미칠 영향을 생각해야만 합니다. 이같은 고려없이 제품을 출시할 경우 비난과 함께 해당 기업, 기술에 대한 규제는 오히려 강화되는 악효과만 얻게 됩니다. 하지만 비영리기구를 표방한 오픈AI는 신경쓰지 않고 과감하게 데이터를 학습시켜요.

대중, 미디어는 거대 기업의 AI가 윤리적인지, 개인정보 문제는 없는지 까다롭게 쳐다봅니다. 문제가 있다면 바로 두들겨 맞죠. 오픈AI는 이 빈틈을 파고들어 챗GPT를 만들었고 AI 시장을 리드하는 위치에 올라서게 돼요. 그리고 시장의 반응이 뜨거움을 깨닫고 곧바로 규제를 꺼냅니다. MS에게 독점권을 준 오픈AI의 지난 행보를 기반으로, 각국의 정부와 규제를 이야기하는 오픈AI의 모습을 선하게만 바라볼 수 있을까요. 

국내 IT, AI 업계에 계신 분들이 제게 해주신 말을 짧게 정리하면 이렇습니다. "알트만은 기업인이다." "알트만은 세상을 달군 AI를 개발해 놓고 숨고르기를 하고 있다. 숨고르기 기간에 그는 챗GPT의 담벼락을 더욱 높이 쌓으려 한다." "물 들어올 때 노를 젓고 있다."