📰 빅테크 CEO 집결, AI 규제와 머스크의 xAI

2023년 9월 3주차 셀렉트스타 뉴스레터

글: 권혁주 ㅣ 검수: 정인영

한 데 모인 빅테크 대표들, 美 AI Insight 포럼

'RIGHT NOW: Musk, Zuckerberg, Gates Discuss Artificial Intelligence
In CLOSED DOOR U.S. Senate Forum', Yotube, the hill

지난 주 미국 빅테크 기업 대표들이 워싱턴DC에 집결했습니다.

오픈AI 샘 올트먼, 엔비디아 젠슨 황, 구글 순다르 피차이, 마이크로소프트 사티아 나델라, 테슬라 일론 머스크, 메타 마크 저커버그 등 빅테크 기업 대표들은 13일 미국 의회에서 비공개로 개최된 ‘AI 인사이트 포럼’에 참석했습니다.

자세한 회의 내용은 알 수 없었지만 오피니언 리더들은 AI 규제 필요성에 동의 했습니다. 미국 상원의원 잭 리드(Jack Reed)는 보도자료를 통해 “AI에 대한 연방 규제가 필요하며, 규제가 신속하면서도 매우 신중하게 이루어져야 한다는 만장일치의 합의가 있었다”고 밝혔습니다.

AI 규제 도입에 적극적인 샘 올트먼

이미지. 중소벤처기업부 유튜브. [K-Startups meet OpenAI 풀영상]

사실 미국에서 빅테크 기업 대표가 참석한 AI 규제 논의는 처음이 아닙니다. 지난 5월 16일, 샘 올트먼은 美 의회 사상 처음 열린 AI 청문회에 참석해 규제에 대해 적극적인 입장을 밝힌 적 있습니다.

당시 올트먼은 “이 기술은 세상에 큰 해를 끼칠 수 있다. 그렇게 되기 전에 정부와 협력하고 싶다”면서 ①국제 AI 규제 기관 설립과 ②AI 개발 라이선스 제도 도입 등을 언급했습니다. 올트먼의 첫 AI 청문회 참석과 발언 내용은 많은 화제를 모은 동시에, 전세계 AI 평가 기준을 세우고 라이선스를 관리하는 새로운 권력 기구 탄생과 자유로운 연구 개발 권리 침해에 대한 우려도 낳았습니다.

새로운 기술이 나타나 관련 산업과 시장이 고도화되고, 잇달아 규제가 마련되는 흐름은 자연스럽습니다. 다만 오늘날 인공지능 산업처럼 기술 및 제품을 직접 개발한 측에서 먼저 나서 규제의 필요성을 역설하는 사례는 이례적입니다. 마치 영화 오펜하이머처럼 핵무기가 첫 개발됐을 당시를 연상케 합니다.

일각에선 빅테크 기업을 중심으로 형성된 규제가 후발 주자의 시장 진입을 막는 경쟁 우위가 될 거라는 관측도 있습니다. 다만 현재 진행 중인 AI의 위협과 규제 논의, 연구 규모는 제법 본격적입니다.

AI가 가져올 위협과 다양한 관점들

이미지. 美 상원의원 척 슈머(Chuck Schumer) SNS 갈무리.

현재와 가까운 미래 AI가 가져올 위협은 크게 세 가지로 요약됩니다. ① AI 활용 범죄와 가짜 뉴스 등에 대한 사회적 우려, ② AI발 일자리 감소로부터 오는 경제적 혼란, ③ 고도로 발전한 AI가 인류를 제거하거나 지배할 수 있다는 종말론적 시나리오입니다.

지금은 세 가지 사안 각각에 대해서도 상반된 의견이 공존하고 있습니다. 먼저 AI 활용 범죄 또한 기존 법체계 내에서 충분히 다룰 수 있다는 주장과, 실제와 구분되지 않는 음성과 사진을 활용한 AI 범죄는 지금까지와 완전히 다르다는 의견이 있습니다.

다음으로 AI 기술이 자본에 복무하여 불평등을 심화할 거라는 우려와 함께, 역사적으로 기술 혁명은 일자리와 인구 증가로 이어졌듯 종국에는 AI 발전이 노동 해방으로 이어질 거라는 낙관론도 있습니다.

마찬가지로 5월 ‘AI 대부’ 힌튼 박사는 10년 넘게 이끌던 구글을 떠나며 ‘AI 기술로 킬러로봇까지도 현실화할 수 있다’고 염려했지만, 비슷한 시기 앤드류 응 교수는 ‘AI를 더 빠르게 발전시킴으로써 기후 변화, 소행성 충돌, 팬데믹 등 인류 공동체적 위기에 대응할 수 있다’고 말한 바 있습니다.

앤드류 응(Andrew Ng) 스탠포드 대학 교수 SNS 갈무리.

가장 안전한 AI, 우주를 이해하려는 xAI

머스크와 공동 설립자들이 참여한 xAI 공개 스페이스.

https://twitter.com/i/spaces/1vAGRAAmdoqKl

현시점에서 관련 연구와 투자가 가장 대규모로 일어나는 분야는 세 번째 '종말론적 시나리오'로 보입니다. 이처럼 사람을 초월하고 지배하는 AI를 염려해 인공지능이 인간이 의도한 방식으로 행동하고, 예측하지 못한 위험을 줄이는 연구 분야를 AI 정렬(AI alignment)이라고 합니다.

오픈AI는 지난 7월 초지능 정렬 문제 해결을 위해 '향후 4년간 지금까지 확보한 컴퓨팅 자원의 20%를 사용하겠다'고 밝혔으며, 일론 머스크는 ‘우주 본질을 이해하는 인공지능을 만들겠다’며 xAI를 창립했습니다.

정렬 문제에 대한 머스크의 생각은 당시 트위터 스페이스(이제는 X 스페이스)를 통해 확인할 수 있습니다. 머스크는 "도덕 문제를 피하기 위해서, 특정한 도덕을 프로그래밍하려고 한다면 그를 반전시켜 반대 결과를 얻을 수도 있다”고 말했습니다.

프로그래밍을 통해 도덕적으로 '선한 AI'를 정의한다면, 그를 뒤집음으로써 간단히 '악한 AI'를 만들 수도 있다는 맥락입니다. 머스크는 마리오 게임의 등장하는 착한 루이지와 나쁜 루이지 예를 들며 이를 '와루이지 문제'라고 설명했습니다.

"To avoid the inverse morality problem, if you try to program a specific morality, you can essentially invert it and get the opposite. This is sometimes called the 'Waluigi problem'.” elon musk. X space.

이날 머스크가 밝힌 AI를 만드는 가장 안전한 방법은 '최대한 호기심 많고 진실을 추구하는 인공지능'입니다.

“실제로 완전히 진실에 도달할지는 확실하지 않습니다. 하지만 항상 그것을 지향하고자 하며, 당신이 참이라고 생각하는 것과 실제로 참인 것 사이의 오차를 최소화하려고 노력합니다. 궁극적으로 나의 이론은, 호기심 많고 진실적인 접근이 아마도 가장 안전한 방법일 거라는 생각입니다”

이것이 머스크가 우주를 이해하려는 궁극적인 목적입니다. xAI에서도 ChatGPT처럼 대중을 대상으로 한 서비스를 계획 중이라고 하는데요, 곧 나올 xAI의 후속 소식이 기다려집니다 :)