✨ AI 세상에서 인간은 뭘까?

🗿

결정을 하십시오, 휴먼

웹에서 보기 구독하기 점선면이란?

경향신문 뉴스레터

2023.12.06. 수요일

메타 최고경영자(CEO)인 마크 저커버그는 하버드대학 재학 중인 2003년 페이스북을 처음 만들었습니다. 시작할 때만 해도 전 세계 사람들이 아니라 하버드나 스탠포드 등 미국 명문대학 학생들만을 대상으로 한 소셜미디어였죠.

영화 <소셜 네트워크>(2010)를 보면, 페이스북 초창기 마크 저커버그(배우 제시 아이젠버그)가 동업자인 친구 왈도 세브린(앤드류 가필드)의 말에 몹시 흥분하는 장면이 나와요. 세브린의 말은 "이제 광고를 붙여서 수익을 창출해야 한다"는 것이었습니다. 하지만 저커버그의 생각은 달랐어요. 페이스북이 장차 무엇이 될지는 아무도 모르는데, 지금의 '쿨(cool)'한 외형을 광고로 망칠 수는 없다는 거였죠.

20년 전 저커버그도 아마 이건 몰랐을 거예요. 그 페이스북이 2023년이 되면 인공지능(AI)이 온갖 유명인사의 사진과 경력을 도용해 만든 '딥 페이크' 광고로 뒤덮일 줄은요. 지금 사람들은 페이스북이 이런 딥 페이크 광고에 올바로 대응하고 있는지를 추궁합니다.

AI가 만든 새로운 세상에 메타 같은 빅테크 역시 제대로 대처하지 못하거나 혹은 그들의 책무를 다하지 않고 있습니다. 어쩌면 이것이 지금 우리가 겪는 가장 큰 난제가 아닐까요. 오늘 점선면은 이러한 관점에서 AI를 다룹니다. 경향신문 산업부가 ChatGPT 출시 1년을 맞아 연재한 기획 [AI 빅뱅 1년]을 참고했어요.

ChatGPT의 1년

지난 11월30일, ChatGPT가 세상에 나온 지 1년을 맞았습니다. 다양한 질문에 미리 입력한 듯한 답변만 쏟아내는 챗봇이 아니라, 생성형(학습한 데이터를 바탕으로 문장을 만들어 내는) AI 챗봇이 가져온 충격은 매우 컸어요. 1년 동안 숨 가쁘게 달려온 AI 발전 과정(왼쪽 축)과 이에 대항해 일어난 움직임(오른쪽 축)을 정리했어요. 1년 동안 어떤 일이 있었는지 한번 쭉 볼까요?

2022년 11월30일 ChatGPT가 출시된 이후 1년 동안 AI 산업이 아주 빠르게 발전하면서 AI 개발업체를 향한 소송과 규제 움직임도 잇따랐어요.

1. 샘 올트먼의 생각

비록 '5일 천하'에 그치긴 했지만, 오픈AI 내 반(反)-올트먼 진영은 왜 그를 몰아내야 한다고 판단했을까요? 아직 전말이 명확하게 밝혀진 건 없습니다.

시중에서는 AI를 둘러싼 '낙관주의' 진영과 '비관주의' 진영이 충돌한 사건이라고 해석합니다. 샘 올트먼의 낙관주의를 경계하던 오픈AI 내 비관주의자들이 그를 축출했다는 겁니다.

이를 받아들인다면, 오픈AI에서 불과 5일 사이에 벌어진 일은 단순 해프닝이라고 보기 어려워요. 낙관주의와 비관주의의 대립이 이제 단순히 이론적 논쟁 차원이 아니라 현실적 대결 국면으로 접어들었다고 볼 수 있기 때문이죠. 그 배경에는 ChatGPT 같은 생성형 AI의 급속한 고도화가 있습니다.

이쯤되면 샘 올트먼의 머릿속이 궁금해집니다. 마침 그가 ChatGPT 출시 1년을 기념하는 취지로 뉴욕타임즈와 인터뷰한 기사*가 있더군요. 인터뷰는 오픈AI 이사회가 샘 올트먼을 몰아내기 불과 이틀 전인 11월15일에 있었습니다. 그의 가장 최신 생각이 담겼다고 볼 수 있죠. 이 기사의 제목은 '저는 우리가 최고의 세상을 향해 나아간다고 생각합니다(I Think We’re Heading Toward the Best World Ever)'예요. 의미심장합니다.

*해당 기사는 국내 언론에는 많이 소개되지 않았어요. 영문 기사 번역은 AI 번역 플랫폼 DeepL의 도움을 받았습니다.

샘 올트먼 오픈AI CEO. AP연합뉴스

샘 올트먼은 사람들이 ChatGPT의 등장에 당혹해 한 건 아주 잠시일 뿐이라고 봅니다. 사람들이 기술에 빠르게 적응하면서, 우려는 역시 빠르게 잦아들었다고 판단하죠.

"처음으로 가장 시끄러웠기에 교훈을 줬다고 생각하는 예는 교육 분야에서 일어난 일이에요. ChatGPT 출시 며칠 후 학교에서 앞다퉈 ChatGPT를 금지하겠다고 나섰어요. 우리는 별로 놀라지 않았어요. 충분히 예상했던 일이니까요. 얼마 안 돼 학교와 교사들은 이렇게 말했어요. '실은, 우리가 성급했던 것 같아요. ChatGPT는 미래 교육에 중요한 역할을 할 수 있어요. 단점보다 장점이 훨씬 더 큰 것 같군요. 이제 금지 조치를 해제할 뿐만 아니라 오히려 교실에서 사용하라고 권장하고 있어요. ChatGPT는 우리 삶의 일부가 될 테니까요.' ChatGPT를 공개하지 않았다면 이런 일은 절대 일어나지 않았겠죠."

"(ChatGPT는) 사람들이 기술을 이해하고 현명한 결정을 내리고, 또 기술과 사회가 함께 진화한 좋은 사례라고 생각해요. 사람들은 적절하고 도움이 될만한 곳에 사용하고 있고, 사용하지 말아야 할 곳엔 사용하지 않고 있어요. … 통제 가능성이든 신뢰성이든 뭐라고 부르든 훨씬 더 나아질 거예요. 앞으로 몇 년 안에 큰 진전을 볼 겁니다. 2026년, 2028년, 혹은 2030년이 될지 알 수 없지만, 이런 이야기를 더는 하지 않아도 될 때도 올 거예요."

샘 올트먼은 미래 역시 아주 낙관적으로 봤습니다. 그는 'AI로 인한 멸종 위험을 줄이는 일은 팬데믹이나 핵전쟁을 다루는 일처럼 국제적 과제의 우선순위에 놓여야 한다'는 비영리기구 성명에 동참한 바 있습니다. 하지만 인터뷰에서는 이렇게 말했어요.

"저는 사실 우리가 멸종할 거라고 생각하지 않아요. 오히려 위대해질 거예요. 우리는 최고의 세상을 향해 나아가고 있다고 생각합니다. 사회에 위협적인 기술을 다룰 때 종종 그 혜택을 누리려면 위험을 마주 보고 성공적으로 헤쳐나가야 한다고 말하죠. 여기엔 공감대가 꽤 형성돼 있어요. 저는 그게 급진적인 주장이라고 보지 않습니다."

"미래를 향해 전속력으로, 브레이크 없이 달려야 한다고 생각하지 않아요. 하지만, 미래로 나아가야 한다는 건 분명합니다. 아마 이 지점이 제가 대부분의 AI 회사와 다른 점이겠죠. 저는 AI가 좋은 거라고 생각해요. 제가 하는 일을 남모르게 싫어하고 싶진 않습니다. 정말 놀라울 거예요. 그런 미래를 보고 싶어요. 그래서 사람들이 혜택을 받으면 좋겠습니다."

샘 올트먼은 이 인터뷰에서 자신이 '규제가 기술 발전을 가로막지 않아야 한다'는 입장을 피력하면서 "악당(villain) 취급을 받았다"고 말합니다. 그는 정말 '빌런'일까요?

그래픽=김규연 디자이너

2. 혼란스러운 빅테크

최근 오픈AI 사태는 AI의 발전 속도를 두고 빅테크 업계의 의견도 일치하지 않고, 오히려 첨예하게 대립한다는 사실을 극적으로 드러냈어요. 과거 구글 인공지능 사업의 '브레인'이었던 오픈AI의 수석과학자 일리야 수츠케버는 샘 올트먼을 몰아내는 데 앞장섰습니다.

AI의 미래는 그 기술을 직간접적으로 다루는 사람들 사이에서 이미 오랜 논쟁거리였습니다. 빅테크 업계 '거물'인 래리 페이지(구글 설립자)와 일론 머스크(테슬라 설립자)가 '절친'이었지만, 2013년 머스크의 생일파티에서 두 사람이 AI의 위험성에 대해 격론을 벌이다 결국 절연했다는 일화가 있을 정도죠. 이후 약 10년이 흘러 ChatGPT가 세상에 나왔습니다.

ChatGPT는 빅테크 업계 내 AI 논쟁을 다시 치열하게 만들었어요. 특히 비영리기구 '퓨처 오브 라이프'가 지난 3월 AI 규제책을 만들 시간을 벌기 위해 'AI 개발 6개월 중단'을 주장하면서 많은 의견이 분출했습니다. 한번 살펴볼까요?

AI 분야 석학으로 꼽히는 제프리 힌튼은 지난 5월 10년 넘게 몸담은 구글에 사직서를 냈습니다. 그는 AI의 핵심 알고리즘이 된 '딥러닝' 개념을 처음 고안했습니다. 그런 힌튼이 "나의 일생을 후회한다"며 "AI가 자체적으로 코드를 생성하도록 허용하면 '킬러 로봇'도 현실이 될 수 있다"고 밝히자 그 후폭풍은 정말 대단했습니다. 힌튼은 "연구자들이 AI 연구의 위험성에 대해 함께 목소리를 내고 자체적으로 규제하는 것이 중요하다"고 주장했습니다.

래리 페이지와 한판 붙은 일론 머스크도 여전히 AI를 경계합니다. 일론 머스크는 지난 4월 "오픈AI의 애초 의도는 좋은 일을 하자는 것이었지만 이제는 불분명하다"고 평가했어요(머스크는 초창기 오픈AI에 자금을 댄 공동설립자였습니다). 그러면서 "AI는 잠재력이 있다는 점에서 항공기 설계나 자동차 생산을 잘못 관리하는 것보다 더 위험하다"며 "AI는 문명을 파괴할 가능성이 있다"고 했습니다.

그래픽=김규연 디자이너

하지만 샘 올트먼의 말처럼 'AI가 좋은 것'이라는 이유로, 또 현실적인 이유로 AI 개발은 결코 멈출 수 없다고 말하는 빅테크 인사들도 무척 많습니다.

마이크로소프트를 세운 빌 게이츠는 대표적인 'AI 낙관론자'로 꼽힙니다. 그는 "ChatGPT는 인터넷이나 휴대전화만큼 혁명적인 발명이라고 믿는다"고 말했어요. "부유층만이 아닌 모든 사람이 AI의 혜택을 받도록 해야 한다"는 신념을 보인 빌 게이츠에게 AI 개발을 중단하는 건 '빈대 잡으려다 집마저 태우는 격'입니다. 그는 "AI에 엄청난 이점이 있다는 것은 확실하므로, 우리가 해야 할 일은 까다로운 부분들(tricky areas)을 파악하는 것"이라고 했습니다.

낙관론과 비관론뿐만 아니라 '운명론'도 있습니다. '당신이 아니어도 누군가는 더 발전한 AI를 만든다'는 거죠. 구글 전 CEO인 에릭 슈미트는 "개발 유예는 단순히 중국에만 이익이 될 것이기 때문에 찬성하지 않는다"고 말했어요. 그러면서 "우리(서방의) 가치를 반영한 믿을만한 AI 플랫폼을 만드는 게 중요하다"고 했습니다. 빌 게이츠도 "AI 개발을 누가 멈출 수 있을지, 전 세계 모든 국가가 멈추는 데 동의할지, 왜 멈춰야 하는지 정말 이해할 수 없다"고 말했어요.

그래픽=김규연 디자이너

'AI 열차'가 이미 달리기 시작한 이상 아무도 멈춰세울 수 없다는 겁니다.

3. 뛰는 규제 위 나는 AI?

빌 게이츠의 말처럼 여러 업체와 국가가 너도나도 AI 개발 경쟁에 뛰어든 상황에서 규제가 의미가 있을지, 규제할 방법이 있을지는 분명하지 않아요. 구글이나 메타처럼 미국에 본거지를 둔 빅테크 업체들뿐만 아니라 우리나라에서도 삼성전자와 네이버 등 IT 대기업들이 AI 개발 행렬을 뒤따라가고 있습니다. 이것만 봐도 '미국이 규제하면 중국만 앞선다'는 명분은 무척 현실적이죠.

그래서 국제적인 협력이 필요하다는 의견이 많습니다. 오픈AI의 샘 올트먼은 미국 의회 최초의 'AI 청문회'에 출석해 국제원자력기구(IAEA)를 예로 들며 "미국이 다른 나라와 협력해 AI 국제표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것"이라고 말했어요. 실제로 지난 11월 영국에서 '제 1차 인공지능 안정성 정상회의'가 열려 윤석열 대통령도 화상으로 참석한 바 있습니다.

하지만 ChatGPT 이후 매우 빨라진 AI 개발 속도에 비하면 이런 움직임도 지나치게 느긋하다고 할 수 있어요. '우리가 먼저' 규제하겠다는 나라는 나오지 않는 '눈치게임'이라고 볼 수도 있죠.

지난 10월 미국은 AI 산업 규제 방안을 담은 행정명령을 발동했습니다. 백악관은 "이번 행정명령은 AI 안전 분야를 발전시키기 위해 세계 각국 정부가 취한 조치 중 가장 중대한 것"이라고 자평했어요. 정말 그럴까요? 앞선 뉴욕타임즈 인터뷰에서 샘 올트먼은 이 행정명령에 대해 "합리적인 것으로 보인다(It does seem reasonable)"고만 말했어요. AI 경쟁에 '중대한' 변화를 몰고 올 규제책이라면 이렇게 덤덤하게 반응할 수 있을까요?

여러 점선면 독자님도 AI 규제에 관한 의견을 주시면서 발전 속도에 방점을 찍으셨어요.

🤨 기술의 발전은 생각보다 빠르기 때문에 시작 전 단계부터 준비하고 경계를 해야한다. (jodie님)

😐 지금 인공지능의 발전 속도는 위험해요. 제동 장치도, 안전망도 없거든요. 그러니 전문가가 아닌 사람들이 보기엔 위협적으로 느껴지는 거죠. 기계문명 역시 빠르게 발전한 것은 맞지만, 그때는 속도를 따라갈 수 있었어요. 기계의 발전 속도가 '곱셈'이었다면 인공지능의 발전 속도는 '제곱'입니다. … 적어도 인공지능에 대한 올바른 인식, 도덕적 소양이 함양되고, 관련 법규가 확실해 질 때까지는 어느 정도의 규제가 필요하다고 봅니다. 인공지능은 제곱이니까요. 눈 깜짝할 사이에 읽기도 힘든 숫자가 되어버리겠죠. 인공지능에게도, 우리에게도 숨 돌릴 틈이 필요한 시점인 것 같습니다. (숨 좀 쉬고 싶은 익명의 독자님)

🤔 잘못될 경우 크나큰 불행을 초래할 수 있는 기술은 사전에도 그 위험성을 체크해 예방 대책을 마련해야 한다. (알수없는애플릿님)

물론, 미래에 어떤 AI가 나와서 '유토피아'를 이룰지 '헬 게이트'를 열지 우리는 전혀 아는 바가 없습니다. AI 규제에 반대하는 사람들은 코로나19 유행 당시 모더나 등 글로벌 제약사에서 재빨리 mRNA(메신저 리보핵산) 기반 백신을 내놓은 사례를 듭니다. 통상 8~20년 걸리는 백신 개발 기간을 불과 11개월로 단축한 데는 AI의 도움이 있었다는 거죠. AI 규제가 인류를 위한 혁신을 가로막을 수 있다는 우려 또한 무겁게 들리는 배경입니다.

샘 올트먼 오픈AI CEO는 최근 인터뷰에서 AI의 미래에 대해 매우 낙관적인 시각을 보였어요. AI 규제책을 만들기 위한 국제적 협력도 어렵지만, 규제가 혁신을 막을 거라는 우려도 적지 않습니다.

1. 인간이 AI에게 뺏길 것

어떤 사람들에게는 AI의 미래가 아주 먼 훗날의 이야기로 느껴지지 않을 것 같아요. 기자인 저도 그렇습니다. 어떤 언론사는 이미 AI를 이용해 날씨 기사를 작성하고 있습니다. 사람들이 가장 두려워 하는 건 무엇보다 AI가 나의 노동을 대신해 나를 쓸모없게 만들 수 있다는 점이 아닐까요. '미래에 AI가 대체할 가능성이 큰 직업 순위' 따위 뉴스가 큰 관심을 받는 이유일 겁니다.

특히 정치인들은 '딥 페이크' 문제에 관심이 큽니다. 사실, 이 문제에서 '가짜뉴스'보다 더 본질적인 부분은 AI가 진짜 같은 가짜 이미지를 교묘하게 생산할 수준이라면 창작의 영역을 인간에게서 완전히 앗아갈 수 있다는 점일 거예요. 해외뿐만 아니라 국내에서도 이미 인간의 노동을 AI가 박탈하는 사례가 나오고 있습니다.

지난 3월, AI가 만든 트럼프 전 미국 대통령 체포 장면이 전 세계에 유포됐다.

정말 온갖 전망이 쏟아지고 있습니다. 누군가는 그간 '정신노동'을 '육체노동'보다 우월하게 취급하는 경향이 있었지만, AI가 사무직으로 대표되는 정신노동을 대체하면 육체노동이 인간 고유의 역할이 될 것이라고 예측합니다. 반면 '숙련된 장인'을 떠올리게 마련인 초밥을 1시간에 4800개 만들어 내는 AI 로봇을 보며 과연 대체되지 못할 영역이 무엇이 있을지 갸웃하는 시선도 있습니다.

설령 인간의 일자리를 없앤다고 해도 이를 긍정적으로 생각하는 사람도 있어요. 마르크스주의 연구자인 사이토 고헤이 도쿄대 종합문화연구과 교수는 "노동에서 해방되는 게 우리의 꿈이 아닌가"라고 반문합니다. 그는 "화이트칼라 일자리가 없어진다고 하면 오히려 사람들은 더 보람 있는 일(돌봄 등)을 할 수 있게 된다"며 일자리 상실 이후 제도를 미리 준비하는 게 책무라고 말해요.

주 52시간제를 주 69시간제로 바꾸려는 나라에서 "AI로 주 3일제가 가능해진다"(빌 게이츠)는 말은 제법 솔깃한 게 사실입니다.

이렇게 미래에 대한 온갖 예측은 참 흥미롭지만, 오늘 점선면을 시작할 때 이야기 나눈 '2003년의 페이스북'과 '2023년의 페이스북'처럼 사실 그 누구도 미래를 정확히 예견할 수는 없습니다. 실리콘밸리의 명석한 수재들도 마찬가지이기에 그들끼리도 치열하게 논박을 주고받는 거겠죠.

실제로 지금 인간은 자신이 만드는 AI의 발전 양상조차도 정확하게 예측하지 못해요. 국내 기업이 개발한 생성형 AI 챗봇 '이루다 2.0'은 '사이다'라는 단어로 운을 띄우면 '사랑해, 이따만큼, 다 때려치고 사랑할게' 같은 3행시를 짓는다고 합니다. 하지만 개발업체에 따르면, 이는 '개발자가 의도하지 않은 새로운 능력(emergent ability)'입니다. AI가 무엇이 될지도 모르는데, AI와 인간이 상호작용해 어떤 세상을 만들지 예측하는 건 더더욱 힘든 일이겠죠.

경향신문에 2020년부터 '창작의 미래'라는 칼럼을 연재 중인 만화가 김태권은 이런 혼란스러운 자화상을 잘 표현하고 있어요.

김태권은 웹툰도 많이 그려보지 않은 '정통 만화가'로서 미래에 대한 고민이 많습니다. 최근 칼럼에서 그는 오픈AI의 브리핑까지 챙겨보며 만화계에서 일어날 변화를 몇 갈래로 상상했어요. 'AI가 알아서 이야기를 만들면?' '몇 회분을 만들고 AI에게 흥행 예측을 맡기면?' 하지만 딱히 결론을 내진 못해요. 그리고 창작성이 아니라 결국 사업성을 평가하는 만화가, 즉 자신을 발견합니다. 이 칼럼의 제목은 <'두 사람'의 나>입니다.

알 수 없는 AI 시대 문턱에서 그 누가 마냥 무던할 수 있을까요.

AI 챗봇 '이루다'의 공식 프로필. 이루다 홈페이지 캡쳐

2. 필요한 건 어쩌면 '철학'

어떤 미래가 펼쳐질지 아무도 예단할 수 없는 상황에서 인간의 고민은 어쩌면 철학적인 것이 되어야 할지도 모릅니다. 필요한 질문은 '인간이란 무엇인가' 정도가 될 것 같아요. 이은수 서울대 철학과 교수는 올 한해 경향신문에 '아이겐밸류 - 인간의 고유함을 되묻다'라는 칼럼 시리즈를 연재했어요.

그는 이 시리즈를 통해 "몇 시간을 고생한 끝에 어떤 수학 문제를 증명해냈을 때의 희열, 낯선 곳을 여행하거나 서점에서 새로운 이야기를 들었을 때의 설렘, 블랙홀의 사진을 처음 보았을 때 가슴 깊은 곳에서 꿈틀댄 무언가 모를 경외심" 등 인간의 고유한 능력을 탐구했습니다. 그리고 ChatGPT 등장 이후 AI에 대한 반응을 들어 이런 탐구를 하는 배경을 이렇게 설명했어요.

계속 변화하고 있는 상황에 맞춰 게임의 규칙을 개정하는 일은 결코 쉽지 않다. 누가 대표성을 가지고 어떻게 투명한 방식으로 이 사안을 주도적으로 이끌고 가야 하는지조차 정하지 못했는데 상황은 그새 또 한참 더 변할 것이기 때문이다.

무엇보다 새로운 선수의 역량이 멈추지 않고 계속 성장하고 있다는 점이 논의를 더욱 어렵게 한다. 그래서 인공지능의 경쟁적인 개발을 일정 기간 멈추고 인공지능의 역할, 지위, 규제 방식 등을 포괄적으로 논의하자는 지적이 지속적으로 제기돼왔다.

인공지능 모라토리엄(Moratorium·유예 기간)에 대한 이 주장이 아무리 설득력이 있고 호소력이 짙다 한들 과연 그런 유예의 시간을 가질 수 있을지는 의문이다. 기후 환경위기가 단순히 자연재난재해가 아니라 곧 인권의 위기이기도 하다는 것을 깨닫고 뒤늦은 해법 마련에 분주해진 것이 위기에 대한 우리의 전형적인 대응 패턴이라면, 아마도 우리 모두가 인공지능에 의한 섬뜩한 위험에 맞닥뜨린 후에야 비로소 강제성 있는 멈춤이 시작될 것이다. 그때까지는 한발 앞서 인공지능을 적용해 시장을 선점하려는 욕심들을 쉽게 잠재우기 어려울 것이다.

이 유예를 유예할수록, 인공지능이 인간의 지능을 초월하는 기점인 특이점(Singularity)의 시간은 더 빨리 찾아올 것이다. 인공일반지능(혹은 특정한 조건 아래에서 적용 가능한 약인공지능과 대비되는 개념으로서 모든 상황에 널리 적용할 수 있는 강인공지능)의 출현이 그 특이점의 도래를 알리는 시그널이 될 텐데, 그때까지 우리에게 얼마의 시간이 남아 있는지는 알 수 없다.

어떻게 보면 지나치게 현실적이고 꽤 비관적이지만, 그래서 인간이 손 놓고 있자는 말을 하는 건 아닙니다. 이은수 교수는 예측할 수 없는 미래상 대신 '인공지능이라는 엄청난 변화를 겪고도 여전히 그 자리에 남을 인간의 고유한 것'에 대해서 이야기하자고 제안해요. 시리즈의 제목 그대로죠.

나는 이 뜨거운 관심을 인공지능 그 자체에 돌리기보다는 인간의 지성을 제대로 탐구할 동력으로 삼을 것을 제안하고 싶다. 인공지능의 퍼포먼스에 대해서는 쉽게 놀라면서도 정작 이런 학습과 연산을 위해 인공지능이 사용하는 전력자원의 극히 일부만으로도 비슷한 일을 해내는 인간 뇌의 효율적인 설계에 대해서는 너무 무덤덤할 때가 있으니 말이다.

이은수 교수는 이미 산업혁명 때부터 기계는 단순한 도구가 아니라 생산 과정에서 중요한 역할을 하는 '행위자'로 부상했고, AI 시대에는 이 행위자의 역할이 한층 더 강화될 거라고 봅니다. 'AI 혁명' 전후에 차이가 있다면, 다가올 미래에는 인간과 기술의 상호작용이 단순한 명령-순응 관계가 아니라는 거죠.

이런 변화에서 이은수 교수는 '결정'이란 행위에 주목합니다. '내일 무엇을 할까', '어떤 직업을 가질까' 같은 질문에 대한 결정마저 AI에게 떠넘기는 상황을 '특이점'으로 본 거예요. 그는 "과연 나의 미래에 대한 결정을 내가 스스로 직접 하지 않고도 내 삶이라고 말할 수 있을까?"라고 물으며 "글을 읽고, 대화하고, 토론하며, 정리된 생각을 다시 글로 풀어내는 이 훈련을 쉽사리 인공지능에 다 내어줄 수 없(다)"고 말합니다.

미래를 알 수는 없지만, 이는 어쩌면 우리에게 구체적인 기준점이 되어줄 수는 있을 것 같아요. 샘 올트먼 역시 AI를 '부조종사(co-pilot)'라고 정의했습니다. 결정은 부조종사가 아니라 주종조사, 기장의 일이죠. 인간이 기장으로서 역할을 포기하면 비행기는 항로를 이탈합니다.

김민섭 사회문화평론가도 경향신문에 쓴 글에서 비슷한 취지의 결론을 내렸어요.

… 더욱 상위 버전의 GPT라든가 어떤 프로그램이 개발된다고 해도 괜찮다. 기술을 활용하고 제어하는 것은 결국 사람이니까, 역설적으로 우리가 좀 더 나은 사람이 되면 그만 아닐까. … 어차피 사람이 기계보다 계산을 빨리하거나 정교한 작업을 하는 건 이전보다 더 불가능한 일이 될 것이다. 그렇다면 우리는 어떤 사람이 되어야 할까. 사람으로서의 선택을 잘할 수 있는 사람이 되어야 한다.

3. 포기할 수 없는 거버넌스

AI 발전을 지켜보며 우리를 불안하게 하는 건 단순히 '미래에 어느 직종이 살아남을까' 같은 질문만이 아닐 거예요. 퓨처 오브 라이프는 6개월 동안 AI 개발을 중단하자고 제안했던 성명에서 이런 질문을 던졌습니다.

"기계가 우리가 정보를 습득하는 채널을 조작과 허위로 가득 채우도록 놔둬야 할까요? 자아를 실현하는 일을 포함해 모든 업무를 자동화해야 할까요? 우리보다 수적으로 더 많고 더 똑똑해 결국 쓸모 없는 우리를 대체할 수 있는 비인간적 지성을 개발해야 할까요? 문명에 대한 통제력을 잃은 위험을 감수해야 할까요?"

그리고 이렇게 답했습니다. "이러한 결정을 선출되지 않은 테크 리더들(tech leaders)에게 맡겨선 안 됩니다."

일론 머스크 테슬라 CEO가 지난 6월 마크 저커버그 메타플랫폼 CEO와 격투기 대결을 예고한 직후 공개된 머스크의 주짓수 훈련 장면. 렉스 프리드먼 트위터

그렇습니다. AI 시대를 앞두고 평범한 사람들을 불안하게 하는 건 '과연 우리에게 어떤 결정 권한이라도 있는가?'란 의문일지도 모릅니다. 빅테크 업계의 몇몇 수재들에게 우리의 미래를 맡겨야 하는가? 그들은 우리의 미래를 맡길만한 판단력을 갖춘 사람인가? 이에 대해서는 무척 회의적일 수밖에 없어요.

오픈AI에서 일어난 ‘5일 천하’가 바로 그런 예입니다. CEO의 해임과 복귀라는 아주 중대한 결정이 단 며칠 만에 번복되는 기업과 그 기업의 경영진을 신뢰할 수 있을까요? 상장기업이라면 주가의 등락만으로도 이미 크나큰 불신이 표출됐을 겁니다. 뉴욕타임즈 역시 최근 오픈AI 사태를 되짚으며 "일개 조직 혹은 한 사람이 과학자의 두뇌와 사업가의 추진력, 규제 기관의 신중한 접근까지 모두 갖출 수 있을까?"라고 물었어요.

AI 개발 6개월 중단 성명에 앞장섰던 일론 머스크도 '진실의(truth) GPT'를 만들겠다고 선언하고 'X.AI'란 기업을 세웠어요. 이 계획을 밝힌 폭스 뉴스 인터뷰에서 일론 머스크는 "좌파 성향 전문가들이 ChatGPT를 제작했다"고 주장했습니다. 얼마 전까지만 해도 메타플랫폼 CEO인 마크 저커버그와 주짓수를 한판 붙겠다고 공개적으로 떠들었고, 최근 반유대주의 논란에 휩싸인 그는 빅테크 업계를 향한 불신에 단단히 한몫하는 인물입니다.

🙄 "일론 머스크는 트위터와 같은 SNS에서 극단적인 생각까지 드러낸 적 있는데, 인류를 위해 AI의 발전을 모두가 늦추자는 말 자체는 모두가 지켰을 때는 너무나 정의로운 행동이지만, 일론 머스크가 과연 자신이 한 말을 지킬까? 라는 의문이 들어요." (슬기로운 불꽃님)

비단 오픈AI 경영진, 일론 머스크, 마크 저커버그의 문제만은 아닐 거예요. 우리를 진짜 불안하게 하는 건 다가올 AI의 시대가 아닌 이미 다가온 '괴짜'의 시대인지도 모릅니다.

AI 시대의 세세한 변화를 예측하기는 어렵습니다. 지금 필요한 건 '인간의 고유성'을 탐구하는 일 아닐까요? 지금의 두려움이 막연한 미래보다는 구체적 현실에서 비롯된다는 사실도 곱씹을 필요가 있습니다.

☑️ ChatGPT가 출시된 지 1년 만에 AI 산업에는 많은 발전이 있었고, 또 AI 산업을 일정하게 규제하려는 움직임도 많았어요.

☑️ AI 시대를 앞두고 일어나는 두려움에는 어떻게 변할지 모른다는 불안감이 깔렸지만, 현 시대 테크 리더들에 대한 불신도 빼놓을 수 없어요.

☑️ AI가 대체할 수 없는 인간의 고유함이 뭔지 탐구하면 AI 발전 과정에서 우리가 넘지 않아야 할 '선'을 찾을 수 있지 않을까요?

ChatGPT, 너 '기후 악당'이었어?

까다로운 질문에도 척척 답변을 내놓는 ChatGPT. 이런 생성형 AI를 보며 그 뒤에 쉴 새 없이 돌아가는 데이터센터의 풍경을 떠올린 적 있나요? ChatGPT는 똑똑한 만큼 데이터센터를 뜨겁게 달구므로 많은 물(냉각수)이 필요합니다. AI가 '기후 악당'이란 비판이 나옵니다.