효진: 슈퍼스톰 활동가이자 오늘의풍경 커뮤니케이션 디렉터.

아침: 뉴스레터 ‘AI 윤리 레터’ 운영진.

지은: 디자이너. 일과 삶을 분리하지 않으려고 노력 중. 좋아하는 사람들과 좋아하는 일을 오래 지속할 수 있는 방법을 늘 찾고 있다.

인아: 슈퍼스톰과 오늘의풍경 대표. 모임을 잘 만드는 사람.

효진       지난해 12월 17일에 인아 님이 슈퍼스톰 정기후원 회원분들께 문자를 보내셨어요. 국가인공지능전략위원회가 낸 ‘대한민국 인공지능 행동계획(안)’에 대한 국민의견서를 함께 작성할 분들을 모집한다고요. 그때 문자를 뭐라고 보내셨나요?

인아       ‘연말연시에 약속 없는 관계 파탄자들이 국가에 힘을 보여줄 수 있는 좋은 기회다’라고 보냈죠.

효진       말씀하신 것처럼 의견 수렴 기간이 너무 짧았고, 심지어 연말연시라는 타이밍이기도 했어요. 그 타이밍에 의견을 내달라고 국민들에게 제안을 했다는 것 자체가 저는 좀 괘씸하게 느껴지더라고요. 그런 시기에 아침, 지은 님은 왜 이 활동에 합류하셨나요? 정말 관계파탄자여서였는지, 다른 대의가 있었는지 궁금했어요.

지은       저는 AI에 대한 막연한 불안이 있었어요. 그래서 AI라는 키워드에 꽂혔고요, ‘관계파탄자’라는 단어도 너무 저에게 와닿았어요. 연말에 큰 의미를 두는 편이 아니어서 약속도 그렇게 많지 않았기 때문에 시간을 따질 게 없었죠. 그냥 ‘재밌겠다’ 생각했어요. 의견서 마감까지 시간이 짧다고는 했지만 그래도 인아 님에 대한 신뢰가 있었고, 어떻게든 마무리되겠지 싶었던 것 같아요.

아침       일단 저도 관계파탄자인 것 같고요. (웃음) 저는 의견 제출에 꼭 참여해야겠다는 생각을 안 하고 있긴 했어요. 일정이 너무 별로여서 ‘귀찮다, 하지 말아야지’ 하다가 주변에서 하려는 분들이 계셔서 모임 제안을 두 개 정도 받았거든요. 생각보다 사람들이 여기에 관심 있는 것 같으니 한번 해볼만 할 수도 있을 것 같더라고요. 결론적으로는 귀가 얇아서 하게 되었습니다.

효진       첫 오프라인 모임에서 ‘활동을 통해 개인적으로 뭘 얻어가고 싶은가’라는 질문을 나누셨다고 들었어요. 

지은       저는 AI에 대한 막연한 불안을 해소하는 거랑 AI에 대해서 좀 알게 되는 거. 그게 목표였어요. 그게 의견서 제출이라는 실천으로 이어지면 너무 좋은 거고요. 

아침       저는 평소 제가 뉴스레터나 다른 모임에서 할 것 같은 이야기들보다 약간 더 마음 속의 이야기를 하면 좋겠다는 생각을 갖고 있었습니다. 왜냐하면 나름 AI에 관해서 비판적인 관점을 가지고 글을 쓴다거나 이야기를 하고 다닌다고 하지만, 항상 좀 저어하는 마음이 깔려 있거든요. ‘제가 AI를 반대하는 건 아닌데…’라고 한 수 접고 들어가지 않으면, ‘너 러다이트니? 너랑은 말이 안 통하겠다’ 이런 말이 돌아올 것 같다는 두려움이 있어요. 하지만 왠지 모르게 이 모임에서는 그 이상의 이야기를 할 수 있지 않을까, 하는 기대 같은 게 있었어요.

효진       그런데 세 분 이야기를 듣다 보니 갑자기 궁금해져요. 세 분은 왜 AI에 관심을 갖고 계세요? 

지은       AI에 대한 뉴스가 너무 많이 나오잖아요. 그런데 제가 할 수 있는 건 지브리풍 프로필 사진을 만드는 것 아니면 AI 쓰는 기업에 투자하는 거, 그거밖에 없는 것처럼 느껴지는 거예요. 아니면 아무것도 안 하거나. 그러고 싶진 않았어요. 좋은 행동이든 나쁜 행동이든 찾아서 하고 싶은데 선택지가 너무 없는 거죠. 내가 아는 것도 너무 없고. 그래서 다른 곳에서 만들어내는 뉴스들에 엄청 휩쓸리면서 불안감이 커지는 상황이었고, AI라는 키워드가 계속 머릿속에 있었어요.

효진       아침 님은요? AI에 관한 뉴스레터까지 만드시는, AI를 향한 그런 동력은 대체 뭘까… 질문해보게 되는데요.

아침       저는 어렸을 때 디지털 기술을 선망했고, 테크 업계나 미디어 아트 쪽에 진입하고 싶다는 로망을 오랫동안 갖고 있었어요. 딥러닝 같은 것들이 대중화되기 시작하고, 전공자가 아닌 저도 관심을 가지면 이해할 수 있을 정도로 접근성이 커지기 시작했을 때 ‘덕질’을 하다보니 기술, 특히 실리콘밸리 자본주의의 작동 방식 같은 것들이 사회에 미치는 영향이 너무 안 좋은 거예요. ‘내가 선망하던 기술을 마음 놓고 애정하기가 너무 힘들다, 빨리 나쁜 놈들을 때려잡고 다시 마음 놓고 기술을 사랑하고 싶다, 그렇지만 그런 날은 오지 않을 것이다.’ 이런 마음이 동력인 것 같아요. 계속 관심을 두고 제 위치에서 할 수 있는 걸 하려고 하고 있어요.

효진       인아 님은 사실 제가 본 주변 사람들 중 AI를 굉장히 잘 쓰는 사람이기도 하거든요. 그 관심이 왜 지속되고 있는지 듣고 싶었어요.

인아       몇 년 전부터 AI가 디자인도 한다는 식의 이야기가 들려오는데, 제 입장에서 그건 반복되는 서사였어요. 저는 페미니즘 기반의 디자인 쪽 텍스트들을 많이 접하는데, 그걸 읽다 보면 항상 똑같이 기술이 도입될 때마다 ‘이건 혁신이다!’라고 광고하지만, 실제로는 부작용이 훨씬 크다는 이야기가 나오거든요. 제가 보는 텍스트들에서도 AI에 대한 비판글들이 많이 나오기 시작한 때가 있었고, 그걸 활동 중인 FDSC(페미니스트 디자이너 소셜 클럽)에 공유하면서 디자이너들이 공유하는 불안감을 좀 ‘워워’ 시켜야겠다, 이런 게 있었어요. 이런 측면에서 계속 공부해왔던 게 있고요. 

AI를 무작정 싫어하고 싶지 않다라는 생각도 있거든요. 예를 들어 리슨투더시티에서 재난 때 AI를 어떻게 활용하면 좋은지에 대한 세션 같은 걸 했었어요. 재난 때는 정보들이 흩어져 있고 힘드니까 AI를 활용해서 도움이 될 수 있으면 좋겠다 싶더라고요. 그런 좋은 사례도 봤고, 다른 한편으로 저는 카피레프트나 오픈소스 등 공통재(커먼즈) 활동에도 관심이 있는데 개발자가 아니면 접근성이 너무 떨어지거든요. AI를 쓰면 개발자가 아닌 저도 그걸 좀 다룰 수 있는 거예요. 그런 데 써본다거나 하는 식으로 AI를 사용해봤던 것 같아요.

(왼쪽부터) 신인아, 황지은, 고아침 님. 아직 어색한 사이임을 굳이 숨기려 하지 않는 모습.

효진       이번에 의견서를 작성하실 때는 일단 행동계획안을 읽고, 거기에 각자 코멘트를 단 후에 문제점을 유목화 한 다음, 거기에 맞는 액션플랜들을 분류하고 수정의견과 근거를 채워넣는 식으로 진행하셨어요. 행동계획안이 190쪽 정도로 분량도 방대하고, 내용도 황당무계한 것들이 많았잖아요. 문서를 읽으면서 각자 어떤 생각을 하거나 어떤 감정을 느끼셨나요?

지은       어떻게 보면 행동계획안을 작성한 사람들이 되게 공신력 있는 사람들이잖아요. 그분들의 사고 방식, 그 밑에 깔린 경쟁이나 효율 중심의 사고 방식을 알수 있어서 유용했던 한편 되게 답답했죠. 이렇게 나라가 굴러가는구나. 긍정적인 내용이 과연 그 안에 있었나? 생각이 안 나요. 그냥 ‘많이 쓰셨네요’ 정도? 

효진       (헛)수고하셨습니다, 약간 이런 느낌일까요. (웃음) 

지은       근데 한편으로는 되게 단순하다는 생각도 했어요. 그냥 회사 운영하듯이 하는구나. 그럼 나는 절대로 이렇게 안 살아야지. 오히려 이렇게 방향을 잡기도 했던 것 같아요. 사실 그 계획안에서 부정적인 내용은 하나만 콕 집기가 어려울 정도로 많았어요. ‘기술 3강’ 같은 단어들이 너무 반복되고요.

인아       저는 3강의 구성을 자꾸 생각했어요. ‘그럼 미국, 중국, 한국이 3강이라는 건가?’ 이러면서. (웃음)

아침       저도 갑갑함이 컸어요. 산업 진흥 말고는 별로 생각하는 게 없는 것 같다. 근데 또 동시에 모순도 많은 문서라고 생각했거든요. AI로 사회를 개선한다고 말은 하지만 정작 어떤 사회를 만들거냐, 라는 관점에서 보면 공백들이 있는 문서인데 그게 모순적이고 위선적이라고 느껴지면서도 지금 돌이켜 생각해보면 그나마 ‘우리가 사회를 신경 씁니다’라고 겉치레라도 해놓은 지점을 우리가 결국 좀 파고들어야 하는 거 아닐까, 싶기도 해요.

예컨대 후반부에 가면 ‘AI 기본사회’ 이런 비전을 보여주면서 ‘모두가 AI의 혜택을 누리는 포용적인 사회를 만들어야 한다’라고 이야기하거든요. 그러면서 ‘모든 국민이 AI를 체험하고 활용하고 학습하게 해야 된다’라는 식으로 귀결이 돼요. 이게 이 문서가 가진 세계관의 한계인데, ‘기본사회라고 거창하게 얘기하면서 꼴랑 이런 결론이냐, 전 국민이 챗GPT를 쓰면 되는 거냐’하는 의문을 갖게 되죠. 이런 부분을 파고들어야 하는 거 아닐까 싶었어요.

효진       의견서를 작성하면서 가장 신경 쓰셨거나 강조하고 싶었던 부분은 뭐였을까요?

인아       저는 정부가 요구하는 형식에 맞춰서 쓰는 거요. 거기에 맞춰서 보내야 검토라도 할 거 아니에요. 그렇지만 형식은 맞는데 내용이 ‘킹 받았으면’ 좋겠다, 는 게 있었어요. 그 형식 자체가 되게 사람들의 발목을 잡는 거였거든요. 액션 플랜 하나하나에 대한 수정 의견과 그 근거를 대라고 하는 게 말이 안돼요. 왜냐하면 우리가 하고 싶은 말은 이거 다 틀린 말이야, 하나도 맞는 게 없어, 이건데 액션플랜을 어떻게 하나하나 지적해요. 그래서 그건 종합의견에 넣었고요. 

그리고 엘리트주의적인 면이 있는 계획안이었기 때문에 그 점에 빡쳐서 저희 의견서는 너무 전문가적으로 쓰고 싶지 않았다고 해야 하나? ‘이게 국민의견이야, 받아’ 하는 느낌으로 썼어요. 우리 의견서는 번듯한 의견서가 될 수도 없고, 그렇게 만들지도 말자는 게 되게 컸어요.

효진       이 부분에 대해 아침 님이 살짝 우려도 표하셨던 걸로 아는데요, 어떠셨나요? 이 정도의 급진성…

아침       이를테면 ‘대통령도 AI로 바꾸자’ 이런 거는 도발하려는 이야기이긴 한데, 기본적으로 제가 그렇게 하면 안 된다고 생각하는 방향이니까 ‘괜찮을까요?’라는 질문을 중간에 했던 것 같아요. 그렇지만 저도 ‘데이터센터가 그렇게 좋으면 데이터센터에 가서 살아라’라는 의견을 냈는데, 약간 카타르시스가 있는 거예요. 

인아       맞아요, 그런 훌륭한 아이디어를 넣으셨잖아요.

아침       그게 현실적인 방안이라고 생각하진 않지만 그렇다고 거기에 진심이 들어 있지 않은 건 아니잖아요. 정말로 데이터센터에 그렇게 많은 투자를 하는 게 문제라고 생각해요. 데이터센터가 기술에 대한 낙관대로 흘러가지 않아서 문제적인 시설로 남게 될 위험 같은 것들이 있다고 보고요. 그런 이야기를 중간중간 살짝씩 ‘뇌절’하고 쓰는 게 좋았어요. 

효진       또 의견서를 쓰면서 유의했던 부분이 있을까요?

아침       개인적으로는 ‘탈규제가 혁신에 오히려 좋지 않다’는 이야기를 어떻게 할 수 있을까, 이게 좀 숙제였어요. 규제나 인권, 생태, 이런 걸 신경 쓰면 그만큼 혁신이 안 되고 경제 성장을 못한다는 게 흔한 프레임이잖아요. 이 이분법을 받아들이면 결국 경제 성장이 항상 이길 수밖에 없는 구도인 것 같아요. 그래서 ‘기술 발전에 반대하는 건 아니지만 이런 부분도 챙깁시다’라고 얘기하는 게 아니라, 아예 다른 기술을 얘기해야 하고 아예 방향성 자체를 다르게 잡을 수 있다는 걸 우리가 상상할 수 있어야 한다는 이야기를 하는 게 되게 중요한 것 같아요. 

사실 위원회에도 우리 같은 고민에 공감하는 분들이 계실 텐데, 결국 이런 문제는 개인이 이제 막 선의를 갖고 고군분투한다고 개선되는 문제는 아닌 것 같거든요. AI가 미래고, 기술 패권에서 3강을 해야 하고, 이게 전제면 아무리 포용적 사회니 어쩌니 얘기해도 먹히지 않을 수 있으니까요. 진부한 표현일 수도 있는 것 같지만 상상력 자체를 바꿔야 되는 과제가 있는 것 같습니다.

효진       의견서 내용 중에 특히 마음에 드는 대목이 있다면 말씀해 주셔도 좋을 것 같아요.

지은       마음에 드는 게 있었는데… 막 무슨 ‘뜨끈한 국밥 어쩌구’ 하는 게 있었어요.

아침       “AI를 통해서 대국민 서비스를 제공할 때 시민 대상 서비스를 제공하는 공무원의 업무를 돕기 위해 사용하는 것으로 한정한다. 3대를 이어온 설렁탕집의 뜨끈한 국밥 한 그릇처럼 최고의 서비스는 사람 냄새 나는 진정성 있는 서비스이다.” 사람 냄새 나는 진정성 있는 서비스를 돕는 용도로만 AI를 써라, 뭐 이런 이야기인 것 같아요.

인아      이런 내용도 있었죠. ‘왜 백화점 VIP들에게는 퍼스널 쇼퍼가 있겠냐, 사람 냄새가 최고의 서비스이기 때문이다. 진짜 사람이 나를 위해서 온 정성을 다하는 것, 그것을 어떻게 AI가 대체하냐, 사람이 해야 된다.’ 참고로 처음에 우리 의견서 제목은 ‘사람이 먼저다’였습니다.

세 사람이 제출한 의견서 내용 중 일부. 파란 글씨는 대한민국 인공지능 행동계획(안)의 원안이고, 분홍 글씨는 의견서팀이 덧붙인 문장이다. ‘AI로 더욱 양질의, 개인화된 서비스를 제공할 수 있다’는 원안에 반박하여 ‘최고의 서비스는 사람이 제공할 수 있다’는 의미로 ‘3대를 이어온 설렁탕집의 뜨끈한 국밥 한그릇’을 언급했다. 

효진       정말 사람 냄새 나는 의견서네요… 이번에 의견서를 작성해서 제출하는 게 중요한 목표이긴 했지만, 또 동시에 이건 다른 사람들과 관계 맺고 협업해보는 경험이기도 했잖아요. 그 경험이 어떠셨는지 듣고 싶어요. ‘같이 먹은 밥이 정말 맛있었다’거나, 그런 사람 냄새 나는 에피소드 좀 들려 주세요.

인아       저희 처음 만난 날 국밥 먹었어요. 헉, 그래서 의견서를 쓰면서도 무의식 중에 국밥을 떠올렸던 걸까?

그리고 저는 모임을 진행하는 역할도 하다보니 ‘저는 좀 봐주세요, 전 좀 덜할게요’ 막 이랬거든요. 정책안을 처음부터 끝까지 꼼꼼히 읽진 못했고, 의견서에서 액션플랜 문장들을 수정하는 작업을 더 많이 했어요. 그건 정책안을 만드는 사람들의 권력감이랄까 그런 걸 저도 느낄 수 있어서 웃기고 재밌었는데, 근거를 설명할 땐 어렵더라고요. 액션플랜들이 너무 말이 안 되는 거라 열 받아서 논리적으로 근거가 안나오는 거예요. ‘악!! 같은 소리밖에 안 나와서 근거를 못 쓰겠다’라고 문서에 써놓으면 그 밑에 어느새 다른 분들이 와서 근거를 막 이렇게 논리적으로 써주세요. 그런 식으로 협업한 게 재미있었어요. 

아침       저희가 첫 모임 말고 작업을 함께 하는 세션을 몇 개 잡았잖아요. 그 중에 각자 AI 툴을 어떻게 쓰고 있는지 얘기 나누다가 ‘죄책감’에 대한 대화를 하게 됐어요. 이 의견서가 일상적으로 AI 툴을 이용하는 사람들에게 죄책감을 자극하는 식으로 작성되지 않았으면 좋겠다고 기준을 정했죠. 그때가 되게 인상적인 순간이었어요. AI의 환경 비용을 얘기한다고 할 때, AI 툴을 쓰는 사람을 ‘생수 낭비하는 사람’이라고 말하는 식으로 개인이 미치는 영향에 대한 비난으로 흘러가기가 쉬운 것 같거든요. 일단 그 부분에 대해서 각자 다들 자기가 어떤 위치에 있는지 솔직하게 나누고, 부정적인 감정을 자극하는 식으로 작업하지 않았으면 좋겠다고 합의를 해나갔던 순간이 기억에 남아요.

효진      슈퍼스토밍에서 이 인터뷰를 읽는 분들은 AI에도 관심이 많으시고, 전문가가 아닌 사람들이 이런 활동을 해냈다는 것에 호기심을 느끼실 것 같기도 해요. 활동해보니 결국 뭐가 좋으셨는지 인터뷰를 읽는 분들께 말씀해주실 수 있을까요?

지은       저같은 정치적, 사회적 활동 경험이 거의 없고 AI 전문가도 아닌 사람이 의지만 가지고 참여했는데 결과물이 잘 나온 것 같다고 생각하거든요. 준비가 잘 되어 있었기 때문인 것 같아요. 인아 님의 추진력도 좋았고, 워크시트 같은 것들도 너무 잘 돼있었어요. 워크시트 칸을 채우기만 했는데 의견서가 뚝딱 완성됐다는 느낌이 들어요. 슈퍼스톰에서의 활동을 통해 저같이 의지만 가진 사람들을 더 많이 만날 수 있으면 좋겠어요. 

개인적으로 느낀 바는, 처음 목표했던 바대로 정말 조금의 불안이 사라졌다는 거예요. AI에 대해 몰라서 불안했던 게 맞았던 거죠. 뭔가를 알아가는 과정이 사실 너무 귀찮잖아요. 정보를 선별해서 학습하고, 내 것으로 만들고… 그렇긴 한데 이렇게 안 하면 불안해진다는 교훈이 저 스스로 있었어요. 

효진       두 분은 어떠신가요?

아침       행동 계획안에 대한 국민 의견을 수렴하게 하는 과정의 설계 자체가 좋지 않았고, 친절하지 않았다는 생각을 해요. 교육학에서는 ‘Scaffolding’이라는 말을 쓰거든요. 지식을 던져주고 그냥 배우세요, 라고 하는 게 아니라 학습을 더 수월하게 만들기 위해서 사용하는 다양한 장치들을 뜻해요. 위원회가 국민들의 의견을 제대로 받고 싶다면 스캐폴딩 설계를 더 잘 할 필요가 있다, 그런 설계를 이 모임에서 좀 자발적으로 진행한 거 아닌가, 싶습니다.

인아       이번에 뭐라도 내는 게 중요하다고 생각했던 이유는, ‘의견 수렴합니다’라고 했을 때 아무도 얘기 안하는 상황을 너무 많이 봐서이기도 한 것 같아요. 행동계획안에 대한 국민 의견을 받는다는 것 자체는 나쁜 게 아니잖아요. 그런데 아무도 의견을 안 내는 게 반복되면 의견서 받는 형식이나 과정 자체를 꼼꼼하게 고려하지 않겠죠. ‘어차피 맨날 내는 사람만 내는데, 그냥 이 사람들을 모아서 좌담회 한번 하고 의견 모았다고 하는 게 낫지 않나’ 이런 식으로 흘러갈 가능성이 높은 거예요. 

만약 ‘의견을 받습니다’라고 할 때 반응들이 있고 그게 유의미하게 제도 만드는 데 개입이 되는 경험이 쌓인다면, 그걸 고려해서 설계를 했을 것 같아요. 그래서 여기 참여하는 것 자체가 너무 중요해요. ‘대한민국의 주권은 국민에게 있고, 모든 권력은 국민으로부터 나온다’라는 헌법 문구가 그냥 대규모 시위 사진 위에 CJ 감성으로 올리는 문구 정도로 생각될 때가 있어요. 그런데 그 권력은 투표로만 행사하는게 아니라 이런 의견서 작성하는데도 행사하는 거거든요. ‘나는 잘 모르는데, 나 이런 거 해본 적 없는데’ 말고 그냥 한번 해보는 거, 그러니까 어떤 준비가 필요하지 않다는 걸 말하고 싶었어요. 자격이나 기술이 필요한 게 아니라 국민이니까 그냥 해도 된다. 이런 경험을 하면 이다음 참여는 더 쉬워지고… 그게 슈퍼스톰이 지향하는 운동의 방식이 아닌가, 하는 생각도 들어요.