🎓‘지브리 AI’ 열풍과 우리가 당연하게 여기는 것들에 대하여

‘지브리 AI’ 열풍과 우리가 당연하게 여기는 것들에 대하여

We love ghibli

저자 김스피

(Authors) Kim, Supi

출처 인스피아 저널, (152), 2025.4.2, 1-8 (8pages)

(Source) Journal of the Inspia

지난회차 https://page.stibee.com/archives/107426

(Archive)

웹에서 보기 Web link

키워드: AI, 학습, 플랫폼, 인간, 누스피어

1.머리말

2.이탈도, 항의도 할 수 없다! : <떠날 것인가, 남을 것인가>

3.플랫폼·AI에 대한 알 권리, 참여할 권리 : <보호받고 있다는 착각>

4.AI는 ‘제2의 지브리’를 만들 수 있는가? : <디지털 휴머니즘>

5.맺음말

【1.머리말】

안녕하세요. 연구자님. 느릿하게 해찰하며 걷는 것을 좋아하는 김스피입니다.👤

최근 SNS 등에선 지브리 풍의 AI 이미지를 만드는 것이 큰 인기를 끌었습니다. 너도나도 자신의 사진을 지브리풍으로 변환하며 즐거워했고, 유명한 밈이나 사진을 지브리풍으로 바꿔보기도 했죠.(링크)

이는 우리나라만의 유행이 아니었습니다.

백악관 공식 X계정은 마약밀매 등의 혐의로 체포된 이민자 여성의 사진을 지브리풍으로 변환해 게시해 논란을 빚기도 했고요(링크).

오픈AI 최고경영자 샘 알트먼은 “과거엔 사람들이 내가 하는 일에 관심 갖지 않다가, 지브리풍 변환 서비스를 개시하니까 나에게 열광적으로 메시지를 보냈다”며 감격해 했고요. 이윽고 지나치게 사람들이 몰리자 지난 30일엔 “변환을 그만두어 달라”고 농반진반으로 외치기도 했습니다.

<fig.1> 지난 2월 미 백악관에서 젤렌스키 우크라이나 대통령과 트럼프 미 대통령이 정상회담을 하는 장면을 ‘지브리 스타일’로 그린 그림 (왼쪽) 오픈AI CEO 샘 알트먼은 지브리 일러스트의 인기로 이용이 폭증하자 지난달 30일 자신의 X계정에 "그만좀 이용해달라...우리 팀도 잠좀 자야 한다"는 트윗을 올렸습니다. / 인터넷 커뮤니티, 샘 알트먼 X 계정

저는 이런 유행을 보면서 문득 어떤 생각이 들었습니다.

일단 이런 ‘~풍의 필터’ 유행이 실은 꽤 오래된 일이라든지1), 직접적으로 지브리의 저작권법을 침해했는지 등의 문제는 일단 차치하고라도 -

오픈AI가 진짜로 지브리 그림을 학습 자료로 삼았는지, 정확하게 어떤 범위의 정보까지 학습자료로 삼고 있는지, 그 학습 및 산출 과정이 어떻게 되는지 등에 대해 대체로 우리가 알 수 있는 게 없다는 것입니다.2)

이는 꼭 지브리같은 유명한 창작자들만의 문제는 아닙니다.

우리가 쓴 글, 그림도 학습이 되고 “있을지도 모릅니다”. AI 학습에 있어 데이터의 중요성이 강조되면서, 기존 SNS, 커뮤니티 플랫폼 등도 너도나도 약관을 바꾸어가며 플랫폼 이용자들이 그간 만들어온 글, 그림 등의 콘텐츠를 AI 학습 데이터로 사용하기 시작했죠.

최근엔 세계적인 이미지 플랫폼 핀터레스트가 이미지들을 AI 학습에 활용할 수 있단는 내용을 약관에 몰래 포함시켜 논란이 되었고요(링크). 앞서 지난해 11월 15일 엑스(트위터)는 AI 학습을 위해 모든 이용자 게시물을 활용하겠다는 새로운 이용 약관을 적용하기도 했고요. 지난해 6월에도 메타가 사용자들이 인스타그램, 페이스북에 올린 게시물을 학습에 활용하고 있다는 사실이 밝혀지면서 강한 반발에 부딪치기도 했죠. (링크)

이런 소식들을 보다보니, 저는 머릿속에 물음표들이 떠올랐습니다.

과연 내가 인터넷에 올린 그림이나 글, 사진 등은 학습되고 있을까? 왜 나는 이런 문제에 대해 아는 게 하나도 없고 어떤 대응도 하지 못하는 걸까? 그래도 좋은 걸까? 그리고 무엇보다도, 무작위로 AI 학습이 일어나고 AI 생성 콘텐츠가 인터넷에 가득해지게 된다고 할 때 과연 나는 그곳에서 ‘꿀잼’을 찾을 수 있을까? 그곳은 내가 머무르고 싶은 공간이 될까?...

이런 의문은 향후 AI가 상용화될수록 더 중요해질 수밖에 없을 것이고요. 반짝이는 AI 관련 이야기에서 동전의 뒷면을 담당하고 있는 이야기이기도 하죠.

그리고 저는 이런 이야기가, ‘기술의 문제’라기보다는 인터넷 공간에서의 민주주의, 사람의 문제에 가깝다고 생각했습니다.

오늘 레터에서는 <떠날 것인가, 남을 것인가>(앨버트 허시먼), <보호받는다는 착각>(질리언 요크), <디지털 휴머니즘>(재론 러니어) 등을 지팡이 삼아 해찰해보려 합니다.

1) 2022년 미드저니 등이 본격적으로 대중화되었을 때도, 사람들은 '모네 풍 시바견'이라든지 '고흐 풍 우리집' 같은 그림들을 그리며 기뻐했었습니다. 텍스트버전이라면 '셰익스피어 풍의 하이쿠'라든지 '다자이 오사무 풍의 랩'(?) 같은 게 있을 수도 있겠네요.

2) 실제로 이미 진행 중인 AI회사와 창작자들 간의 수많은 재판의 핵심이자 난점은, '실제로 AI가 특정인물의 창작품을 얼마나 참고했는가'를 밝히는 일입니다. 그리고 현재 표절 여부를 입증해야 하는 책임은 대체로 문제를 제기한 측에 있습니다.

【2.이탈도, 항의도 할 수 없다!】

만약 연구자님이 놀이터에서 놀고 있었다고 생각해봅니다. 그런데 갑자기 누군가 와서 팻말을 세워 미끄럼틀 타기를 금지하고, 그네를 탈 때마다 500원을 내야 한다고 말합니다. 이때 여기서 세 가지 선택지가 있을 수 있겠죠.

1. 이탈 (놀이터를 떠나기)
2. 항의 (이건 부당하다고 외치기)
3. 참담한 심정으로 가만히 있기

이해를 위해 놀이터의 예시를 들었지만, 사실 이는 집단적 ‘문제 상황’에서 사람이 취할 수 있는 세 가지 핵심 태도라고도 할 수 있습니다. 이 중에서도 ‘이탈’과 ‘항의’는 자유로운 사회에서의 중요한 의사 표현 방법이죠.

이탈과 항의가 자유롭지 않은 집단은 자유롭고 바람직한 사회라고 할 수 없으며, 집단에 어떤 치명적인 문제가 생겼을 경우 회복하기도 어렵습니다.

결론부터 말하자면, 오늘날 인터넷 공간은 ‘자유롭다’는 환상이 존재하지만 - 실은 대부분의 구성원이 ‘이탈’과 ‘항의’를 할 수 없는 독재 국가에 가까울지도 모릅니다.

이는 제가 세계적인 경제학자 앨버트 O. 허시먼의 고전 <떠날 것인가, 남을 것인가>를 읽는 내내 든 생각입니다.

앨버트 허시먼의 <떠날 것인가, 남을 것인가> 영어 원제는 <이탈, 항의, 충성심Exit, Voice, and Loyalty>인데요. 저자는 이 책에서 주로 승승장구하는 집단이 아닌, ‘문제에 맞닥뜨린’ 집단에서 구성원들이 어떻게 행동하는가를 궁리하고 있습니다.

집단이 문제 상황에 빠졌을 때, 그 배에 타고 있는 사람들은 개인 차원에서 어떤 행동을 취하는데요.

그 중 핵심은 ‘이탈’과 ‘항의’입니다.3)

<fig.2> 독일계 미국인 경제학자 앨버트 허시먼(1915~2012). (왼쪽) 쇠락하는 집단/기업에 속한 구성원들의 행동 양식을 분석한 정치경제학의 고전 <떠날 것인가, 남을 것인가Exit, Voice, and Loyalty>(1970) 미국판 표지. 부제는 "퇴보하는 기업, 조직, 국가에 대한 반응"입니다. / transatlanticperspectives(링크), Harvard University Press

그리고 이 책이 많은 사람들의 마음을 흔들게 된 핵심 메시지를 요약하자면 다음과 같습니다.

“(경영자/관리자들은 통상 이탈과 항의를 골치아픈 것, 집단에 방해되는 것 취급을 하지만) 실은 적당한 이탈과 항의야말로, 그 집단이 치명적으로 길을 잘못들지 않고 문제를 고쳐쓸 수 있게 해주는 핵심 동력(=복원력, 회복력)이다!”

이탈과 항의를 통해 - 기존의 시스템에서 무엇이 문제인지를 알 수 있고 침몰하기 전에 고칠 수 있다는 거죠. 이를테면 배가 침몰하기 전에 빵구가 어딨는지를 미리 알고 때울 수 있다는 겁니다. 즉 이는 이용자 입장에서의 민주적 의사 표명이기도 하지만, 거꾸로 관리자 입장에서도 유용한 시그널일 수 있다는 거죠.

그 중에서도 특히 항의는 문제를 알리고, 대안을 찾는 과정에서 중요한 역할을 합니다.

* 1. 고객이 더 이상 기업의 제품을 구매하지 않거나 회원이 조직을 탈퇴한다. 이것이 이탈exit 방식이다. 그 결과 이윤이 하락하고 회원 수가 줄어든다. 경영진은 이런 사태의 원인을 알아내고 해결방안을 찾아야 한다.
2. 기업의 고객이나 조직의 회원은 경영진 혹은 상부기관에 직접 불만을 알리거나 여러 방식을 통해 이를 관심 계층에 전달한다. 이것이 항의voice 방식이다. 그 결과 경영진은 다시 한번 사태의 원인을 찾아내 고객이나 회원의 불만을 잠재우려 한다.

* 이탈 방식에 길들여진 투자자들은 “경영진이 마음에 안 들면 주식을 팔아라”라는 월스트리트의 규칙을 따른다. 그러나 잘 알려진 교본에 따르면 이 규칙은 “결국 나쁜 경영과 나쁜 정책을 지속시키게 된다.” [...] 사회 전반이 부패에 물들지 않게 하려면 사회는 내부의 복원력을 발휘해서 되도록 많은 일탈자들이 본래의 기능에 필요한 행위(항의 등)를 하게 되돌려놓아야 한다.

-앨버트 허시먼, <떠날 것인가, 남을 것인가>

이런 이탈과 항의가 적절한 비율로 작동하는 것이 집단의 ‘복원력’을 유지할 수 있게 해주는 핵심 요인이라는 것입니다.

만약 이 같은 이탈과 항의가 제대로 작동하지 않게 된다면, 그 집단은 치명적인 문제가 생겨도 이겨낼 수 없게 됩니다.

제가 이 책을 오늘 레터에서 가져와본 이유는,

[플랫폼 이용자] 시점에서 봤을 때 우리가 이 두 가지 핵심 카드(이탈, 항의)를 대체로 쓸 수 없다는 점, 그리고 그것을 당연하게 생각해왔다는 점에 새삼스럽게 깜짝 놀랐기 때문입니다.

오늘날 대부분의 상업 플랫폼에선 이탈과 항의 모두가 어렵습니다. 이 두 가지 측면에 대해 간단히 살펴보겠습니다.

ㄱ.이탈이 어렵다 =

우선 오늘날 플랫폼에서 이탈을 하기가 어려운 이유는, 대체로 오늘날 플랫폼이 특정 상품이 아니라 귀속집단같은 역할을 하게 되어 그 안에서 네트워크와 생산 등이 일어나기 때문입니다. 어렵게 생각할 것 없이, 트위터나 페이스북에 대한 ‘불매’가 양말에 대한 불매보다 어렵다는 점을 통해 알 수 있습니다. 이곳은 단순한 서비스를 넘어 - 나의 앨범이자 사교장, 신문, 사회, 창작의 기반, 스크랩북, 교실, 편지, 일기장이기도 합니다.

더욱이 플랫폼은 ‘이탈’을 최대한 막는 것을 가장 큰 목표로 하기 때문에, 의도적으로 다른 플랫폼으로의 이사를 어렵게 하는 측면도 존재합니다.(링크) 또한 이탈을 한다고 하더라도 다른 플랫폼들 역시 큰 차이가 없다면 이탈의 의미가 없겠죠.4)

이처럼 이탈이 자유롭지 않을 때는, 사람들이 불만을 자유롭게 표현하기가 어렵습니다. 허시먼이 ‘항의’와 함께 ‘이탈’을 중요한 요소로 포함시킨 이유기도 하죠.

<fig.3> 과거 싸이월드의 서비스 종료 후 "누구에겐 사진첩, 누구에겐 일기장..."이었던 싸이월드의 데이터를 복구해달라는 국민 청원이 올라왔었는데요. 이처럼 플랫폼은 단순히 일회성으로 구입하는 상품이 아니라, 삶과 밀접하게 연관이 있습니다. (왼쪽) 지난해 7월경, X 플랫폼이 이용자들의 동의 없이 약관을 업데이트해 AI활용에 자동 동의하도록 한 사실이 밝혀져 논란이 되자, 이후 블루스카이·마스토돈 등 타 플랫폼으로의 대대적인 엑소더스(이주)가 일어나기도 했습니다.(링크) 하지만 역시 기존 플랫폼에서의 '친구'들과 그간의 게시물을 모두 포기하는 건 쉽진 않은 일이겠죠. / 국민청원사이트 갈무리, X(링크)

ㄴ.항의가 어렵다 =

이어, 대형 플랫폼에서는 개인이 직접 항의를 하기 어렵기도 한데. 사람들은 상당부분 커뮤니티에 기여를 하고 직접적으로 그 안에서 활동을 하고 있음에도 불구하고, 서비스의 ‘이용자/소비자’로서 상담센터에 컴플레인하는 것 말고는 실질적으로 중요한 정책 등의 문제를 동등한 ‘구성원’으로서 의견을 내고, 해결할 수가 없습니다.

주요한 약관, 정책 등이 변경되는 것은 당연히 감내해야 하는 부분인 것입니다. ‘절이 싫으면 중이 떠나라’ 원칙이죠.

실제로 최근 AI 학습 규정을 넣은 플랫폼들에서 사람들은 울며 겨자먹기로 자신의 창작물들을 삭제하거나, 10년 넘게 사용해온 플랫폼을 떠나 다른 플랫폼으로 옮겨야만 했습니다.

오늘날 플랫폼을 ‘집단/공동체’로 봤을 때, 항의와 이탈은 대체로 불가능하고, 그런 독재 상태에서는 관리자의 이득은 챙길 수 있을지 몰라도 당연히 구성원의 행복은 추구할 수 없습니다.

이런 상황에서는 모든 플랫폼의 구성원들은, AI 학습/ AI콘텐츠 등의 중요한 우리 사회의 문제에 대해 어떻게 우리가 대처할지에 대해 전혀 의견을 낼 수 없습니다.

단지 플랫폼 기업 측의 결정에 순응하거나 불완전한 이탈을 꿈꿀 뿐입니다.

한 가지 의문이 생깁니다. 이런 체념은 어쩔 수 없고, 당연한 걸까요?

3) 허시먼은 이 책에서 '이탈, 항의, 충성심' 세가지 키워드를 중심에 두고 이들 사이의 균형을 추구하는데요. 이중 충성심은 이탈, 항의와는 달리 구체적인 '행동'이라기보다는 문제/불만 상황에서 이탈을 늦추는 '경향성'을 뜻합니다. 쉽게 예를 들자면 만약 제가 개미 동호회의 회원이고, 최근 동호회에 어떤 문제가 생겼다고 할 때 - 만약 제가 '열성회원(=높은 충성심)'이라고 하면 웬만해선 동호회가 더 나아질 수 있을 것이라는 기대를 가지고 곧장 '손절(=이탈)'하는 대신 항의 등의 방법을 통해 두고보며 머무르려고 할 것입니다. 그렇지 않다면 곧장 이탈하겠죠. 이는 정당, 종교모임 등에 널리 적용됩니다. 여기서는 행동으로서의 '이탈'과 '항의'만을 주목했습니다.

+이 중에서도 허시먼은 '항의'에 좀 더 포커스를 두고 있는데요. 이탈도 시그널이 될 수 있지만, 항의야말로 그 문제로부터 도피하는 대신 정면돌파하고 집단을 직접적으로 바꿀 수 있는 '값비싼' 행동이기 때문입니다. 이미 각주가 너무 길어졌기 때문에(..👤) 아래 <참고문헌>에 조금 더 자세한 내용을 적어보겠습니다.

4) 실제로 상업 플랫폼들은 대체로 동일한 목적을 갖고 있기 때문에, 후발주자일 때는 상대적으로 다른 측면을 내세울 수 있지만 결국 그 모양은 비슷해집니다. 이는 오늘날 조회수를 최우선으로 하는 인터넷 커뮤니티들이 규모가 커질 경우 대체로 천편일률적이 되는 이유이기도 하며(💌과거레터), AI가 돈이되는 이상 AI학습으로부터 100% 자유로운 플랫폼이 존재하긴 어렵겠죠(가치판단의 문제는 일단 차치하고라도). 이때는 겉으로는 '이탈'이 가능한 것처럼 보여도, 결국은 본질적으론 이탈이 불가능하다고 볼 수 있습니다.

【3.플랫폼·AI에 대한 알 권리, 참여할 권리】

“오늘날 현재 AI 도구의 블랙박스적 특성은 반드시 종식되어야 한다고, 나를 포함한 동료들 거의 대부분은 목소리를 높이고 있다.”- 재런 러니어, <There is no AI>

지금까지 문제에 대항하는 - ‘항의’와 ‘이탈’에 대한 이야기를 해왔습니다만.

실은, 그 아래엔 감춰진 더 근본적인 문제가 있습니다.

오늘날 인터넷 생태계에서, 우리는 대체로 “무엇이 문제인지조차” 알 수 없다는 겁니다! 항의건 이탈이건 이전에요.

이 때문에 만약 ‘인터넷이 민주적이고 평등한 공간이어야 한다!’고 한다면, 우선 ‘알 권리’가 반드시 보장되어야 한다는 거죠. 그리고 그 알 권리를 바탕으로 우리가 적극적으로 항의, 다른 의견을 낼 수 있어야 한다는 거고요.

1세대 블로거이자 플랫폼 민주주의를 위해 투쟁해온 활동가 질리언 요크가 쓴 <보호받고 있다는 착각>은 그가 십수년간 페이스북, 유튜브 등 대형 상업 플랫폼의 자의적인 규제, 계정이나 콘텐츠 삭제 등에 맞서 투쟁해온 이야기인데요.

예를 들면, 이스라엘-팔레스타인 분쟁 등과 관련해 팔레스타인의 입장에서 쓰여진 게시물들은 자동으로 ‘규제’하고, 항의하더라도 그 알고리즘, 기준을 전혀 알려주지 않는 문제가 대표적이죠.

이 책이, 비슷한 주제를 다룬 다른 책들과 비교했을 때 가장 흥미로운 지점은 - 플랫폼의 이런 ‘부당한 행동’을 규탄하고 “제대로 좀 해!”라고 다그치는 것을 넘어, 책 한권 분량으로 플랫폼에 대한 ‘알 권리’를 외치고 있다는 점입니다.

<fig.4> 인터넷 활동가 질리언 요크 (왼쪽) <보호받고 있다는 착각> 책 표지. 질리언 요크는 이 책에서 주로 '온라인 검열'의 문제를 다루고 있습니다. 조금 더 자세히 말하자면, 온라인 검열이 어떻게 현실에서의 권력 격차를 더 심화하는 방식으로 일어나는지의 문제입니다. / empodera, 책세상

저자는 유튜브가 세상의 모든 까다로운 문제와 분쟁들에 대해서 솔로몬대왕처럼 모든 걸 완벽하게 판결·규제할 수 있을 것이라고 기대하지도 않고 그럴 수도 없다는 전제를 둡니다.

당연히 유튜브 등 플랫폼 관리자들이 모든 사건에 대한 가치를 판단할 수 없고, 그럴 필요(혹은 권리)도 없습니다.

그건 모두가 함께 해야 하는 일입니다. 그리고 모두가 함께 하기 위해선 일단 블랙박스를 뜯어야 합니다.

페이스북의 주장 중 한가지는 옳다. 이것은 정말로 어려운 문제이며 정답이 없는 문제다. 그러나 그것은 또한 우리가 하나의 사회로서 함께 논의해야 하는 문제다. 기업에 그 문제의 해결을 맡겨서는 안된다.

-질리언 요크, <보호받고 있다는 착각>(이하 동일)

그렇기 때문에, 저자는 유튜브 등 플랫폼들이 ‘블랙박스’를 열어서 규제 및 가치판단, 알고리즘과 관련된 정보를 투명하게 공개하고 - 이를 시민 사회가 함께 고민해가야 한다고 강조하죠.

비록 본문에 AI와 관련된 이야기는 직접적으로 나오지 않았지만, 저는 중요하고 복잡한 문제에 대한 사회적 논의의 필요성을 강조한 이 책을 읽으면서 - 과연 오늘날 우리가 AI에 대해 마치 SF영화가 상영되길 기다리는 관객처럼 이따금 깜짝 놀라거나 겁을 먹기만 하면서 기업이 다음에 어떤 ‘서비스’를 내놓을까 긴장하거나 열광하기만 하는 것이 올바른 일인가에 대해 곰곰 생각하게 되었습니다.

<보호받고 있다는 착각>을 읽어내려가다보면 실제로 우리가 상상하는 것 이상으로 인터넷에서는 다양한 가치판단들이 일어납니다.

저자는 이 두꺼운 책에서 반복적으로 ‘기울어진 규제’의 이야기를 말합니다. 그리고 중요한 건, 플랫폼 업체들이 그 과정을 공개할 생각조차 없고, 공동체를 위해 콘텐츠를 바른 방향을 조정하는 미세한 과정은 돈이 되지 않기에 대충 내부에서 ‘해결’되어왔다는 겁니다.

* 오프라인에서 탄압을 가능하게 하는 구조가 온라인에서도 고스란히 재현된다 […] 이런 새로운 검열 방식으로 가장 큰 타격을 입는 것은 언제나 그 사회의 소외된 공동체다.
[...] 2016년 페이스북은 (팔레스타인 가자의) 서안지구의 주류언론사 QNN과 셰합통신사 편집자들의 계정을 차단했다 […] 이듬해에는 서안지구의 지배 정파인 파타Fatah의 공식 계정을 차단했다. 페이스북이 이스라엘 당국과의 관계를 공식화한 지 1년이 지난 후 가디언은 페이스북의 콘텐츠 관리 정책이 팔레스타인 사람들과 단체를 어떻게 차별하는지를 폭로하는 문서를 입수해 보도했다 [...] 내가 인터뷰한 전직 페이스북 운영팀 전문가 애나도 내 의견에 동의한다 “처음부터 끝까지 절차에 대한 책임의식을 찾아볼 수 없습니다.” [...] 페이스북의 대변인들이 2000단어가 넘는 이메일 교신에서 그 페이지가 왜, 어떻게 삭제되었는지 묻는 우리의 질문에 제대로 답한 적이 한번도 없었다는 것도 사실이다.

* 미국의 소셜미디어 기업들은 다양한 글로벌 공동체에서 활동하면서 약 50여개국의 언어로 기록된 콘텐츠를 감독하지만, 콘텐츠 감독팀에 대한 투자는 공학기술 관리 및 개발, 인수합병에 대한 투자에 비하면 너무나 미미하다. 이것은 곧 국제적인 네트워크 커뮤니케이션 플랫폼이라는 페이스북의 주요 혁신의 근간을 감독하는 과중한 업무를 대부분 제3자 하청업체에 전적으로 맡긴다는 것을 의미한다. 이것은 우연한 결과가 아니라 페이스북이 핵심 서비스보다 기업의 사세 확장을 우선순위에 둔 의도적인 선택의 결과다.

이 때문에 저자는, 단순히 콘텐츠 업체들의 ‘최대 수익’을 위해서가 아니라 - 우리 공동체의 정의를 위해서는 반드시 이 과정을 투명하게 공개해서 토론이 일어나야 한다고 강조하고 있는 것입니다.

AI의 경우에도, 어떤 정보를 어떤 방식으로 활용하고, 그 학습이 정당이용에 해당하는지, 어떤 문제가 있을 수 있는지 사회적으로 계속 꾸준히 자료를 공개하고 정당한 항의를 받는 방식으로 운영해가야 할 것입니다.

그렇게 될 때, 우리는 공동체를 위해 긍정적인 방식으로 플랫폼, AI를 만들어갈 수 있지 않을까요?

【4.AI는 ‘제2의 지브리’를 만들 수 있는가?】

여기까지 우리가 ‘함께’ AI 등 중요한 것들에 대한 이야기를 적극적으로 항의 등을 통해 논의할 수 있어야 한다(민주주의)는 이야기를 해보았습니다.

잠깐 서두의 지브리 이야기로 돌아가봅니다.

그간 지브리 AI와 관련된 이야기들을 보면서, 실은 이런저런 이야기들보다도 제 마음속에 가장 크게 떠올랐던 질문은 바로 다음과 같았습니다.

“사람들이 ‘지브리 스타일’ AI에 열광할 때, 그것은 과연 [지브리]에 대한 열광인가? 아니면 [인공지능]에 대한 열광인가?

- 사람들이 저렇게 열광적으로 자신의 돌사진부터 시작해 가족 사진, 여행 사진 등 모든 사진을 (서버에 과부하가 걸릴정도로) 때려넣어보며 기쁨을 느꼈던 건 사실 사람들이 지브리를 사랑했던 마음이 옮아간 것이 아닌가? 만약 제2의 지브리를 만들 수 없다면, 즉 AI가 그 자체로 자신의 독창적인 창작물을 만들 수 없다면, 과연 ‘XX 스타일 AI’ 생성물들만 남은 곳에서 우리는 즐겁게 콘텐츠를 즐길 수 있을까?...”

이런 질문에 대해 실마리를 줄만한 책을 한 권 읽었기에, 편지의 마지막에 간단히 소개해보고자 합니다.

<디지털 휴머니즘You are not a gadget>은 ‘VR의 아버지’이자 실리콘밸리 1세대 괴짜 개발자인 재런 러니어가 쓴 책인데요.

책에서는, 주로 인터넷의 ‘지식/문화 콘텐츠 생태계’에 주목하고 있습니다.

<fig.5> 실리콘밸리의 구루 재런 러니어. 그는 VR이라는 개념을 처음 만든 사람이자, 업계의 내부자이면서도 꾸준히 인터넷 생태계에 대해 자유분방한 비판을 가해온 이로도 유명합니다. 위에서 살펴본 허시먼의 개념에 따르면 '항의'를 잘 해온 사람이라고도 할 수 있겠네요. (왼쪽) <디지털 휴머니즘> 책표지. 원서 제목은 <당신은 도구가 아니다You are not a gadget>이고, 제목은 내용의 핵심을 잘 보여줍니다. / Newyorker, 에이콘

책의 핵심 메시지는 - 책의 제목에서도 유추할 수 있듯, “수십년 인터넷의 역사에서 만약 어떤 것이든 좋은 것이 있었다면, 그것은 (기계나 시스템의 신묘한 작용 때문이 아니라) 오직 ‘사람’ 때문이다!”라는 것입니다.

하지만 2000년대, 거대 플랫폼 중심의 웹2.0(링크)의 시대에 들어서면서 (의도적으로) 사람의 기여보다는 - 이 모든 정보, 콘텐츠들이 시스템, 플랫폼‘으로부터’ 공짜로 퉁 떨어진 것처럼 보이게 하면서, 콘텐츠의 독창성과 재미, 퀄리티 등이 크게 떨어졌다는 거죠.

이 책은 AI가 지금처럼 대중화되기 이전인 2010년에 나온 책이고, 책에서 직접적으로 AI에 대한 이야기가 거론되진 않습니다만.

저는 놀랍게도 이 책을 펼쳐 읽어보면서, 그간 AI 콘텐츠에 관해 읽었던 어떤 글들보다도 더 느낌표가 떠올랐습니다. 심지어 저자가 십수년 전에 이미 오늘날의 AI와 관련된 상황을 예견하는 것같다는 생각이 들기조차 했습니다.

제가 이 책에서 개인적으로 주목한 포인트는 크게 두 가지였는데요.

ㄱ. #사람을 지운 대가 : 의도된 ‘정보의 홍수’

ㄴ. #참고인가, 표절인가? : 진짜 의미있는 정보는 ‘뾰족함edge’에서 나온다

이 두가지 포인트에 대해 아래에 각각 짧게 이야기를 풀어보도록 하겠습니다.

ㄱ.#사람을 지운 대가 :

“정보의 홍수” “넘쳐나는 자극적인, 저품질 콘텐츠들로 가득한 진절머리 나는 장소”...

오늘날, 과연 인터넷 공간을 흥미진진하고, 영감을 주는 새로운 것들을 만날 수 있는 기회로 생각하는 사람은 얼마나 될까요?

원래부터 인터넷 공간이 그랬던 것은 아닙니다. 초기 인터넷엔 개성있는 괴짜들의 시도가 가득했고, 알고리즘보단 사람이 중요했고, 개인 홈페이지에는 덕후들의 아마추어적 헌신이 깃든 창조적 콘텐츠들이 가득했습니다. 그 안에서 사람들은 다채로운 재미와 개성을 느꼈죠.

재론 러니어에 따르면 오늘날의 인터넷 생태계를 악화시킨 결정적인 원인은 ‘누스피어’의 환상이었습니다.(링크)

여기서의 누스피어Noosphere란 수많은 사람들이 모이면, 별다른 창작에 대한 투자나 전문적인 연구, 취재 등 노력 없이도 자연스럽게 하나의 초월적인 지식을 얻을 수 있을 것이라는 환상인데요.

기계 뒤에 사람이 있음에도 불구하고, 그리고 그 사람이 정작 어떤 중요한 독창성, 재미를 제공해주었음에도 불구하고 마치 ‘위키피디아’가 ‘레딧’이 ‘네이버’가 무엇을 한 것처럼 그 뒤의 사람들의 노력, 장난, 헌신을 애써 지웠던 거죠.

<fig.6> '누스피어'의 세계관에서는, 의도적으로 글쓴이의 개성과 독창성은 무시됩니다. 그가 실제로 어떤 것을 창작했는지, 누가 원저자인지도 상관없이 중요한건 '결과물 데이터' 뿐이죠. 이런식으로 '데이터'가 '쌓이다보면' 자연스럽게 완벽한 지식을 얻을 수 있다는 것이며, 오늘날 대부분의 온라인 생태계에선 이런 방식으로 게시물이 복제의 복제(디지털 풍화가 일어날 정도로) 혹은 창조가 아닌 큐레이션, 혼합(mash-up)만을 거듭하는 경우가 많습니다. (왼쪽) 네이버 <지식인IN> 플랫폼에서 정감가고 인간적인 응답으로 큰 인기를 얻었던 고 '녹야 조광현'씨(링크). 과연 사람들이 열광했던 이유는 플랫폼 때문이었을까요? / Medium, tvN

그들(대형 플랫폼 기업)의 신념은 컴퓨터가 모든 일을 하고 사람은 아무것도 하지 않는다고 가장할 수 있을 때 번창하기 때문에, 자발적 참여를 통한 생산 방식이 당연시되어야 했다. [...] 컴퓨터를 전면에 내세우고, 사람을 그에 봉사하는 익명의 조각들로 환치하는 것이다.[…] 상업적 수집 및 추출 사이트들은 사람들을 창의성의 원천으로 대접하는 대신 그를 익명화해, 그 창의성의 조각들이 마치 하늘에서 떨어졌거나 땅에서 파낸 상품인양 취급하면서 그 진정한 원천을 모호하게 만들었다 [...] 웹2.0 열광자들의 문화에는 품질의 관념을 무시하는 사례가 부지기수여서 한두개만 꼽기가 어려울 지경이다.

이처럼 인터넷 공간에선 익명성과 맥락 없음이 기본이 되면서5), 작가와 창작자들보다도 콘텐츠, 데이터가 우선이 되었고요.

이럴 경우, 전체적인 콘텐츠의 양은 기하급수적으로 늘고, 플랫폼 입장에선 별다른 콘텐츠 비용을 투자하지 않더라도 돈을 벌 수 있지만 - 그중 정말로 독창적이고 낯선 영감을 얻을 수 있을 만한 가치있는 콘텐츠는 자연히 줄어들 수밖에 없습니다.

그야말로 ‘의도된 정보의 홍수’라고 할 만한 거죠.

ㄴ.#참고인가 표절인가? :

이어, “어떤 정보냐”의 문제에 주목해봅니다.

과연 우리가 정보를 찾을 때 - 참조할 데이터가 무한히 많은 정보, 무난한 평균치만 원할까요?

그렇지 않습니다. 우리는 본질적으로 모르는 걸 궁금해합니다.

실은 우리는 정작 청개구리처럼 정보가 없는 곳을 서성이는 경우가 많고, 그 정보의 뾰족함이 실질적인 영감과 직결됩니다.

예를 들어, 만약 제가 ‘한국에서 2010년대에 유행한 드라마에 대해 말해줘’라고 하면 데이터가 많이 있기 때문에 얼추 다양한 글들을 참고할 수 있겠지만,

반면 - ‘20세기 말, 아주 잠깐 유행했던 팩스뉴스* 서비스에 대해 알고 싶어’ ‘1980~90년대 사회운동에 고등학생들이 참여했던 경험에 대해 알고 싶어(링크)’라고 한다면 사실상 온라인엔 정보가 없거나 - 있다고 하더라도 극소수의 논문, 책을 참고해야 합니다.

*팩스뉴스 = 직접 인쇄해 각 가정으로 배달할 필요 없이 전기신호로 판을 보내면, 집에 있는 팩스를 통해 출력해서 볼 수 있었던 간단한 신문. 많아야 4~5매정도이고, 소수의 타깃을 대상으로 광고없이 전문적인 정보를 모았다고 합니다. 오늘날의 뉴스레터와 비슷하다고도 할 수 있겠네요.

이 때문에 러니어는 이 책에서 - 플랫폼에서 타인의 게시물을 보고 ‘참조해서 창조한다’고 하지만, 저자에 따르면 어떤 콘텐츠가 [뾰족한 것]일수록 웹상의 ‘참고’는 사실상 ‘표절’에 가까울 수밖에 없다고 지적합니다. 그리고 그런 콘텐츠는 ‘극소수, 일부’가 아니라 실은 대다수라는 거죠.

n(정보의 개수)이 커짐에 따라 통계치의 신뢰도도 커진다. 이는 또한 군중 속 누군가가 나에게 대박의 가능성을 지닌 노래나 비디오를 공짜로 주게 될 가능성도 높아진다는 뜻이다.
[…] (하지만) 인터넷에서 어떤 식으로든 의미를 가질 수 있을 만큼 큰 n은 사실상 존재하지 않는다는 점을 지적해야 겠다 […] 옐프(식당평점사이트)나 아마존같은 사이트에서 어떤 식으로든 리뷰를 얻는 제품의 압도적 다수를 봐도 통계적 유의미성을 얻기에는 그에 대한 리뷰어 숫자가 너무 적다.

문제는, 앞서 말했듯 - 대부분의 정말 중요하고 가치있는 정보들은 n의 법칙이 해당되지 않는 영역이라는 것입니다.

이 문제를 AI로 끌어와서 생각해본다면,

실제로 기본적으로 AI 콘텐츠는 웹에서 긁어모은 자료를 기반으로 하기 때문에, 정보 수가 적은 것일수록 사실상 원래 글·그림에 가장 가까운(거의 복제나 마찬가지의) 글을 내놓곤 하는데요.

실제로 저는 위의 대목을 읽으면서, 그간 제가 자료조사를 하며 챗GPT 등 AI에 “질문”을 했을 때 대다수의 뾰족한 질문들에 대한 제대로 된 대답을 얻을 수 없었던 기억이 떠올랐습니다.

혹은 대답이 나오더라도, 그건 대체로 ‘원재료’가 된 링크 내 정보를 아무렇게나 뒤섞어 재미없게 요약해놓은 열화버전에 불과했죠. 당연히 원재료가 된 글의 퀄리티에 따라 답변의 질이 크게 차이가 났고요.

이쯤에서 궁금해집니다.

그렇다고 할 때 - 과연 “AI가 더 진화하면” 원재료가 부족하더라도 새로운 것을 창조할 수 있을까요?

AI는 지브리 스타일이 아닌, ‘제2의 지브리’를 만들 수 있을까요?

만약 인간의 독창성과 헌신이 깃든 양질의 원재료가 없다면 어떤 학습도, 작동도 불가능하다면(링크), 대체 우리는 왜 이 모든 것이 AI의 일이라고 생각하며 두려워하고 있는 걸까요? ...

<fig.7> SF적 이미지 그림으로 유명한 일러스트레이터 켈리 맥커넌. 그는 과거 미드저니 등 이미지 생성 AI 플랫폼에서 ‘켈리 멕커넌 스타일로 A를 그려줘’라는 식의 프롬프트가 수만건이 넘게 입력됐었다는 사실을 알게되어 소송을 진행 중입니다.(링크) 실제로 어떤 이미지를 생성할 때, (요새 유행인 "지브리 스타일"처럼) 특정 레퍼런스, 작가를 넣고 '~스타일'로 그려주라고 프롬프트를 입력하라는 것이 대놓고 '꿀팁'으로 통용되기도 했었죠. (왼쪽) 켈리 맥커넌이 직접 미드저니에 '켈리 맥커넌 스타일로 목 주변에 리본이 둘러진 흰 머리 여성을 그려달라'고 입력하자 나온 결과물들. / Seattletimes, X

이런 현실은 결코 바꿀 수 없는 건 아닙니다.

재런 러니어가 강조하는 것은 - 인터넷과 관련해서 어떤 것(심지어 우리가 당연하게 여기는 ‘폴더’라는 개념조차)도 자연적으로 탄생한 것이 아니라 역사적으로 인간에 의해 만들어져왔다는 것입니다.6)

정해져 있는 것은 아무것도 없습니다. 더 나은 미래를 위한 자유분방한 상상이 필요합니다.

예를 들면 러니어는 이 책에서 ①실제 창작자들에게 기여를 하는 방식으로서 접속에 대가를 제공하는 아이디어를 소개하기도 하고(“그 벌집같은 온라인 세계에서 종일 자원봉사하는 사람은 월세를 어떻게 벌까”), 혹은 ②인터넷에서의 인용, 참고와 관련해 맥락의 연결을 강조한 색다른 저작권 개념을 상상해보기도 합니다.

* (테드 넬슨*은) 디지털 미디어를 복제하는 대신, 각 문화적 표현을 단 한 카피씩만 효과적으로 보관하면서, 그에 대한 접근이 일어날 때마다 그에 걸맞은 소액의 대가를 원저자에게 지불해야한다고 주장했다. 그 결과 누구든 창의적 작업을 통해 부자가 될 수 있다 […] 별로 유명하지 않은 학자도 여러해에 걸쳐 그의 저작이 되풀이 인용되고 참고 문헌으로 소개되면서 궁극적으로는 많은 수입을 올릴 수도 있다.

*테드 넬슨 = 1960년대에 디지털 하이퍼텍스트 개념을 최초로 창안한 컴퓨터과학·철학자

* ‘맥락context’은 언제나 예술적 표현의 한 핵심이었다. 맥락이 임의적인 것으로 변질되면 예술적 표현도 무의미해진다. 같은 단어로도 어떻게 배열하고 어떻게 맥락을 잡느냐에 따라 냉장고 청소법을 설명하는 글이 되는가 하면 존 레논의 ‘이매진’ 노랫말이 될 수도 있다. 의미는 오직 맥락과 결부될 때만 의미를 갖는다.’ […] 하지만 왜 크리에이티브 커먼스는 다음과 같은 선택 사항은 내놓지 않는가?

“내 음악으로 무엇을 하고 싶은지 내게 편지를 쓰거나 말씀해 주십시오. 제가 생각할 때 타당한 이유라면 당장 쓸 수 있도록 허락해드리겠습니다. 내 맘에 들지 않더라도 쓸 수는 있지만 그 경우에는 6개월을 기다려야 합니다. 혹은 나와 여섯차례의 의견 교환 과정을 거쳐야 겠지만, 그 다음에는 당신이 원하는 대로 쓸 수 있을 것입니다. 혹은 당신의 매쉬업 작품에다 내가 어떤 이유로 당신의 아이디어를 좋아하지 않았는지를 설명하는 고지문을 반드시 포함시켜야 합니다...”

저는 아래의 대목을 읽으며, 문득 최근 지브리풍의 AI 변환을 통해 이스라엘 군 공식 계정이 자신들을 홍보하는 이미지를 만든 것이 문득 떠오르기도 했는데요(링크).

물론 원작자가 패러디를 완벽하게 관리할 순 없겠지만(링크), 만약 타인의 예술을 참고, 활용할 때 재런 러니어의 말처럼, 원작자와의 소통이 필요했다면 창작의 양상은 조금 달랐을 수 있겠죠.

다만, 핵심 문제는 - 오늘날 이런 도전적인 상상, 대안들이 전혀 진지하게 이야기가 될 기회를 얻고 있지 못하다는 것입니다.

대신 오늘날 오직 AI와 관련해서 떠도는 이야기는 한사코 이 대단한 기계가 인간을 대체할 것이냐 등의 이야기 뿐이죠.

이 책을 덮으면서, 저는 현재의 시스템을 당연하게 받아들일 것이 아니라 - 그 안에서 사람들이 어떤 것을 진짜로 사랑하고, 무엇을 진짜로 하고 있는지를 바라봐야 한다고 - 그리고 그런 일들이 제대로 작동케하기 위해 목소리를 내야 한다고 생각했습니다.

이는 단순히 기술적인 문제이기 이전에, 가치의 문제니까요.

✏️

“위키피디아는, 그를 구성하는 텍스트 자체에 초인적 타당성을 주기 위해 텍스트에 대한 인간 저자의 지식을 그 뒤에 숨겨버리는 이른바 ‘신탁의 환상’ 위에서 작동한다 […] ’장대한 구상’들은 결국 비트의 환상에 대한 경배로 수렴되면서 […] 주요 권력의 핵심부를 장악했다. 전화선의 다른 끝에 있는 존재는 위키피디아거나 ‘가짜 인간’일지 모른다. 그러나 정말로 우리가 듣는 것은 튜링의 실수가 끊임없이 되풀이되는 소리다.” -재런 러니어

5) 개인적으론, 이 현상의 대표적인 사례가 오늘날 플랫폼에서의 뉴스 소비 방식이라고 생각합니다. 기사들은 맥락에서 떨어져나가고, 언론사가 어딘지도 별로 중요하지 않습니다.

6) 사실 '저작권'의 개념이 오늘날엔 굉장히 엄격하게 서있지만, 과거 저작권 개념이 모호했던 16~18세기 무렵엔 어떤 책이 유행하면 카피해서 말도 안되게 엉망진창인 시리즈를 만들거나 복제해서 해적판을 내는 것이 엄청 흔했다고 합니다. 물론 오늘날의 '저작권' 개념에도 이런저런 한계가 있습니다만 - 어쩌면, 오늘날 '책'이라는 매체가 그래도 상대적으로 다른 매체에 비해 독창적이고 낯선 내용들을 품고있는 이유는 다른 이유보다도 저자의 독창성과 창의력, 수고를 법적으로 보장한 저작권 개념에 힘입은 것이 크지 않나 생각해봅니다. 미국 소설가 존 업다이크는 2006년 웹2.0시대의 누스피어('저자의 종말')에 맞서 책이 품은 수상한 '엣지edge'를 강조했습니다.(링크) 이런 말은 일각에선 비웃음거리가 되었던 모양입니다만...

【5.맺음말】

오늘 편지에선 플랫폼과 민주주의에 대한 이야기를 시작으로, 디지털 공간의 미래에 대한 상상력까지 해찰을 해보았습니다.

그리고 레터를 다 써갈 때쯤, 저는 곰곰 생각했습니다.

‘만약 기계가 모든 것을 하는 것처럼 보인다면, 그건 우리가 단지 그런 이야기를 받아들였기 때문일지 모른다’

저는 지금 ‘지브리 스타일 AI 열풍’의 중심부에는 본질적으로 지브리의 독창적인 세계관, 환상과 고뇌, 망설임, 이야기에 대한 전세계인의 사랑이 자리하고 있다고 생각합니다. 이 역시 AI가 대단한 것이라기보다는, 지브리가 쌓아온 시간과 작품들의 덕분이겠죠. (만약 ‘김스피 낙서풍 AI’같은 게 있었다고 하더라도 아무도 관심을 주지 않았을 테니까요)

저는 무엇보다도 AI와 관련해 우리가 손쉽게 ‘대체’라는 단어를 쓰지 않았으면 좋겠다고 생각합니다.

실상을 뜯어보면 중요한 것들 중 어떤 것도 진짜로 대체된 것은 없으며, <디지털 휴머니즘>에서 재런 러니어가 말했듯 - 무언가가 ‘대체될 수 있다’는 환상 자체가 무언가를 착취하기 위한 유구한 수단이었이기 때문입니다.

노동력이 대체될 수 있다는 환상이 그 자체로 노동의 가치를 하락시키는 결과를 낳았고(링크), 기계가 저절로 인터넷 공간을 관리할 수 있다는 환상이 관리자들의 수고를 평가 절하하는 결과로 이어졌듯이요(링크).

연구자님들께서도 이번 레터를 계기로, AI와 관련된 열광의 서사들을 한발 떨어져 바라보는 기회를 가져보실 수 있다면 좋겠습니다.

단순히 AI를 찬성하거나 반대한다는 이분법을 넘어, 그 안에서 우리가 어떻게 살아갈 것인가를 주체적으로 고민하기 위해서요.

✏️

“사람들은 기계를 똑똑한 존재처럼 보이게 하려고 늘 스스로를 비하한다.” -재런 러니어

※레터를 쓰며 읽은 책, 이 주제에 관심이 있으신 독자들이 추가로 읽을만한 서적 등을 추천합니다.

앨버트 허시먼, 강명구 옮김, 『떠날 것인가, 남을 것인가』, 나무연필, 2016.

-오래 전부터 읽어보고 싶다는 생각이 있었는데, 이번 기회에 읽다가 엉뚱하게도 지브리 AI 유행에 대한 생각과 이어지는 부분이 있어 오늘 레터에서 함께 다루어보았습니다. 앞서 각주에서도 이야기했습니다만, 사실 저자는 이탈/항의/충성심 가운데 어느 것만 집중적으로 강조한다기보다는 - 다양한 맥락에서 이 세가지 요소의 조화가 필요하다고 말하고 있습니다. 예를 들어, 공공재의 경우 이탈을 막고 그 안에서 항의가 일어나도록 하는 편이 낫다고 하는 식으로요. 그리고 흥미롭게도 저자는 '충성심'(맹목적인 충성심X) 역시 중요한 가치로 얘기하고 있는데, 이유는 충성심은 즉각적인 반응을 늦춤으로서 집단이 좌초하기 전에 복원력을 얻을 수 있는 요소가 되기 때문입니다. 다만 책을 읽고 나면, 무엇보다도 이 중에서 허시먼이 가장 강조하고 싶었던 가치는 '용감한 항의'가 아니었나 생각합니다.

'절이 싫으면 중이 떠나라'라는 말도 있습니다. 그렇지만 - 그럼에도 불구하고 절에 머무르며 그곳을 뜯어 고치는 데는 용기도 필요하고 굉장히 번거로운 일이지만 - 그런 사람들이 존재하기에 세상은 어느정도 살만하게 되는 것이 아닌가 생각합니다. 오늘 레터에서 다룬 다른 두 권의 책을 쓴 질리언 요크나, 재런 러니어가 이런 '항의자'라고 볼 수 있겠다는 생각이 듭니다.

질리언 요크, 방진이 옮김, 『보호받고 있다는 착각』, 책세상, 2022.

-이 책은 예전에 인상적으로 읽고 기억해둔 책이었습니다. 사실 <Zucked> 등을 필두로, [거대 플랫폼 기업의 횡포]를 스산하게 고발한 책/다큐멘터리들은 지금까지 꽤 많았었고...처음엔 이 책도 그런류의 책 중 하나겠거니, 해서 신간이 나왔을 때 대강 앞만 살펴보고 있었는데 어쩌다보니 끝까지 훅 다 읽어버렸습니다. 물론 대형 플랫폼 기업이 어떤 방식으로 사회를 망치는가에 대한 고발 및 지적은 필요합니다만, 어쩌면 제가 이 책에 끌린 이유는 - 한발 더 나아가, 독특하게도 이 책이 '직접 알고, 참여할 권리'를 강조하고 있기 때문이지 않았을까 싶습니다.

과거 레터 중 '콘텐츠 모더레이터'를 다룬 레터에 많은 연구자님들께서 호응을 보내주셨었는데요. 그 레터와 이어지는 부분도 있기 때문에 함께 읽어보셔도 좋을 책입니다.

재론 레이니어, 김상현 옮김, 『디지털 휴머니즘』, 에이콘, 2011.

-본문에서도 짧게 언급했듯, 이 책은 2010년에 나온 책이지만 오늘날 상황에 대해서도 많은 영감을 주는 책입니다. 다양한 분야에 대한 이야기를 그 특유의 자유분방한 방식으로 쓴 에세이라서, 만약 디지털 세계의 소통이나 콘텐츠 생산, 교류 등과 관련해 관심이 있으신 분이라면 흥미롭게 읽으면서 다양한 부분에 대해 흥미로운 해찰을 하실 수 있을 것이라 생각합니다.

사실 이 책에서 거기까지 자세하게 다루진 않지만, 공교롭게도 오늘 레터에서 민주주의라는 키워드와 디지털 플랫폼을 함께 다루다보니 - 과거엔 인터넷 생태계에서의 개개인들이 상대적으로 직접 플랫폼을 만들어보고 부수고 시도하고 목소리를 내는 '시민'에 가까웠다면, 웹 2.0시대에는 플랫폼의 '소비자'가 된 것이 아닌가 하는 생각이 들기도 했습니다. 웹1.0시대의 책을 좀더 읽어보고 싶다는 생각이 들기도 합니다.

-2024년 12월 시점에 작성된 논문이며, 2024년 3월 유럽의회를 통과해 8월 공식 발효되어 본격적인 시행을 앞두고 있는 EU AI Act와 관련된 최신의 틀거리 및 향후 예상되는 주요 국면을 한 눈에 살펴보기 좋은 논문입니다.

【글 속 한 문장🖍】

👤주제에 대해 더 읽을 만한 글들을 골랐습니다. 각 사진을 누르면 글을 읽으실 수 있습니다.

빅테크 ‘데이터 확보’ 사활

독서시간: 약 분 / 글자수: 약 자

🖍글 속 한 문장

“현지 정보를 넣지 않고는 이용자들에게 ‘이류’의 경험만 제공할 수 있을 겁니다.”
지난해 6월 메타는 당분간 인공지능 비서 ‘메타 AI’를 유럽에 출시하지 않겠다며 이같이 말했다 [...] 메타의 사례는 AI 시대 핵심 자원인 데이터의 중요성과 함께 공개된 데이터라도 AI 훈련에 마구잡이로 활용하기 어렵다는 점을 보여준다. ‘AI가 학습 가능한 공개 데이터가 고갈될 것’이란 전망이 나오는 가운데 빅테크 기업들은 데이터 확보에 열을 올리고 있다.
AI 연구기관 에포크AI는 이달 초 지금의 거대언어모델(LLM) 개발 추세라면 2026~2032년 AI 학습에 적합한 고품질 공개 텍스트 데이터가 소진될 것으로 예측했다.

👤김스피의 블라블라

지난해 6월 메타는 유럽 이용자들의 공개 게시물을 AI 학습에 활용하려는 시도가 심한 반발에 맞닥뜨리자, 유럽에서 AI 비서를 내놓는 것을 유보한 바 있습니다. 이 사건에서 알 수 있는 점은, 우리가 생각했던 것 이상으로 AI의 품질에는 고품질-현지-최신의 데이터 '학습'이 중요하다는 것이며, 그것이 불가능할 경우 AI는 사실상 제대로 기능하지 못한다는 것입니다. 지난해 말 오픈AI가 차세대 모델을 개발하는 과정(GPT5)에서 데이터셋의 고갈이 가장 큰 걸림돌이 되고 있다는 소식이 있기도 했죠.(링크)

저는 이런 사례를 보며 생각했습니다. AI가 실제로 새로운 것을 만들어내는 일(창발)을 할 수 있냐 없냐는 일단 둘째 치고라도, 이처럼 데이터셋의 역할이 [중요]하다면 거기에 대해 올바른 대가를 지불하면 되는 게 아닐까 하고요. 저는 이 부분이 제대로 해결될 수 있는가에 따라, 아이러니하게도(?) 웹2.0 시대 혹은 그 이전보다도 AI의 시대가 창작자들에게 나은 생태계가 될 수도 있지 않을까 생각해봅니다. 특히 텍스트의 경우 그간 온라인 공간에서 사실상 '공짜'처럼 통용되어왔으니까요.

위키피디아 없는 A.I.를 상상가능할까?

영문(Newyorktimes magazine)

🖍글 속 한 문장

위키피디아는 더 이상 백과사전이 아니다. 혹은 적어도 백과사전'에 불과한 건' 아니다...새로운 AI 챗봇은 위키피디아의 코퍼스를 삼켜버렸다. 위키피디아의 수많은 텍스트들은 질의에 대한 응답에 깊이 포함되었고, 이는 인간 기여자들이 수년간의 힘든 작업을 통해 수집한 지식이다. 영향력에 대한 추정치는 다소 차이가 있을 수 있지만, 위키피디아는 아마도 AI 모델 훈련에서 가장 중요한 단일 소스일 것이다.
위키피디아가 Google 검색 및 기타 정보 비즈니스를 지원하는 데 어떻게 도움이 되는지에 대해 연구한 연구자 니콜라스 빈센트는 "위키피디아가 없었다면 생성 AI는 존재하지 않았을 것"이라고 말한다.

👤김스피의 블라블라

연구자님들께서도 검색을 할 때 구글을 많이 쓰시나요? 언제부턴가(몇개월 전 정도?) 어떤 키워드로 검색을 하면 주로 위키피디아가 뜨던 최상단에, AI 생성 답변이 뜨기 시작했습니다. 특히 영어 키워드로 검색할 땐 거의 AI생성 답변이 가장 상단에 위치하곤 했죠.

그런데 심란한 건(?), 위키피디아와 AI생성 답변의 차이를 거의 알 수가 없다는 것이었습니다. 이를테면 빨간색 바가지가 걸려있던 자리에 다홍색 바가지가 하나 추가된 것으로 보이는데, 딱히 특별한 특장이 없는데도 그 '1페이지 최상단 꿀자리'를 중복 차지하고 있는 이유가 (가치판단은 차치하고라도, 단지 실용성 차원에서도) 궁금해졌습니다.

실제로 그 본질을 생각해보면 위키피디아는 익명의 인간 터커(링크)가 링크들로 카펫을 짜고, AI는 인공지능 머신이 짠다는 차이 정도겠죠. 재밌는 지점은, 오늘날 생성 AI가 가장 많이 맘껏 참고하는 레퍼런스가 바로 익명의 기여자들이 바지런히 짜둔 이 위키피디아라는 것입니다. 그런데 최근 연구에 따르면 거꾸로 위키피디아에 AI 생성 텍스트가 유입되는 비중이 급격히 늘고 있다고도 합니다.(링크)

11,500명 예술가들이 선언하다

영문(NBC)

🖍글 속 한 문장

작곡가이자 Stability AI의 전 임원인 에드 뉴턴-렉스는 이러한 규제 움직임이 전 세계적으로 창작자들에게 매우 중요한 시기에 일어나고 있다고 말했다. 무허가 AI 교육을 둘러싼 법적 싸움과 입법이 계속해서 벌어지고 있기 때문이다.

"많은 생성 AI 회사가 라이선스 없이 창작자의 작업을 훈련합니다." 합의된 훈련 데이터를 사용하는 생성 AI 회사를 인증하는 비영리 단체인 Fairly Trained를 설립한 뉴턴 렉스가 말했다. "이것은 AI 회사가 작품을 악용하는 많은 아티스트, 음악가, 배우, 작가 및 기타 창작자에게 중요한 문제입니다."

👤김스피의 블라블라

라디오헤드의 톰 요크, 노벨문학상 수상 작가 가즈오 이시구로, 제임스 피터슨 등 다양한 분야의 창작자 1만1500여명은 지난해 10월 허가 없이 인간의 예술을 활용해 인공지능을 훈련하는 것을 금지할 것을 요구하는 한줄짜리 짤막한 공개 서한에 서명했습니다. 서명의 내용은 다음과 같았습니다. "창작 작품을 무단으로 사용하여 생성 AI를 훈련하는 것은 그 작품에 참여한 사람들의 생계에 대한 주요하고 부당한 위협이며, 허용되어서는 안 됩니다."

저는 결코 AI가 지브리를 '대체'할 수 없을 것이라고 생각합니다만, 문제는 탁월함의 과정에 이르기까지 수련하고 시도하는 데 드는 시간 및 훈련 기회, 돈을 AI 생성 '예술'들이 침해할 수 있다는 것입니다. 또한 예를 들어 유튜브같은 플랫폼에서 점차 AI 생성 음악들의 비중이 늘어난다면 저작권 비용을 받던 이들의 수익은 줄어들 수밖에 없습니다. 오늘날 통상 '대체'라는 것에 모든 공포, 포인트가 맞춰져있지만, 다양한 각도로 접근해야 될 문제라고 생각합니다.

해당 소식은 '선언'이지만, (본문에서 소개한 케이스 외에도) 현재 세계적으로 창작자들이 생성 AI 기업을 대상으로 진행 중인 소송이 다양한 층위/분야에서 존재합니다.

AI는 없다 : 일단, 신화화를 멈출 것

영문(Newyorker)

🖍글 속 한 문장

(AI는 1950년대 이래) 기술 문화의 종교적 신화가 되었다. 과학자들이 A.I.를 만들고 숙원을 실현하기를 갈망하는 것은 당연하다. 그런데 놀라운 점은 A.I.을 추구하는 많은 사람들이 그것이 인류에게 종말을 의미할 수도 있다고 걱정한다는 것이다...그들은 "가속화된 진보는 우리를 지나쳐 날아가고 우리는 무슨 일이 일어나고 있는지 상상할 수 없을 것이다"와 같은 말을 하곤 한다.
나는 이런 말에 동의하지 않는다. 그들이 틀렸다는 것이 아니라, 우리가 확신할 수 없다는 것이다 [...] 가장 실용적인 입장은 AI를 생물이 아닌 도구로 생각하는 것이다. 기술을 신화화하면 우리가 그것을 제대로 제어하지 못할 가능성이 더 커지고, 이런 종류의 사고방식은 우리의 상상력을 제한하여 어제의 꿈에 묶는다. AI라는 것이 없다는 가정 하에 더 잘 판단할 수 있다. 우리가 이것을 빨리 이해할수록, 우리는 새로운 기술을 지능적으로 관리하기 시작할 것이다.

👤김스피의 블라블라

오늘 챕터 4에서 살펴본 책 <디지털 휴머니즘>의 저자인 재런 러니어가 뉴요커에 쓴 2023년 칼럼입니다. 디지털 휴머니즘은 아무래도 2010년에 출간된 책이다보니, 오늘날과 같은 형태의 대중적인 AI 활용에 대해 그가 직접적으로 언급한 부분이 없었기 때문에 직접 찾아서 읽어보았습니다. 그리고 당연한 얘기지만, <디지털 휴머니즘>에서의 그의 관점이 AI에도 고스란히 적용이 됩니다.

그는 책에서도 여러차례 강조하듯, 결코 기술 반대론자가 아닙니다. 그는 오히려 가장 기이하고 독창적인 것을 만드는 기술, 그것이 가져오는 깜짝 놀람을 누구보다도 사랑하는 사람이자, '적극적으로 항의하는 사람'입니다. 분량은 좀 길지만 이 칼럼 외에도 그가 2024년에 쓴 칼럼(How to Picture A.I) 등을 함께 읽어보면, 책 한 권을 읽은 것 이상의 영감을 얻을 수 있습니다.

👥지난 회차의 반응

지난 회차(‘가독성이라는 환상: 하고싶은 말 없는 요약은 가능한가?[3월의김스피]’)에 대한 연구자님들의 반응을 모아 소개합니다. 편지로 다양한 의견을 보내주셔서 감사합니다. 아래 버튼을 누르면 연구자님들의 반응을 읽을 수 있습니다.

👥지난 회차의 반응 및 피드백

1. 오늘 레터는 어떠셨나요? 아래 ‘💌편지보내기’ 버튼을 눌러서 오늘 레터에 대한 감상이나 질문 등을 보내주세요. 간단한 한줄 감상도 좋고, 연구자님이 떠올리신 독특한 해찰거리도 좋습니다 :) 레터를 통해서 보내주시는 작은 격려와 의견들이 레터를 쓰는 데 큰 힘이 됩니다. 흥미로운 해찰은 레터를 통해 함께 공유하도록 하겠습니다.

인스피아에서 차후 다뤄볼만한 주제나 좋은 콘텐츠 등의 추천도 감사히 받고 있습니다.

1.혹시 지난 회차 가운데서 '아, 이 회차에서 이 책(혹은 영화 등)을 다뤘었으면 좋았을텐데, 아깝다!'라는 생각이 드신다면 지난 회차의 주제에 대한 책이라도 추천해주시면 검토 후 레터에서 공유하도록 하겠습니다. 신간도 구간도 상관 없습니다. 회차명과 책 이름, 그리고 짤막한 추천 이유를 적어서 아래 '💌편지 보내기' 버튼을 통해 보내주세요. 지난 회차의 레터 내용은 아카이브 페이지(💬링크)를 참조해주세요.

(*2024년부터 스티비 정책의 변경으로 gmail 발신 주소가 변경되어, 예전처럼 이 메일에 ‘답장’ 형태로 감상 등을 보내주실 경우 제가 읽을 수 없습니다! 메일을 보내실 경우, khnewsletterkh@gmail.com < 이 주소를 복사 붙여넣기 하여 보내주세요🎈)

SNS나 커뮤니티 등을 통해 주변에 레터를 추천해주시면 창작에 큰 힘이 됩니다. 친구에게 레터를 소개해주시려면 '구독하기' 버튼을 눌러 나오는 주소를 복사 붙여넣기 하시면 됩니다.

오늘도 레터를 읽어주셔서 고맙습니다. 다음 회차(4/16일 4월 셋째주 수요일)에 뵙겠습니다.👥

🌼구독하기

💌편지 보내기

👥레터 소개 및 피드백 페이지

인스피아INSPIA

khnewsletterkh@gmail.com

수신거부 Unsubscribe