흥미롭게도 이번 파업은 임금과 재상영분배금 문제에서 그치지 않습니다. 63년 전에는 없었던 생성 AI가 등장했기 때문이죠. 영화, 방송 콘텐츠 제작사들이 콘텐츠 제작 과정에 생성 AI를 도입하려는 움직임을 보이자, 배우와 작가는 이에 반발하고 있습니다.

생성 AI에 대한 작가와 배우의 이해관계는 조금 다릅니다. 작가들의 주된 우려는 저작권 침해입니다. 작가의 허락이나 동의 없이 생성 AI 학습에 작품이 활용되거나, 작가가 작품 전체가 아니라 일부에만 관여하게 되는 등의 불공정 계약이 이루어질 수 있다는 것이죠. 이들은 작가의 역량을 평가절하하고 다만 비용을 줄이기 위해 생성 AI를 도입하려는 제작사의 논리에 반대합니다.

반면 배우들의 우려는 저작권보다는 퍼블리시티권 침해에 가깝습니다. 배우 본인들의 허락 없이 자신의 목소리와 얼굴, 표정, 움직임이 무단으로 생성되어 콘텐츠 제작에 활용되는 것에 대한 반발이지요. SAG-AFTRA는 영화·TV제작자연맹(AMPTP)이 엑스트라 배우의 이미지, 움직임 등을 영원히 소유하며, 배우의 동의 없이 언제든 그 데이터를 사용할 수 있도록 하는 ”획기적인” 계약을 제안해 왔다고 비판합니다.

할리우드가 생성 AI를 받아들이는 방식은 한국을 비롯한 전 세계 영화, 방송 콘텐츠 제작 시장에 영향을 미칠 것입니다. 넷플릭스 등 OTT 사업자는 세계 각국에서 콘텐츠를 생산하고 있죠. 이번 파업이 어떤 결과로 이어지든, 저작권과 퍼블리시티권에 있어 상당히 중요한 법적 의미를 갖게 될 것이고, 효과 역시 할리우드에 국한되지 않을 겁니다. AI와 영화, 방송 콘텐츠 시장은 어떤 결론에 도달하게 될까요.

• 🍊 산디: 많은 인터넷 정책이 시장 행위자들의 합의로 정리되곤 합니다. 이번 할리우드 파업 역시 시장 행위자들 간 교섭으로 비치지만, 어떤 결론에 도달하든 그 여파는 한국을 비롯한 전 세계에 미칠 거예요. 그 결정 과정에 한국의 이해관계자들이 쉽게 참여할 수는 없지만, 관심 갖고 지켜보면 좋을 것 같아요.

WEDF(World Ethical Data Foundation)에서 <책임감 있는 AI 공개 표준>을 발표했습니다. WEDF는 데이터와 정보, 미래 문제를 탐구하는 비영리 단체입니다.

책임감 있는 AI 공개 표준이란?

책임감 있는 AI 개발을 위해 제작 과정을 투명하게 공개하고 명확히 하는 AI 제작 표준입니다. AI의 가치를 이해하면서 동시에 피해를 경험하기도 한 개발자, 사용자, 이해관계자들로 구성된 60개 이상의 국가에서 참여한 500여 명의 리뷰어와 실무자가 참여했습니다.

책임감 있는 AI 공개 표준의 목적은?

WEDF는 오늘날 우리는 정직한 토론, 의사결정을 돕는 명확하고 책임감 있는 소통보다는 불안을 부추기고, AI에 대한 이해를 오히려 방해하는 종말론적 서사를 만들어 내고 있다고 분석합니다. 이들은 다음의 목적 달성을 위해 책임감 있는 AI 공개 표준을 제안합니다.

• 누구나 이해할 수 있는 윤리적인 AI 개발 방법 소개
• 윤리적인 AI 개발과 관련하여 누구나 자유롭게 질문할 수 있는 공간 마련
• 누구나 AI 학습 방식과 생성된 결과물을 모니터링하는 프레임워크에 참여

책임감 있는 AI 공개 표준이 필요한 이유는?

AI는 효율성을 높이고, 의사 결정을 돕는 등의 이점도 있지만, 특정 집단에 대한 차별과 편견, 데이터 프라이버시, 보안, 지적 재산권 침해 등의 문제를 증폭합니다. 신중한 고려 없이 AI를 개발하면 다만 문제를 악화할 뿐이죠.

공개 표준은 여러분의 질문과 피드백을 수집하여 AI 개발 과정의 개선을 이루어 나가는 것을 목표로 합니다. 구독자 여러분도 깃헙(GitHub)*을 활용하여 공개 표준의 수정을 요청할 수 있습니다. <책임감 있는 AI 공개 표준> 전문을 뉴스레터에 다 싣지는 못하지만, 조금이라도 더 많은 분들이 접하셨으면 하는 마음에 미디엄에 번역해 두었습니다. AI 개발 실무에 적용할 수 있는 프레임워크가 마련될 수 있도록 관심 가져주세요.

*깃헙은 소프트웨어 개발 프로젝트를 위한 소스코드 관리 서비스입니다.

너도나도 'AI의 민주화'를 외치던 시절이 있었습니다. 그러지 않으면 인공지능 회사를 차릴 수 없는 게 아닐까 싶을 정도로요. 기술의 민주화, 좋은 말이죠. 하지만 그 '민주화'는 거의 언제나 기업이 만들고 통제하는 제품에 대한 접근의 민주화(즉 대중상품화)를 뜻했고, 누구를 위해 어떤 기술을 만드는지 결정하는 데 더 많은 사람이 참여한다는 뜻의 민주주의와는 대개 무관했습니다.

전유진은 <AI를 위한 새로운 이름 짓기>에서 이처럼 기술 업계가 자신들의 이익에 맞는 방식으로 언어를 차용하는 행태를 비판적으로 바라봅니다. 예를 들어 회사 이름이 '열린 인공지능'인 OpenAI의 제품은 매우 닫혀 있습니다. 이 뉴스레터에 '공개', '오픈'이라는 표현이 몇 번 나오는지만 봐도 알 수 있듯 AI 기술과 'open'은 밀접한 관계입니다. 그런데 기업 브랜딩에 이 표현을 남용하면서, 오픈소스 진영 등 공동체에서 그동안 쌓아온 의미에 혼선이 생기는 것이죠.

윗글은 이어 지적합니다. 기술 권력이 현대사회에서 점하는 우위는 언어 권력으로 이전된다고요. 기술 업계 유행어는 쉽게 신뢰를 얻고, 이는 다시 업계 이익에 복무합니다. 무언가에 이름을 붙이고, 특정 용어를 어떤 의미로 사용하는지는 존재론적이며 인식론적인 권력의 문제입니다. 이 지점에서 전유진은 비판적 개입을 요청합니다. 기술 자본주의에 복무하는 언어 사용에 대항하여 '적합'한 어휘를 찾는, "AI를 위한 새로운 이름 짓기"가 그것입니다. AGI, 초지능 등의 표현에 피로감을 느끼고, AI 하이프 뉴스가 줄어들어야 한다고 보는 입장에서 반가운 제안입니다.

말하자면 작명의 적정기술이겠네요. 흥미롭게도 적정기술의 '적정(appropriate)'과, 'open' 같은 어휘를 기업이 전용한다고 할 때의 '전용(appropriate)'은 영어로 같은 단어입니다. Appropriate의 어원인 라틴어 proprius는 '자신의, 고유한'을 뜻하는데요. 적정한(자신에게 고유한) 무엇을 찾는 일과, (남의 것인) 무언가를 가져와 자신의 것으로 만드는 일은 같은 선상에 있다고도 볼 수 있을까요?

우리는 그런 사례를 잘 알고 있습니다. 저자가 언급하듯 ‘퀴어(queer)’는 성소수자를 폄하하고 타자화하기 위해 사용되던 언어가 당사자들에 의해 전유되어 이제는 주체적인 의미를 획득한 경우죠. 한국 성소수자 커뮤니티가 사용하는 ‘이반’이라는 표현도 비슷한 맥락에서 생각할 수 있습니다. ‘이반’은 ‘일반’과 대비되는 용어라는 점에서, 전유진의 글에서 ‘일반’이라는 표현이 (특히 한국어에서 정상성을 함의하는) 규범적인 힘을 발휘하여, ‘일반적이지 않은’ 것을 호명하는 동시에 배제하는 효과를 지적하는 대목이 생각납니다.

인공일반지능(AGI)은 ‘일반’을 천명하면서도 백인, 남성, 이성애중심주의, 실리콘밸리 중심으로 펼쳐지는 기술유토피아적 상상력을 전제합니다. AI의 일반화하려는 욕망과 그런데도 태생적으로 협소한 한계는, 보편을 추구하지만 서구 중심성의 한계를 갖는 근대화 기획을 떠올리게 합니다.

그렇다면 인공이반지능(AQI, Artificial Queer Intelligence)을 상상해 볼 수 있을까요? 기술 자본주의의 이익보다 사람의 경험을 중심에 두고, 보편성을 통한 배제가 아니라 다양성을 통한 포용을 추구하는 기술의 이름은, 무엇이 되어야 할까요.

지난 2월, 메타의 대규모언어모델 라마(LLaMA)의 가중치 정보가 유출되면서, 불과 며칠 사이에 많은 후속모델이 개발되었습니다. (🦜지난 레터에서 관련 내용을 보실 수 있어요) 이 덕분에 메타는 가장 선도적인 대규모언어모델을 보유한 오픈AI와 구글에 대항하는 오픈소스 진영으로 떠올랐는데요.

하지만 라마, 구체적으로는 라마2가 오픈소스인가 하는 물음이 제기되고 있습니다.

오늘 이야기 어떠셨나요?

여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

🗂️ 아카이브