오픈AI: 빨간 휴지 줄까? 파란 휴지 줄까?

조금 과장하자면 이 대표적인 생성 AI 기업이 콘텐츠 소유자에게 내민 선택지는 화장실 귀신의 빨간 휴지와 파란 휴지 괴담을 떠오르게 합니다. 무엇을 골라도 비극적인 결말이 기다리고 있죠.

• 빨간 휴지: AI 모델 학습을 위한 콘텐츠 제공을 거부한다 → AI 및 검색 회사의 웹 크롤러를 차단한다 → 콘텐츠가 더 이상 검색되지 않는다 → 인터넷상에서 접근이 어려워져 사실상 죽은 콘텐츠가 된다
• 파란 휴지: AI 모델 학습을 위해 콘텐츠를 제공한다 → 잠시 동안 AI 서비스에서 콘텐츠 원문 링크를 소개해 준다 → 수집된 데이터로 AI 모델이 학습된다 → AI 모델이 직접 유사 콘텐츠를 생성한다 → 더 이상 직접적인 콘텐츠 접근이 이뤄지지 않아 사실상 죽은 콘텐츠가 된다

물론 챗GPT는 (검색 기능이 있지만) 검색엔진이라고 보긴 어렵고, 사용 빈도 역시 (월 15억 회에 달하긴 하지만) 구글의 2%도 채 되지 않습니다. 콘텐츠 소유자가 챗GPT를 통해 유입될 수 있는 트래픽을 포기하고 오픈AI의 미래 모델 학습 데이터에서 빠지는 게 어려운 선택이 아닐 수 있죠. 하지만 구글, 마이크로소프트, 네이버 등 국내외 검색 시장을 잠식 중인 업체 대다수가 생성 AI 모델 개발에 여념이 없는 게 현실입니다. 이들이 비슷한 정책을 택한다면 어떻게 될까요?

제 가설이 틀리기만을 바랄 뿐입니다.

예술가 집단이 ‘시각 커뮤니케이션을 독점’하려는 특권 카르텔이라고 누군가 비판한다면, 아마 좀 의아해하는 반응이 보통일 겁니다. 예술가가 되는 것이 무슨 권력이나 이익을 독점하는 데 썩 효과적인 방법이라고 보기는 어렵잖아요. 특히 그런 말을 하는 사람이 헤지펀드 출신으로 AI 스타트업을 차려 1억 달러 투자금을 유치한 Stability AI의 CEO 에마드 모스타크라면요. 그의 발언은 이미지 생성 AI에 대한 시각예술가들의 비판을 반박하는 맥락에서 나온 것인데요.

하지만 현재의 이미지 생성기 산업은 오히려 서구 기업 몇 곳에 권력을 몰아주고, 대다수 예술가의 권리를 침해합니다. 인공지능 윤리 연구자 및 예술가 10명이 공저한 “AI 예술이 예술가에게 미치는 영향”의 관점입니다. 생성 AI 산업과 시각예술 분야 공동체의 관계, 그리고 현재진행형의 문제를 구체적이면서도 폭넓게 살피는 논문인데요. 논문은 이미지 생성 AI 기술을 개괄한 뒤, 이미지 생성기 산업의 영향을 다음과 같이 유형화합니다.

1. 경제적 손실: 대표적으로 일자리 대체의 문제가 있습니다. 완전히 해고되지 않더라도 인간 예술가의 역할이 이미지 생성기 결과물을 다듬는 수준으로 축소될 수 있고요. 공모전에 생성 AI 창작물이 몰리면서 공모전 자체가 취소되는 등 기회가 줄어드는 현상도 있습니다. 기회의 축소는 경제적 여유가 없는 사람이 예술 분야에 종사하기 어렵게 만들어, 특권 구조를 더욱 강화하는 효과를 가져옵니다.

2. 스타일 모작: 특정 예술가의 화풍 등을 모방하는 작업이 쉬워진다면 경제적 피해는 물론이고, 해당 예술가가 의도한 적 없는 방식(상업적 이용, 혐오 표현 등)으로 활용되어 명예를 실추하거나 정신적 피해도 발생시킬 수 있습니다.

3. 헤게모니 재생산: 이미지 생성기는 특정 집단에 대한 고정관념을 재생산하고, 그로 발생한 이익을 해당 집단이 아닌 다른 이들이 (예컨대 소수민족 패션모델을 가상으로 제작하여 라이선싱하는 업체가) 가로채기도 합니다.

4. 문화 활동 위축: 위 같은 문제로 지망생들이 진로에 위협을 느끼거나 포기하기도 하며, 예술가들이 무단 수집을 피하고자 작품 공유를 꺼리는 분위기 또한 강해집니다. ‘노출’이 중요한 시각예술 분야에서, 자기 작품을 AI 기업으로부터 지키려면 이른바 ‘영업’의 가능성을 포기해야 하는 딜레마에 처하는 것이죠.

오늘 이야기 어떠셨나요?

여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

🗂️ 아카이브