혹시 AI를 이용해서 내 사진을 스누피 스타일로 만드는 것 해봤어? 스누피 스타일뿐 아니라 다양한 변형이 있어서 SNS에 상당히 많은 사진들이 올라와 있더라고! 아마도 구독자도 이렇게 AI가 만들어낸 그림이나 영상들을 수도 없이 봐왔을 거야.

그런데 이렇게 넘쳐나는 AI 생성물들. 많아도 너무 많아서 한 편으로는 우려스럽기도 해. 어떤 게 AI가 만든 합성 데이터이고, 어떤 게 인간이 만든 데이터인지 구분이 되지 않는 상황이 이어져도 괜찮은지 걱정도 되고. 오늘 마부뉴스에서는 다양한 데이터를 통해 AI 생성물의 문제점을 살펴보려고 해.

인스타그램을 보아도, 페이스북을 보아도, 유튜브를 보아도 AI로 만들어진 이미지들과 영상들이 곳곳에 존재해. 특히 2022년에 오픈AI가 DALL-E2를 출시한 이래로 AI가 만든 이미지는 쏟아져 나왔어.

사용자 입장에선 이렇게 손쉽게 그림을 만들어 낼 수 있게 되지만, 이렇게 만들어진 결과물의 저작권은 어떻게 되는 건지 생각해 보면 골치 아파져. AI 생성물의 저작권 이슈는 할 이야기가 많으니 나중에 따로 다뤄보도록 하고, 오늘은 AI 생성물 자체에 조금 더 집중해 보도록 할게.

이렇게 AI가 만들어낸 이미지들은 이렇게 유쾌하고 놀랍기 하지만, 한편으로는 불쾌한 이미지들이 인터넷을 가득 메우고 있기도 해. 그래서 AI 슬롭이라는 새로운 단어가 등장하기도 했지.

슬롭이라는 단어는 원래 음식물 찌꺼기, 오물이라는 뜻을 갖고 있어. 생성형 AI가 유행하면서 AI가 만들어낸 쓸데없는 콘텐츠들을 두고 AI 슬롭이라는 이름이 붙었어. 마치 인터넷과 이메일 시장이 크게 커질 때, 가공육햄 ‘스팸’이 광고 메일로 새롭게 자리 잡았듯이 슬롭도 AI 시대의 새로운 키워드로 떠오를 것이라는 전망도 나오고 있어.

그래도 다행인 건 예전보다는 퀄리티가 높아지면서 요상하고 불쾌한 콘텐츠들의 노출이 덜해졌다는 거겠지. 하지만 그러다 보니 AI가 만든 것과 사람이 만든 걸 구분해 내기 어려워졌다는 문제도 있어. 아래 두 이미지 가운데 어떤 것이 실제 사진이고, 어떤 것이 AI가 만든 이미지일까?

AI가 만든 이미지는 왼쪽 이미지야. 이렇게 구분하기 어려운 이미지들을 포함해서 AI가 만든 생성물들은 점점 더 웹에 스며들고 있어. 가령 핀터레스트에 이미지를 검색해 보면 AI가 만든 이미지들이 상당히 많이 나와. 사실 이게 이용자 입장에서는 짜증이 날 수밖에 없어. 좋은 결과물을 보고 영감을 받고 싶은데, 검색 상위는 AI가 만든 것들이 가득 채우고 있거든. 여러 커뮤니티에서는 이런 서비스들에 AI 이미지가 너무 많아져서 사용하기 불편해졌다는 내용의 글들이 다수 올라올 정도 피로감은 상당한 상황이야.

2D 이미지를 만드는 어느 업체의 사이트가 갑자기 다운되는 일이 발생해. 회사에선 DDoS 공격인가 싶어서 분석해 보니 아니었어. 알고 보니 오픈AI의 크롤링 봇이 이 사이트의 데이터를 긁어가느라 생긴 일이었지.

사실 AI 봇의 과한 행동으로 피해를 봤다는 이야기는 지난해 매우 자주 들려왔어. AI봇이 하루에만 10TB 규모의 데이터를 빼 갔다는 사례도 있을 정도야. 사이트를 운영하는 사람들은 피해를 막기 위해 크롤링 차단 조치를 취했지만 이를 어기고 데이터를 긁어가는 AI 봇들도 많았어.

그렇다면 모두가 공멸하는 상황까지 이르지 않으려면 우리는 어떻게 해야 할까? 일단은 AI가 만든 건지, 아닌지를 우리가 확인해야겠지. 사실 지금도 생성형 결과물을 탐지하고 확인할 수 있는 기술이 있긴 해. 하지만 완벽하지 않아.

전문가들은 기술의 한계는 명확한 만큼 규제 기관과의 협력이 필요하다고 조언해. 법적으로나 제도적으로 AI 생성물이라는 꼬리표를 남기는 등 구분을 명확히 할 수 있는 시스템을 갖출 필요가 있다는 거지. 기업에서는 AI가 만든 콘텐츠를 식별할 수 있는 기술을 꾸준히 개발하고, 또 정부에서는 AI 생성물이 남발되지 않도록 규제하고, 이렇게 병행되어야 모두가 붕괴하는 디스토피아를 막을 수 있을 거야.