최근 지인 얼굴에 음란물을 합성해 딥페이크(인공지능 기반 이미지 합성) 영상을 만드는 범죄가 기승을 부리면서 사회적으로 큰 파장을 일으키고 있어요. 연예인은 물론이고 군인이나 교사 등 일반인에 심지어 청소년까지 범죄의 대상이 되며 사태가 날이 갈수록 커지는 상황이에요. 

딥페이크 성범죄가 사회적 문제로 대두되면서, 범죄물이 유통되는 플랫폼 기업들을 향한 비판도 거세지고 있어요. 이런 성범죄물은 주로 사용자 추적이 어려운 텔레그램을 통해 퍼졌어요. 텔레그램은 딥페이크 범죄물을 삭제하고 공식적인 사과도 했지만, 바라보는 시선은 여전히 곱지 않죠.

상황이 이렇다 보니, 텔레그램 등 플랫폼 기업들을 강하게 규제해야 한다는 주장에 힘이 실리는데요. 오늘은 인공지능(AI) 활용 범죄에 대한 견제 수위를 높이는 세계 각국의 모습을 정리해 봤어요.

먼저 규제 시작한 유럽·미국

AI 범죄가 벌어지는 플랫폼 기업들을 향해 가장 먼저 칼을 겨눈 건 유럽연합(EU) 국가들이었어요. EU에서 올해부터 시행되는 디지털 시장법(Digital Markets Act, DMA)는 거대 기술기업들에 유해 콘텐츠를 검열할 의무를 부여하고 있어요. 플랫폼 회사들이 불법 유해 콘텐츠를 삭제하지 않을 경우, 전 세계 매출의 최대 6%를 과징금으로 부과할 수 있게 했죠.

독일과 프랑스는 DMA와 별도로 플랫폼을 규제하는 법을 만들어 시행하고 있어요. 독일은 SNS 플랫폼에서 불법 콘텐츠 신고를 받았을 경우, 위법성을 판단해 24시간 안에 삭제·차단하도록 했어요. 프랑스는 2018년 ‘정보조작대처법’을 제정했는데, 선거 전 3개월 동안 온라인에 허위 정보를 게시하지 못하도록 했어요. 만약 플랫폼이 허위 정보를 유포하는 경우, 서비스 중지 명령을 내릴 수 있도록 했죠.

최근 프랑스에선 텔레그램 창업자이자 최고경영자(CEO)인 파벨 두로프가 체포되기도 했어요. 검찰에서 미성년자 성착취물 관련 사건을 수사하면서 텔레그램에 용의자의 신원을 알려달라고 요청했는데, 텔레그램이 응답하지 않자 CEO를 체포한 거예요. 사실상 불법 콘텐츠 유통에 대한 책임을 물은 셈이죠.

이 법안이 발표되자, 미국 빅테크 기업들은 잔뜩 긴장하는 모양새예요. 이 법은 본사 소재지에 상관없이 캘리포니아주에서 사업을 하는 모든 회사가 적용 대상이에요. 그런데 캘리포니아주는 ‘빅테크의 고장’인 실리콘밸리가 위치한 곳이라, 사실상 모든 빅테크와 AI 스타트업이 규제 대상에 해당해요. AI 기업 입장에서는 자칫 소송에 휘말리거나 어마어마한 벌금을 내야 하는 상황이 올 수도 있는 거예요.

서둘러 머리 맞대는 우리 정부

우리나라도 뒤늦게나마 딥페이크 사태 대응책 마련에 분주한 모습이에요. 지난 2일, 경찰은 텔레그램 본사에 대한 조사를 시작했다고 밝혔어요. 성범죄물 유통을 방관하고 있다는 이유에서예요. 경찰은 텔레그램 창업자 파벨 두로프 등 관련된 사람들에 대해 인터폴에 적색수배를 요청하는 방안을 검토 중인 것으로 알려졌어요. 앞으로 수사에 더 박차를 가하겠다는 계획이죠. 

하지만 아직 갈 길이 한참 멀었다는 것도 사실이죠. 우리나라에 텔레그램에서 딥페이크 성착취물의 유통을 제한하거나, 텔레그램이 나서서 검열하도록 강제하는 법은 딱히 없거든요.

정부와 국회는 이제라도 대응 방안을 마련하기 위해 머리를 맞대고 있어요. 이번 사태가 알려진 지난달 27일부터 약 일주일간 국회에서 발의된 딥페이크 관련 법안만 28건에 달한다고 해요. 주로 예방과 처벌 강화에 초점을 둔 법안들이죠. AI가 만든 영상에는 무조건 워터마크를 달거나, 불법 영상물을 소지하기만 해도 처벌할 수 있게 만드는 식이예요.

그럼 이제 어떻게 되는 거야?

👌 결국 '유통'을 막는 게 핵심이야

물론 예방과 처벌도 중요하지만, 우리나라도 해외 주요국처럼 텔레그램 등 플랫폼 기업이 범죄 영상을 지우도록 강제하는 법을 만들어야 한다는 주장에 더 힘이 실리고 있어요.

전문가들은 제작 기술을 원천적으로 금지하는 건 사실상 불가능하다고 입을 모아요. 최근 들어 무료로 사용할 수 있는 오픈소스(개방형) AI 모델이 크게 늘면서 누구나 딥페이크를 만들 수 있게 됐기 때문이에요. 실제로 앱스토어 등에 들어가면 사진이나 영상에 얼굴을 합성해주는 앱을 손쉽게 다운받을 수 있어요.

못 만들게 할 수는 없기 때문에, 만들어진 영상을 퍼뜨리지 못하게 하는 게 중요해요. 그런데 지금은 경찰이나 방송통신심의위원회 등에서 불법 영상물을 모니터링하고는 있지만, 텔레그램에 삭제를 요청할 법적 근거가 없어요. 현행법상 인스타그램, 유튜브 등 영상이 공개적으로 유통되는 플랫폼에는 삭제 요청이 가능하지만, 텔레그램은 개인 간 사적인 대화방 형태로 폐쇄적인 공간이라 규제 대상이 아니기 때문이죠. 텔레그램에도 적용되는 법적 규제가 필요하다는 말이 나오는 이유예요.

✋ 하지만 부작용도 고려해야 해!

다만 규제를 확대했을 때 불러올 부작용을 고려해야 한다는 목소리도 있어요. 가장 많이 등장하는 비판은 ‘표현의 자유를 억압할 수 있다’는 거예요. 개인 간 대화가 이뤄지는 플랫폼에서 모든 콘텐츠를 모니터링 대상으로 삼을 경우, 민주주의의 근간인 표현의 자유가 제한당할 수 있다는 걱정이죠.

또 법안을 도입할 경우 텔레그램 등 해외 기업뿐 아니라 네이버, 카카오 등 국내 기업들도 추가적인 규제를 받게 될 수 있는데, 우리 기업에 족쇄를 채우는 것 아니냐는 비판도 있어요. 우리 기업들이 더 무럭무럭 커야 해외 시장에서도 경쟁력이 생기는데, 플랫폼 규제로 성장이 가로막힐 수 있다는 지적이에요. 실제로 최근 카카오톡에서 오픈채팅방에서 벌어지는 허위 투자 광고인 ‘리딩방’을 봉쇄하자, 텔레그램이 반사 이익을 본 일이 있었어요. 지난달 텔레그램의 월간 활성 이용자 수가 직전 달 대비 10% 가까이 늘어난 거예요. 2021년 3월 이후 사상 최대 증가 폭이었죠.