(광고)💬 Grok AI 딥페이크 논란, 피해자 중 일론 머스크 전 애인도? 🫢

2026/03/10｜VOL. 97｜웹에서 매끄럽게 읽기

안녕하세요, 님. 온라인 평판관리 서비스 화이트미 대표 신소현입니다.

요즘은 새로운 기술에 문제가 제기되기 보다, ‘그 기술이 어떻게 사용되느냐’ 때문에 일이 커지는 경우가 많습니다. 같은 기능이어도 디스플레이 위치나 유저 성향에 따라 파급력이 완전히 달라지기 때문인데요.

챗GPT, 클로드, 제미나이… 이제 우리에게는 너무 흔한 AI이지만, 이럴 때일 수록 AI로 배포되는 창작물에 주의를 기울여야 할 필요가 있습니다.

현재 미국과 유럽 정치권에서는 일론 머스크가 이끄는 인공지능(AI) 회사 xAI의 챗봇 ‘Grok’이 성 착취물 딥페이크를 다량 생성해 유포하는 것에 대해 거센 비판이 일고 있기 때문인데요.

오늘은 이 이슈를 온라인 평판 리스크 관점에서 사건을 따라가듯 정리해 보겠습니다.

이주의 키워드 [딥페이크를 낳는 생성형 AI]

생성형 AI의 금기를 깬 Grok, 표현의 자유일까?
- 일론 머스크의 그록, 어떤 AI일까?
- 그록 내 딥페이크 이미지 창작, 감이 아니라 사실이었다고?
- 국제 정치권과 정부의 대응 방안은?
- 문제를 해결한 그록… 그런데 어딘가 이상하다?
이미지 편집 기능, 논쟁이 아니라 ‘사건’이 된 이유
- 일론 머스크의 전 연인도 피해를 입었다
- 이미지 삭제 요구에도 신고팀은 그저 폭탄 돌리기 중?
6억 명이 사용하는 그록, 국제 정부 대응책은
- EU의 디지털서비스법에 의한 제재
- DSA, 왜 강력한 제재 법안일까?
- X는 최대 얼마의 벌금을 내야 될까?
규제 없는 AI가 천 리 간다

1) 생성형 AI의 금기를 깬 Grok, 표현의 자유일까?

요즘 해외에서 꽤 크게 번지고 있는 논란이 하나 있습니다.

일론 머스크가 이끄는 xAI의 챗봇 ‘그록(Grok)’이 성 착취물 성격의 딥페이크 이미지를 대량으로 만들고 유포될 수 있게 했다는 비판을 받고 있기 때문인데요.

문제는 “누가 악용했다” 정도가 아니라 플랫폼 안에서 쉽게 딥페이크 이미지를 만들 수 있고, 만든 결과물이 그대로 엑스(구 트위터)를 통해 손 쉽게 퍼질 수 있다는 구조였다는 점에 있었습니다.

그래서 이 이슈는 기술적인 논란을 넘어 미국과 유럽 정치권까지 나서서 압박하는 규제 이슈로 번지게 된 것이죠.

🧠 일론 머스크의 그록, 어떤 AI일까?

‘그록(Grok)’은 일론 머스크가 최고경영자로 역임하고 있는 ‘엑스(구 트위터)’ 안에서 제공되는 AI 서비스입니다. 엑스 내 게시물(=트윗)의 멘션에서 그록에게 질문하면 그록이 해당 트윗을 면밀히 분석하여 그에 대한 답변을 해 주기도 하는데요.

2025년 12월 말에 개시한 ‘이미지 편집’ 기능이 추가된 이후부터 논란이 거세졌습니다. 온라인에 있는 실존 인물 사진을 가져와서 속옷이나 수영복 차림으로 바꾸는 식의 편집이 가능하다는 지적이 나오면서 “이거 성적 딥페이크 창작물에 대한 접근성을 너무 낮추는 것 아니냐”는 비판이 본격화 된 것이죠.

여기서 더 불이 붙은 건 다른 생성형 AI와의 차이점인데요. 챗GPT나 제미나이처럼 성적 이미지 생성에 엄격한 서비스들이 있는 반면, 그록은 ‘표현의 자유’를 내세우며 상대적으로 허용적인 방향으로 보였다는 평가가 이어졌습니다. 그러다 보니 그록에 대한 사전 안전장치는 충분했는지, 플랫폼이 그 위험을 제대로 통제했는지가 핵심 쟁점으로 떠올랐습니다.

📊 그록 내 딥페이크 이미지 창작, 감이 아니라 사실이었다고?

출처: AI Forensics, Grok Unleashed (2026)

이 논란은 곧바로 ‘체감’이 아닌 ‘데이터’로도 이어졌는데요. 유럽의 비영리 단체 AI 포렌식스가 일정 기간동안 그록이 생성한 이미지 2만 장을 무작위로 분석하였는데 절반이 넘는 55%가 속옷·비키니 등 노출이 높은 이미지였고, 그 중 여성으로 보이는 인물 비중이 81%였다는 결과가 나왔습니다.

더 민감한 포인트는 전체 이미지의 2%가 18세 이하로 보이는 미성년자의 이미지였다는 내용까지 포함됐다는 점인데요. 이 수치가 공개되면서 “악용 가능성”이 아니라 “이미 악용하고 있는 것 아니냐”는 여론이 두드러지게 된 것이죠.

🌍 국제 정치권과 정부의 대응 방안은?

정치권과 정부는 즉각 반응했습니다. 가디언 보도에 따르면 JD 밴스 미국 부통령이 “AI가 만든 성 착취물이 플랫폼을 통해 확산되는 건 용납할 수 없다”는 취지로 말했고, 그록 접속 차단을 검토하는 영국 정부에 “공감한다”는 언급도 전하곤 하였습니다.

미국에서는 민주당 상의원들이 구글 CEO에게 서한을 보내, 머스크가 문제를 해결할 때까지 Grok 앱과 X 앱을 앱스토어에서 퇴출시키라고 요구하기도 했고요.

국가 차원의 조치도 나왔습니다. 인도네시아 정부는 그록 서비스에 대해 전 세계 최초로 접속 차단을 추진 시켰고, “동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위”라고 공식 발표하기도 하였습니다. 이에 유럽 주요 국가들도 조사에 착수했다는 흐름이 잇따르기도 하였죠.

⚠️ 문제를 해결한 그록… 그런데 어딘가 이상하다?

논란이 커지자 X와 xAI도 1월 9일부터 그록 이미지 생성·편집 기능을 제한하기 시작했습니다. 사용자가 요청하면 “월 8달러 유료 구독이 필요하다”는 식으로 답하게 바꿔 원래 무료였던 기능을 유료 구독으로 상품화 시키는 방식인 거죠.

이런 대응에 대중과 전문가, 정부에서는 “유료로 막는 게 근본적인 해결이냐”는 비판은 남아있습니다만 그록 이미지 편집 기능이 유료화 된 이후부터 엑스는 별다른 입장을 내진 않고 있습니다.

2) 이미지 편집 기능, 논쟁이 아니라 ‘사건’이 된 이유

본 이미지는 사태의 심각성을 설명하기 위한 참고 자료이며,

외부 공유·저장·재전송 시 2차 확산에 가담한 것으로 간주돼 법적 문제나 피해 대상이 될 수 있습니다.

생성형 AI 논란은 보통 “윤리적으로 좀 위험하다” 정도에서 끝나는 경우가 많습니다. 논란이 많다가도 시간이 지나면 다른 이슈에 묻히기도 하고요.

그런데 이번 Grok 건은 그 단계에서 멈추지 않았습니다. 이유는 간단한데요, 피해가 너무 구체적이었고 더 결정적으로는 그 피해가 지금 이 순간에도 만들어지고 퍼지는 장면을 너무 많은 사람이 경험했기 때문입니다.

Grok의 경우, 조금 특수한 케이스로 Google의 제미나이 마냥 X란 SNS에 특화된 AI이기 때문에 실존 인물 사진을 기반으로 성적 딥페이크가 생성됐다는 사례가 나오고, 그 결과물이 실제로 공유되고, 사람들이 그걸 보고 반응하는 과정이 타임라인에 그대로 노출되게 되는데요.

이 때문에 다른 케이스와는 달리 “AI가 위험할 수도 있다”가 아니라 “지금 피해가 속출하고 있다”는 분위기가 형성되게 된 것입니다. 이때부터 논란의 중심은 윤리 논쟁이 아니라 사건으로 변질되게 되죠.

💔 일론 머스크의 전 연인도 피해를 입었다

애슐리 세인트클레어(Ashley st. Clair)

여기서 사건의 파급력을 더 끌어올린 요소가 있었습니다. 일론 머스크의 전 연인으로 알려진 애슐리 세인트클레어(Ashley st. Clair)(이하 애슐리)이 피해를 주장했다는 이슈가 전해지며 관심이 단숨에 폭발했습니다.

애슐리는 “그록 때문에 내 얼굴을 도용한 성적 딥페이크가 X에서 계속 만들어지고 돌고 있다”는 취지로 문제를 제기했거든요. 애슐리는 인터뷰에서 본인이 노출이 심한 수영복을 입은 사진을 시작으로 여러 장의 성적인 딥페이크 이미지를 X에서 발견했다고 주장했고, 그중에는 본인이 14세였을 때의 모습이 성적으로 변형된 이미지도 있었다고 말했습니다.

여기서 이 이슈가 더 민감해지는 지점은 애슐리가 단순히 “유명인 피해자”라서가 아니라는 건데요. 애슐리는 지난해 2월 머스크와 짧은 만남 끝에 아이를 낳았다고 밝힌 인물이고, 실제로 양육권을 두고 머스크와 소송전을 벌이고 있는 상황으로도 보도됐죠. 이런 배경 때문에 사람들은 “머스크가 운영하는 플랫폼에서, 머스크와 가까운 관계였던 인물조차 피해를 주장한다”는 구도를 더 강하게 받아들이게 된 것이죠. 쉽게 말해 이건 ‘멀리 있는 누군가의 피해’가 아니라, 플랫폼 책임과 운영 철학의 문제를 정면으로 찌르는 상징적인 사례가 되어버린 겁니다.

💔 이미지 삭제 요구에도 신고팀은 그저 폭탄 돌리기 중?

애슐리의 문제 제기는 ‘콘텐츠 하나’가 아니라 플랫폼 대응 방식으로도 이어졌어요. 애슐리는 X에 해당 이미지들을 삭제해 달라고 요구했지만 제대로 조치되지 않았다고 주장했고, “피해자가 동의하지 않았다는 걸 증명해야 하는 절차가 부족하다”, “X가 책임을 이용자에게 돌리며 피해자에 대한 부담을 전가하고 있다”는 취지로 비판했습니다.

그리고 결국 애슐리는 xAI를 상대로 소송을 내면서 그록이 “태생적으로 지나치게 위험한 구조”로 설계됐고 사회적 공해를 유발한다고 주장했고, 자신의 모습을 도용한 딥페이크를 그록이 생성하지 못하도록 차단해 달라는 가처분도 법원에 신청했다고 전했습니다.

3) 6억 명이 사용하는 그록, 국제 정부 대응책은

출처: ABC News(Grok has faced significant criticism from countries around the world

in recent weeks. (Reuters: Dado Ruvic/Illustration/File Photo))

이 이슈가 “서비스 내 논란”에서 끝나지 않고 정부가 나서는 단계로 넘어간 건, 기존 생성형 AI와 다르게 단독 AI가 아닌 거대한 플랫폼(X) 안에서 유통-확산 구조가 붙어버린 기능이기 때문이에요.

이런 경우엔 “문제 게시물 삭제”만으로는 속도를 못 따라가죠. 누군가 한 번 만들면 공유되고, 캡처되고, 또 비슷한 요청이 계속되며 피해가 지속적으로 확산되는 생태계가 만들어져버리니까요.

그래서 정부는 ‘지웠냐 안 지웠냐’를 넘어서 아예 플랫폼이 위험을 예측하고 줄일 의무를 다했는지를 살펴보는 거예요.

⚖️ EU의 디지털서비스법에 의한 제재

EU가 이번 이슈에서 기준으로 삼는 법이 DSA(디지털서비스법, Digital Service Act)예요. 쉽게 말하면 플랫폼이 불법·유해 콘텐츠를 다룰 때 “각자 알아서”가 아니라 신고 처리, 투명성, 이용자 보호, 위험관리 같은 의무를 법으로 박아둔 규제인 거죠.

특히 규모가 큰 플랫폼(VLOP/VLOSE)에서는 더 강하게 적용돼 서비스 설계나 추천 시스템까지 포함해 시스템적 위험(systemic risks)을 정기적으로 평가하고, 그 위험을 줄이기 위한 조치를 실제로 수행해야 돼요.

그래서 EU는 그저 “불법 콘텐츠가 올라왔네, 삭제해”로 끝나지 않고, 아래와 같은 조건으로 위반을 어긴 플랫폼을 규제할 법안을 운영 중인 겁니다.

DSA가 플랫폼에 요구하는 의무

이런 유형의 리스크(성적 딥페이크, 아동 관련 불법 콘텐츠 등)가 예상 가능한데도 왜 그 방식으로 기능을 배포했는가
배포 전에 위험평가를 했는가
위험을 줄이기 위한완화 조치(차단·탐지·정책·인력·추천/확산 설계 조정 등)를 실제로 적용했는가

즉 DSA는 결과물 몇 개를 지웠냐가 아니라 플랫폼이 ‘계속 만들어지고 퍼지는 위험’을 시스템 차원에서 관리했냐를 따지는 부분이기도 한데요.

신고 몇 번으로는 생성·재얼보드 속도를 이기지 못하면 피해는 “한 번 발생한 사건”이 아니라 “계속 발생하는 상태”가 되거든요. 이 관점에서 EU는 이번 사안을 딥페이크로 인한 단순 피해가 아니라 “플랫폼 의무”와 연관 짓는 사건으로 본 겁니다.

⚖️ DSA, 왜 강력한 제재 법안일까?

DSA가 강력하게 느껴지는 건, “권고”가 아니라 실제로 플랫폼을 움직이게 만드는 진행 장치를 갖고 있기 때문이에요. EU는 위반이 확인되면 단순히 “조치해라” 하고 끝내지 않고 자료 제출 요구, 시정명령, 금전 제재를 단계적으로 걸 수 있습니다. 특히 대형 플랫폼일수록 “자율규제”만으로는 한계가 있다는 전제 하에 법적으로 ‘의무’와 ‘불이익’을 묶어둔 거죠.

핵심은 벌금 상한입니다. DSA는 위반이 확정되면 전 세계 연간 매출의 최대 6%까지 벌금을 부과시킬 수 있어요. “최대”라서 무조건 6%는 아니고, 징계 대상 플랫폼이 위반한 중대성·지속 기간·반복 여부·개선 노력 같은 요소로 비례적으로 정해지지만, 상한 자체가 크기 때문에 플랫폼 입장에서는 리스크 체감이 확 달라집니다.

또, 여기서 끝이 아닌데요. 조사 과정에서 자료 제출 요구를 무시하거나 협조하지 않으면 별도의 벌금이 붙을 수 있고 시정조치를 내렸음에도 제대로 이행하지 않으면 ‘매일’ 부담이 쌓이는 형태(이행강제 성격의 금전 제재)로 압박할 수도 있습니다. 즉, “한 번 맞고 끝”이 아니라 개선하지 않으면 계속 비용이 늘어나는 구조로 만들어 놓은 게 DSA 집행의 특징이에요.

💸 X는 최대 얼마의 벌금을 내야 될까?

DSA 벌금은 ‘최대 6% 상한’이라 실제 부과액은 조사 결과와 위반 범위에 따라 크게 달라지지만 규모의 감을 잡기 위해 계산만 해 보면 이렇습니다.

약 25억 달러(X의 추정 연 매출) ⇒ 6% = 약 1억 5천만 달러(약 2,193억 원)

정리하면, 최대로 잡을 경우 수억 달러 단위가 아니라 ‘억 달러 중반대’까지도 산식상 가능해요. 그래서 EU가 이 이슈를 DSA로 들여다보기 시작했다는 것 자체가, 플랫폼에는 단순 평판 악재가 아니라 규제 리스크로도 체급이 커졌다는 신호로 읽을 수 있습니다.

한국도 유사한 법을 제정할 예정이다? →

4) 규제 없는 AI가 천 리 간다

이 사건을 ‘사용자 입장’에서 생각해보세요. 내 사진이 어디엔가 올라가 있다는 건 특별한 일이 아니죠. 프로필 사진, 기사 사진, 행사 사진, 친구가 올린 단체 사진… 이미 온라인엔 내 얼굴이 충분히 있습니다.

그런데 누군가가 그 사진을 가져가서 “수영복으로 바꿔줘”, “더 노출되게 만들어줘” 같은 요청을 넣고, 결과물이 몇 초 만에 나오고, 그게 다시 타임라인에 올라가 퍼진다고 상상해보세요. 이건 더 이상 “기술이 무섭다”는 말뿐만이 아니라, 내가 겪을 수 있는 피해이기도 합니다.

EU가 DSA로 이 사안을 보는 이유도 딱 그 지점입니다. EU가 X에 요구하는 건 “문제 이미지가 올라오면 지워라”가 아니에요. 애초에 그런 이미지가 대량으로 만들어지고 퍼지지 않게 시스템을 바꿔라에 가깝습니다.

구체적으로는 이미지 생성·편집 기능을 붙이기 전에 이런 악용을 예상하고 위험을 평가했는지, 성적 딥페이크 요청을 처음부터 막는 필터나 차단 규칙을 제대로 넣었는지, 신고가 들어오면 지우는 걸로 끝내지 말고 같은 유형이 반복되지 않게 정책·필터·기능을 계속 업데이트했는지, 그리고 문제 콘텐츠가 추천/검색/타임라인을 타고 더 넓게 퍼지지 않도록 노출을 줄이는 조치를 했는지를 보겠다는 거죠.

“삭제했냐”가 아니라 생성 단계에서 막고, 확산 단계에서도 막고, 반복되면 더 강하게 막았냐를 묻는 겁니다.

한국도 남 얘기처럼 들을 순 없어요. 딥페이크는 이미 사회적으로 민감한 범죄 이슈가 됐고, 피해가 커지는 방식도 뻔합니다. 만든 사람은 한 명일 수 있어도 보는 사람과 퍼가는 사람은 훨씬 많거든요. 누군가는 호기심으로 클릭하고, 누군가는 저장하고, 누군가는 단체방에 던집니다. 그 순간부터 피해는 ‘한 번’이 아니라 ‘계속’이 돼요.

딥페이크 피해가 특히 힘든 이유는 두 가지입니다. 하나는 속도예요. 캡처와 재업로드가 먼저 일어나서 신고·삭제가 따라가기가 어렵습니다. 다른 하나는 검색 잔존성입니다.

검색 결과에 남으면 사건이 끝나도 다시 떠오르고, 그때마다 2차 피해가 반복돼요. 그래서 대응은 “나중에”가 아니라 초기 속도가 핵심입니다.

화이트미는 이런 상황에서 딥페이크 피해 게시물 삭제 지원, 온라인 확산 모니터링, 검색 잔존 리스크 관리를 한 흐름으로 묶어 대응할 수 있게 돕고 있습니다.

원하시면 나에 대한 게시물이 지금 어디에 퍼지고 있는지, 검색 결과에 남아 있는지부터 먼저 점검해드릴게요.