지난 2024년에 치러진 22대 총선에서 선관위가 조치한 딥페이크 게시물은 모두 389건이었어. 하지만 작년 대선에서는 그 규모가 10,513건으로 급증했지. 이번 선거에서는 5월 26일 기준으로 9,998건을 기록하고 있어.

사실 우리나라는 선거 관련 딥페이크에 대해 꽤 강력한 규제를 하는 나라야. 지난 2023년 12월 국회에서 공직선거법에 딥페이크 금지 조항을 신속하게 넣어 개정했거든. 선거일 90일 전부터는 딥페이크 선거운동이 일체 전면 불허돼. 만약 이를 어기면 7년 이하 징역 또는 1,000만 원 이상 5,000만 원 이하 벌금이라는 강력한 처벌을 받게 되지.

정부에서는 딥페이크를 일종의 '정보 범죄'로 규정하고 민주주의를 위협하는 존재로 인지하고 대응하고 있어. AI를 활용한 가짜뉴스에 대해선 무관용 원칙을 강조하고 있어.

선거를 앞둔 요즘 같은 시기에 딥페이크의, 딥페이크로 만들어진 가짜 영상과 허위 정보가 국민 여러분의 판단을 흐리고 민주주의의 기반을 흔들 수 있습니다. (…) 이제 딥페이크는 단순한 기술 문제가 아니라 민주주의를 위협하는 새로운 정보 범죄가 되고 있는 것입니다

윤호중 행정안전부 장관

물론 과도한 규제가 기술 혁신을 막는다는 목소리도 있어. 예를 들면 악의적 딥페이크는 막아야 하지만 AI 기술 혁신과 표현의 자유도 보장돼야 한다고 주장하는 사람들도 있거든. 하지만 해외 주요 선거에서 벌어진 딥페이크 논란을 보면 촘촘한 규제 필요성을 말하는 정부 입장도 이해가 안 되는 건 아니야. 예를 들면 2023년 슬로바키아 총선, 2024년 미국 대통령 선거 사례가 있지.

2023년 슬로바키아 총선이 치러지기 이틀 전에 SNS에 올라온 진보 슬로바키아당 대표의 음성이야.

모니카 토도바 | Denník N 기자 : 이번에도 누가 와서 표를 직접 집어넣는 거야?

미할 시메치카 | 진보 슬로바키아당 대표 : 그건 걱정하지 마. 그 문제는 이미 해결됐어.

AI로 생성된 가짜 음성이었지만, SNS에서 급속도로 퍼져나갔고 결국 진보 슬로바키아당은 여론조사 우위에도 불구하고 친러시아 성향의 SD당에 패배했어.

미국에서는 2024년 1월에 가짜 전화 소동으로 난리가 났어. 민주당의 뉴햄프셔 예비선거 전에 민주당 당원들에게 바이든 대통령을 사칭하는 전화가 걸려왔던 건데, "11월 대선을 위해 투표권을 아껴두라"는 내용이었는데, AI로 만든 가짜였지. 미 연방정부는 딥페이크 음성을 만든 정치 컨설턴트를 검찰에 넘기고 600만 달러, 우리돈 82억 원가량 벌금을 부과했어.

슬로바키아와 미국뿐 아니라 수많은 나라들이 선거에서 딥페이크와 전쟁을 벌이고 있어.

2021년 이후 선거 기간 중 딥페이크 사건이 발생한 나라는 모두 38개국이야. 총 38억 명의 유권자가 딥페이크 영향권에 놓인 셈이지.

제대로 된 정보를 갖고 투표를 하고 싶어도 가짜 뉴스는 점점 고도화되고 있어. 2024년 말 발표된 정부 조사를 보면 국민 가운데 41.9%는 딥페이크 가짜뉴스를 진짜와 구별 못한다고 답변할 정도야. 특히 고령 유권자들이 더 큰 영향을 받을 수 있어.

해외 연구진들이 딥페이크를 사람들이 얼마나 신뢰할 만하다고 생각하는지 실험해봤어. 아래 그래프를 보면 연령과 상관계수가 표시되어 있어. 분석 결과 나이가 많을수록 딥페이크 영상을 더 신뢰할 가능성이 높게 나타났어. 

고령일수록 더 신뢰할 뿐 아니라 가짜라고 판단하는 것도 더 줄었지. 또 하나 중요한 지점은 나이가 많을수록 이 딥페이크 영상을 다른 사람에게 공유하고 추천하려는 의향도 더 높게 나타났다는 거야. 다만 연구진들은 효과 크기가 유의미하긴 하지만 정도가 아주 강하진 않아서 인과관계로 단정할 순 없다고 말했어.

이 연구 결과가 우리나라에 유독 아프게 다가오는 건 우리나라 고령화 비율이 상당히 높기 때문일 거야. 일각에서는 투표 인구 가운데 노년층 비율이 압도적으로 높아지는 이른바 실버 민주주의 문턱에 우리나라가 와 있다고 경고할 정도니까. 이번 지방선거 선거인수 4,464만여 명 가운데 6070 유권자 비율이 얼마나 될까? 전체의 3분의 1이 넘어.

2010년 5회 지선 때만 해도 6070 비율은 채 20%가 되지 않았어. 하지만 지난 22대 총선에서 6070 유권자 비율이 처음으로 30%를 넘어버렸고, 올해는 34.1%로 유권자 3명 중 1명이 60대 혹은 70대 이상인 거야. 다른 연령대보다 딥페이크를 더 신뢰하고 남들에게 더 공유하는 성향이 있는 노년층이 선거에서 핵심으로 떠오르고 있는 거지. 저출생 고령화가 더 가속화되면 이 6070 유권자 상승세는 더 빨라질 거고.

문제는 우리나라 노년층이 딥페이크 영상이 가득한 유튜브 뉴스를 유독 많이 소비하고 있다는 거야. 로이터 저널리즘 연구소가 발표한 2025 디지털 뉴스 리포트 자료야. 우리나라 50대와 60대 이상은 유튜브 뉴스 이용률이 50% 넘어. 60대 이상에서는 조사국 평균의 2배 이상으로 높게 나오고 있지.

"저는 편견과 불의로 오염된 데이터를 근거로 의료, 고용, 안전에 대한 접근을 차단할 수 있는 알고리즘에 대한 매우 우려스러운 증언들도 듣습니다."

레오 14세 교황

🔖 AI 유권자에 물어보니…군소 후보 지지율 0%, 기타 10배 부풀려져

• 여론조사 업체 STI는 2139명의 실제 패널 데이터를 바탕으로 ‘가상 유권자 AI’를 만든 뒤, 지난 대선 투표 성향을 추론하는 실험을 진행
• AI가 예측한 주요 후보 지지율은 실제 조사와 큰 차이가 없었지만, 군소 후보 지지층은 제대로 재현하지 못했음
• 특히 권영국 후보 지지는 AI에서 0%로 사라졌고, 기타 후보 지지는 실제보다 10배 넘게 과장돼
• 정당 지지와 다른 후보를 찍는 ‘교차투표’ 성향도 반영하지 못해, 국민의힘·개혁신당 지지 AI는 100% 자당 후보만 선택 
• 전문가들은 생성형 AI가 전체 판세는 어느 정도 따라갈 수 있지만, 중도층과 소수 후보의 복잡한 표심까지 읽어내기에는 한계가 있다고 분석

• 6.3 지방선거를 앞두고 선거 관련 딥페이크 게시물 삭제 요청 건수가 1만건에 육박하자 글로벌 SNS 플랫폼들은 생성형 AI 기반 허위정보 차단에 나서
• 틱톡은 최근 지방선거를 앞두고 중앙선관위와 핫라인을 구축, AI 콘텐츠에 라벨 부착을 의무화하고 정치 광고 전면 금지하는 선거 허위정보 대응 정책 공개
• 유튜브는 AI 딥페이크 탐지 및 삭제 요청 기능 확대에 집중
• 페이스북과 인스타그램 운영사인 메타는 AI 생성 정치 콘텐츠에 대한 투명성 정책과 팩트체크 체계를 강화
• 하지만 허위 콘텐츠가 SNS와 숏폼 플랫폼을 통해 짧은 시간 안에 대량 확산되는 만큼 사후 삭제 중심 대응만으로는 한계가 있다는 지적

• 올해 일본 중의원 선거에서 ‘AI를 활용한 정치 의사 결정’을 슬로건으로 내세운 신생 정당 ‘팀 미라이’
• 정치자금 흐름을 투명하게 공개하는 온라인 플랫폼, 국회 법안을 쉽게 설명하는 AI 서비스, 허위 정보를 검증하는 AI 팩트체커 등을 직접 개발해 활용
• 이런 AI 혁신 공약을 통해 일본 중의원 선거에서 팀 미라이는 381만표를 얻어 비례대표 11석을 확보하며 원내 제6당에 올라서

• 트럼프와 백악관 주변 인사들은 최근 트럼프를 예수·교황·록키·슈퍼맨·전투기 조종사 등으로 묘사한 AI 생성 밈(fanfake)을 적극 확산시키고 있어 
• 특히 “트럼프=영웅·구원자” 이미지를 반복 노출하며 지지자들의 감정적 유대와 우상화를 강화
• 퍼듀대 GRAIL 연구진은 이러한 정치 AI 이미지를 ▲상대를 속이는 ‘다크페이크’ ▲지지 대상을 미화하는 ‘글로우페이크’ ▲조롱용 ‘포페이크’ ▲신격화용 ‘팬페이크’ 등으로 구분해
• 일반 정치인들이 밈과 거리를 두는 것과 달리, 트럼프는 자신을 미화한 AI 딥페이크 이미지를 직접 재게시하며 지지층 놀이 문화에 적극 참여하는 드문 정치인이라는 평가 

• 인도에서 '바퀴벌레당'이라는 가상 정당이 등장해, 젊은 세대의 분노와 냉소를 한데 모으고 있어
• 최근 인도 대법원장이 공개 재판에서 "체제에 공격을 가하는" 미취업 청년들을 바퀴벌레와 기생충에 빗대 발언해 청년들의 분노를 사 
• 이후 소셜미디어에 "나도 바퀴벌레다"라는 자기 풍자형 게시글이 쏟아지며 '밈화'돼
• 한 청년이 "모든 바퀴벌레가 한데 뭉치면 어떨까"라는 글을 게시하며 '바퀴벌레국민당'이 만들어져
• AI 생성형 이미지로 바퀴벌레를 의인화한 이미지를 만들어 퍼뜨리기도 
• 바퀴벌레당의 인스타그램 계정은 만들어진지 나흘만에 1천만 명을 돌파해 집권 여당 인도국민당의 공식 계정 팔로워수를 앞질러