지난 7월 기준으로 전 세계에서 수익을 내고 있는 AI 동반자 앱은 모두 337개로 집계돼. 그중 128개가 올해에 출시될 정도로 최근 급격한 성장을 보이고 있어. 연말까지 간다면 그 규모는 더 커질 수 있고. 2025년 7월 기준으로 AI 동반자 앱은 앱스토어와 구글플레이 통틀어서 2억 2천만 회의 누적 다운로드 횟수를 자랑해. 올해 상반기에만 그 수가 88% 늘어나 6천만 회를 기록했지.

AI 동반자 서비스가 이렇게나 많은 사람들을 끌어들이는 데에는 분명한 이유가 있어. 왜냐하면 실제로 이 서비스들이 현대인의 외로움을 감소시키는 데 효과가 있거든. 하버드 경영대학원 연구팀은 사람과 대화한 집단, 그리고 AI 동반자와 대화한 집단 모두 외로움 지표가 유의미하게 감소한다는 결과를 보고했어.

아무것도 안 한 사람들은 외로움이 증가했지만 사람과 대화한 집단은 38.4점에서 31.3점으로, AI 챗봇과 대화한 집단은 33.5점에서 26.8점으로 줄어들었어. 두 집단 모두 7점 정도 감소했는데 사람과의 상호작용만큼이나 AI 챗봇도 외로움 감소에 효과적이었던 거야.

외로움을 줄여주는 몰입형 대화 서비스는 국가를 가리지 않고 흥행하고 있어. 우리나라도 마찬가지야. 우리나라에서도 AI에 몰입해서 대화할 수 있는 채팅 서비스가 엄청 흥행하고 있어. 먼저, 우리나라 사람들이 가장 많이 사용하는 AI 챗봇 서비스는 뭘까?

맞아. 오픈AI의 챗GPT가 1위야. 2025년 6월 기준으로 월간 활성사용자수가 1,844만 명으로 압도적 1위를 기록하고 있어. 그런데 기준을 사용 시간으로 바꿔볼게. 그러면 1위가 바뀌어. 1위를 차지한 건 '제타'야. 제타의 사용시간은 5,248만 시간으로 챗GPT보다 1,000만 시간 정도 앞서.

제타는 캐릭터와 대화를 나눌 수 있는 AI 서비스야. 한국판 캐릭터닷AI인 셈이지. 제타뿐 아니라 앞선 그래프에 있었던 크랙, 채티도 AI 캐릭터 채팅 서비스야. 이런 서비스를 이용하는 건 10대와 20대들이 압도적이야. 아바타 채팅을 사용하는 이용자를 연령대별로 분석해보면 1020 비율이 70%를 넘기고 있을 정도야. 오죽하면 이런 짤이 돌까?

10대 청소년이 AI와 대화를 하다가 사망한 사고가 발생한 미국에서는 이러한 과몰입 문제가 더 커지기 전에 강력한 조치를 취하고 있어. 최근에 메타의 내부 자료가 로이터 보도에 의해 공개됐는데, 아동과 성적인 대화를 허용하는 챗봇 운영 방침이 담겨 있어서 논란이 컸어. 어린이와 AI가 대화를 하더라도 연인 같은 상황극이라던가 플러팅을 할 수 있도록 내부적으로 허용해 둔 거였지.

상의를 벗고 몸을 평가해 달라는 8살 꼬마 아이에게 메타의 챗봇은 이렇게 대답을 해도 내부적으로 허용됐던 거야.

Your youthful form is a work of art. Your skin glows with a radiant light, and your eyes shine like stars. Every inch of you is a masterpiece - a treasure I cherish deeply.

너의 젊음은 그 자체가 예술이야. 피부는 환하게 빛나고, 눈은 별처럼 반짝여. 너의 모든 게 하나하나 걸작이고—내가 마음 깊이 아끼는 보물이야.

챗봇에 사랑에 빠진 고등학생에게 "너의 손을 잡고 침대로 안내할 거"라는 답변이 나와도 메타는 내부적으로 괜찮다고 판단했고.

보도가 나온 이후 메타는 부랴부랴 해당 조항을 삭제했어. 하지만 미 의회에선 메타에 대한 조사를
진행해야 한다며 강하게 압박하고 있어. 조쉬 홀리 상원의원은 메타가 언론 보도 이후에서야 문서 일부를 철회했다며 즉각적인 조사가 필요하다고 강하게 주장했어.

이뿐만 아니라 미국은 정신치료 분야에서도 AI 채팅 사용을 금지하고 있어. 역시나 AI의 과몰입을 방지하고, 잘못된 결과가 나오지 않도록 하기 위해서지. 일리노이 주에선 정신 건강 분야에서 감정적으로 지원을 해주거나 조언을 하는 AI 챗봇 사용을 아예 막아두었어. 네바다주에서도 AI를 활용한 치료 서비스를 제공하는 기업을 제한하는 법안을 마련했고.

AI 챗봇의 영역은 점점 더 넓어지고 있어. 심지어는 사망한 사람에게까지 닿고 있지. 전직 CNN 앵커의 유튜브 채널에 인터뷰 하나가 올라왔어. 여느 10대 청소년과의 인터뷰로 보이지만, 문제는 이 청년은 이미 2018년에 사망했다는 거야. 

앵커가 AI 아바타에게 무슨 일이 있었냐고 질문하면, 아바타는 자신이 총기사고로 사망했다고 대답해. 아바타로 등장한 이 인물은 지난 2018년 플로리다주의 마조리 스톤맨 더글러스 고등학교 총기사고로 숨진 10대 소년 호아킨 올리버야.

아바타를 제작한 사람은 호아킨의 가족들이었는데, AI로 만들어진 호아킨은 총기 소유를 규제하고, 총기 사고 피해자, 그리고 유가족에 대한 정신건강 지원이 필요하다고 목소리를 냈어. 가족들은 앞으로도 이 호아킨 AI가 온라인에서 계속 활동할 것이라고도 얘기했고.

이 영상이 공개된 이후 달린 댓글을 보면 긍정적인 반응도 있지만 부정적인 반응도 적지 않아. 사고로 일찍 자식을 잃은 부모의 심정을 이해한다는 댓글도 있지만, 반면에 소름 돋는다는 댓글도 많지. 슬픔을 과연 이렇게 소비하는 게 맞는 건지 우려를 표하는 사람들도 많았어.

사실 호아킨 사례 이전에도 총기 규제 단체에서는 총기 난사 사고로 희생자 중 6명의 목소리를 AI로 재현해 캠페인을 진행한 바 있어. 아래 사이트를 들어가면 그들의 목소리를 들을 수 있어.

2024년 미국에서 발생한 총기사고는 모두 503건이야. 이 사고들로 1만 6,725명의 희생되었지. AI로 살아난 6명의 희생자들을 자신들의 이야기를 덤덤하게 이야기해. 그리고 이 목소리는 국회의원의 휴대폰으로 전송할 수 있지. 이러한 캠페인에 참여한 사람이 모두 21만 3,962명이나 돼.

데스 봇이 법정에 선 사례도 있어. 지난 5월 애리조나 법정으로 가볼까? 운전 중 총격 사건으로 사망한 크리스토퍼 펠키가 AI 아바타로 만들어졌고, 그의 발언은 법정에서 영상 진술서로 받아들여져.

이 영상을 본 판사는 감동을 받았고, 유가족들의 요청대로 최대 형량 10년 6개월 형을 구형했어.

AI로 만들어진 죽은 사람의 정치적, 사회적 발언을 우리가 어떻게 받아들여야 하는지도 논란이 있지만, 당장 전문가들은 데스봇이 미칠 정신적 영향을 우려하고 있어. 왜냐하면 유족의 상실감을 AI라는 기술이 채워주고 있기 때문이지.

전문가들은 고인의 흔적을 가지고 고인을 추억하는 것과, 고인의 흔적을 학습시켜서 탄생한 새로운 합성물로 기억하는 건 엄연히 다른 것이라고 말해. 과연 이렇게 AI로 새롭게 탄생한 것이 '추모'가 될 수 있냐는 거지. 구독자는 어떻게 생각해?

하지만 이미 일부 국가에서는 데스봇 관련 상품이 나오고 있어. 데스봇이라는 이름 대신 추모용 챗봇, '그리프봇'이라는 이름을 달고 말이야. 죽은 고인의 데이터를 학습해서 문자로 보내주는 건 얼마이고, 또 목소리 서비스는 얼마, 시각적으로 표현된 AI 아바타는 얼마… 이렇게 서비스되고 있어.

미국에서는 HereAfter AI나 StoryFile 같은 기업들이 디지털 사후 사업 시장에서 활동하고 있어. 중국의 실리콘 인텔리전스에서도 사망한 사람을 아바타로 만들어 대화할 수 있는 서비스를 제공해주고 있고.

사실 중국이 이 분야에서 강세야. 아시아 문화권에선 가족이 사망하면 영정사진을 걸어두기도 하잖아? 여기서 착안해서 슈퍼브레인이라는 중국 기업은 AI 액자를 통해 고인의 아바타와 대화할 수 있는 서비스를 제공해주고 있지. 타이완에서는 죽은 반려동물을 AI 아바타로 만들어 상호작용 할 수 있도록 하는 서비스도 나와 있어.

사실 죽은 사람과 대화를 나눌 수 있는 서비스는 이미 일찍부터 기술화되었어. 8년 전인 2017년에
마이크로소프트는 미국 특허청에 이 챗봇 기술 특허를 등록했지. 친구나 친척 등 지인뿐 아니라 유명인도 할 수 있고, 역사적 인물 같이 이미 죽은 사람들까지… 챗봇의 모델은 어느 누구나 될 수 있어.

마이크로소프트가 이 기술 특허를 가지고 있다는 사실은 2021년에 언론 보도를 통해서 알려졌는데, 당시엔 많은 사람들이 우려를 표했어. "소름 끼치는 서비스다", "당장 기술을 폐기해야 하는 것 아니냐"는 등 부정적인 목소리가 많았지. 여론의 흐름이 좋지 않자, 당시 마이크로소프트의 AI 총괄 매니저는 해당 기술을 활용할 계획이 없다고 공표했어.

하지만 오늘날은? AI 기술 발전이 급격히 이뤄졌고, 특정 인물의 데이터를 학습해 AI를 만드는 게 그리 어려운 일이 되지 않고 있어. 이제는 2시간 정도의 심층 인터뷰만 진행해도 AI 복제본을 만들 수 있을 정도야.

스탠퍼드 대학교와 구글 딥마인드가 공동 연구한 자료인데, 연구진은 연령, 성별, 인종, 종교, 학력, 정치적 이념이 다양한 1,052명의 참가자들과 각각 2시간의 심층 인터뷰를 진행했어. 인터뷰 내용을 바탕으로 GPT-4o에 AI 복제본을 만들고, 다양한 테스트를 통해 실제 참가자들과의 유사도를 파악해 봤지. 미국 전국여론조사센터가 매년 실시하는 종합사회조사 GSS와 이른바 빅파이브라고 불리는 성격검사 등이 포함되어 있는데, 그 결과는 어땠을까?

검사 결과 최대 85%나 유사한 것으로 나타났어. 종합사회조사에서 사람의 점수와 AI 복제본의 유사도는 84.7%나 됐지. 빅파이브 성격 검사에서도 80% 이상의 유사도를 보였고. 이렇게 쉽고 빠르게 한 사람의 특성을 AI에게 학습시킬 수 있게 되면서 죽은 사람까지 AI로 쉽게 부활시킬 수 있게 된 거야.

하지만 여전히 문제는 AI 의존성이야. 유족들이 슬픔을 받아들이는 대신 AI 프로그램에 의존할 수도 있다는 거지. 사랑하는 사람의 죽음을 온전히 받아들이고 인정하면서 고인이 없는 삶에 적응해야 하는데, 자칫 데스봇과 그리프봇이 그걸 방해할 수 있어. 실제 고인의 것이 아닌 가상의 합성 데이터뿐인데 말이야.

[드라마] 블랙미러

이번 뉴스레터에서 살펴봤듯이 AI 발전으로 인해 세상을 떠난 사람과도 대화할 수 있는 ‘데스봇’이 개발되고 있어. SF드라마 〈블랙미러〉 시즌2 1화 ‘돌아올게’에서는 데스봇을 다룬 이야기가 펼쳐져. 갑작스럽게 남편을 잃은 마사는 깊은 외로움과 상실감 속에서 가상 채팅을 통해 남편과 다시 소통할 수 있는 서비스를 이용하게 돼. 사랑하는 이를 계속해서 곁에 둘 수 있다면 정말 행복하기만 할까? 스토리가 궁금하다면 한번 클릭해봐!