👨‍🍳죽은 셰프의 내레이션

7월 넷째주 이지딥레터

웹에서 보기

오늘의 이지딥레터

죽은 셰프의 내레이션 다큐 AI 내레이션 논란

잠시만요, 검색 좀 하고요! 검색하는 AI 챗봇

시켜줘, AI 명예 경찰관 경찰 돕는 AI

👨‍🍳 죽은 셰프의 내레이션

앤서니 보데인 다큐 '로드러너' 속 AI 내레이션 논란

사진 출처 : 앤서니 보데인 트위터

"넌 성공했고, 나도 성공을 거뒀어. 그런데 넌 행복하니?(You are successful, and I am successful, and I'm wondering: Are you happy?)" 지난 2018년, 스스로 목숨을 끊은 미국의 유명 셰프 앤서니 보데인을 다룬 다큐, '로드 러너(Roadrunner: A Film About Anthony Bourdain)'의 내레이션 중 한 부분입니다. 모두 이 내레이션의 목소리를 보데인의 목소리라 믿었죠. 그러나 그 정체는, AI.

🎙죽은 이의 독백

스타 셰프 앤서니 보데인은 세계적인 인기를 끈 유명 셰프였습니다. 호화 식당 셰프들의 뒷모습을 고발한 에세이 "이걸 읽기 전에 먹지 마세요(Don't Eat Before Reading This)", CNN 프로그램 '미지의 세계(Parts Unknown)' 등으로 유명세를 누렸죠. 지난 2018년, 스스로 목숨을 끊기 전까지는요.

로드 러너 이 요리사의 삶을 기리는 다큐멘터리, '로드 러너'가 지난 주말 개봉했습니다. 영화는 북미 박스오피스 8위까지 오르며 화제를 불렀습니다. 하지만 그 좋은 흐름도 잠시, 더 큰 이슈가 터졌습니다. 감독 모건 네빌이 다큐 속 보데인의 내레이션 세 부분이 AI로 만든 목소리라는 사실을 인터뷰에서 밝혔거든요.

"넌 행복하니?" 문제의 내레이션은 앤서니 보데인이 친구에게 보낸 메일에 담겼던 문장입니다. 원래는요, 이 목소리 파일은 없었어요. 아무리 많은 목소리를 남긴 보데인이라도 메일 내용을 녹음한 목소리까지 남기지는 않았으니까. 네빌 감독은 저 내레이션을 만들기 위해 12시간가량의 보데인 음성 파일을 AI 모델에게 학습시켰습니다. 감독은 "내가 밝힌 저 내레이션 말고 다른 AI 목소리 두 개는 찾을 수도 없을 것이다"라고 말했죠.

🗣이거 맞아?

이 인터뷰는 생각보다 큰 파문을 불러옵니다. 유력 외신들은(뉴욕타임스, 가디언, BBC) 잇달아 이 AI 내레이션에 관한 기사를 내놓았습니다. 다큐에 AI 목소리를 쓰는 것, 옳은가? 하고.

속였어! 다큐멘터리는 '사실'을 전달합니다. 관객들은 다큐 속 모든 내용이 진짜라고 믿죠. 하지만 이 목소리는 가짜였고 그에 대한 어떤 언급도 없었습니다. 모아보자면 이런 주장. "관객들 모두 저 내레이션이 보데인의 진짜 목소리라고 믿었을 거야! 다큐를 보는 사람들의 믿음을 배신했어!"

새로운 것일 뿐! 반대도 있죠. 더 나은 기술이 나옴에 따라 등장한 새로운 기법일 뿐이라는 의견. 다시 한 줄로 정리해보자면 "물론 관객들에게 사실을 알렸다면 더 좋았겠지만, 유족 동의도 받았다는데 무슨 문제야? 다른 AI 윤리 문제보다는 비교적 사소해!"

+🤔 목소리 데이터를 학습한 AI 모델이 원본 데이터와 닮은 '가짜'를 만들어내는 오디오 딥페이크. 죽은 이의 목소리도 불러오는 이 기술은 누군가에겐 거대한 감동으로 다가가지만, 또 누군가에겐 두려움으로 다가갈 수 있죠. 이 죽은 셰프의 내레이션은, 어쩌면 앞으로 나올 수많은 AI 윤리 논란의 한 단면일지 모르겠습니다.

잠시만요, 검색 좀 하고요! 🔍

페이스북 AI 챗봇, 블렌더봇 2.0

사진 출처 : 페이스북 AI 블로그

님, 혹시 챗봇이랑 대화해보셨나요? 정해진 말을 그대로 반복하는 이 앵무새 친구 때문에 답답해서 콱, 하신 적 없으신가요. 그런데 말입니다, 여기 자기가 모르는 부분은 후루룩 찾아 알려주고 이를 기억까지 하는 챗봇이 나타났다고 합니다.

💭 블렌더봇 2.0

무슨 일이죠? 페이스북 AI 리서치가 지난 16일 블로그를 통해 챗봇 '블렌더봇(Blender Bot) 2.0'을 선보입니다. (자세한 정보)

특징은요? 블로그 글 제목을 보면 특징을 알 수 있죠. "장기 기억을 구축하고 인터넷에서 검색도 하는 오픈 소스 챗봇(An open source chatbot that builds long-term memory and searches the internet)." 쉽게 말해, 이 AI 챗봇은 사람과 대화하다가 모르는 정보가 있으면 검색을 합니다. 검색해서 나온 정보는 곧바로 대화에 적용하고요. 유용한 정보가 있다면? 곧바로 저장해서 사용자와 함께하는 다음 대화에도 써먹는다는 것!

🔎 검색과 기억 😶‍🌫️

이 챗봇이 어떻게 검색하고, 어떻게 기억하는지 보시죠.

검색하다 여태 나온 챗봇(언어 영역에서 가장 일 잘한다는 AI, GPT-3도!)들은 미리 학습한 데이터가 아니면 바보가 됩니다. 블로그 예시에 따르면 기존 챗봇들은 유명 쿼터백 '톰 브래디(Tom Brady)'가 지난해 2021년 슈퍼볼에서 우승한 사실이나, 새로운 TV 시리즈 '완다 비전'을 전혀 몰라요. 그러나 '검색 증강 생성' 모델을 기반으로 만들어진 블렌더봇 2.0은 몰랐던 키워드를 검색 쿼리로 만들어 인터넷에서 새로운 정보를 보강합니다.

기억하다 이렇게 의미 있는 새 정보를 받아 대답하고 난 챗봇은 장기기억 저장소에 새로운 메모리를 추가하기도 합니다. 어제 챗봇에게 말을 건 사용자가 내일 다시 말을 걸었을 때, 사용자와 이어진 블렌더봇은 어제 검색해 새로 추가한 정보를 기억하고 있는 거죠.

👫 '진짜 친구'

목표 페이스북 AI 측은 이 챗봇이 인터넷 세상 속 모든 정보를 활용해 다양한 주제로 대화할 수 있다고 자신합니다. 그들이 블렌더봇이 나아갈 다음 단계로 뽑은 것은 "가상의 조수" 또는 "디지털 친구". 정해진 대로 움직이는 앵무새 챗봇이 아니라, 진짜 친구요. 생동감 넘치는 이 AI 친구를 우리가 정말 만날 수 있을까요?

이런 뉴스, 어때요? 🗿

🙋문제 :

"님, 울 던전 팟 탱하실?"을 번역하시오

"하이." "님, 울 던전 팟 탱하실?" "ㅇㅋ, 콜." "ㄱㄱ. 포탈로 오삼." 무슨 암호냐고요? RPG게임에서 흔히 만날 수 있는 대화에요. 여기서 문제, 상대가 외국인이면 어떻게 소통하죠? 이 문제를 풀고자 엔씨소프트가 게임 플랫폼 '퍼플'에 AI 번역 엔진 을 도입했습니다. 이 AI는 일상적인 대화는 물론 게임 용어와 입말도 인지해서 번역한다고 하죠. 중국어, 한국어, 영어나 일본어, 한국어, 영어 쌍방향 번역도 가능하다고 하는군요. AI, 어디까지 번역할 셈?

예술작품의 가치🎨, 이 정도?

예술의 가치는 어떻게 평가할 수 있을까요? 예술이 태어난 이래, 사람들은 끊임없이 이를 두고 토론했어요. 글쎄요, 이 새로운 데이터 중심 방법은 어떨까요? 이탈리아 볼로냐 박물관에 등장한 AI 카메라는 관람객의 시선을 감지합니다. 예술 작품 아래 붙은 카메라가 관람객이 작품 어디를 얼마나 집중해서 바라보는지, 그들이 얼마나 오래 그 앞에 머무는지 등 정보를 수집하죠. 데이터가 정말 예술 작품과 관람객들 사이, 새로 정의할만한 가치를 알려줄 수 있을까요?

시켜줘, AI 명예 경찰관 👮

경찰 돕는 AI

동에 번쩍, 서에 번쩍. 인공지능 친구가 이번에는 경찰서에 나타났습니다. 우리의 명예 경찰관, AI들은 경찰 선배를 도와 무슨 일을 하고 있을까요.

📑 조서 쓰기

무슨 일이야? 국내기업 '셀바스 AI'가 '음성인식 기반 성폭력 피해 조서 작성시스템'을 확대 적용합니다. 내년까지 257개 경찰서에 이 시스템이 들어간다고 하죠.

적어드림 성폭력의 경우, 피해자의 진술은 '결정적 증거'입니다. 따라서 처음부터 경찰이 최대한 풍부하게 진술을 받아야 하죠. 이때는 심리적 유대 관계를 유지하며 부드럽게 접근하는 것이 큰 도움. 그러나 조서 작성에 쓸 컴퓨터가 이들 사이로 들어서는 순간. 진술에 어려움이 생겨 버립니다. 이 시스템은요, 성폭력 피해자가 진술한 내용을 자동으로 텍스트로 바꿔줍니다. 경찰관이 피해자 진술에 집중할 수 있는 상황을 만들어 주는 거죠.

정보도 드림 이렇게 텍스트로 바뀐 진술은 자동으로 데이터베이스(DB)로 들어갑니다. 이어 함께 제공되는 'AI 수사가이드'가 진술에 따른 관련 매뉴얼, 판례까지 화면에 보여주며 빠른 대처를 돕는다고 하네요.

🦹 전자발찌 추적, 실종자 찾기

뿐만 아니에요. AI는 경찰관의 업무 부담을 줄여줄 여러 부분에서 활동할 채비를 하고 있어요.

전자발찌 추적 법무부는 지난달 '전자감독 대상자'의 이동패턴과 범죄정보를 분석해 대응하는 'AI 관제 시스템'을 도입한다고 발표합니다. 즉, 범죄 전과로 전자발찌를 찬 사람들의 정보를 AI가 알아서 감시한다는 것. 이 AI는 아직 위험성이 낮은 경보만 처리하는 단계지만 곧 더 많은 일을 해낼 수 있을 것으로 보입니다.

실종자 찾기 5월, 대구 수성구는 AI로 실종자를 추적하는 프로그램 개발에 들어갔습니다. 지자체가 운영하는 CCTV 영상을 바탕으로 AI가 실종자의 동선을 추적하는 것이죠. 실종자가 발생할 때마다 CCTV 영상을 찾기 위해 썼던 막대한 시간을 획기적으로 줄이는 것이 목표.

+만능?🧙‍♂️ 다만 범죄서도 AI가 만능이라는 생각은 위험해요. 지난 2013년 어떤 알고리즘은 미국 플로리다주에서 흑인의 범죄 재발율이 압도적으로 높을 것이라고 측정합니다. 그러나 실제 데이터는 그 반대. 백인의 범죄 재발율이 더 높았다는 것. 이는 AI의 오류를 보여주는 가장 대표적인 사례로 남았습니다. 누군가의 삶을 지배할 수도 있는 범죄 사건. 더 세밀하고 조심스러운 AI 도입이 필요합니다.

알고리마 채용

알고리마가 함께 성장할 동료를 기다립니다.

채용 포지션 프로덕트 디자이너 / 교육 콘텐츠 기획자

(상시 채용) 머신러닝・소프트웨어 엔지니어 / 백엔드 엔지니어 / 프론트엔드 엔지니어

알고리마 채용 바로가기

님! 의견을 남겨주세요. 고쳐볼게요.

피드백하기 📪

아직 구독 안 하셨나요? 기회를 놓치지 마세요.

구독하기 🙌

알고리마 Algorima
hello@algorima.io
서울시 강남구 테헤란로 2길 27 비전타워 07043537176
수신거부 Unsubscribe 😭