딥페이크 기술의 과거, 현재, 그리고 미래 알아보기
안녕하세요, FEN 그린크루입니다! 날씨가 꽤 추워졌는데 다들 몸도 마음도 따뜻하게 겨울을 날 준비를 하고 계시길 바랍니다💨 딥페이크 기술, 많이 들어는 봤지만 우리가 사회 구성원으로서 해당 기술에 대해 가져야 할 책임감까지 생각해보기는 어려웠을 수도 있는데요. 그래서 준비했습니다! 딥페이크 기술의 원리부터 이의 과거, 현재, 그리고 미래까지 논해보며 다양한 관점을 알아가보자고요!😉 💌오늘의 목차💌 1. 딥페이크 기술의 정의 및 원리 2. 딥페이크 기술이 가져온 변화 3. 딥페이크 기술이 가져온 바이러스 4. 기술 vs 윤리, 우리가 택해야 할 길은? 💭딥페이크 기술, 도대체 뭐길래? 딥페이크(Deepfake)=딥러닝(Deep learning)+페이크(fake) 딥페이크란 딥러닝과 페이크의 합성어로, 인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 그 자체를 의미합니다!
이는 데이터의 패턴을 인식하는 시스템인 인공 신경망에 의존하는 기술인데, 딥페이크 사진 또는 비디오를 개발하는 데에는 일반적으로 수백 또는 수천 개의 이미지를 인공 신경망에 투입한 후 패턴을 식별하고 재구성하도록 훈련, 학습하는 작업이 이루어진답니다. 이러한 패턴 식별 및 재구성의 과정 이후에는 보통 얼굴을 바꾸거나 표정을 조작하는 방식으로 가짜 동영상을 만들어가는 구조인 것이죠😀 💭딥페이크 기술은 우리 사회에 어떤 변화를 가져왔을까? : 신기하고도 신기한 기술의 발전 딥페이크 기술이 우리 사회에 가져온 많은 변화 중 하나를 소개해드리고자 하는데요, 혹시 루이라는 유튜버를 들어보셨나요? 아래의의 이미지가 바로 유튜버 루이입니다!
딥페이크 기술을 얘기하다가 왜 갑자기 유튜버 얘기를 하나 의문을 가질 수도 있는데, 그녀가 버츄얼 유튜버라고 하면 말이 달라지겠죠? 코로나 19 이후 온라인 활동이 활발해졌고, 최근 등장한 메타버스의 등장은 딥페이크 기술 개발을 더 활발하게 진행하고 있답니다. 3차원 가상세계에서는 가상의 인물, 즉 버추얼 휴먼이 등장하기 시작했는데, 메타버스에서 활동하는 이 캐릭터는 가상세계와 현실세계 구분을 넘는 인격체로 여겨지고 있다는 놀라운 사실! 현실에서 할 수 없는 사교활동, 심지어는 경제활동까지 하고 있으며 이런 가상의 인물 캐릭터는 엔터테인먼트와 광고영역에서도 활발하게 활동하고 있습니다. 버추얼 휴먼 루이 역시 활발한 활동을 이어오고 있는데요, 유튜브 채널 운영뿐만 아니라 국새생명 복지재단의 홍보대사로 임명되기까지 한다는 점! 생각보다 광범위한 그녀의 활동 범위에 감탄할 수밖에 없었답니다😳. 💭딥페이크 기술이 가져온 바이러스💦 기술 얘기하다가 갑자기 바이러스라니! 저는 기술이 신기하고 새로운 세상을 만들어가는 동시에 항상 그 이면에는 바이러스를 한가득 사회에 안겨준다고 생각해 이런 표현을 써봤습니다. 신기했던 버추얼 휴먼의 등장에 대해 알아봤으니, 이제부터는 딥페이크 기술이 우리 사회에 가져온 어두운 면에 대해서도 차근차근 살펴봅시다. 사이퍼(Cyphere) 상무 컨설턴트 하만 싱의 의견 - "딥페이크 기술은 현금을 옮기거나 빨리 지불하라는 요구에 힘을 실어주는데 사용될 것이고, 이런 사기 행위를 저지르기 쉽고 방어하기 어렵게 만들 것이다. 특히 딥페이크 오디오 사칭은 기업 데이터와 시스템 접근을 노리는 소셜 엔지니어링 공격에 효과적일 수 있다. 출장 중이거나 사무실을 비운 임원을 가장해 비밀번호를 재설정하거나 회사 자산에 접근할 수 있는 작업을 수행하는 것은 하나의 속임수다" - "딥페이크의 또 다른 용도는 생체 인증을 우회하는 것이다. 안면/음성 인식과 같은 생체 인증은 추가 보안 계층을 제공하고 그들의 고유한 특징에 따라 누군가의 신원을 자동으로 확인하는데 사용된다. 그러나 이런 인증을 우회하기 위해 사람의 외모나 목소리를 정확하게 재현할 수 있는 기술은 ID 및 접근 관리 전략에 생체 인증을 이용하는 기업에 상당한 위험을 초래한다. 그래서 원격 근무가 확산되는 가운데 범죄자들이 딥페이크에 투자하고 있는 것이다." - 워낙 쉽게 누구나 활용해 사실을 가짜와 섞어버릴 수 있는 파괴적 기술인만큼 인공지능(AI)을 활용한 기술을 개발하는 전문가 사이에서 딥페이크는 '사회적으로 경각심을 가져야 할 무서운 물건'으로 여겨지고 있답니다. 더욱 경각심을 가져야 할텐데 5분짜리 샘플 오디오만 있으면 합성된 음성을 만들 수 있기에 더 많은 이들이 이를 악용하고 있는 게 안타까운 현실입니다😥 - 이뿐만 아니라 음성이나 얼굴 비디오 소스(source) 가 비교적 널리 퍼진 연예인이나 정치인의 경우, 가짜 뉴스를 손쉽게 만들어 퍼뜨릴 수 있다는 위험성 또한 내포하고 있는 기술이 딥페이크 기술입니다. 실제로 유명 연예인 얼굴과 음란물을 섞은 '딥누드' 또는 '딥포르노와 같은 음란물이 최근 발견되는 딥페이크 사례 중 96%이라는 충격적인 통계까지 나왔답니다. 💌저희가 준비한 이번 뉴스레터는 여기까지입니다!💌 딥페이크 기술에 대해 여러 고민을 해볼 수 있는 뉴스레터였길 바랍니다😊 💭기술 vs 윤리, 우리가 택해야 하는 길은? 이 질문에 대한 답은 없다고 생각합니다. 다만 계속해서 균형을 맞추어가는 것이 우리가 사회 구성워으로서 책임감을 가져야 하는 부분이겠죠. 신기하고 새로운 기술을 만끽하는 것 역시 자유이지만, 이것이 누군가의 개인정보를 탐닉하고 누군가에게 성적 수치심과 모욕감을 안겨준다면 이는 더이상 자유라고 할 수 없으리라 생각합니다. 딥페이크 기술의 파괴적 행보를 막기위해서는 악용 사례를 발견했을 때 바로바로 신고를 해내는 개개인의 참여가 필요합니다. 그리고 진짜와 가짜를 가려내는 기술을 발전시켜가는 방법도 있겠지요. 여러분은 기술과 윤리 사이에서 어느 것을 더 중시할 건가요? 사회 구성원으로서 우리가 할 수 있는 노력으로는 어떤 것들이 있을까요? 참고자료💬 Michael Hill, 딥페이크의 소셜 엔지니어링 및 인증 위협 방법과 대응 방안, 2021.11.3 김세훈, 딥페이크, 사용방식 따라 ‘양날의 칼’, 단비뉴스, 2021.11.3 지식 백과 ICT 시사상식 2021’딥러닝’ 정의, 2021.11.3 '"딥페이트의 원리와 간단한 개념 이해", IT 테크 전문가, 2021.2.15수정, 2021.11.3 접속 |
