어쩌면 우리는 주커버그에게 속고 있을지도 모른다
지금을 읽고 싶은 사람들의 미디어 이야기, 어거스트 💬 오늘의 어거스트 우리는 흔히 기술이 미래를 만든다고 생각하지만, CEO들이 상상하는 미래가 곧 기술을 만들기도 합니다. 예컨대, 스티브 잡스(애플), 마크 주커버그(페이스북), 엘론 머스크(스페이스X)와 같은 CEO들의 기술과 산업에 대한 미래 비전은 기업을 넘어 사회 전체에 큰 영향을 미칩니다. 학자들은 ‘사회기술적 상상(sociotechnical imaginaries)’이라는 용어로 이런 현상을 일컫는데요. 빅테크 CEO들은 이런 사회기술적 상상들을 연설, 광고는 물론 제품/기업 설명과 기업문화에 녹여내고, 이로써 대중들이 ‘이 기술이 곧 미래'라고 생각하기를 바랍니다. 스티브 잡스, 마크 주커버그, 엘론 머스크 모두 이런 사회기술적 상상들을 훌륭하게 사용하는 창업가들이죠. 오늘 저는 이 뉴스레터를 통해 두 가지 주제에 관해 얘기해보려고 해요. 먼저, 빅테크 회사들의 사회기술적 상상이 지구와 사회에 가지는 엄청난 위력과 함께 논의해볼까 하고요. 그 다음에는, 빅테크 회사들이 기술을 바라보는 사회의 시선을 독점하는 것이 왜 위험한지를 인공지능 윤리와 함께 얘기해볼까 합니다. 미국에서 커뮤니케이션학을 공부 중인 장희수님이 에디터 SAT로 합류했습니다. 장희수님은 빅테크/플랫폼/인공지능 산업의 권력과 정치를 연구합니다.
💬 오늘의 에디터 PICK 제가 지난 주에 알고리즘의 마법에 이끌려 만난 앵무새 친구인데요. 이 정도 잔소리 해주는 앵무새 있으면 AI스피커 필요없을 것 같은데… 거의 인공지능 음성비서급 잔소리 아닌가요 😁귀여운 거 보고 가세요~   잠깐! 그 전에 광고 한 번 보고 갈게요!
🙈 (광고) 이메일 마케팅은 스티비로! 뉴스레터를 한다고 말하면, 많이들 묻습니다. 뉴스레터, 이메일 마케팅 진짜 확실한 거 맞냐고요. 이전까지 제대로 대답하기 어려웠습니다. 전 오직 제가 경험한 부분만 알기 마련이니까요. 그런데, 이 리포트를 보니 확실히 지금은 이메일 마케팅의 시대인가 봅니다. 국내 최대 이메일 뉴스레터 솔루션 스티비가 최근 ‘스티비 2021 이메일 마케팅 리포트’를 발행했습니다. 국내 최대 업체이니만큼 이메일 마케팅에 대한 전체적인 지형도를 파악하는 데에 좋은 자료입니다.
스티비 2021 이메일 마케팅 리포트는 여기에서! 그동안 뉴스레터는 해외에서만 사용되던 매체로 인식되었습니다. 하지만 요즘은 다릅니다. 어피티와 뉴닉 등 근래에 생긴 미디어 스타트업들이 뉴스레터를 주요 매체로 활용하며 많은 이들이 관심을 쏟기 시작했습니다. 스티비 월평균 활성 사용자 숫자는 2019년에 비해 무려 108%가량이나 늘어났다고 합니다. 2020년 한 해 동안 스티비를 통해 발송된 뉴스레터도 무려 5.2억 건으로, 2019년 대비 86%나 올랐고요.
뉴스레터의 사용자는 크게 두 축입니다. 기업과 개인이죠. 실제로 근 3년 동안 기업 사용자의 숫자는 연평균 48.1%가량 늘어났습니다. 기업 브랜딩부터 마케팅까지 다양한 용도죠. 기업들이 뉴스레터에 주목하는 이유는 무엇일까요? 우선, 이 세상 가장 사적인 매체라는 특성상 이메일은 관계 맺기가 상당히 용이합니다. 뉴스레터 구독은 페이스북이나 인스타그램 팔로우보다 훨씬 관여도가 높은 행위죠. 이렇게 맺은 관계에 기반해 마케팅한다면, 높은 효율이 나올 수 있습니다.
하지만 기업보다 더 폭발적으로 성장한 분야가 있습니다. 바로 개인 뉴스레터입니다. 지난 3년 동안 개인 뉴스레터는 연평균 133.7%가량 늘어났다고 해요. 매해 2배씩 증가한 셈입니다. 이 성장에는 다양한 배경이 있습니다. 퍼스널 브랜딩이자 동료와의 사이드 프로젝트이기도 하고, ‘부캐’를 만들고자 하는 자아실현이기도 합니다. 하지만 무엇보다도 콘텐츠 비즈니스로서 가능성이 이 폭발적 성장을 이끌지 않았을까 싶습니다. 1인 미디어로서 자신의 콘텐츠로 비즈니스를 꾸릴 수 있는 최적의 채널이 뉴스레터이기 때문입니다. 실제로 스티비 FGI 응답자 중 절반 이상이 뉴스레터를 통해 새로운 수익 창출 기회를 얻었다고 합니다. 모두가 뛰어들어가는 뉴스레터 시장, 어떻게 해야 차별화할 수 있을까요?
너무나 당연한 이야기지만, 대화해야 합니다. 이메일이라는 채널의 특성상, 모든 뉴스레터는 사적으로 여겨지고 그만큼 긴밀하게 대화할 필요가 높습니다. 독자와 대화하듯 제목과 콘텐츠를 작성해야 합니다. 뉴스레터에만 올인해서도 안됩니다. 인스타그램과 페이스북 그리고 기존에 개인 혹은 기업이 운영하던 블로그와 홈페이지 등을 연동하여 구독자를 효율적으로 확보해야 합니다. 앞서 말씀드린 리포트를 한 번에 요약하면 아래와 같습니다.
🙈 빅테크 기업들의 사회 기술적 상상은 현실이 된다? 기술의 발전은 사회를 통째로 뒤흔듭니다. 우리는 종종 ‘이 기술이 너무 대단해서' 사회의 룰을 바꿔놓는다고 생각하지만, 사회를 뒤흔드는 건 기술 자체가 아니라 해당 기술을 홍보하고 지원하고 그 기술을 바탕으로 미래를 설계하는 사회의 수많은 행위자들인 경우가 더 많습니다. 이 수많은 행위자들에는 기업과 정부는 물론이고 사회단체나 시민도 포함될 수 있겠는데요, 이 모든 행위자들이 이 기술과 미래에 같은 발언권을 가지지는 않죠. 우리나라의 경우, 박정희 대통령 시대에는 어떤 기술이 지원을 받고 우리나라의 미래를 그려나갈지에 관해서 정부의 목소리가 가장 강했는데요. 이미 모두들 피부로 느끼고 계시지만, 전세계적으로 점점 정부보다는 빅테크 기업들의 목소리가 강해지고 있습니다. 예컨대, 여러분이 인공지능 기술을 바라보는 관점은 누구의 관점을 많이 차용하고 있나요? “사회기술적 상상” 개념을 제시한 두 학자 중 한 명인 셰일라 제세노프(Shelia Jasanoff, 다른 학자는 김상현 한양대 교수)는 빅테크 기업들이 ‘기술 발전'과 함께 이 기술 발전이 가져올 수많은 ‘비전’들을 어필하는 일이 점점 더 빈번해지고 있다고 합니다. 빅테크 기업들이 산업과 세계가 어떤 방향으로 나아가고 있고 또 나아가야 하는지를 제시하고, 소비자와 대중이 새로운 기술에 대해 갖는 희망과 공포 사이에서 줄타기를 한다는 거죠. 이미 여러 학자들은 창업자들이 제품과 서비스를 홍보할때 공통적으로 미래에 관한 유토피아적인 시각, 공동체지향적인 내러티브(‘우리는 당신을 당신의 가족, 친구들과 더 가까이 이어줍니다' 같은 메시지들), 그리고 사회문제를 기술로 고치겠다는 약속들을 반복적으로 내세운다는 점을 지적했어요 (예를 들어 Katzenbach (2019), Srnicek (2016)). “공동체" “공유" “공감" “더 나은 미래" 빅테크기업들이 이런 키워드를 사용하는 일이 낯설지 않죠?
“AI는 계속 진화할거고, 미래에는 더 많은 질병을 낫게 해줄겁니다. 우리는 모두 그걸 알고 있죠 (마크 주커버그, 2016년 연설에서)” (사진 출처: the verge) 위 학자들과 연구들이 보여주는 사실은 빅테크 기업들이 “기술" 자체를 얘기하지 않는다는 겁니다. 이 기술이 어떻게 무엇을 이용하는 기술인지 알려주는 대신, 이 기술이 가져올 “미래”와 “사회적 가치"들을 얘기하죠. 이 창업가들이 그리는 “미래”와 중요하게 여기는 “사회적 가치"는 곧바로 제품과 서비스이 어떻게 디자인되는지에 직접적인 영향을 미칩니다. 그리고 빅테크들이 상정한 미래와 중요하다고 생각하는 사회적 가치를 실현하기 위해서 다른 사회적 가치는 무시되거나 차등시되기도 하죠. 인공지능의 효율성과 정확성을 위해 생태계 보호나 공정성, 개인의 프라이버시 등은 밀려나는 것처럼요.
🙈 인공지능 기술의 범지구적인 영향, 누구를 위해 묵인되나 우리는 흔히 기술이 가지는 위력을 떠올리면 소비자 위주로 생각하기 쉬워요. 우리의 삶이 어떻게 변했는지, 내 하루 일과가 어떻게 변했는지, 나의 취업과 미래에 어떤 영향을 미치는지 등의 측면에서 말이에요. 그런데 기술이 가지는 위력은 생각보다 그 범위가 넓고 개인의 차원을 뛰어넘습니다. 특히 요즘 미래의 대명사가 되어버린 인공지능 기술은 더더욱 그러하죠. 마이크로소포트의 선임연구원이자 뉴욕대학교 AI Now Institute의 공동창립자인 케이트 크로포드(Kate Crawford)는 최근 출판한 책 Atlas of AI에서 인공지능 기술의 범지구적인 영향을 다방면에서 보여주었는데, 그중에서 제가 가장 흥미롭게 읽은 지구와 데이터에 관한 두 부분을 소개해볼까 합니다. 먼저 인공지능 기술이 지구와 자원에 미치는 영향은 어마어마합니다. 소비자의 입장에서 인공지능 모델은 컴퓨터 하나만 있으면 만들고 사용할 수 있는 무형의 존재일 수 있지만, 사실 인공지능은 엄청난 기반시설(aka 인프라)을 요하는 산업입니다. “인공지능"이라는 용어가 알고리즘, 데이터, 클라우드 등 무형의 개념들과 연결해 생각하기 쉬운데, 사실은 대량의 지구의 희귀광물, 석유, 석탄은 물론 대규모의 수력과 전력을 컴퓨팅 파워에 사용하는 물질 기반의 산업이기도 하기 때문이죠. 특히 리튬은 휴대폰, 노트북, 집안의 여러 디지털 기기, 그리고 테크회사들의 데이터센터 백업 파워에 필수적입니다. 미국의 실리콘밸리는 네바다주의 리튬 광산이 지탱하고 있다고 해도 과언이 아닐 정도죠. 구글이 데이터센터를 네바다주에 두 개나 갖고 있는 이유가 여기에 있습니다. 또, 실리콘밸리의 빅테크회사들의 리튬 수요가 올라갈수록 리튬 광산의 수요도 올라가는데, 이로 인한 환경오염, 광부들의 열악한 업무환경, 건강악화와 이로 인한 죽음, 그리고 광산 개발로 인해 없어진 마을 등에 관한 책임은 빅테크회사들이 지지 않습니다. 알게 모르게 지구와 사회적 약자들이 지고 있죠. 또 하나는 데이터를 바라보는 시선에 관한 이야기입니다. 언론과 인공지능 산업에서 데이터는 흔히 인공지능 산업의 원유라고 많이들 비유하는데요, 이런 시각은 데이터가 어디에서 누구로부터 어떻게 수집되는지에 관한 맥락을 완전히 지워버립니다. 개인정보 보호 얘기를 할 때는 ‘개인정보'라는 용어를 사용하고, 인공지능 산업과 기술 발전을 얘기할 때는 ‘데이터'라는 용어를 사용하지만, 사실 ‘개인정보'나 ‘데이터’가 소비자 입장에서 과연 얼마나 다를지 의문입니다. 기업이 어떤 용어를 사용하기로 선택하든 개인에게는 모두 소중한 개인정보니까요.
(사진출처: American Security Today) 위의 사진들은 미국 상무부 산하 NIST(국립표준기술연구소, National Institute of Standards and Technology)에서 관리하는 데이터셋 중 하나인 NIST 특별 데이터베이스 32에 포함된 한 남자의 시기별 안면사진입니다. 이 데이터베이스에 포함된 사진들은 모두 경찰들이 체포된 사람을 찍은 사진인데, 구속 영장이 청구되었다 해서 범죄자로 확정되는 것이 아니기 때문에 이 사진을 찍은 후 감옥에 갔는지 무죄로 풀려났는지 알 수 없습니다. 하지만 구속된 피의자이기 때문에 사진을 찍히지 않은 권리가 과연 있었을지 의문이네요. 이 사진들은 안면인식기술 인공지능 모델을 개발하고자 하는 사람이라면 누구나 사용할 수 있는 데이터예요. 개인을 보호하기 위해 이름과 직업 등의 정보가 모두 사진과 연결되어있지 않긴 하지만, 얼굴사진이라는 특성 때문에 개인에게는 굉장히 민감한 정보인데요. 인공지능 산업 내에서는 그저 인공지능 모델을 훈련시키는 데이터일 뿐이죠. 작년에 미국에서는 인공지능 스타트업인 클리어뷰(Clearview AI)가 페이스북, 유투브, 인스타그램, 트위터, 벤모 등에서 모은 30억 개가 넘는 사진들을 데이터베이스로 만들어, 누군가의 사진을 업로드하면 해당 사진과 데이터베이스의 사진들을 매칭하는 앱을 출시했었는데요. 주 고객 중에 미국 경찰이 있어서 미국에서는 큰 논란이 되고 있습니다 (지금도 논란은 현재진행중). 기업 입장에서는 어차피 인터넷에 올라와있는 사진들을 수집한 것일 뿐이었지만, 아무리 내 이름이나 다른 민감정보와 연계되지 않았더라도 내 얼굴이 데이터로 수집되는 걸 원하지 않는 사람이 많았죠. 게다가 이렇게 다른 데이터베이스와 결합됐을 땐 나를 지칭할 수 있는 정보가 되어버려요. 최근 프라이버시 학자들은 인공지능 시대에 하나의 데이터가 개인을 특정할 수 있는지 없는지에 초점을 맞춘 개인정보보호법과 프라이버시 개념은 크게 도움이 되지 않을 수 있다고 지적합니다. 학자들은 이를 표현하기 위해 ‘네트워크 프라이버시(networked privacy)’와 ‘집단 프라이버시 (group privacy)’ 등의 새로운 프라이버시 개념을 제안했는데요. 예컨대 최근에 이용자의 고지된 동의(informed consent)를 받지 않은 카카오톡데이터를 인공지능 모델 데이터에 활용한 스캐터랩의 이루다 사태를 돌이켜보면, 해당 앱의 이용자가 아니었는데도 대화 상대방이 나와의 대화를 스캐터랩 서비스에 보냈다면 나도 이 사건의 피해자가 될 수 있었죠. 내 개인정보의 공개 여부를 내가 아닌 내 개인정보를 이미 아는 다른 개인, 집단, 기업이 결정하기도 한다는 거죠. 하나의 데이터만 보았을 땐 익명정보였어도 여러가지 데이터셋을 모을 경우에는 개인을 특정할 수 있게 되기도 합니다. 또, 내 개인의 정보가 훈련 데이터에 포함되지 않았어도, 나와 나이, 취향, 인종 등이 정말 비슷한 누군가의 데이터를 배운 인공지능 모델의 결과가 나에게 피해를 미칠 수도 있습니다. 정말 뜬금없지만, 나는 범죄를 저지르지 않았는데도 데이터에 포함된 수많은 우범지대에 사는 20대 흑인들이 범죄를 저질렀다면 내가 같은 지역에 사는 20대 흑인이라는 사실만으로도 인공지능 모델에 의해 피의자로 지목될 수도 있는 거죠. 인공지능 기술에 관한 이런 정보들은 우리에게 생각보다 잘 도달하지 않습니다. 왜 우리는 인공지능 기술이 우리의 미래에 미치는 영향에 관해서 부정적인 면보다 긍정적인 면에 훨씬 치중하게 되었을까요? 테크회사들이 이런 얘기를 안하기 때문입니다. 빅테크 회사들이 그리는 인공지능과 함께하는 미래에는 인공지능이 지구온난화도 해결해주고, 노동의 고통도 해결해주고, 우리를 더 인간답게 살 수 있도록 도와줄 거라고 주장합니다. 친환경, 지속가능성, 녹색경영 등의 키워드를 사용해서 자사를 홍보할 때 어떤 빅테크 회사도 자신들이 사용하는 자원과 수력, 전력의 정확한 양을 공개하고 있지 않습니다. 개인정보와 데이터에 관한 논의도 마찬가지에요. 개인정보와 데이터에 관한 논의 모두 산업의 입장에서 이뤄지고 있기 때문이죠. 어떻게 하면 개인의 정보를 더 보호할 수 있을지가 아니라 어떻게 하면 개인의 정보를 더 편하게 활용할 수 있을지에 초점을 맞추고 있단 말이죠 (feat 데이터 3법).
🙈 테크회사들이 스스로 정의하는 인공지능 윤리규범 테크회사들의 사회기술적 상상력은 기술에만 그치지 않고 기술의 윤리도 스스로 정의하고 있습니다. 최근에 우리나라에서도 이루다 사건을 계기로 인공지능윤리에 관한 재검토가 시작됐죠. 카카오와 네이버가 연달아 인공지능 윤리 규범을 발표했죠(네이버 AI 윤리 준칙, 카카오 알고리즘 윤리). 하지만 인공지능 윤리는 다음과 같은 이유로 아주 좁은 개념입니다.
테크회사들이 발표하는 인공지능윤리규범의 특징은 제재나 금지에 관한 내용이 없다는 점입니다. 예컨대, 특정 데이터나 인공지능 모델의 사용을 제한하거나 인공지능 모델이 특정 방법이나 분야에서 사용되는 것을 금지하는 등 제재의 내용이 없어요. 즉, 우리는 네이버와 카카오가 윤리준칙을 어겼거나 알고리즘으로 인한 부당한 피해를 입었다고 해서 보상받을 수 없습니다. 또 윤리준칙에 포함된 “다양성" “합리성” “독립성" “아동과 청소년에게 부적절한 내용" 등의 사회적 가치가 어떠한 명확한 정의 없이 사용되고 있다는 점도 눈여겨볼 만합니다. 다양성을 존중하는 인공지능 모델, 합리적인 인공지능 모델을 만들 때 그 다양성과 합리성은 과연 누가 정하게 될까요? 인공지능의 독립성을 해치는 ‘누군가'에 개발자나 기업 자신도 포함되는지 안되는지는 누가 정할까요? 또, 아동과 청소년에게 부적절한 내용이 뭔지는 과연 누가 정하게 될까요? 기업이 정하겠죠. 말하자면, 백인 남성인 마크 주커버그가 생각하는 “다양성"과 서울대학교 출신 김범수가 생각하는 “합리성"이 모두에게 적용되는 알고리즘의 윤리에 그대로 반영될 거란 말이죠. 인공지능 회사들은 인공지능이 발전할수록 사람들에게 이득이 될 거라고 말하는데요, 대중을 지키기 위해 만들어지는 인공지능 윤리규범조차 대중들에게 어떤 윤리와 보호를 원하는지 묻지 않은 채 기업들이 알아서 만든다면 도대체 기술은 누구를 위해 만들어지고 발전하게 될까요? 제가 이 뉴스레터에서 말하고 싶은 점은 우리는 너무 많은 시간을 인공지능 시스템을 테크 기업들에게만 맡겨왔다는 사실입니다. 테크 기업들을 비하하는 것이 아니라, 인공지능을 비롯한 새로운 기술들이 그려나가는 미래에 기업들의 역할이 있듯이 대중의 역할도 있다는 거예요. 빅테크 내의 사람들이 대부분 남자 어른이라면 여자와 노인, 청소년, 아이의 의견을 들어야 하고, 대부분 시스젠더라면 퀴어의 시각을 반영하려고 노력해야 하고, 대부분 고소득자라면 그보다 더 낮은 소득을 가진 사람들의 참여를 이끌어내야 한다는 겁니다. 쉽게 목소리가 들리지 않을 수 있는 사람들일수록 인공지능 윤리규범의 제정에 참여해야 한다는 거죠. 이러한 대중의 역할을 여태까지 테크 회사들이 빼앗아 자기들이 알아서 해왔는데, 이젠 그 역할을 대중에게 돌려줄 때입니다. 앞서 보았다시피 인공지능 시스템이 사회에 끼치는 영향은 범지구적이고 인공지능 산업 내의 사람들뿐만 아니라 모든 사람에게 미치기 때문에, 인공지능 기술은 더더욱 모두의 의견이 필요한 영역입니다. 미국에서도 이런 주장은 점차 힘을 얻고 있어요. 예컨대, 구글은 인공지능 시스템의 편견을 지적한 구글 AI윤리팀 공동 책임자 팀니트 게브루를 해고한 이후, 사회로부터 구글에 인공지능 모델의 인종적 편견에 관한 외부 감시팀(racial audit team)을 두어야 한다는 압박을 받고 있죠. 이러한 주장은 인공지능이 인종차별을 하는지 안하는지를 구글이 정할 게 아니라 정말 그 피해를 받는 사람들이 정해야 한다는 데 그 기반을 두고 있습니다.
🙈 빅테크 기업들은 너무 많은 혜택을 누리고 있다 솔직히 저는 몇 되지도 않는 소수의 테크 기업들이 너무 많은 자원의 혜택을 누리고 있다고 생각합니다. 물론 이는 테크 기업들이 억지로 이런 현상을 만들어내서가 아니라, 자본주의와 글로벌 시대 국가 간 기술 경쟁의 심화 등 시대적 정신과 인공지능이 아주 잘 맞닿아있기 때문입니다. 인공지능 기업들이 이런 시대정신을 잘 읽어내고 잘 이용했다고 할 수 있겠죠. 하지만 지구와 사회와 사람의 덕을 봤으면 지구와 사회와 사람에게 좀 더 고마워해야 하는 거 아닌가? 하는 생각이 있습니다. 게다가 사회의 귀중한 자원들을 통해 만들어낸 인공지능인만큼 지금보다 더 산업의 이익이 아닌 사회의 이익을 위해 움직여야 한다고 생각하거든요. 저는 사람들이 좀 더 테크 기업들이 어떤 자원을 어떻게 쓰는지, 그리고 이렇게 만든 인공지능으로 뭘 하고 있는지, 인공지능이 나와 사회를 위해 쓰이고 있는지 제대로 알고 감시했으면 좋겠습니다. 그래서 우리의 미래가 빅테크 기업들의 사회기술적 상상뿐 아니라 우리 모두의 사회기술적 상상도 더해진 미래였으면 좋겠습니다. 원래 기업들은 대중의 목소리에 반응하는 거잖아요? 그런데 인공지능 산업은 대중에게 참 반응하지 않는 산업으로 성장하고 있는 것 같습니다. 아무리 무궁무진한 발전을 할 수 있는 기술이라 하더라도 그 기술이 사람을 희생해가면서 성장한다면 종국엔 무슨 의미가 있을까요?
오늘 글을 피드백 해주세요! 💌 매주 화요일 오전에 뵙겠습니다 :) 💎 Edited by MON, TUE, WED, THU, FRI, SAT, SUN 💌 협업문의 augustletter08@gmail.com 💜 어거스트 구독하기 어거스트 구독 링크를 복사해 친구들에게 알려주세요! Copyright © AUGUST All rights reserved. 수신거부 |
