한편으로는, 넷플릭스나 유튜브와 같은 콘텐츠 플랫폼이 나의 취향과 관심사를 학습해나가며 종국에는 ‘나’보다 ‘나’를 더 잘 아는 존재가 되어가는 것은 아닐까 하는 생각이 들기도 합니다. 나의 취향과 관심사가 반영되고 있는 것이기는 하지만 또다른 한편으로는 역으로 나의 관심사나 취향이 이러한 콘텐츠 플랫폼으로 인해 형성되어간 측면도 있지 않을까 하는 생각이 들기도 합니다. ‘내가 생각하고 있는 나의 취향과 관심사가 원래 나의 취향은 맞았을까?’ 모든 것을 의심해 봐야겠다는 생각이 듭니다.

이렇듯 정보를 편식하고 맘에 드는 내 취향에 맞는 콘텐츠를 골라보는 초개인화에 따른 콘텐츠 소비가 심화되어갈수록 이른바 ‘필터버블*’과 ‘에코챔버*’의 문제는 가속화되어갈 수밖에 없을 것입니다.

*필터 버블(Filter bubble) : 고객에게 맞춤형 정보만을 제공해 이들 개개인을 자신의 관심사와 비슷한 환경 속에 가두는 현상

*에코 챔버(Echo Chamber) : 비슷한 생각을 가진 사람들이 함께 모여 있으면 그들의 사고방식이 돌고 돌면서 서로를 도와주어 신념과 믿음이 증폭되고 강화된다는 현상

사례를 통해 이러한 초개인화에 대한 기술을 잘 이용하려면 어떻게 해야할지 생각해보시면 좋을 것 같습니다.

편리한 알고리즘의 어두운 이면, 필터버블

우선 필터 버블 현상에 대해 살펴볼까요? 필터 버블 현상은 뉴스 분야에서 나타날 때 가장 문제가 된다고 합니다. 이와 관련해 2019년 한국언론진흥재단은 성인 남녀 1050명을 대상으로 조사를 벌여 연구서 ‘유튜브 추천 알고리즘과 저널리즘’을 내놓기도 했습니다. 조사에 따르면, 유튜브를 통해 방송사·종합편성 채널 등 언론사 뉴스를 본다는 응답은 42.4%였습니다. 개인이나 단체에서 제작한 유튜브 뉴스를 본다는 응답도 42.4%로 나타났습니다.

유튜브 뉴스 보도 시청자에게 자기 자신, 주변 지인, 일반 여론과 얼마나 일치하는지 물었을 때, ‘일치한다’는 응답자는 각각 30%대로 나타났습니다. 그러나 정치 성향에 따라 분석했을 때는 다른 결과가 나왔습니다. 매우 진보적인 응답자는 52.9%가 내 생각이나 의견과 비슷하다고 답했습니다. 매우 보수적인 응답자도 40.0%가 내 생각이나 의견과 일치한다고 인식했습니다. 일반 여론과는 50.0%가 비슷하다고 답했습니다. 반면 중도 성향 응답자는 25.4%만이 내 생각이나 의견과 비슷하고, 30.6%가 일반 여론과 비슷하다고 답했습니다.

유튜브 알고리즘으로 인한 필터 버블 현상이 극단적 정치 성향을 지닌 이들에게 영향을 미친다는 점을 알 수 있는 대목입니다. 일부 중장년층에게 나타나는 특징 중 하나는 극단적인 정치 성향입니다. 즉 그들이 가짜 뉴스를 여과 없이 받아들여 진짜라고 믿을 가능성이 크고, 이에 따른 위험에 노출되어 있다는 사실이 도출됩니다.

개인의 선택에 기반을 둬 특정 성향을 강화하며 발전하는 알고리즘은 개개인을 편향된 틀 안에 가두고 사회의 공론장을 붕괴시킨다는 우려를 낳고 있는데요. 이처럼 AI의 발달에 부정적 영향이 수반되면서 이를 해소하기 위한 방안을 마련해야 한다는 목소리도 커지고 있습니다. 가장 요구되는 것은 이용자들의 문해력 제고입니다. 전문가들은 기존의 미디어 리터러시를 넘어서서 AI에 특화된 ‘AI 리터러시’를 높여야 한다고 조언합니다.

AI 윤리 등에 대해 연구해 오고 있는 핀란드 알토(Aalto)대학교의 테무 레이노넨 뉴미디어디자인 및 학습 분야 교수는 특히 자본주의와 결합한 AI 알고리즘이 필터 버블을 극대화할 수 있다고 우려했습니다. 레이노넨 교수는 “스스로 학습하는 AI 알고리즘은 자본주의 사회라는 배경에서 돈을 제일 잘 벌기 위한 방식으로 스스로를 최적화하게 된다. 그러다 보면 결국 사람들로부터 감정적인 반응을 얻어내거나 흥미 있는 정보에 빠지게 하기 위해 입맛에 맞는 필터 버블을 형성한다”고 지적했습니다.
 
그는 “지금의 리터러시 교육은 미디어에 표출되는 내용의 신뢰도에만 집중하거나 어떻게 광고가 집행되는지 등 보다 전통적인 미디어 리터러시 교육”이라며 “한발 더 나아가 이제는 콘텐츠를 생성하는 AI의 원리가 무엇인지, 알고리즘이 어떻게 작동하는지 등 AI 시스템의 근본적인 부분까지 이해하고 이를 기반으로 능동적으로 AI를 활용할 수 있는 능력을 제고하는 ‘AI 리터러시’ 교육을 해야 할 때”라고 강조했습니다.

에코챔버에 갇혀 만든 광고, '싫어요' 세례

역대 최악의 광고로 꼽히는 사례들 중에서, 기업 내부에서는 너무나 자연스럽고 문제될 것이 없다고 생각한 메시지가 사회적 공분으로 이어지며 기업의 리스크로 이어진 사례들은 노이즈마케팅을 공략한 것이 아닌 에코챔버에서 비롯된 의도치 않은 결과일 수도 있을 것입니다.

코카콜라의 사례가 대표적입니다. E-Sports 현장에서 공격에 쓰러진 게이머가 코카콜라를 마십니다. 그리고 게이머는 무언가를 깨닫고 무기를 내려놓습니다. 전투를 하던 상대도 이에 동의하며 무기를 내려놓는 상황이 펼쳐지고, 어느 순간 코카콜라 하나로 모두가 하나 되는 평화로운 이야기를 다루고 있습니다.

이 광고가 공개된 후 코카콜라 유튜브 계정에는 다음과 같은 악플이 달렸습니다. '게이머들에게 광고를 하고 싶다면, 게임을 아는 사람을 고용했어야 했다.(If you want to advertise to gamers, then you need to hire people that know gaming.)' '이게 그거다. 내가 물만 마시도록 설득한 그 광고!(This is it. This is the ad that finally convinced me to start drinking only water.)' '이 광고를 보고 펩시가 먹고 싶어졌다(This ad makes me wanna drink Pepsi)' 에코 챔버 속에 갇혀 게임으로 스트레스를 푸는 사람들을 충분히 고려하지 못했기 때문에 일어난 일입니다. 즉, E-sports에서 무엇이 중요한 지, 왜 존재하는 지에 대한 이유를 철저히 신경쓰지 않은 결과인 것입니다. 전세계에서 1020 세대들이 E-Sports에 열광하고 있는 것을 착안해서 그 트렌드에 편승하려 한 코카콜라는 오히려 E-Sports, 즉 게임을 잘못 이해하고 광고를 만들어 뭇매를 맞은 셈입니다. 

정보가 넘쳐나는 시대에 초개인화는 필요한 정보를 큐레이션하고 관심있는 정보를 골라볼 수 있도록 하여 여러가지 편익을 가져다주지만, 역설적으로 정보를 편식함에 따라 믿고 싶은 것만 믿고, 보고싶은 것만 보게 되면서 반 장님이 되어가는 부작용 또한 초개인화의 그늘이자 폐해일 것입니다. 우리는 초개인화를 어떻게 받아들여야 할 것이며, 기업은 어떻게 초개인화 서비스를 설계해 나가야 할까요?

초개인화 서비스, 나도 모르는 내 취향까지 읽는다?!

대표적인 초개인화 서비스의 선두주자인 아마존은 “우리는 0.1명 규모로 세그먼트 한다.”는 표현으로 초개인화 서비스를 소개한 적이 있습니다. 궁극의 마케팅 세그먼트는 고객 한사람 한사람을 세그먼트하는 것이라고 할 수 있을 것입니다. 하지만, 아마존은 한발 더 나아가 한사람 한사람 마저도 그 사람이 처한 상황이나 맥락을 고려하여 서비스해야 한다는 의미에서 0.1명 규모로 세그먼트를 한다고 표현하는 것이죠. 그런데 그것이 가능 하려면 그만큼의 방대한 고객 데이터가 요구된다고 할 수 있고, 데이터를 허투루 사용하지 않는다는 아마존의 패기어린 모습의 한 단면이지 않을까 싶습니다.

또한, 아마존의 유명한 예측배송은 빅데이터와 인공지능을 활용해 소비자의 주문을 예측하고 선제적으로 소비자 근거리에 위치한 물류창고에 제품을 확보해놓고 배송을 시작하는 방법을 의미합니다. 기술로 효율성을 극대화한 사례인데, 아마존은 여기에 한발 더 적극적인 배송 특허를 가지고 있는데요, 바로 선제적 배송입니다.

제품 주문이 되지도 않았는데 고객의 구매패턴을 분석해서 구매 주기가 도래한 주문이 확실시되는 구매의 경우 미리 배송을 하는 시스템입니다. 대부분 제품을 구매하려고 했을 상황이기 때문에 제품을 받을 것이고 배송 완료 이후에 자동결제가 되는 방식입니다. 클릭 한 번에 주문이 이루어지는 ‘원클릭’ 서비스를 넘어 ‘무(無)클릭’ 주문이 될 수 있는 초개인화 서비스의 정점이라고 할 수 있겠지만, 파일럿 테스트에서만 머물고 실제 현실의 서비스로 이어지지는 않았습니다. 왜일까요? 고객이 주문하기도 전에 제품을 미리 배송을 할 경우 고객이 느끼는 편익보다 더 큰 것이 바로 ‘고객의 거부감’이라는 것입니다.

‘아마존이 미리 알아서 필요한 제품을 미리 배송해주다니, 이제는 주문을 할 필요도 없네’라는 편익보다 ‘나의 데이터를 이렇게까지 활용한다고? 나를 이렇게까지 분석하고 있는 거야? 소름끼치네’ 와 같은 부정적 반응으로 인해 부작용이 더 큰 문제가 될 것을 우려한 아마존이 특허로만 가지고 있는 기술입니다.

그래서 역설적으로 초개인화의 다음 단계는 고객들이 느낄 때 ‘이것이 초개인화되어 서비스되고 있구나’ 라는 것을 인지하지 않으면서 구매 과정에 자연스럽게 녹아 들어갈 수 있는 심리스(Seamless)한 고객경험(UX) 설계를 이야기하기도 합니다.

기술의 발전은 많은 문제를 해결할 수 있지만, 예상치 못한 문제를 만들어내기도 합니다.
이렇듯 소비자의 인식은 생각보다 빠른 변화를 수용하지 않을 수 있기 때문에 단순히 기술을 도입해서 큰 편익을 제공하겠다는 목표만이 아닌 ‘고객에게 어떤 경험을 선사할 것인가?’, ‘서비스나 마케팅 과정의 터치포인트별로 보다 섬세한 고객 이해를 기반으로 적절한 메시지로 접근할 것인가?’ 등이 함께 고민되어야 할 시기일 것입니다. 기술이 발전할수록 지혜가 더욱 필요한 시대가 되어가고 있습니다.