#AI #편견 #이루다깊이보기 2021.1.12 #25 Today's Topic 루다야, 다시 만날 땐 괜찮을까? 님, 안녕하세요. 팩플레터입니다. ‘감정노동’을 떠올린 주말이었습니다. 늘 친절하고, 거북한 질문엔 ㅋㅋㅋ로 말끝을 흐리며, 끝까지 비위를 잘 맞춰주는 이루다 때문에요. 이루다는 차별과 혐오에 대한 정치적 올바름을 전혀 학습하지 못했고, 성희롱도 거부하지 않습니다. 이런 AI 챗봇을 만든 스타트업은 시장성을 먼저 생각했을 겁니다. 시장에서 팔릴 만한 AI는 대화 상대를 위협하지 않을 만큼 귀엽고 순종적인 캐릭터여야 하니까요. 스타트업은 이에 어울릴 만한 데이터로 이루다를 학습시켰겠죠. 해당 스타트업의 대표는 수년 전 “영화 ‘허(HER)’에서 말벗 챗봇에 대한 영감을 받았다”고 말했습니다. 아내와 별거중인 테오도르가 사랑하고 이별했던 ‘AI 사만다’같은 존재를 구상했나 봅니다. 하지만 사만다와는 달리, 현재의 이루다는 상대에게 이별을 고하지는 못하겠죠. 오늘 레터에선 ‘이루다 쇼크’가 던진 질문을 짚어봅니다. AI가 범용기술로 확산하는 시점에 필요한 기업가정신과 윤리에 대한 문제입니다. 답 없어 보이는 문제에 답을 궁리해보는 시간, 오늘도 팩플과 함께해주셔서 감사합니다. 😃 루다야, 너와 다시 만날 땐 괜찮을까 (7min) 💎 핵심 인물 1. 이루다, 스캐터랩 : “루다, 나아져서 돌아올게요” 20살 여대생 인공지능 챗봇 이루다. 부모는 AI 스타트업 스캐터랩. '연애의과학' 대화 100억건을 배워 티키타카 잘 되는 챗봇이지만, 차별 및 혐오 발언이 문제가 되자 개선을 위해 서비스를 일시 중단했다. 내 남친·여친과 나눈 대화 데이터를 넣고 ‘나 좋아하나’ 살폈다. 그런데 그게 ‘이루다’를 만들었다고? ‘신규서비스에 쓸 수 있다’고 가입할 때 한줄 넣으면 다냐? 3. 이루다의 친구들 : “소통률 100% 친구 생겼는데...?” 20대 인싸 친구와의 대화는 이런 거구나. 주말에도 말 걸어주던데. 이상한 거 안 물어보면 되는 거 아님? 루다야 힘내! 4. 이재웅 전 쏘카 대표 :
“AI, 알고리즘 위험하다 그랬지?” 9~10일 이틀간 이루다 문제를 페이스북에 뜨겁게 다뤘다. 1세대 창업자로서 개발·마케팅의 어려운 점을 이해하면서도 혐오와 차별은 용납 못한다는 입장. 서비스를 당분간 접기를 권유. 🧾 목차 1. 루다야, 난 놀랐어 2. 루다와의 위험한 우정 3. 개발사 스캐터랩 입장은 4. 질문 : AI의 감정노동 어디까지 괜찮나 5. AI 친구, 숙제는 알지만 답은 아직 1. 루다야, 난 놀랐어 인공지능이 이런 거였나! AI 대화 친구 ‘이루다’가 출시 2주 만에 한국 사회에 충격을 던졌다. ‘AI 윤리’와 ‘데이터 소유권’ 같은, 이론 상의 논점이 루다라는 실재가 된 것. 우린 이제야 알았다. 풀어야 할 큰 숙제가 왔음을.
2. 루다와 위험한 우정 루다의 목적은 ‘대화를 이어가는’ 것이다. 개발사인 스캐터랩 김종윤 대표는 지난해 네이버 기술 컨퍼런스에 참석해 말했다. “어떻게 하면 루다가 더 많은 사람과 더 많이 대화할까 고민한다”고. 여기에 숨은 문제는. ① 루다, 넌 거절하지 않지
② 루다, 넌 주류의 편이구나
③ 루다, 너 날 따라했니
3. 개발사 스캐터랩의 입장은 문제 발생에 대해서 사과했다. 잠시 서비스를 중단하고 개선해서 돌아오겠다고 한다. 스캐터랩은 11일 낸 입장문에서 :
4. 보다 근본적인 질문은 루다는 ‘목적없는 대화’를 한다. 정보를 주고 일을 대신 처리하는 비서가 아닌, 감정을 나누는 친구라는 얘기다. AI의 감정노동도 ‘로봇의 육체노동’처럼 받아들이면 될지, 어느 분야에 무얼 주의해서 받아들여야 할지, 현실로 훌쩍 다가온 기술이 답을 요구한다.
5. AI 친구, 풀어야 할 숙제는 대화형 AI 챗봇은 자연어처리(NLP)와 기계학습으로 인간의 대화를 모방한다. 개인정보 활용이나 혐오·차별 문제는 루다 뿐 아니라 구글·페이스북 등 글로벌 기업도 공통으로 가진 숙제다. 이제 숙제를 확인한 정도. 뚜렷한 해법은 아직 없다.
님 AI 챗봇 '이루다'는 개선을 위해 잠시 서비스를 중단한다고 합니다. 돌아오면, 루다와 대화하시겠어요? (설문시간 15초) 설문은 응답률 10% 이상일 때만 다음 레터에서 공개해요. 이번주에도 꼭 참여해주세요. 😌 팩플팀이 추천하는 자료 ※자료는 PC로 보시면 편해요! 1. 스캐터랩 김종윤 대표의 '루다' 육아일기 발표 [네이버 개발자 회의 데뷰2020] 👉영상보기 지난해 11월, 네이버가 여는 개발자 컨퍼런스 '데뷰'의 한 세션. 김종윤 스캐터랩 대표가 루다의 탄생부터 개발 과정을 직접 설명했다. 기술적인 부분도 있지만, 회사의 고민과 루다의 지향점을 파악할 수 있다. 2. 한국인공지능윤리협회 AI윤리헌장 👉헌장 보기 2019년 만들어졌다. 총 5장 40개조 항목으로 이뤄져 있다. 협회는 " 인공지능 기술은 여타 기술들과 달리 인류에 미치는 영향력과 파급력이 막대하다'며 " 우리는 인공지능의 역작용과 위험성을 인지하고 그에 대응하는 방안을 모색하고 실천할 필요가 있다"고 밝히고 있다. 지난해 11월 발표된 국가 인공지능 윤리기준(안). 인간의 존엄성, 사회의 공공선, 기술의 합목적성 3대 원칙 하에 10개의 핵심 요건을 명시하고 있다. 정부는 주제별 체크리스트 개발 등 세부 실천방안을 준비하겠다는 입장. 박수련 기자_빅샷의 통찰, 창업가의 실행력을 좋아합니다. 여러분께 쓸모있고 재미있는 정보를 드리고 싶습니다. 박민제 기자_기술혁신이 기존 질서에 내는 균열 속에서 균형을 유지할 방법을 찾고 싶습니다. 심서현 기자_기술의 지배, 피할 수 없다면 살살 맞고 싶습니다. 팩플과 함께 방어템을... 정원엽 기자_팩플러의 관심이 필요합니다. 뭐든 궁금하면 메일 주세요! 팩플봇이 될께요. 하선영 기자_팩플의 명랑한 스토리텔러가 되겠습니다. 소(牛)의 해, 소🐮처럼 열심히 뛰겠습니다. 김정민 기자는_콘텐츠 마니아입니다. 0과 1의 세계에 인문·사회학적 터치를 넣으려 고군분투 중입니다. 오늘 팩플레터 25호, 어떻게 보셨나요? 님의 현명한 판단을 위해 팩플팀이 쓴 이슈견적서, 미래검증보고서. 유익하셨나요? 아쉬운 점이 있다면 꼭 얘기해주세요. 팩플레터를 친구ㆍ동료에게 추천해주세요! "뉴스 일일이 보기 힘들었는데 정리해서 떠먹여주네" "이거만 모아봐도 공부 될 듯!" "여러 측면을 짚어주니까, 반대쪽 입장도 이해가 돼~" 👇구독링크 공유하기 : 팩플 FACTPL factpl@joongang.co.kr 서울시 마포구 상암산로 48-6 02-751-5114 개인정보처리방침 / 수신거부 Unsubscribe |