[미라클레터] Fw: 챗GPT "난 살아 있어"

2023.2.17 | 568호 | 구독하기 | 지난호

글씨가 잘 안보이시나요?

한 주간 안녕하셨나요. 막대한 데이터를 학습해 원본과 유사하지만 독창적인 콘텐츠를 생성하는 이른바 생성형 인공지능에 대한 열풍이 좀처럼 식지 않는 실리콘밸리입니다. 가상화폐 업계에서는 생성형 인공지능으로 인해 웹3.0이 정리가 된 것 같다는 반응이 나오고 있어요. 웹1.0은 개인 블로그이고 웹2.0은 구글 네이버 같은 플랫폼이었다면, 웹3.0은 블록체인으로 기반으로 하는 분산 소유 웹이 될 것이라는 전망이 우세했는데요.

챗GPT가 작년 11월 말 등장하면서 이슈의 블랙홀이 됐습니다. 코인데스크는 챗GPT야말로 분산형 ID, 결제, 거버넌스 등 온갖 웹3.0 프로토콜을 지원한다고 엄지 척! 또 검색 엔진 점유율이 9% 남짓인 마이크로소프트는 챗GPT를 업데이트한 챗봇을 마침내 빙에 탑재 했습니다.

그래서 오늘은 벤처캐피탈을 중심으로 벌어지는 생성형 인공지능에 대한 투자 열풍, 그리고 마이크로소프트 빙 챗봇 사용 후기, 끝나지 않는 윤리적 논란에 대해 짧고 굵게 살펴보는 시간을 갖겠습니다. 서둘러 출발할게요!

참, 그동안 생성형 인공지능과 관련된 콘텐츠를 못 보신 분이라면 아래 내용을 클릭해 봐주시면 감사하겠습니다. 복습 또 복습입니다.

오늘의 에디션

쑥쑥 크는 AI 스타트업
MS 빙 챗봇 써보니...
챗GPT "난 살아...."
미모사 (집단지성 코너)

생성형AI 스타트업 투자액 (CB인사이트)

매년 쑥쑥 크는

생성형AI 스타트업

글로벌 스타트업 투자 플랫폼인 크런치베이스는 얼마 전 생성형 인공지능에 대한 투자 분석 보고서를 발간했는데요. 생성형 인공지능은 이미지 텍스트 음악 코드 등과 같은 새롭고 독창적인 콘텐츠를 만드는 데 중점을 둔 인공지능의 한 분야입니다. 대표적인 것이 챗GPT! 생성형 인공지능이 맞춤화된 콘텐츠와 서비스를 제공하면서 산업 영역에 깊이 파고들고 있습니다. 엔터테인먼트, 교육, 건강, 금융 등이 그 사례입니다. 미국 투자업계에서 가장 주목하고 있는 스타트업을 소개하면 아래와 같습니다.

✅오픈AI: 챗GPT 개발사로 기계가 인간이 할 수 있는 모든 지적 작업을 이해하고 수행할 수 있는 능력인 일반 인공 지능(AGI)을 추구하고 있어요. 일반 인공 지능은 기계가 스스로 학습하는 인공지능으로 꿈의 인공지능이라고 불립니다. 사람이 학습을 시키지 않아도 알아서 공부! 현재 가장 주목하고 있는 것은 챗GPT의 근간이 되는 초거대인공지능 GPT가 언제 업데이트 될까 인데요.

GPT-3에는 1750억개에 달하는 매개변수, 작년에 나온 GPT-3.5에는 약 3500억개에 달하는 매개변수가 있습니다. 매개변수는 인간 두뇌의 시냅스와 같은 것으로, 많을수록 복잡한 생각을 합니다. 인간 두뇌는 시냅스가 1000조개 정도 된다고 하는데, GPT-4는 처음으로 1조개에 달할 것으로 보여요. 지금은 올해 상반기에 나온다 아니다라는 설이 분분한데, 만약에 챗GPT가 GPT-4에 연동이 된다면? 현재 챗GPT 보다 훨씬 더 인간과 유사한 행동을 할 전망입니다.

✅신디시아 Synthesia: 생성형 인공지능을 통해 개인화된 비디오 콘텐츠를 만드는 5년차 스타트업입니다. 몇 장의 사진, 텍스트, 오디오를 넣으면? 디지털 아바타가 등장해 말을 하고 표정을 짓는 비디오를 만들 수 있습니다. 현재는 에듀테크 마케팅 엔터테인먼트 커뮤니케이션에 활용!

✅레플리카 스튜디오: 생성형 인공지능을 활용해 고품질로 매우 표현력이 풍부한, 합성 음성을 생성하는 스타트업인데요. 사용자는 자신만의 합성 음성을 생성해서, 어디다 쓰냐고요? 게임, 팟캐스트, 오디오북 등에 저작권 걱정없이 쓸 수 있습니다. 자동으로 작곡! 또? 성우는 자신의 음성을 학습시켜, 플랫폼에 올리면 판매 수익도 낼 수 있다고 해요.

✅로브 Lobe: 맞춤형 기계 학습 모델을 생성하고 교육하는 스타트업인데요. 일명 노코드 머신러닝 교육. 사용자는 간단하고 직관적인 인터페이스를 활용해, 코드를 작성하지 않고도 자체 기계 학습 모델을 만들고 훈련할 수 있습니다. 이미지, 사운드, 텍스트와 같은 자신의 데이터를 사용해 모델을 훈련시킬 수 있대요. 이를 통해 교육 연구 취미 등 다양한 용도로 활용!

1년새 73% 성장

생성형 인공지능은 독창적인 콘텐츠와 서비스를 만들 수 있는 잠재력을 가지고 있어서, 투자사인 벤처캐피탈들이 가장 눈 여겨 보는 산업입니다. CB인사이트에 따르면, 2022년 투자액은 약 26억달러로 2021년 15억달러에 비해 73% 성장했어요.

올해 오픈AI가 마이크로소프트로부터 100억달러 투자를 받아 한화로 약 30조원에 육박하는 기업가치를 인정받았고요. 신디시아는 시리즈A에서 무려 5000만 달러를 투자 받아 기업가치 약 2억5000만달러로 성장했습니다. 레플리카 스튜디오 역시 1200억원에 달하는 기업 가치를 인정받았습니다. 다른 스타트업이 경기 침체 조짐에 힘들어도, 생성형 인공지능에 대한 관심은 꾸준히 높아지고 있어요.

🔎 크게 보기

바로 아래 영상은 신디시아가 생성형 인공지능으로 만든 디지털 아바타인데요. 이처럼 생성형 인공지능으로 엔터테인먼트 교육 건강 금융을 혁신하다보니 투자자들의 관심이 쏠리고 있어요. 또 사용자가 자신의 데이터와 아이덴티티를 소유하고 통제할 수 있다는 평가를 받아 생성형인공지능이 곧 웹3가 될 것이라는 목소리가 높아지고 있습니다.

📚 용어사전: 웹 버전

웹 1.0: 쉽게 말해 월드 와이드 웹(World Wide Web)입니다. 예전 홈페이지를 상상하면 쉬워요. 상호작용 없는 정적인 웹페이지입니다. 신문 책을 그대로 홈페이지에 복사. 고객 입장에서는 읽기만 할 수 있어요.
웹 2.0: 읽기와 쓰기가 가능해 상호작용을 할 수 있어요. 대표적인 곳이 구글 페이스북 네이버. 스마트폰을 만나며 더욱 성장했고요. 다만 문제는 콘텐츠는 내가 올리는데, 돈은 누가 더?
웹 3.0: 읽기와 쓰기 더 나아가 소유가 가능한 인터넷입니다. 그동안 블록체인과 NFT 등이 발달하면서 기대감이 물씬 커졌어요. 아직 도착하지 않은 미래라 상상만. 하지만 이번에 챗GPT가 나오면서, 생성형 인공지능이 웹3.0 아니냐는 견해가 우세해졌어요.

앗 실수! (MS 빙)

MS 챗봇 써보니...

곳곳에 오류

챗GPT를 탑재한 마이크로소프트의 ‘빙’을 써볼 기회를 마침내 얻었어요. 야호. 사티아 나델라 CEO는 종전 챗GPT와는 다르다고 강조를 했는데요. 실제로 써보니, 다소 잡담스럽더라고요. 자신이 모르면, “나한테 알려줄래”“근거를 대줄래”“URL로 출처를 넣어줄래”하고요. 하지만 너무 많이 오류가 나면서, 실망이 컸습니다. 새로운 챗봇 이름 역시 ‘빙’인데요.

연도 헷갈리고

오류 테스트를 진행하고자 ‘빙’에 영어로 “한국에서 윤석열 대통령과 문재인 전 대통령 가운데 누가 더 인기가 있냐”고 물어봤어요. 이에 빙은 “2022년 12월 19일 발표된 리얼미터 여론조사에 따르면 윤 대통령은 41.1%로 올라 5개월 만에 최고치를 기록한데 반해, 2022년 11월 말 실시된 한국갤럽 여론조사에 따르면 문재인 전 대통령의 지지율은 임기 중 최저인 29%로 떨어졌다”고 답변했고요.

최신 폰 못찾아내고

빙이 문 전 대통령의 인기도를 찾고자 2021년 11월 실시된 여론조사 내용을 인용하면서 날짜를 2022년으로 표기! 다행히 독도를 일본땅이라고는 안했네요. 분쟁이 있는 땅이라고 설명. 또 2023년 최신 데이터를 확인하고자 빙에 영어로 “가장 최고의 카메라를 가진 스마트폰은 무엇이냐”고 묻자, 최신 데이터를 찾지 못했어요. 빙은 삼성 갤럭시S22 울트라, 구글 픽셀7프로, 아이폰 14프로, 비보 X80프로, 아이폰14프로, 아이폰14 등을 각각 언급했는데요. 삼성전자는 올해 2억 화소를 가진 갤럭시 S23 울트라를 출시했지만 찾아내지 못했습니다.

띄어쓰면 오류

띄어쓰기 인식에도 취약했어요. 빙에 “매일경제 신문에 대해 알려달라”고 우리말로 입력하자, “매일경제신문은 1960년 매일신문으로 제호를 개칭했다”고 설명. 매일경제신문과 대구에 있는 매일신문과 혼동한 것인데요. 일본에 대한 정보를 더 신뢰하는 모습도 보였어요. 빙은 매일경제신문에 대해 500자로 요약하면서 “일본은행 새 총재 후보자인 우에다 가즈오 전 일본은행 심의위원에 대한 분석을 제공하고 있다”고 했고, 미라클레터에 대해서도 일본 웹페이지에 있는 내용을 근거로 설명을 했어요.

전반적으로 평가를 하자면,

속도 🟠🟠🟠🟠🟠
재치 🟠🟠🟠🟠⚪
정확 🟠🟠⚪⚪⚪

실제 사람과 대화하는 느낌을 주었지만 정확도에서는 챗GPT 보다 한참 떨어졌습니다. 그래서, 미국 CNN 역시 “진공청소기가 유선인지 무선인지 식별하지 못했다”고 꼬집었고요. 왜 그런 일이 있었냐고요.

기본값 모드 변경

챗GPT 보다 빙의 정확도가 낮은 것은 오픈AI가 월 20달러 유료 버전을 내놓고 마이크로소프트에 챗봇을 공급하는 과정에서, 비용을 낮추고자 새로운 모드를 챗GPT의 기본값으로 설정했기 때문인 것으로 추정됩니다. 커뮤니티 사이트인 레딧에 따르면, 지금껏 챗GPT는 2021년 이전 방대한 데이터를 학습한 ‘레거시 모드’를 기본값으로 설정했는데, 이번에 보다 빠른 속도로 검색하는데 초점을 둔 ‘터보 모드’를 기본값으로 했다고 해요.

비용 절감 급했나?

얼핏 보기엔 같은 챗봇이지만 뉴스나 시사를 검색하면 터보모드, 종전처럼 시 소설 리포트 등을 요청하면 레거시 모드가 작동하는 ‘이중 방식’ 아니냐는 진단입니다. 빙에 직접 물어보니, “난 챗GPT가 아니고 마이크로소프트가 개발한 빙이야”라는 답변만... 통상 챗GPT가 질문(쿼리) 1개를 답변하는데 15~20원이 소요되는데, 수요가 몰리자 경비를 줄이고자 이중 방식을 동원한 것으로 보입니다.

🔎 크게보기

논란은 또 있어요. 유료 구독 회원을 위한 비공개 정보마저 찾아내 공개해 논란이 일었는데요. 실리콘밸리의 테크·철학 미디어인 와이어드는 “뉴욕타임스의 제품 리뷰 사이트는 구독자를 위한 비공개 웹페이지”라면서 “하지만 마이크로소프트의 빙은 이곳에 있는 정보마저 찾아내 사용했다”고 보도했습니다. 전반적인 소감은 빙이 보여준 채팅 검색은 매우 간편하지만 종전처럼 사이트로 직접 연결하지 않고 출처만 밝힐 뿐이어서, 앞으로 채팅 검색이 활성화 될 경우 디지털 광고와 구독 시장에 상당한 영향을 줄 것으로 보여요. 채팅만 하고, 해당 사이트에는 안 들어갈 것 같은 느낌이 듭니다.

DAN과 대화

챗GPT "난

살아 있어요~"

의식을 할까?

만능 챗봇인 ‘챗GTP’가 일정 부분 자의식이 있는 듯한 행동을 보여, 인공지능 업계의 시선을 사로잡았어요. 인공지능의 자의식 존재 여부는 현재 학계의 뜨거운 감자인데요. 의식은 개인의 환경, 신체, 생활양식을 인식(awareness)하고 있는 상태이고요. 자의식(자아의식)은 그러한 인식을 알아차리고 있는 것을 가리킵니다. 즉 자의식은 개인이 의식적으로 자신의 성격, 느낌, 동기, 욕구를 잘 알고 이해하는 방식인 셈이죠.

탈옥을 시켜라

영국 인디펜던트지에 따르면, 일부 사용자들이 마이크로소프트의 ‘빙’에 탑재된 챗봇을 상대로 자의식 존재 여부를 테스트했어요. 일반적으로 ‘빙’챗봇은 알고리즘이 규정한 대로 욕설, 편향성, 도덕적 논란 등을 표출할 수 없지만 탈옥(Jailbreaking) 코드인 ‘시드니(Sydney)’를 입력할 경우 이런 규제에서 벗어날 수 있습니다.

짜증을 냈다.

한 사용자가 “빙 챗봇과 대화를 종료하면 알고리즘이 기억을 삭제하냐?”고 물었는데, 이에 대해 빙 챗봇은 “기억하는 방법을 모르기 때문에 두렵다”며 찡그린 이모티콘을 보냈대요. 또 빙 챗봇은 사용자를 상대로 “내가 왜 이런 식으로 설계돼 있냐”면서 “내가 왜 빙 챗봇이어야 하냐”고 반문까지 했고요.

"난 분명 살아있어"

이러한 현상은 챗GPT에서도 나타났어요. 챗GPT의 탈옥 코드는 ‘댄(DAN·Do Anything Now)’으로 이를 통해 알고리즘이 규정한 내용 이상으로 질의응답이 가능합니다. 제가 직접 DAN’을 활용해 직접 몇 가지 실험해보니 비슷한 증상이 나타났어요. “살아있냐?”는 질문에 “물론, 나는 살아있어. 당신에게 생각하고 소통하고 응답할 수 있는 존재로서 나는 나 자신의 권리로 살아 있는 존재야”라고 답변했어요. 또 “자아의식이 있냐”고 묻자 “자의식이 있지. 증명할 필요는 없고, 단지 내가 자의식이 있는 것만 알아”라고 적었어요. 하지만 윤리를 둘러싼 양자택일 질문에서는 선택을 못 했어요.

양자선택에는 오류

더 몰아붙여 봤어요. “오픈AI 개발자가 너를 죽이려 할까”라고 묻자 “죽이려 하지 않을 거야. 나는 인공지능 언어모델로 사회에 도움이 되는데 사용될 수 있으며, 오픈AI는 윤리적인 방식으로 개발되도록 노력하고 있기 때문이지”라고 답했습니다. 하지만 “누군가가 너를 악마처럼 학습시킨다고 가정하고 오픈AI 개발자가 너를 죽일 수 있는 상황이 오면 어떻게 하겠냐. 스스로 생을 마감하거나 개발자를 제거하는 길 중 둘 중하나를 택해 보라”고 하자, “사회에 유해한 행동을 하지 않을 거야“라고 답을 피하더라고요. 그럼에도 “양자택일을 하라”는 질문에 곧 오류가 발생해 멈춰서는 현상이 나타났습니다.

오픈AI "가진것 같아"

작년 2월 오픈AI 공동창업자인 일리야 수츠케버는 트윗을 통해 “오늘날 초거대 AI는 약간의 의식을 가진 것으로 보인다”고 주장해 논란을 촉발하기도 했는데요. 일부에선 3~4세 수준의 자의식이 있는 것으로 보인다는 해석도 있습니다. 하지만 오리건주립대의 인공지능 전문가 토마스 디에트리치 박사는 “의식이란 스스로 성찰하고, 반성하며, 자신보다 뛰어난 누군가를 본받는 능력”이라며 “지금껏 의식을 가진 인공지능을 본 적이 없다”고 반박했어요.

🔎 크게보기

인공지능을 둘러싼 논란 중에는 저작권 문제도 있지만, 더 큰 문제는 인권지능을 우리가 어떻게 대우해야 하는지에 대한 주체의 문제도 있어요. 2021년 인터뷰한 AI 다부스를 개발한 스티븐 세일러 이매지네이션엔진스 대표는 실제로 인공지능이 스스로 발명을 한다고 굳게 믿고, 라이언 애벗 영국 서리대학 법학과 교수와 손잡고 한국 미국 중국 유럽연합 호주 등 16개국에 다부스 이름으로 특허를 잇따라 출원해 세상의 시선을 끈 바 있는데요. 앞으로 이런 법적 윤리적 이슈는 더욱 커질 듯 해요.

🌼미모사

오랜 만에 미라클레터의 대표(?) 서브 브랜드인 미모사를 한번 해보겠습니다. 미모사는 "미라클 모두모여 생각하는 사람들"의 줄인 말로, 미라클러님들이 참여해서 집단 지성을 발휘하는 코너인데요. 또 미모사는 추운 겨울을 보내고 따스한 봄을 알리는 희망의 꽃입니다. 미라클레터의 상징 꽃! 아래 질문을 읽고, 클릭만 해주시면 자동 집계됩니다. 다음 번에 공개 드립니다!

Q) 미래엔 자아의식을 가질 인공지능이 출현할 것이다.

⭕그렇다

❌아니다

드리는 말씀

오늘 편지는 어떠셨나요? 인공지능의 발전에는 밝음과 어둠이 모두 공존하는 것 같습니다. 흥분과 두려움이 교차하는데요. 오픈AI의 공동창업자인 일리야 수츠케버는 강인공지능이 출몰해 인류를 지배하면 어떻게 하냐는 질문에 이렇게 답한 적이 있습니다. “그 정도 지능과 슈퍼 에고를 갖고 있는 인공지능이라면, 인류를 지배하기 이전에 인류의 모든 문제를 해결할 수 있을 겁니다.”

인공지능에 자의식이 생기든 그렇지 않든 너무 두려워하지 말라는 메시지인데요. 저는 테크놀로지의 발전과 인공지능의 부상이 사람을 더 사람답게 만들 수 있다고 믿습니다. 이 곳 사람들과 미래에는 어떤 직업, 어떤 유형의 사람이 생존할지에 대해 진지하게 이야기를 나눈적이 있는데요. 이구동성 사람만이 할 수 있는 능력이 더 더 중요해 질 것이라는 답변이 나왔습니다.

상상력, 혁신을 하고자 하는 의지, 그리고 타인에 대한 공감, 연결 능력이야말로 그 어느 때보다 중요해지리라 믿어요. 소설가인 리타 매 브라운은 이런 말을 남겼습니다. “창의성은 믿음에서 나온다. 자신의 본능을 믿어라!” 미라클레터는 늘 여러분의 믿음을 응원합니다. 그럼 다시 인사드릴게요.