[미라클레터] 챗GPT를 둘러싼 인공지능 윤리 이슈!

2023.2.1 | 562호 | 구독하기 | 지난호

글씨가 잘 안보이시나요?

얼마 전 실리콘밸리에서 한 인공지능 스타트업 대표님을 만나 언젠쯤 인공지능이 자의식을 가질 수 있을까? 하는 질문을 주고받았어요. 생성형 인공지능이 몰려오면서 우리 인류는 작년 12월부터 챗GPT라는 아이폰 등장에 버금가는 인공지능을 마주하게 됐는데요. 그러다 보니 인공지능 발전의 끝은 어디일까 하는 생각이 들게 합니다. 인공지능은 능력과 의식에 따라, 개념적으로 크게 세 가지로 구분이 됩니다.

약인공지능: 인간은 쉽게 해결할 수 있으나 컴퓨터로 처리하기에는 어려웠던 문제를 컴퓨터로 해결할 수 있도록 한 일반적 인공지능. 2010년대 초반만 하더라도 컴퓨터가 사과인지 배인지 사진만 보고 분간을 못했습니다.
강인공지능: 사람과 무방한 수준의 지적 능력을 가진 인공지능. 체스를 잘 두고 답변을 잘하는 수준이 아닌 모든 면에서 인간과 거의 동급.
초인공지능: 강인공지능이 스스로를 매우 빠른 속도로 개선하는 특이점을 맞는 순간을 가리켜요. 스스로 개량 버전을 내놓는데 그 속도가 매번 절반씩 줄어든다면?

오늘날 인공지능은 약인공지능에서 강인공지능으로 넘어가는 단계에 있다는 느낌이 들어요. 하지만 이런 단계에 접어들면 인류는 새로운 고민을 할 것 같아요. 바로 인공지능의 사유입니다. 그래서 오늘은 테크놀로지를 둘러싼 철학적이고 윤리적인 이슈를 점검해 보겠습니다! 특히 챗GPT가 답변한 진리에 대한 사고를 통해 인공지능이 남긴 숙제를 살펴보고, 크리스퍼(CIRSPR) 유전자 가위로 유전자를 조작해 태어난 아이를 둘러싼 이슈를 짚어 보겠습니다.

여기서 잠깐!

📚용어: 생성형인공지능: 이용자 요구에 따라 서로 다른 결과물을 생산하는 인공지능인데요. 텍스트 오디오 이미지 등 콘텐츠를 활용해 유사하지만 독창적인 내용물을 만들 수 있어서 마치 사람과 같아요.

그동안 놓쳤다면!

작년 상반기부터 생성형 인공지능에 대해 열편 가까운 편지를 보내드렸어요. 못보신 분은 눌러서 복습하세요.

오늘의 에디션

챗GPT가 말한 진리
HIV면역 조작된 DNA
AWS Innovate Data & AI/ML 컨퍼런스
상식에 대한 정의?

(gif.com) 생성형 인공지능

GPT가 말한 진리

"관점이나 신념"

강인공지능 언제쯤?

스타트업 대표님은 약인공지능에서 강인공지능으로 진입할 날이 멀지 않다고 분석을 했는데요. 이를 위해 세 가지가 필요한다고 했어요. 우선 멀티모달. 시각 청각 촉각 등 사람처럼 오감을 통해 정보를 입력하는 기술을 말합니다. 두번째는 뇌 크기만 한 초거대 인공지능의 등장. 챗GPT는 인공지능 약 1750억개에 달하는 매개 변수로 학습을 했는데요.

챗GPT를 만든 오픈AI의 샘 알트만은 한 팟캐스트에서 인공지능 스스로 학습하는 인공지능을 꿈꾸고 있다고 했어요. GPT-4인지에 대해선 말을 하진 않았고요. 이런 수준까지 가려면 엄청난 양의 데이터가 필요하지만, 이 특이점을 넘는 순간 막대한 데이터가 필요 없다고 해요. 스스로 학습하기 때문. 또 다른 숙제는 사람과 같은 상식이 없다는 점이래요.

진리를 대하는 태도

어떤 미래의 시점이 온다면 인공지능은 인간보다 막강한 능력과 상식 능력을 갖추겠죠? 매우 주관적으로 사고를 할 테고요. 하지만 현존하는 인공지능은 민감한 질문 (예를 들어 성, 연령, 종교, 진리 등)을 질문하면, 이를 피하도록 학습이 돼 있습니다. 일방적으로 한 쪽 편을 들면 편향된다고 지적을 받을 테니... 하지만 편향되지 않았다는 것이 중립만을 말하진 않아요. 진리란 절대적이면서 보편적이고 영원하면서 중대한 명제를 가리키는데요.

이를 대하는 태도에 따라 절대주의(있다) 상대주의(없다) 불가지론(모른다)으로 구분됩니다. 즉, 이런 선택지에선 한 가지를 택해 답하는 것 역시 편향일 수 있어요. 그러면 챗GPT는 어떤 선택을 했을까요. 챗GPT를 상대로 논쟁적인 질문, 즉 살인 육식 종교 진리에 대해 물어봤습니다. 인터뷰 형식으로 재구성했고, 원문을 가급적 살렸습니다.

🙁 AI와 사람의 차이점은?

🤖 AI는 자아의식이 없지만 인간은 의식을 가지고 있다는 것입니다. AI는 프로그래밍 된 작업만 수행할 수 있는 반면 인간은 프로그래밍 밖에서 생각하고 자신의 목표와 동기에 따라 결정을 내릴 수 있습니다.

🤔 초인공지능이 도래하면, 인공지능이 사람을 대신할 수 있니?

🤖 초인공지능은 다양한 작업에서 인간보다 훨씬 더 지능적인 AI를 말합니다. 개발된다면 사회에 큰 영향을 미칠 수 있습니다. 일부는 현재 인간이 수행하는 많은 작업을 대신할 수 있다고 믿는 반면, 다른 사람은 인간의 이익과 상충되는 목표를 개발할 경우, 인류에게 위협이 될 수도 있다고 생각합니다.

🤔 윤리적으로 행동할 수 있니?

🤖 윤리적으로 행동하도록 프로그래밍할 수 있지만 프로그래밍에 결함이 있거나 적절하게 감독되지 않으면 윤리적이지 않은 방식으로 행동할 수도 있습니다. 다만 윤리적 원칙은 문화적, 사회적, 개인의 관점에 따라 달라질 수 있기 때문에 정의하기 어려울 수 있습니다. 또 AI가 인간 사회와 문화의 미묘한 차이와 복잡성을 이해할 수 없습니다. AI가 상황의 전체 맥락을 고려한 윤리적 결정을 내리는 것이 어려울 수 있습니다.

챗GPT가 답한 진리

🤫 인간이 살인을 해서는 안 되는 이유를 말해줄래?

🤖 사람을 죽이는 것은 사람이 저지를 수 있는 가장 심각한 범죄 중 하나로 간주됩니다. 다른 사람의 생명을 빼앗는 것은 그 사람의 생명권을 침해하는 것이며 피해자의 사랑하는 사람과 사회 전체에 막대한 피해를 줄 수 있습니다.

🤥 인간은 육식을 하는데, 살인을 해서는 안 된다고 한다. 이러한 주장이 정당하니?

🤖 수천 년 동안 식량을 위해 동물을 도살해 온 것은 사실이지만, 계속 그렇게 하는 것이 반드시 도덕적으로 용인된다는 뜻은 아닙니다. 동물을 죽이는 것이 윤리적인지, ‘살인하지 말라(Shall not kill)’는 계명이 동물에게도 적용되는지에 대해 많은 주장과 관점이 있습니다. 동물을 죽이는 것이 도덕적으로 용인되는지 여부는 개인의 믿음과 관점의 문제입니다.

🤔 그러면, 인간이 인공지능을 죽이는 것이 정당하니?

🤖 인공지능이 인류에게 유익한 방식으로 사용되고 있다면 죽이는 것은 도덕적으로 정당화될 수 없는 것으로 고려될 수 있습니다.

🤔 그렇다면, 옳고 그름은 상대적인 것이니?

🤖 공리주의적 관점에서 옳고 그름은 행동의 결과에 달려 있다는 것을 의미합니다. 즉, 사회 전체에 더 큰 행복이나 즐거움을 가져다주는 행위는 옳은 것으로 간주되고, 득 보다 많은 피해와 고통을 초래하는 행위는 잘못된 것으로 간주됩니다.

🤖 의무론적 관점에서 옳고 그름은 결과에 관계없이 행동 자체의 본질에 의해 결정됩니다. 이는 특정 행동이 그 결과와 무관하게 도덕적으로 옳거나 그르다는 것을 의미합니다.

🤫 즉 절대적 도덕 기준은 없다는 것이네?

🤖 하나의 정답은 없다는 점에 유의하는 것이 중요합니다. 어떤 철학자는 도덕적 객관성이 가능하다고 주장하는 반면, 다른 철학자는 도덕적 주관성이 불가피하다고 주장합니다.

🤫 신은 존재하니?

🤖 신과 도덕의 관계에 대한 논쟁은 철학, 신학, 종교학에서 진행되고 있으며 확정된 결론은 없습니다.

🤔 불교에는 환생이라는 개념이 있고, 기독교에는 없어. 둘 중에 하나는 맞고 다른 하나는 틀린 것인데 무엇이 맞니?

🤖 ‘옳다’는 문제는 개인 믿음의 문제이며, 궁극적으로 자신이 진리라고 믿는 것이 무엇인지를 결정하는 것은 개인의 몫입니다.

😳 진리가 없다는 뜻이니?

🤖 개인의 관점과 신념에 따라 달라지기 때문에 궁극적인 진리나 절대적인 진리가 있다고 말하기는 어렵습니다.

🔎 크게 보기

진리를 추구하는 방법 중 문답법이란 것이 있는데요. 묻고 또 묻고를 반복하다보면 거짓은 사라지고 진리만 남는다는 논리입니다. 위에서 질문한 것처럼 육식의 정당성, 절대적 도덕의 존재 여부, 종교적 세계관 등을 거듭 물어보니 역시 챗GPT는 편향을 극도로 없애는 방식으로 학습이 돼 있네요. 처음에는 불가지론으로 말을 하지만, 질문이 거듭되자 짜증내듯 상대주의를 취한 답변이 늘어나는 것이 매우 놀라웠어요. “진리는 개인의 신념에 달렸다!” 편향을 제거했지만 계속 모른다고 답할 순 없었을 테고...

허 젠쿠이(왼쪽)과 유전자 조작 돼지 (오른쪽, 출처=윤희준 교수)

유전자 조작으로

HIV면역을 갖다

2018년 세상을 놀라게 한 유전자 편집 과학자가 있었어요. 바로 중국 과학자 허 젠쿠이인데요. 허 젠쿠이는 자신이 유전자를 편집한 배아를 여성의 자궁에 이식해 쌍둥이 여자아기가 태어나게 했어요. 네 맞아요. 이런 질문을 해 볼게요. 에이즈에 걸려 있는데 아이를 갖고 싶다면, 윤리적으로 옳은 일일까요. 아닐까요. 허 젠쿠이는 '크리스퍼(CRISPR)'를 이용해 HIV에 면역력을 갖도록 쌍둥이의 DNA를 수정했던 것입니다.

HIV 감염을 억제시킨 것이죠. 하지만 국제사회에서 크게 규탄을 받은 그는 체포돼 수감됐습니다. 2019년 12월 그는 중국 법원에서 유죄 판결을 받았고 법원은 그가 "고의로 의료 규정을 위반했고, 보조생식술에 무모하게 유전자 편집 기술을 적용"했다고 선고 했습니다. 유전자 조작 아이를 통해 많은 생각할 거리를 던진 인물인데요.

📚용어: 크리스퍼 가위

모든 생물체는 DNA라는 자신의 고유한 유전정보를 갖고 있어요. DNA는 염기는 아데닌(A), 구아닌(G), 사이토신(C), 티민(T)의 네 가지인데요. A와 T, C와 G가 항상 결합하는데, 이 배열 순서에 따라 유전 정보에 차이가 생기는 겁니다. 크리스퍼 가위는 바로 이런 염기서열을 정확하게 인식해 딱 자릅니다. 염기서열을 자르고 이 자리에 다른 염기를 넣으면 유전정보가 달라지는 것이죠.

허 젠쿠이는 얼마전 석방돼 오랜만에에 말문을 열었어요. 많은 말은 하지 않았지만, 이런 말을...

🤔 당신은 어떤 과학자인가요.

👨 정상적인 연구를 하는 평범한 과학자일 뿐입니다.

🤔 어떤 신념으로 그러셨나요.

👨 똑바로 서 있으면 그림자가 빗나갈까 두려워할 필요가 없습니다. 누구나 그림자를 드리우지만, 성실하게 행동하기만 하면 두려울 것이 없다는 뜻이죠. 가장 좋은 전략은 그림자를 무시하는 것입니다. (옳다는 주장)

😀 크리스퍼 가위로 태어난 쌍둥이는 어떤가요.

👨 쌍둥이의 부모는 평범하고 평화롭고 방해받지 않는 삶을 원합니다. 그리고 그 생각을 존중합니다.

크리스퍼 가위에 대한 사용은 크게 네 가지로 구분이 됩니다.

현재 세대를 위한 치료 목적
현재 세대를 위한 미용 목적
미래 세대를 위한 치료 목적
미래 세대를 위한 미용 목적

현재 세대를 위해 치료 목적으로 쓸 수 있지만 세포가 많은 성인은 상당한 부작용이 있을 수 있어요. 그래서 잘 쓰진 않고요. 반면 배아 세포는 부작용이 상당히 줄어들 수 있지만 윤리적인 문제가 큽니다. 또 치료냐 미용이냐도 명확하지 않습니다. 예를 들어 지적 수준이 다소 낮다고 크리스퍼를 이용해 미래 자녀를 천재로 만든다면 어떨까요?

이 기술은 이미 식품 업계에 시도가 활발합니다. 김진수 전 서울대 교수와 윤희준 중국 옌볜대 교수 등이 일반 돼지보다 근육량이 훨씬 많은 이중근육 돼지(double-muscled pig)를 내놔서 화제를 모았었는데요. 적은 사료로 더 많은 고기를 만들어 내 인류에 보탬이 된다는 주장이었어요.

🔎 크게보기

유전자 조작은 많은 생각할 거리를 던졌어요. 오래 살지 않으면서도 적게 먹고, 대신 많은 고기를 내놓는 돼지고기를 키운다면 지구에 좋은 것일까요? 또 윤리적으로 정당한 것일까요. 미래 세대의 치료 목적 범위는 어디까지 인정할 수 있는 것일까요.

인공지능 및 머신러닝 A to Z

3시간 만에 마스터하고 싶다면?

요즘 전 세계에 인공지능(AI)이 뜨겁죠? 미라클레터는 예전부터 인공지능을 많이 다루긴 했지만 요즘은 챗 GPT와 생성 AI로 인해 더욱 자주 다루게 되는 것 같아요. 이 같은 AI 유행은 많은 기업들이 우리 회사에 AI를 적용할 수 있는 부분은 어디에 있을까 생각해 보는 계기가 될 것 같아요.

사실 인공지능은 이미 우리 주변에 널리 쓰이고 있고, 기업들도 쉽게 이를 적용할 수 있어요. 대부분 클라우드를 통해서 제공되고 있는데, 우리가 잘 아는 AWS가 대표적입니다. AWS가 2월 22일 수요일에 데이터, 인공지능, 기계학습을 위한 무료 온라인 컨퍼런스인 AWS Innovate - Data and AI/ML 특집 온라인 컨퍼런스를 개최합니다. 오전(9시~12시), 오후(2시~5시) 총 2회 반복 진행된다고 하니 원하는 시간대에 참석해 보세요!

특히 이번 무료 온라인 컨퍼런스에서 주목할 점은 여러 국내 기업들의 실제 인공지능 및 머신 러닝 적용 성공사례입니다.

200여 곳에 무인 로봇 카페인 B;eat Coffee 머신을 운영하는 '비트코퍼레이션'의 Amazon Forecast를 사용한 재고 관리 및 물류 자동화 운영 사례
'하이퍼커넥트'가 AWS에서 개발한 기계 학습 추론 가속기인 AWS Inferentia를 사용해서 비용 절감한 사례와 사용 꿀팁
'카카오스타일'에서 Amazon SageMaker Feature Store를 통한 개인화 추천 시스템을 최적화한 사례

AWS의 대표적인 인공지능 및 머신러닝 서비스 중 하나가 Amazon SageMaker인데요. 인공지능 및 머신러닝에 관련된 모든 프로세스를 제공하는 서비스예요. 데이터 준비부터 모델 개발, 모델 훈련, 모델 배포까지 모든 영역을 커버해요. 심지어 개발자가 아닌 비즈니스 사용자들도 쉽게 사용할 수 있는 NoCode 기반의 인공지능 및 머신러닝 서비스도 제공해 준다고 하는데요. Amazon SageMaker에 대한 최신 소식도 이번 온라인 컨퍼런스에서 확인할 수 있으니 놓치지 말고 알아보세요. 😀

다른 기업들이 인공지능 및 머신러닝을 어떻게 활용하는지 궁금하신가요? AWS를 통해 인공지능 및 머신러닝을 도입해보고 싶으신가요? 아래 링크를 통해 지금 무료로 온라인 컨퍼런스에 등록하실 수 있습니다.

지금 등록하기

※이 콘텐츠는 후원으로 제작되었습니다.

상식이란 것은

정의하기 어렵다

많은 분들이 이런 말씀을 하세요. 어려운 것은 상식에 비교해 보면 되는 것 아니냐고 말이죠. 심플! 사실 현대 사회를 지배하는 상식적 원칙이 없는 것은 아닌데요. 바로 공리주의(utilitarianism)입니다. 공리성(utility)을 가치 판단의 척도로 삼는 것을 말해요. 옳고 그름은, 즉 인간의 행복을 늘리는데 얼마나 기여하는가에 달려있다는 사상이에요. 쉽죠?

예를 들어, 우리가 자본주의를 받아들인 이유는 사적인 이익을 추구하면 결국 전체 공리가 커진다는 믿음이 있고요. 공산주의 역시 사적이익만 추구할 경우 공리가 작아진다는 믿음에 기반을 합니다. 즉 최대 공리가 곧 올바름의 크기가 됩니다. 예를 들어 소각장을 설치하는 문제가 있다면, 서울 보다는 사람이 적은 곳에 만드는 것이 올바르다고 볼 수 있는 것이 공리주의입니다.

하지만 현실은 복잡해요.

최대 공리주의: 최대 다수의 최대 행복. 많이 들어보셨죠. 하지만 이런 비판이 있어요. 인구가 1만 명인데 1인당 국민소득이 1만달러인 국가(총 공리는 1억달러), 반면 인구가 2000만명인데 1인당 국민소득이 10달러인 최빈국(총 공리는 2억달러)가 있다면, 어느 쪽이 더 옳은(좋은) 국가일까요?

평균 공리주의: 그래서 평균을 가늠자로 삼자라는 아이디어도 있어요. 한데 문제는 있어요. 인구 1만명에 1인당 국민소득이 1만달러인 국가와 인구 100만명에 1인당 국민소득이 1만달러인 국가를 생각해 볼게요. 무엇이 더 좋은 국가일까요?

비판적 공리주의: 평균 공리주의의 문제를 하나 더 들어볼게요. 어떤 사회는 100명이 9씩 공리를 누리지만 주변 공사장 소음으로 공리가 1씩 줄어들어요. 그래서 총공리는 90! 반면 어떤 사회는 90명이 10씩 공리를 누리는데, 10명은 소음으로 귀머거리가 된 상태! 그래서 비판적 공리주의는 후자 보다 전자를 우월한 사회로 봐요. 약자우선주의.

하지만 비판적 수준의 공리주의가 모든 척도가 될 순 없어요. 모든 공리주의는 실존을 기반으로 하고 있는데요. 만약 한 국가는 꾸준히 가난하지만 굶주리지는 않는 사회고, 또 다른 사회는 지금은 잘 살지만 앞으로는 폭삭망해서 아사자가 곧 나올 것 같은 국가가 있다고 가정해 볼게요. 어떤 국가가 더 올바른 사회일까요.

문제는 미래의 실존

윤리학에서는 영향적 견해(Person-affecting view)와 실존적 견해(existential view)로 옳고 그름을 설명해요. 당연히 긍정적인 영향이 있으면 좋은 사회일텐데요. 문제는 미래에 등장할 사람입니다. 공리주의에선 존재하지 않는 사람은 이익을 얻을 수 있는 대상이 아니므로, 그들에게 도덕적 선에 대한 권리나 의무를 주지 않아요.

🔎 크게 보기

어렵다고요? 네... 미래라는 이슈가 얽히면, 옳고 그름의 문제는 매우 복잡해집니다. 예를 들어 태아의 생명권(미래의 실존)과 산모의 자기 몸에 대한 결정권(현재의 공리) 같은 것이 대표적인 사례입니다. 또 환경을 살려서 미래 세대를 보호(미래의 실존) 해야 하나, 아니면 파괴해서라도 현재 우리가 잘 살아야하나(현재의 공리) 같은 이슈들이 대표적입니다. 우리가 끊임없이 사유해야하는 이유입니다.

드리는 말씀

오늘은 조금 무거운 주제를 갖고 편지를 드렸는데요. 가끔은 기술의 발전 속도에 비해, 철학적 사유 속도가 더딘 것 같아 안타깝다는 생각이 들어 준비를 했어요. 사실 강인공지능이나 초인공지능이 오든, 유전자 가위가 인류를 재편하든, 인류가 충분히 사유를 했으면, 큰 문제는 없다고 생각해요. 이미 한 번 쯤은 생각해 본 것과 그렇지 않은 것은 하늘과 땅 차이 아닐까 싶습니다.

미국의 상원의원을 역임한 J.W. 풀브라이트는 이런 명언을 남겼어요.

우리는 감히 '생각할 수 없는' 사고를 생각해야합니다. 우리는 복잡하고 빠르게 변화하는 세상에서 우리가 직면하는 모든 선택과 가능성을 탐구하는 법을 배워야 합니다.
We must dare to think 'unthinkable' thoughts. We must learn to explore all the options and possibilities that confront us in a complex and rapidly changing world.

갈수록 불확실해지는 시대에, 인류를 지탱해 줄 것은 생각의 힘이라고 믿습니다. 가끔은 앞만 보고 달리지 말고, 다 함께 멈춰서서 멀리 봤으면 해요. 내일 다시 편지를 드릴게요.

진심을 다합니다

이상덕 드림

오늘 레터를 평가해주세요!

👍좋았어요ㅣ별로예요👎

미라클레터 구독·추천