1. AI 윤리는 이슈가 아니다 ❌

제목과 목차만 훑으면 책이 다루는 주제와 서술 방식이 뻔해보이기도 합니다. 프라이버시, 투명성과 설명가능성, 편향 등과 같은 개념과 함께 각종 사건, 사고를 예시로 들지 않겠어요?

 … 아닙니다.

대신 저자는 최근 오픈AI와 같은 기업이 부르짖기 시작한 초지능(superintelligence)이라는 발상부터 검토하죠. 지금의 AI 발전 방향이 가리키는 초지능은 트랜스휴머니즘*의 초월이라는 열망과 맞닿아 있습니다. 이것이 인간-같은 AI를 개발하도록 만들어 인간과 AI 간 경쟁 서사를 실현한다고 지적합니다. 인간이 만들어낸 모든 데이터를 학습시켜 같은 데이터를 내뱉도록 함으로서 너무도 인간-같은 AI를 만들고 있는 지금의 우리가 귀기울일만한 이야기죠.

하지만 미래가 꼭 이런 서사로만 펼쳐질 필요는 없습니다. 인간-비인간 경계를 넘나드는 포스트휴머니즘**에서 영감을 받아 인간-같지 않은 AI를 개발하고, “AI와 경쟁하는 대신에 공동의 목표를 설정할 수” 도 있죠. (p.58) 저자는 AI 윤리를 이슈가 아닌 서사로 바라봐야 하는 이유를 제시합니다.

2. AI는 기술이 아니다 ⁉️

책은 중반부에서야 AI 기술을 설명하기 시작합니다. 하지만 이름에서부터 인간의 특성임과 동시에 우리조차 온전히 이해하지 못하는 ‘지능’을 포함하는 한, AI를 단순히 기술로만 바라보거나 정의하긴 어렵죠. 실제로 현재 AI와 사실상 동일시되는 개념인 기계학습은 데이터과학과 통계학에 뿌리를 두고 있는데 둘 모두 인간이 세상을 이해하고 탐구하고자 만든 학문, 즉 과학입니다.

이제 AI가 어디에나 존재하는 세상이 되었습니다. AI 에이전트(agent)라는 표현이 더 이상 어색하지 않죠. 인간이 AI에게 행위주체성을 위임하는 게 만연해질 때, 과학으로서의 AI는 설 자리를 잃습니다. 어쩌면 역설적이게도 AI 윤리라는 범주의 모든 문제는 이 지점에서 발생하는 것일지도 모릅니다.

3. AI 윤리 레터가 필요하다 😉