길항 권력은 민주주의 없이는 일구기 어렵다.

AI 행정명령에 담긴 불균형한 목소리

“전혀 다른 입장에서 쓴 글들을 충돌시켜 함께 뭉개 놓은 글 같다.”

지난주 레터에서 다룬 미국의 AI 행정명령을 두고 디 애틀랜틱의 AI 전문기자 카렌 하오와 마테오 웡이 내린 평가입니다. 왜 이런 비판적 평가를 내렸을까요?

제목에서부터 안전, 보안, 신뢰를 강조한 AI 행정명령은 여러 의미로 다루는 내용 범위가 방대합니다. 단순히 원칙만을 명시한 문서가 아니라 원칙을 지키기 위한 업무 지침을 여럿 담고 있어요. 크게 세 파트로 구성되어 있습니다.

1. AI가 국가 보안이나 공공 안전을 위협하지 않는다는 것을 확인할 수 있는 표준과 평가 방안
2. 소비자, 환자, 학생, 노동자와 같이 AI 사용 시 영향을 받는 이해관계자를 보호하고 지원하기 위한 방안
3. 미국을 AI 기술과 정책의 중심지로 자리매김하는 데 필요한 연구개발 및 대내외 협력 정책 방안

여기서 1번 항목에 주로 등장하는 AI는 백악관이 과거 ‘프런티어 AI’라고도 불렀던 ‘이중 목적의 파운데이션 모델’입니다. 화생방 및 핵무기나 대규모의 사이버 공격과 사회적 혼란의 위협을 가져올 수 있는 무시무시한 기술이죠. 물론, 이러한 위험은 현실화되지 않았습니다.

반면 2번의 AI는 이미 실생활에 적용된 일상적인 기술입니다. 이른바 생성 AI가 개발되기 전부터 채용과 노동 감시, 보험 및 대출, 치안과 범죄 예방 등 다방면에서 의사결정을 일부 또는 전부 자동화하는 데 일조해왔죠. 그 피해는 주로 사회적 취약 계층에 집중되어 있습니다.

같은 ‘AI 윤리’를 논하더라도 누군가는 1번의 위험을, 누군가는 2번의 피해를 떠올립니다. 인공일반지능(AGI)이나 초지능(Super-intelligence)과 같은 용어가 유행하고서부터 갈수록 논의가 전자로 치우친다는 느낌이 듭니다. 디 애틀랜틱은 AI 행정명령이 2번보다 1번을 강조하며, 사회적 취약 계층이 겪고 있는 실제 위험에 대해서는 충분히 다루지 않고 있음을 비판합니다.

미국 정부의 파운데이션 모델에 대한 입장과 정책은 기업들이 제안한 내용의 폭과 깊이를 벗어나지 않습니다. 대부분의 내용이 구글, 오픈AI 등의 기업 출신 연구자가 작성에 참여한 논문과 일치하죠. 반면 많은 사람이 목소리를 내 온 것에 비해 AI로 인한 실질적인 피해와 그에 따른 조치는 이번 행정명령에서 적잖이 누락된 것으로 보입니다.

AI 행정명령은 기업들이 주장하는 것처럼 AI가 기후위기 대응에 필요하다고 강조하지만 물 소비량과 같은 AI 개발로 인한 환경적 영향에 대해서는 언급하지 않습니다. 장기적으로 AI가 노동 시장에 가져올 수 있는 파급력을 조사하겠다고 했지만 당장 일어나고 있는 AI를 이용한 노동권 침해 문제는 생략했죠. 국가 안보와 공공 안전을 위협하는 AI 개발 방지를 위해 관련 학습 데이터를 관리할 구체적인 방안 마련을 지시한 것에 비해 생성 AI의 저작물 이용에 대해선 그저 연구하고 있다는 말뿐입니다.

해리스 부통령은 최근 연설에서 일상에서 AI로 인해 발생하는 피해로 실존적인 위험에 처한 실제 사례들을 소개했습니다. AI로 인해 인류가 멸종할 수 있다는 종류의 주장을 함축하던 ‘실존적인 위험(existential risk)’이라는 단어를 재정의한 것이죠. AI 행정명령을 이행하는 과정에서 문서에서 나타나는 기울어진 균형을 바로잡길 기대해 봅니다.

오늘 이야기 어떠셨나요?

여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

🗂️ 아카이브