AI를 위한 인간이 아니라, 인간을 위한 AI 🤓
AI라는 기술이 가져올 변화를 기대하는 이유는 인간의 삶을 더 나아지게 해줄 것이라는 믿음 때문일 거예요. 하지만 전 세계적 속도 경쟁 속에 '국가대항전'에 몰입하다 보면 인권, 평등, 평화, 공존과 같은 가치들은 우선순위에서 멀어질 가능성이 큽니다.
디지털 대전환에 적응하기 위한 시의적절한 지원과 정책은 중요합니다. 하지만 정책 설계에 '얼마나 빨리, 얼마나 많이 AI를 도입했는가'가 아니라 '어떤 가치를 위해 도입했는가', '누가 영향을 받고 누가 위험을 떠안았으며 누가 이익을 보고 있는가'라는 관점이 필요해요. 따라서 행동계획에는 다음과 같은 지점들이 포함되어야 합니다.
✅ 개인정보 활용은 엄격한 통제가 필요해요
행동계획은 AI 학습과 개발을 위해 위치, 소비, 보건의료 등 다양한 영역의 개인정보 데이터를 더 많이 활용할 것을 권고합니다. '가명 처리하지 않은 개인정보를 안전하게 AI학습에 활용할 수 있도록 개인정보보호법 개정을 추진한다'는 것이 대표적이에요. 개인정보는 인간의 프라이버시를 구성하는 중요한 요소이고, 기술 발전을 위한 공유재처럼 사용해서는 안 돼요. 가명 처리 원칙을 보수적으로 해석하고, 자신의 정보를 스스로 통제할 수 있는 권리를 보장해야 합니다.
✅ 기업의 이익이 곧 국가의 이익, 시민의 이익은 아니에요
공적인 자산이 특정 민간 기업에 귀속되어서는 안 돼요. 예를 들어, 대다수의 의료기관이 민간 병원인 상황에서 보건의료 공공 데이터를 활용하여 AI 파운데이션 모델을 만든다면 그 성과는 누구에게 이로운 것이고 수익은 누가 가져가는 것일까요? 공공의 통제력을 확보할 방안이 반드시 필요합니다. 또한 AI·반도체 등 전략산업에 대한 공적 자금 투자가 대기업의 시장 지배력 강화로만 이어지지 않도록 경제 민주화, 공정한 시장 질서 원칙을 지켜야 해요.
✅ AI에 영향 받는 사람들의 권리를 지킬 방안이 필요해요
▷산업 전환 과정에서 고용이 불안해지는 노동자에 대한 대책 ▷예술인의 창작권 보장과 건강한 문화산업 생태계를 위한 대책 ▷AI 활용이 학생의 역량 강화와 교육 현장에 미치는 영향, 환자와 의료인에게 미치는 영향에 대한 대책 등이 섬세하고 촘촘하게 설계되어야 합니다. 영향 받는 당사자들이 AI 정책 결정 과정에 실제로 참여하고 목소리를 낼 수 있도록 보장해야 해요.
✅ 공공 AX의 공공성과 책무성를 강화해야 해요
공공 AX(AI Transformation)는 AI를 활용해 공공 서비스를 혁신하는 것을 의미합니다. AI 기반 모델로 복지 서비스의 접근성을 확대하거나, 공무원의 행정 업무와 의사결정을 지원하는 것 등이죠. 공공기관의 업무는 책무성과 투명성이 중요하기 때문에, '공공 AI 영향 평가'가 반드시 필요합니다. AI가 산출한 결과물에 대해 당사자에게 설명할 수 없다면 사용해서는 안 돼요.
✅ 생명과 안전을 좌우하는 군사 AI는 진흥보다 규제가 먼저예요
'AI 기반 국방강국'이라는 장밋빛 전망 속에 '인간의 생명과 안전을 좌우하는 복잡한 윤리적 판단과 무력 사용을 AI와 로봇에 맡길 것인가'라는 질문에 대한 성찰은 찾아볼 수 없었어요. AI 알고리즘을 활용한 표적 식별이나 공격, 어디까지 허용해야 할까요? 자율무기를 포함한 군사 AI 규제, 군비 통제 방안에 대한 사회적 합의가 국방 AI 기본법 추진보다 선행되어야 합니다.
✅ AI 시스템의 환경·기후영향평가가 필수적이에요
AI는 기후 변화 예측이나 대응, 에너지 데이터 분석 등에 큰 도움을 줄 수 있어요. 동시에 데이터센터는 막대한 전력과 물 소비로 환경을 악화시킬 수도 있죠. 모든 AI 프로젝트는 환경·기후에 미치는 영향을 의무적으로 평가해야 해요. 엄청나게 늘어날 것으로 보이는 데이터센터가 지역과 경제에 미치는 영향도 평가하며 정책을 추진해야 합니다.
AI가 인간에게 미치는 영향을 실질적으로 규율할 수 있어야, 시민들도 안심하고 AI를 사용하거나 신뢰할 수 있을 거예요. AI 행동계획은 산업 육성에만 매몰되지 않고 공공성과 책임성을 담보하는 방향으로 수정해야 합니다.
| 
