중국은 이 강력한 안면 인식 알고리즘이 잘 작동될 인프라도 많아. 세계에서 CCTV가 가장 많은 나라 역시 중국이거든. 하지만 전 세계 CCTV 설치 규모를 정확히 파악하는 건 어려워. 그래도 보안 전문 기업들에서는 정부 보고서나 언론 보도자료, 경찰 자료 등을 통해 간접적으로나마 파악하고 있어.

현재 추정컨대 전 세계적으로 약 10억 대의 CCTV가 설치된 것으로 파악하고 있는데, 그 중에 7억 대가 중국에 있어. 인구 대비로 보면 인구 천 명당 494대의 카메라가 있는 셈이야. 이게 어느 정도인지 다른 국가들과 비교해봤어.

인구 천 명 당 CCTV가 70대 이상 설치된 도시는 인도의 하이데라바드와 인도르 이렇게 두 곳이야. 뒤이어 인도 방갈로르와 파키스탄 라호르 순으로 나오고. 대한민국 서울도 인구 천 명 당 24.3대의 CCTV가 설치되어 있어서 상당히 높은 수치를 기록하고 있어. 하지만 중국은 무려 494대로, 다른 도시들과 비교할 수 없을 정도로 압도적으로 높아.

중국은 강력한 알고리즘과 압도적인 인프라를 바탕으로 거대한 감시 시스템을 구축했어. 하나는 하늘의 그물, 톈왕이 있고, 다른 하나는 '매서운 눈 프로젝트' 쉐량공정이 있어. 베이징, 선전, 청두 같은 대도시에선 톈왕이 돌아가고, 후난성이나 쓰촨성 같은 농촌 지역에는 쉐량공정이 돌아가.

톈왕은 수억 대의 CCTV를 활용해 사람들의 얼굴, 차량 번호, 보행 패턴 등을 인식하고 분석해. 수만 명이 모인 대형 콘서트장에서 바로 특정 인물을 찾아낼 정도로 뛰어난 정확도를 갖고 있다고 하지.

쉐량공정은 농촌 곳곳에 있는 CCTV에 더해 개인 가정용 카메라까지 중앙 감시 플랫폼에 통합해 운영되고 있어. 일부 지역에서는 주민들이 감시 플랫폼에 접근하도록 해서 '참여형 감시' 모델을 구축하기도 했고.

단순히 불특정 다수를 향한 감시가 아니라 반체제 인사들의 타깃이 되기도 해. 또한 소수민족들이 모여있는 신장 위구르 자치구의 모스크라던가 티벳 사찰에서도 시스템이 돌아가고.

중국의 강력한 감시 시스템에는 민간 기업들의 기술과 인프라도 당연히 포함되어 있어. 미국은 이들 기업들이 인권 탄압에 관여했다는 이유로 블랙리스트에 올려 규제를 하고 있지. 하지만 정작 미국의 상황도 이런 감시 기술 활용에서 자유롭지 못하다는 비판이 나오고 있어.

트럼프 대통령이 지난 3월 한 행정 명령에 서명을 했어. 제목은 '정보 사일로를 제거해서 낭비와 사기, 남용을 막자'는 건데, 제목 자체는 문제가 없어 보여. 부서간의 칸막이를 없애고 분절되어 있던 정부 데이터를 서로 공유하도록 하는 거니까.

하지만 당시 문제가 되었던 건 일론 머스크의 정부효율부 DOGE 때문이었어. 일론 머스크가 다양한 부처의 데이터를 들여다보고, 해고의 칼춤을 추는 것 아니냐는 우려가 있었거든. 지금은 트럼프와 일론 머스크 사이가 소원해지기도 했고, DOGE도 해체되었으니까... 그러면 뭐 문제될 게 없을 것 같은데 왜 이 행정명령 이야기를 꺼냈을까?

트럼프가 이 행정명령에 사인을 한 이후 주요 부처들이 데이터 분석을 위한 기술적 토대를 마련하기 시작해. 그러면서 유독 많이 등장하는 기업 이름이 있어. 바로 팔란티어야. 페이팔 마피아 편에서 다루었듯 일론 머스크가 DOGE를 만들고 팔란티어 출신 인사들을 많이 끌고 왔어. 그리고 트럼프 행정부에선 올해 신규 사업을 진행할 때 팔란티어와 유독 계약을 많이 하고 있지.

2025년 팔란티어가 연방 정부 업무를 받아 따낸 프로젝트 금액은 무려 9억 650만 달러. 역대 통틀어서 가장 큰 규모야. 팔란티어의 핵심 제품인 파운드리가 국토안보부, 보건복지부 같은 주요 연방 기관에 도입되고 있어. 팔란티어의 또 다른 제품 고담은 이미 정보기관과 국방부에서 활용하고 있지.

미국 정부 관계자들은 팔란티어의 제품 도입으로 여러 기관의 정보를 쉽게 통합할 수 있는 기반을 마련했다고 평가하고 있어. 다만 이러한 데이터 통합 작업이 자칫 광범위한 인권 침해의 토대가 될 수 있다는 우려가 일각에서 나와. 특히 이민자를 감시하고 트럼프 행정부와 정치적 입장이 다른 세력을 견제하는 데 활용할 가능성이 있는 건 아니냐는 비판이 나오는 상황이야.

이런 우려는 팔란티어 내부에서도 나오고 있어. 위 이미지는 팔란티어 전직 직원 13명이 발표한 서한이야. 이 서한에는 트럼프 대통령과의 거래를 중단할 것을 촉구하는 내용이 담겨 있지. 팔란티어를 비롯한 빅테크 기업들이 윤리적 원칙을 저버리고 트럼프 행정부에 가담하고 있는 현 상황을 비판하는 거야.

팔란티어 전략 파트에서 일했던 직원은 올해 특히 이민세관단속국 ICE와의 업무가 확대되는 상황을 더 이상 견디지 못하고 사표를 던지기도 했어.

ICE는 트럼프 2기 행정부가 들어서면서 업무 규모라던지 행동이 크게 늘어났어. 단순히 이민자만 체포하고 감금하는 게 아니라 정치적 성향이 다른 민주당 소속의 정치인들도 막무가내로 체포하면서 정치 경찰화 된 것 아니냐는 지적도 받고 있고.

ICE의 이런 막무가내 행동에 불을 지피는 건 다름아닌 트럼프 대통령이야. 최근엔 소말리아 이민자들을 향해 '쓰레기'라고 쏘아 붙이는 등 노골적인 혐오 발언을 퍼붓고 있더라고. 이런 상황이 이어지자 미국 내 이민자 추방 규모는 점점 늘어나고 있어.

트럼프 2기 행정부가 들어선 이후 ICE에 의해 체포되어 구금된 사람 규모는 점점 늘어나고 있어. 2025년 11월 기준으로 6만 5천 명 이상이 구금 중이야. 단순히 구금으로만 그치는 게 아니라 추방으로도 이렇게 이어지고 있지.

셧다운 기간 동안 추방된 5만 6천 여명을 포함하면 현재까지 29만 명이 추방됐어.

이러한 상승세에는 AI 기술이 큰 역할을 하고 있어. 사실 팔란티어는 일찍이 2014년부터 ICE와 계약을 체결했어. 당시 불법 이민자의 범죄 기록을 추적하는 시스템을 구축했었지. 올해엔 추방 대상자를 실시간으로 식별, 추적하고 허가된 체류 기간을 넘어선 외국인을 표적화하는 기능까지 제공하는 감시 시스템 계약을 맺었고.

물론 ICE가 팔란티어하고만 협력을 하는 건 아니야. 안면 인식 쪽에서는 올해 9월에 Clearview AI라는 회사와 계약했는데, 이 회사가 꽤나 문제가 많아. 2017년에 설립된 Clearview AI는 SNS에 공개된 이미지를 이용자 동의 없이 크롤링해서 500억 개 이상의 얼굴 이미지 데이터베이스를 구축했어. 이 사실이 알려지면서 미국, 유럽 가릴 것 없이 많은 국가에서 소송이 걸리고 제재를 받았던 기업인데, ICE는 이들로부터 얼굴 데이터베이스 제공 받고 얼굴 인식 시스템을 이용할 계획인 거지.

이런 일들이 중국과 미국같은 기술 강대국이나 권위주의 국가에서만 발생할 것 같지만 사실 멀리서 사례를 찾을 필요도 없어. 왜냐하면 우리나라에서도 군중 감시 AI 연구가 진행된 바 있으니까. 지난 정부 시절 김용현 전 국방장관이 경호처장으로 재직할 당시 진행한 사업이 있어. 바로 'AI 기반 전영역 경비안전 기술개발 사업' 이야.

2024년부터 5년간 총 예산 240억 원이 투입될 예정이었는데, 사람들의 생체 신호를 토대로 긴장도를 측정해 위험 인물을 인식하는 시스템을 개발하려고 했어. 위험 인물을 AI를 통해 판단하겠다는 사업인데 따로 윤리 검토 없이 사업이 진행됐지. 지난 10월에 이 사실이 밝혀지자 지금 정부에서는 사업 중단을 위한 절차에 착수했고, 현재는 다행히도 연구가 중단된 상태야.

개인의 민감 정보인 생체 정보를 무단으로 수집하고 추적하고 분석하는 AI는 인권을 침해할 소지가 다분해. 게다가 여전히 알고리즘이 왜 이런 선택을 했는지 정확히 우리가 해석할 수 없기 때문에 AI가 왜 특정인을 위험 인물로 지목했는지 설명하지 못하는 AI '블랙박스' 문제도 심각하지. 그 사이에 학습 데이터에 내제된 인종과 성별에 따른 차별이 AI의 편향을 고착시킬 수 있고.

하지만 일부 국가에서는 이미 행해지고 있어. 단순히 불특정 군중을 상대로 하는 게 아니라 중국에서는 소수 민족을 대상으로, 또 미국에서는 이민자를 대상으로 표적 추적이 이뤄지고 있어. 당연히 많은 사람들이 이러한 흐름에 반발하고 있지. 대표적으로 유럽이 있어. AI 발전도 좋은데 조금은 신중히 접근하자는 입장인 EU에서는 AI 법을 통해 AI 기술의 인권 침해 가능성을 막고 있어.

군중 분석 AI 기술은 분명 우리 사회에 도움이 될 수 있어. 테러를 미연에 방지하고, 실종된 아이를 빠르게 찾아내고, 범죄자를 추적하는 데 강력한 도구가 될 수 있지. 하지만 기술이 권력과 결합하고 견제 장치가 사라진다면 조지 오웰이 <1984>에서 경고했던 빅브라더가 현실이 될 수 있을 거야.

AI가 우리의 삶을 더 편리하게 해주는 더 나은 미래를 위해선 견고한 통제 체계가 갖춰져야 할 거야. 정부와 국제사회는 법적 규제를 통해, 기업들은 알고리즘의 투명성을 높이는 방법으로 말이야. 구독자는 어떻게 생각해?  오늘 준비한 오그랲은 여기까지야. 긴 글 끝까지 읽어줘서 구독자, 진심으로 고마워!