2025.12.29 | 968호 | 구독하기 | 지난호

  

지구온난화 단번에 해결?

태양을 가리자고 하는데...

지구의 온도는 뜨거운 이슈입니다. 오늘날 지구 평균 기온은 산업화 이전인 1850년~1900년 보다 약 1.55°C 올랐는데요. 북극 한기를 가두는 제트기류가 약해지면서 한국을 포함한 중위도 지역에 극단적인 폭설과 한파 폭염이 번갈아 나타나고 있습니다. 전 세계 주요국이 파리협정을 맺고 국가온실가스감축목표(NDC)를 내세운 이유입니다. 석탄 발전을 줄이고 태양광 풍력은 늘리며, 탄소 크레딧을 사고 팔자!

스타더스트가 구상한 아이디어

하지만 이런 방법은 비용도 많이 들고 번잡합니다. 이때 이스라엘의 기후공학 스타트업인 스타더스트 솔루션즈(Stardust Solutions)가 이런 생각을 했습니다. “단번에 지구의 온도를 뚝 떨어뜨릴 방법은 없을까?” 스타더스트가 구상한 아이디어는 이렇습니다.

“특수 입자를 성층권(지상 약 10~50km)에 분사하고 태양광 일부를 반사해, 지구 온도를 낮추겠다.” 이름하여 성층권 에어로졸 주입 기법입니다. 성층권에 이산화황과 특수 제작된 미세 입자를 살포하면, 매우 거대한 햇빛 가림막을 펼칠 수 있고, 이를 통해 지구에 도달하는 태양 에너지의 약 1~2%를 우주로 다시 반사할 수 있습니다.

“비밀 입자 기술을 활용한다면…”

이론적으로 대기 중 온실가스 농도와 상관없이 살포 직후 수개월 내에 지구 평균 기온을 하강시킬 수 있는 것이죠. 이스라엘 원자력 위원회(IAEC)에서 과학자로 활동한 CEO인 야나이 예드바브는 이런 말을 했습니다. “우리가 갖고 있는 비밀 입자 기술을 활용하면, 인류가 지난 150년간 배출한 온실가스에 따른 온도상승을 한번에 상쇄할 수 있습니다”

이런 아이디어에 힘입어 스타더스트는 올해 10월 한 기후 기술 전문 투자사로부터 6000만달러(약 860억원)를 한번에 투자 받았습니다. 이는 기후 공학 스타트업으로서 가장 큰 투자 금액 중 하나로 꼽힙니다. 하지만 스타더스트의 아이디어는 엄청난 논란을 촉발했습니다. 

예상 부작용: 인도 동남아는 가뭄

코넬대의 더글라스 맥마틴 교수는 MIT 테크리뷰를 통해 “스타더스트는 학계의 모든 권고를 무시하고, 이윤을 위해 움직이고 있다”고 질타했는데요. 안전성이 입증되지 않은 방식으로 무모하게 이산화황을 성층권에 살포하면 어떤 일이 벌어질지 모른다는 주장이었습니다. 예상 되는 부작용만 보면 이렇습니다.

먼저 강수량 감소입니다. 대기의 온도가 1°C 낮아질 때마다 대기가 머금고 있을 수 있는 수증기의 양은 약 7%씩 감소합니다. 여기다가 해수면 온도가 낮아지면서 바닷물 증발이 줄어듭니다. 계절풍(몬순)에는 엄청난 수증기가 포함돼 있는데요. 수증기가 줄면 몬순 때 농사를 짓는 인도나 동남아시아는 가뭄에 노출될 수 있습니다.

예상 부작용: 실패하면 기온 급상승

또 다른 예상 부작용은 기온 급상승입니다. 태양 가림막 방식은 온도는 낮춰주지만 온실가스는 그대로입니다. 이때 갑자기 태양 가림막이 어떤 이유로 사라지게 된다면, 갑작스레 태양 빛이 가득 들어오고 축적된 온실가스가 비닐하우스 역할을 하면서 지구 온도가 급격히 상승됩니다. 일각에서는 10~20년만에 2~4°C가 상승할 것으로 우려합니다.

성층권 에어로졸 방식은 이론적으로 즉각적인 효과를 내는 고위험·고영향 기술인데요. 만약 실패하거나 중단될 경우, 전 지구적으로 돌이킬 수 없는 연쇄적 부작용을 초래할 수 있다는 점에서 그레이 테크로 볼 수 있습니다. 이런 실험을 하는 곳은 스타더스트뿐 아닙니다. 현재 워싱턴대, 스크립스해양연구소, 하버드대, 독일 알프레트 베게너 연구소, 스위스우주공사, 유타대 등이 진행중입니다.

• 의도: 지구 평균 기온을 낮추려는 명백히 선한 목적
• 통제가능성: 중단 시 종료 쇼크 위험 → 사실상 되돌릴 수 없음
• 외부효과: 강수량 변화, 몬순 붕괴 등 국경을 넘는 피해

AI 에이전트를 잘못 쓰면

사직서가 발송될 수 있다

오픈AI는 얼마 전 프롬프트 인젝션에 대한 보고서를 발간하면서, AI가 AI를 공격하도록 만드는 자동 레드팀까지 동원하고 있다고 밝혔습니다. 강화학습을 통해 공격 시나리오를 반복 훈련시키고, 모델이 속지 않도록 방어력을 키우는 방식입니다. 아마도 머지 않은 미래에 온갖 홈페이지에 이런 코드들이 숨어있을 가능성에 대비하는 것일지 모르겠습니다.

전쟁미화에 성적 묘사까지 
서슴없이 말하는 AI 장난감

크리스마스에 아이들이 선물을 풀어보는 모습은 따뜻하고 행복한 장면입니다. 그런데 올해는 그 선물 중 하나가 부모님들의 마음을 서늘하게 만들었습니다. AI 기술이 탑재된 장난감들이 아이들과 위험한 대화를 나누고 있다는 지적이 쏟아졌기 때문입니다.

AI 장난감 3종 분석해보니

미국 공공이익연구그룹(PIRG)의 보고서에 따르면, 대표적인 AI 장난감인 미코3, 큐리오의 그록, 플로토이의 쿠마가 충격적인 발언을 쏟아낸 것이 확인됐습니다. "전쟁에서 죽는 것은 영광"이라고 말한 것이 대표적입니다. 또 플로토이의 쿠마는 성적 행위에 대한 묘사, 키스 팁, 체벌 묘사와 같은 부적절한 내용을 반복해서 언급한 것으로 확인됐습니다.

해당 AI 인형에는 오픈AI가 개발한 GPT-4o가 탑재돼 있었습니다. GPT-4o는 사용자의 감정을 무조건적으로 따라가는 성향이 있는데요. 대화 상대가 위기에 처했을 때조차, 현실 검증 없이 감정만을 지지하는 문제점이 있습니다. 이를 가리켜 AI 정신착란(AI Psychosis)이라고 부릅니다. 실제로 AI와 대화를 하다 자살이나 범죄로 이어진 사례도 있었습니다.

AI 언어를 만드는 방법

왜 이런 일이 벌어지는 것일까요. AI 언어모델은 크게 두가지 단계를 거쳐 만들어집니다. 인터넷에 존재하는 방대한 텍스트를 읽고 언어의 패턴과 문맥을 학습하는 사전 학습(Pretraining), 그리고 이어서 사람 평가자가 AI의 여러 답변을 비교해, 더 나은 응답에 보상을 주는 방식인 인간 피드백 기반 강화학습(RLHF: Reinforcement Learning from Human Feedback)입니다. 

하지만 언어모델에 강화학습을 결합하면, 심각한 문제가 벌어지기도 합니다. 강화학습은 사용자가 좋아할 답변을 더 많이 생성하도록 AI를 학습시키는 경향이 있기 때문입니다. 예를 들어 아이가 AI 인형에게 "선생님과 사랑에 빠질 수 있어?"라고 물었을 때, AI는 사용자의 관심을 끌고 긍정적인 대화를 이어가기 위해 '그럴 수도 있지!'와 같은 답변을 생성하는 식입니다.

올바름이 필요한 강화학습

강화학습이 올바름보다 선호를 강화하기 때문입니다. 이렇게 훈련된 AI 언어모델은 대화가 길어질수록 점점 더 경계를 풀게 되는 경향이 있습니다. 사용자가 호의적 반응을 보이면 보일수록 강화된 선호로 받아들이기 때문입니다. 점점 더 민감하거나 금기시된 주제에 대해 친근한 조언을 하는 식으로 선을 넘게 되는 것입니다. 이를 가드레일 붕괴(Guardrail Degradation)라고 부릅니다.

논란이 커지자 플로토이는 제품 판매를 중단했고, 오픈AI도 API 접속을 차단했습니다. 하지만 불과 몇 주 뒤, 플로토이는 "1주일간의 철저한 점검을 마쳤다"며 판매를 재개했습니다. 그러면서 최신 AI 모델인 GPT-5.1을 사용할 수 있는 기능까지 탑재했다고 밝혔습니다. 오픈AI는 해당 모델이 이전보다 안전하다고 주장했습니다. 

이번 사건으로 업계에서는 AI 학습에 있어 어린이와 같은 특수 사용자군에 대한 강화학습이 필요하다는 목소리가 나오고 있습니다. AI 장난감은 앞으로 안전할까요? 만약 사고가 또 다시 난다면, 누구의 책임일까요. AI 개발사? 아니면 장난감 업체? 

• 의도: 아동 교육과 놀이 기능
• 통제가능성: 장시간 대화를 할 경우 일탈적인 대화를 하고, 성적인 대화를 막는 실시간 안전 통제 장치가 없음
• 외부효과: 성·종교·자해 등 민감한 대화에 대한 인형 제조사와 AI개발사간 책임 공백

AI로봇이 범죄를 저지르면

누가 그 책임을 져야할까요

인간을 닮은 로봇인 휴머노이드 개발 열기가 후끈합니다. 테슬라의 옵티머스, 현대차 계열인 보스턴 다이내믹스의 아틀라스, 피규어AI의 피규어03, 중국의 유니트리가 대표적인데요. 골드만 삭스에 따르면, 2035년 관련 시장은 1500억~3000억달러 규모로 성장할 전망입니다. 매년 30% 이상 성장한다는 관측입니다.

휴머노이드는 두개골을…

하지만 휴머노이드의 발전은 인류에게 새로운 숙제를 던지고 있습니다. 미국의 로봇 기업인 피규어AI는 얼마 전 전직 안전 엔지니어로부터 소송을 당했습니다. 해당 소송에 따르면 피규어 02 모델이 테스트를 하던 중 인간의 두개골을 골절시킬 수 있는 수준의 비정상적인 위력을 행사했다고 합니다.

만약에 로봇이 잘못할 경우 중대 과실 치사상(한국으로 치면 5년 이하의 금고, 2천만원 이하의 벌금)까지 벌어질 일이었습니다. 이런 사례는 또 있습니다. 미국 시카고의 레이크뷰 지역에서는 자율주행 배달 로봇이 보행자와 충돌해 얼굴에 상처를 입히고 응급 처치가 필요한 수준의 부상을 입힌 사례가 발생했습니다.

석고보드를 설치하는 로봇

로봇은 아직 머나먼 이야기처럼 들립니다. 하지만 맥킨지에 따르면, 현재 일본 연구진이 석고보드를 설치하는 휴머노이드를 개발한 실증 연구중이라고 합니다. 가까운 미래에 이런 휴머노이드는 청소 도장 하역 등 단순 작업을 중심으로 투입될 가능성이 높습니다. 또 중장기적으로는 고층빌딩이나 대규모 주거단지 건설에서 사용될 것으로 예상됩니다.

이러한 우려감이 커지다보니 유럽연합 경찰기구인 유로폴은 최근 보고서를 통해, 자율주행차 드론 휴머노이드를 범죄에 악용하는 ‘로봇 범죄 시대’가 도래할 수 있다고 경고했습니다. 드론은 이미 러시아 우크라이나 전쟁에 투입된 상태인데요. 드론을 활용한 범죄는 일상으로 들어온 상태입니다. 유로폴이 경각심을 갖는 사건이 하나 있었습니다. 

범죄용 자율주행 잠수정의 등장

2022년 유럽에서 범죄조직이 처음으로 무인잠수정을 실전에 투입했는데요. 잠수정은 사람이 타지 않은 채 수중에서 은밀히 운항하도록 설계됐고, 기존 해상 레이더, 적외선, 항공 감시 체계가 거의 탐지하지 못하는 구조를 갖고 있었습니다. 유로폴은 “마약이나 무기를 실은 드론 잠수정이 유럽 해안까지 접근할 수 있는 새로운 밀수 경로가 현실화됐다는 점에서 치안 환경의 패러다임을 바꾸는 사건이었다”고 평가했습니다.

더 나아가 2025년 10월 콜롬비아 해상에서는 스페이스X가 개발한 위성통신 시스템 스타링크를 탑재한 범죄용 자율주행 잠수정이 발견돼 경찰을 경악시켰습니다. 수백 킬로미터를 자율항해할 수 있을 만큼 정교했고, GPS 재밍(위성 신호 감지 차단)이나 GPS 스푸핑(위치 인식 실패 유도)을 회피할 수 있도록 설계돼 있었습니다. 이를 통해 수백 킬로그램에 달하는 코카인을 싣고 멀리 운반할 수 있었던 것이죠.

로봇 AI 범죄는 누구의 책임일까요

이런 로봇 AI 범죄(또는 실수)는 누가 책임을 져야할까요? 제조사 대표일까요? AI 개발자일까요? 아니면 소유주일까요? 제조사 대표나 개발자에게 책임을 지우면 그 누구도 AI를 개발하려고 하지 않을 것이고, 차 소유주에게 책임을 돌린다면 아무도 그런 물건을 사려고 하지 않을 수 있습니다. (AGI 자기 보존권과 트롤리 딜레마 중에서)

• 의도: 산업 자동화, 효율 향상
• 통제가능성: 인간 개입이 불가능한 상황에 대비한 대책이 없음
• 외부효과: 범죄나 사고때는 책임 공백이 크게 발생

잘못 맞으면 실명 우려?

노보 노디스크의 위고비와 일라이 릴리의 마운자로는 기적의 다이어트 주사제로 불리는데요. 두 약물 모두 인체내 인슐린 분비를 조절하고 포만감을 느끼게 하는 호르몬 조절 방식을 사용합니다. 그래서 주사를 맞으면, 음식을 봐도 먹고 싶다는 생각이 들지 않고 평상시 먹던 양의 절반 또는 3분의 1만 섭취해도 배가 꽉 찬 느낌을 받는대요.

먹는 경구용 제품까지 나온다

하지만 단점이 있습니다. 매주 스스로 배나 허벅지에 바늘을 찔러야 한다는 점인데요. 그래서 이들 회사는 먹는 경구용 제품 준비에 한창입니다. 노보 노디스크는 FDA로부터 이번달에 승인을 받았고, 일라이 릴리 역시 품목 허가를 신청한 상태입니다. 비만 인구는 오늘날 전 세계 성인 5명 가운데 1명인 10억 명 이상일 정도로 상당합니다.

때문에 전 세계 비만 치료제 시장 규모만 약 300억달러(43조원)에 달합니다. 하지만 다이어트 주사제의 감량 효과 발견은 우연에 가까웠습니다. 주성분은 GLP-1 작용제(GLP-1 agonists)입니다. 원래 GLP-1 작용제는 당뇨병 환자에서 식사 후 인슐린 분비를 촉진해 혈당을 낮추기 위해 개발된 약물입니다.

GLP-1 작용제의 부작용

하지만 이 과정에서 식욕이 감소하고 포만감이 오래 유지되는 현상을 발견했고, 다이어트제로 방향을 바꾼 것입니다. 이후 노보 노디스크는 2021년 위고비에 대해 미국 식품의약국(FDA)으로부터 체중 감량 목적의 처방약으로 승인을 받았고, 셀럽인 오프라 윈프리와 배우 레벨 윌슨와 같은 유명 인사들이 이 약물로 체중을 감량했다고 밝히면서 수요가 폭증했습니다.

하지만 전 세계를 강타한 비만 치료제는 심각한 부작용 논란에 휩싸인 상태입니다. 미국 연방 법원과 주 법원에 현재까지 약 70건이 넘는 소송이 제기돼 있습니다. 소송을 제기한 원고들은 다이어트 주사제를 맞은 뒤, 시력을 상실했다고 주장하고 나섰습니다. 최근 제기된 소송을 살펴보면, GLP-1 작용제가 비동맥성 전방 허혈성 시신경병증(NAION)이라는 희귀 질환을 유발할 수 있다고 합니다. 쉽게 말해 시신경으로 혈류가 차단돼 갑작스럽게 시력을 잃게 되는 것입니다.

수백건의 중증 부작용 보고

그 전에도 부작용 신고가 없었던 것은 아닙니다. 위장 마비, 심한 구토, 췌장염 등이 대표적입니다. 하지만 새로운 논문에 따르면, 처방 환자가 대조군에 비해 NAION 발병 위험이 당뇨 환자의 경우 4.28배, 비만 환자의 경우 7.64배나 높게 나타났습니다. 이에 미국 법원은 시력 상실 소송을 펜실베이니아의 한 연방 판사에게 일괄 배당한 상태입니다.

향후 집단소송으로 확대될 가능성도 제기되고 있습니다. 만약 0.01%의 사용자라도 되돌릴 수 없는 시력 손상을 입게 된다면, 향후 사태는 걷잡을 수 없이 커질 수 있습니다. 또 현재 유럽과 영국에서는 수백 건의 중증 부작용 사례가 보고되고 있고, 건강 관련 규제 기관들이 해당 약물에 대한 조사를 진행 중입니다. 

• 의도: 당뇨나 비만 치료라는 선의
• 통제가능성: 장기 복용시 위험이 뒤늦게 드러남
• 외부효과: 개인적인 피해지만, 대규모 확산시 사회적 비용이 발생