안녕하세요, Green Geek 구독자 여러분.
 
 추석 연휴는 잘 보내셨는지요. 오랜만에 가족과 함께 쉬는 시간이셨기를 바랍니다. 
지난 10월 3일, OpenAI에서 안전 보고서 작성을 이끌어 온 데이비드 로빈슨(David Robinson)이 회사를 떠나며 『애틀랜틱(The Atlantic)』에 「나는 OpenAI의 문화가 망가졌기 때문에 떠난다」라는 글을 실었습니다. AI 프론티어 모델을 서둘러 출시하고, 문제가 생기면 고치는 방식으로 성장해 온 회사를 향해 그는 “이제 시행착오의 시대는 끝났다”고 경고했습니다. AI는 원자력 발전소나 공항처럼 다층적인 안전장치를 갖춰 다뤄야 하며, 안전을 위한 강한 동기는 외부에서 와야 한다고 말했습니다.
 그러나 법과 제도는 이러한 기술의 발전을 따라잡지 못하고 있습니다. 미국에서는 익명 계정 네트워크인 이른바 ‘버너버스(Burnerverse)’가 대학가의 젊은 여성들을 겨냥해 동의 없는 성적 이미지와 개인정보를 퍼뜨리는 것이 확산되면서 심각한 사회적 이슈로 떠올랐습니다. 노르웨이 정부 또한 카메라와 AI가 들어간 스마트글래스가 계속 문제를 일으키자, 뒤늦게 공공장소에서의 얼굴 인식 금지 등을 포함한 규제 검토에 들어갔습니다. 
 사실 이러한 위험들이 가장 극단적으로 드러나는 곳은 전쟁터입니다. 『뉴욕타임스』는 지난 7월 우크라이나 자포리자에서 민간인 세 명의 목숨을 앗아 간 러시아 드론이 통신 안테나 없이 엔비디아의 AI 칩으로 스스로 표적을 골랐을 가능성이 크다고 보도했습니다. 숨진 이들 가운데는 열아홉 살 대학생도 있었습니다. 국제사회는 오는 11월 제네바에서 열리는 특정재래식무기금지협약(CCW) 검토회의에서 자율무기 규제 조약 협상에 나설지를 결정합니다. 70여 개국이 협상 개시를 지지하지만, 주요 군사 강국들은 여전히 소극적입니다.

 관련하여, 이번 호에는 두 편의 글을 준비했습니다.
 첫 번째 글은 이준태 님의 「AI와 무기의 결합: 자율무기체계」입니다. 자율무기체계란 무엇이고, 판단할 시간이 수 초밖에 없는 상황을 왜 인간의 통제라 부르기 어려운지 짚으며, 우리가 생각하는 것보다 가까이 와 있는 자율무기의 현실을 소개합니다. 이번 호에 이어서 총 2편에 걸쳐 연재할 예정입니다.
 두 번째 글은 김태희 님의 「배터리는 폭주하는데, 안전은 제자리」입니다. 아리셀 참사에서 출발해 ESS와 물류 로봇으로 번지는 리튬 배터리의 위험을 살피고, ‘산업 경쟁력’이라는 이유로 국회에 묶인 안전 법안들의 현실을 짚습니다.

녹색당 과학기술위원회 드림

 🌿


* 녹색당 과학기술위원회는 함께 활동해나갈 회원분들을 모집하고 있습니다. 회원은 녹색당원과 당원은 아니지만 활동 자체를 지지하고 위원회에서 주최하는 각종 행사에 참여를 원하시는 얼라이(Ally)로 나뉘어집니다. 어느 쪽이든 환영입니다!

AI와 무기의 결합: 자율무기체계
휴전선에 이미 20여 년 전부터 적을 식별하고 스스로 공격할 수 있는 로봇이 배치돼 있었다는 사실, 알고 계셨나요? AI가 표적을 고르고 인간에게 남은 판단 시간이 0.5초뿐이라면, 그것을 '인간의 통제'라고 부를 수 있을까요? 킬러 로봇이 더 이상 영화 속 이야기가 아닌 지금, 자율무기체계의 정체와 그 위험을 들여다봅니다.

배터리는 폭주하는데, 안전은 제자리

불이 난 공장의 비상구는 정규직에게만 지급되는 ID카드가 없으면 열리지 않았습니다. 노동자 23명이 숨진 아리셀 참사입니다. 그로부터 2년, 리튬 배터리는 ESS와 물류 로봇으로 빠르게 늘어나는데, 안전 법안들은 '산업 경쟁력'을 이유로 여전히 국회에 묶여 있습니다. '친환경'을 내건 배터리 산업이 정말 녹색 산업일 수 있을지 묻습니다.
Green Geek은 매월 첫째 주 월요일에 발행됩니다. 
(공휴일인 경우, 다음 날)

지인이나 주변에 Green Geek을 추천해주세요!
뉴스레터를 만드는 분들께 큰 힘이 됩니다.
아래 링크를 클릭하면, 지난 뉴스레터를 볼 수 있습니다. 주변 지인 분들에게도 아래 주소를 복사해서 추천해주세요.
이번 뉴스레터는 어떠셨나요?
Green Geek은 여러분들의 피드백을 기다립니다.
Green Geek에서 보고 싶은 기사나
대신 조사해주었으면 내용이 있나요?
뉴스레터 필진이 되고 싶으신가요?
(리뷰 후, 글을 실어 드립니다.)
녹색당 과학기술위원회
수신거부 Unsubscribe
stibee

이 메일은 스티비로 만들었습니다