<프로젝트 헤일메리>가 말하려 하는 것 [수요레터 223회]

웹에서 보기

수요일의 테크엔돌핀 💊

매주 수요일에 발행합니다.

👉 수요레터 구독하기

[수요레터 224회]

팔란티어의 실수

안녕하세요, 촌장입니다.

지난 2월 28일, 끔찍한 소식이 전해졌습니다. 미군의 토마호크 순항미사일이 이란 남부 미나브에 있는 샤자레 타이에베 초등학교를 타격한 겁니다. 최소 168명이 목숨을 잃었고, 이 중 100명 이상이 12세 미만의 어린 여학생들이었습니다.
전쟁은 늘 비극입니다. 하지만 이번 사건이 더 큰 충격을 준 이유는 따로 있습니다. 이 타격의 배후에 인공지능(AI) 시스템이 깊이 관여했다는 사실이 밝혀졌기 때문입니다.
미군은 이란 공습에서 팔란티어의 ‘프로젝트 메이븐(Project Maven)’이라는 AI 시스템을 사용했는데요. 2016년 이후 혁명수비대 시설이 학교로 전환된 데이터가 제대로 업데이트되지 않은 상태에서 공격 타겟으로 선정되고 판단한 탓으로 알려지고 있습니다.
휴먼 인 루프 프로세스가 들어가 있다 하더라도 짧은 시간 내에 인간이 올바른 판단을 내리는 것은 사실 쉽지 않은 상화입니다.
왜 이런 일들이 일어나고 있을까요?
AI를 만들고 발전시키는 실리콘밸리의 리더들은 사실 훨씬 복잡한 철학적 스펙트럼 위에 서 있습니다. 그리고 그 스펙트럼을 이해하지 않으면 , AI가 만들어갈 미래를 온전히 이해하기 어렵습니다.
오늘 수요레터에서는 이 사건을 출발점으로, AI를 둘러싼 실리콘밸리의 세 가지 사상에 대해 이야기해 볼까 합니다. 선과 악의 이분법을 넘어서, AI의 미래를 고민하는 세 개의 서로 다른 이념들이 어떻게 충돌하고 있는지 살펴보려 합니다.
자, 그럼 시작해 볼까요?

< AI를 이해하는 세 가지 시선 > 읽으러 가기 (읽는데 5분)

🤖 위클리 주요 뉴스

👉 "스마트폰서도 AI 추론"…구글, '젬마4'로 클라우드 중심 판 흔든다

구글이 오픈웨이트 인공지능(AI) 모델 '젬마4(Gemma 4)'를 공개하며 AI 실행 환경을 클라우드에서 디바이스로 확장하는 전략을 본격화했다. 스마트폰부터 워크스테이션까지 다양한 하드웨어에서 복잡한 추론과 자율형 에이전트 구현이 가능해지면서 온디바이스 AI 확산과 오픈 모델 생태계 변화에 큰 영향을 줄 것으로 전망된다. 뉴스보기

👉 "시스템 과부하"…앤트로픽, 클로드서 오픈클로 지원 중단

앤트로픽이 인공지능(AI) 서비스 '클로드'에서 오픈클로 등 외부 도구 지원을 중단한다.

4일(현지시간) 테크크런치 등 외신에 따르면 앤트로픽이 클로드 구독 운영 방식을 이같이 재편했다. 이용자가 클로드에서 타사 AI를 활용하려면 추가 요금을 내거나 별도 API 키를 활용해야 한다. 다수 외신은 이번 조치 배경을 클로드 수요 급증에 따른 연산 자원 부담에서 짚었다. 기존 구독 모델이 제3자 도구 기반 고강도 사용 패턴을 감당하지 못했다는 분석도 이어졌다. 뉴스보기

👉 아르테미스 2호 국내 위성, 교신은 끝내 안돼…"추락 가능성"

우주항공청은 미국 항공우주국(NASA) ‘아르테미스 2호’에 탑재된 큐브위성 K-라드큐브와의 교신이 끝내 이루이지지 않았다고 4일 밝혔다. 뉴스보기

👉 "양자컴퓨터로 비트코인 암호 깨는 데 자원 20배 절감 성공"

차세대 양자컴퓨터가 현실화될 경우 기존 디지털 보안 체계에 근본적인 균열이 발생할 수 있다는 경고가 제기됐다. 특히 암호화폐를 지탱해온 암호 기술이 단시간 내 무력화될 수 있다는 분석이 나오면서 업계의 대응이 시급해졌다는 분석이다. 뉴스보기