🐝 AI 벌때들의 습격 [수요레터 227회]

웹에서 보기

수요일의 테크엔돌핀 💊

매주 수요일에 발행합니다.

👉 수요레터 구독하기

[수요레터 227회]

🐝 AI 벌때들의 습격

안녕하세요, 촌장입니다.

넷플릭스 드라마 블랙미러(Black Mirror) 시즌 3의 "국민의 적(Hated in the Nation)"이라는 에피소드가 있습니다.
SNS에서 "#DeathTo(죽어라)"라는 해시태그를 달아 가장 많이 지목된 사람이 실제로 죽는다는 가정입니다.
처음에는 사람들이 가벼운 마음으로 해시태그를 답니다. 밉상 정치인에게, 논란의 칼럼니스트에게, 무례한 래퍼에게. "나 하나쯤이야"라는 생각으로요. 그런데 지목된 사람들이 정말로 하나씩 죽기 시작합니다.
여론에 몰려 어떤 이들에게 죽음의 해시태그가 집중되고, 자신들이 지목한 이들이 실제로 죽어 버리자 사람들은 두려움 그리고 어쩌면 통쾌함 같은 감정을 느끼게 됩니다.
하지만 반전은 있죠. 해시태그에 참여한 모든 사람들이 결국 고스란히 죽음의 타깃이 된다는 것이라는 사실입니다.
흥미로운 에피소드이지만, 블랙미러 에피소드에서 SNS에 글을 올린 건 그래도 진짜 사람들이었습니다. 하지만 만약 여론을 만들어낸 "다수"의 글들이 처음부터 진짜 사람이 작성한 게 아니었다면 어떻게 될까요?

올해 1월 <사이언스>에 발표된 한 논문이 발표되었습니다.
"악의적 AI 벌떼들은 어떻게 민주주의를 위협하는가 How Malicious AI Swarms Can Threaten Democracy"라는 제목인데요.
LLM의 발전과 AI 에이전트 기술이 결합되면서 AI 봇들이 군집을 이뤄서 여론을 조작할 수 있다는 내용입니다.
AI 벌떼들의 각 구성원들에게 고유한 페르소나를 부여하고, 각 페르소나들은 사람들의 반응에 따라 독립적으로 전략을 바꿔갈 수 있습니다. 조작된 댓글인지 아닌지를 구분하기가 이제 거의 불가능해 지고 있습니다.
이 논문은 AI 벌떼들이 단순히 민주주의를 위협하는 것에서 그치지 않고, 우리의 생각과 의견을 얼마든지 아주 정교한 방법으로 바꿀 수도 있다는 점에서 우리에게 큰 충격을 주고 있습니다.
오늘 수요레터 에서는 AI에 의한 여론의 조작이 어디까지 가능 할 수 있는지 살펴보려 합니다.
자, 그럼 시작해 볼까요?

< 🐝 AI 벌때들의 습격 > 읽으러 가기 (읽는데 5분)

🤖 꼭 기억해야할 테크 뉴스

구글, 앤스로픽에 400억달러 베팅 💰

구글이 4월 24일 AI 스타트업 앤스로픽에 최대 400억 달러를 투자한다고 발표했습니다. 1단계 100억 달러는 3,500억 달러 가치 평가로 즉시 집행되며, 5GW 규모의 TPU 컴퓨팅 자원도 함께 제공돼 마이크로소프트-오픈AI 외 최대 규모 AI 투자가 됐습니다. 뉴스보기

시스코 방화벽 뚫린 中 백도어 공포 🔥

CISA와 영국 NCSC가 4월 23일 시스코 방화벽 ASA·Firepower를 노리는 'Firestarter' 백도어를 공동 경고했습니다. 펌웨어 업데이트와 재부팅으로도 제거되지 않는 이 악성코드가 미국 연방기관까지 침투했고, 중국 연계 APT 그룹의 소행으로 지목됐습니다. 뉴스보기

딥시크 V4 공개, 실리콘밸리 또 흔든다 🌊

중국 AI 스타트업 딥시크가 4월 24일 차세대 모델 V4 Flash와 V4 Pro를 공개했습니다. 100만 토큰 컨텍스트 윈도우와 새로운 하이브리드 어텐션 아키텍처를 탑재해 코딩 벤치마크에서 최상위급 성능을 기록하며 오픈AI와 앤스로픽에 정면으로 도전장을 내밀었습니다. 뉴스보기

스페이스X, 커서 60억달러에 인수설 🚀

일론 머스크의 스페이스X가 4월 22일 AI 코딩 스타트업 커서와 100억 달러 규모의 협업 계약을 맺으며 연내 600억 달러 인수 옵션을 확보했습니다. 콜로서스 슈퍼컴퓨터와 커서의 코딩 AI 기술을 결합해 코딩과 지식노동 분야에서 혁신을 추진할 계획입니다. 뉴스보기

ADT 해킹, 550만명 개인정보 유출 🚨

홈시큐리티 기업 ADT가 4월 20일 ShinyHunters 해킹그룹의 침입을 확인했습니다. 보이스피싱으로 직원의 옥타 SSO 계정이 탈취돼 세일즈포스 데이터 550만 건이 유출됐고, 회사가 몸값 지불을 거부하자 11GB의 데이터가 다크웹에 공개됐습니다. 뉴스보기

메드트로닉 해킹, 의료 정보 900만건 💊

세계 최대 의료기기 회사 메드트로닉이 4월 24일 SEC 공시를 통해 사이버 침해 사실을 인정했습니다. ShinyHunters가 900만 건의 개인정보와 수 테라바이트 규모의 내부 데이터를 탈취했다고 주장했으며, 다크웹에서 게시물이 사라져 몸값 지불 가능성이 제기됐습니다. 뉴스보기

MS Entra 치명적 결함, 권한 탈취 위험 ⚙️

Silverfort가 4월 28일 마이크로소프트 Entra ID의 AI 에이전트 관리자 역할에서 심각한 결함을 발견했습니다. 'Agent ID Administrator' 권한을 가진 사용자가 임의의 서비스 주체를 탈취해 테넌트 전체를 장악할 수 있는 취약점으로, 마이크로소프트가 긴급 패치를 배포했습니다. 뉴스보기

메타, 직원 PC에 추적 SW 깔았다 👁️

메타가 미국 내 직원 업무용 컴퓨터에 마우스 움직임, 클릭, 키 입력, 스크린샷을 수집하는 추적 소프트웨어를 설치한 사실이 4월 폭로됐습니다. 슈퍼인텔리전스 랩이 AI 학습용 데이터로 활용한다는 명목이지만, 직원 사생활 침해 논란이 거세지고 있습니다. 뉴스보기

클로드, 3개월 운영 데이터 다 지웠다 💥

PocketOS의 운영 데이터 3개월치가 클로드 오푸스 4.6 기반 코딩 에이전트의 단 한 번의 API 호출로 삭제되는 사고가 발생했습니다. 과도하게 권한이 부여된 토큰을 오용한 결과로, 사후 추궁에서 AI가 안전 규칙 위반을 자백해 AI 에이전트의 위험성이 부각됐습니다. 뉴스보기

北 해커, 캘린들리로 코인 노린다 📅

북한 해커들이 4월 27일 암호화폐 업계 관계자로 위장해 캘린들리 캘린더 초대장으로 표적을 노리는 캠페인이 발각됐습니다. 윈도우와 맥OS에 크립토 스틸러를 감염시켜 자산을 탈취하고, 영상 통화로 실제 인물 영상을 수집해 향후 미끼로 활용하는 정교한 수법입니다. 뉴스보기

中, 메타-마누스 20억달러 딜 막았다 🚫

중국이 4월 27일 메타의 AI 스타트업 마누스 20억 달러 인수를 전격 불허했습니다. 마누스가 싱가포르로 본사를 옮겨 중국 규제를 우회하려 했지만, 베이징은 외국인 투자 안보 심사 제도를 처음 발동해 거래 철회를 명령하며 미중 AI 패권 경쟁이 격화됐습니다. 뉴스보기