AI 보안과 안보가 왜 심각한가? [수요레터 193회]

웹에서 보기

수요일의 테크엔돌핀 💊

매주 수요일 아침에 발행합니다.

👉 수요레터 구독하기

[수요레터 193회]

잇츠맨 웨비나

AI 보안과 안보가 왜 심각한가?

오늘은 AI 보안에 대한 얘기를 해보려고 합니다.

최근 오픈AI의 챗GPT-5 가 출시되면서 AI 성능에 대한 시장의 기대가 다시 또 고조되고 있는 것 같아요. 물론 아직 출시 초기라서 여러 문제점들도 보고되고 있기도 해요. 오픈AI에서 이전 4.5 버젼으로 다시 돌릴 수 있는 옵션도 제공하겠다고도 하고. 암튼 최종적인 성능 안정을 위해서는 시간이 필요할 것 같습니다. 하지만 확실히 중요한 특징은 내부 라우터 기능을 통해 사용자의 의도에 맞춰 최적의 AI 모델을 선택해서 답변을 줌과 동시에 AI 인프라 운영 효율성도 높힐 수 있다는 측면에서 이번 5 버젼이 이전보다 확실히 업데이트되었다고 볼 수 있을 겁니다. 그럼에도 불구하고 AI 발전에 대한 경고의 메시지도 끊임없이 이슈화되고 있는 것도 사실이죠.

최근 새정부의 초대 AI 미래기획수석으로 임명된 하정우 수석과 국내 1세대 AI 전문가인 한상기 박사가 함께 대담 형태로 풀어낸 <AI전쟁 2.0> 을 읽었습니다. 논리적으로 이슈를 정리한 책이라기 보다는 현안들을 빠르고 간략하게 풀어내고 그 의미를 짚어내는 형태로 구성되어 있습니다. 아주 쉽게 읽히기도 하고, 최근의 AI 현안들을 빠르게 체크할 수 있는 유용한 책이란 생각이 들었는데요. 그 중에서 특히 'AI 안보와 안전'에 대한 챕터가 흥미로왔습니다.

먼저 왜 AI 안전 (Safety) 라는 개념에서 AI 안보 (Security) 로 관점이 변하고 있는 지부터 살펴볼까요?

<AI 보안과 안보가 왜 심각한가? > 읽으러 가기 (읽는데 3분30초)

🤖 Weekly Tech•AI News

GPT-5 공개, 챗봇에서 AI 에이전트로 진화로의 시작

오픈AI가 차세대 모델 GPT-5를 공개했다.
GPT-4와 비교해 성능 격차는 크지 않지만 코딩과 에이전트 기능이 강화됐으며, 환각률이 크게 감소했다.
무료 사용자에게도 기본 모델로 제공되며 월 200달러 프로 요금제 사용자는 GPT-5 프로 버전을 이용할 수 있다.
무엇보다, 실시간 라우터를 탑재해서 사용자 요청에 맞춰 자동으로 모델을 선택해서 효율적인 답변이 가능하도록 만든 것이 가장 큰 변화 중 하나로 보인다.
SWE-벤치 베리파이드에서 74.9%를 기록해 클로드 오퍼스 4.1을 소폭 앞섰으나, 온라인 작업 능력과 일부 벤치마크에서는 다른 모델에 뒤졌다.
헬스벤치 환각률은 1.6%로 GPT-4o 대비 대폭 감소했으며, GPT-5·미니·나노 모델이 API에 추가돼 다양한 환경에서 활용 가능하다는 뉴스

기사보기

GPT-5 사용자 불만에 오픈AI, GPT-4o 선택 재도입

오픈AI가 GPT-5를 기본값으로 적용했다가 사용자 반발로 GPT-4o를 다시 제공하기로 했다.
플러스 구독자는 다시 GPT-4o를 선택해 사용할 수 있게 됐으며, 이는 모델 선택 메뉴를 제거한 지 하루 만의 조치다.
일부 사용자는 GPT-5가 느리고 짧으며 정확도도 떨어지고, GPT-4o의 특유한 대화 스타일이 사라졌다고 불만을 제기했다. 업무용 사용자들은 모델 선택권이 사라져 워크플로우가 무너졌다고 비판했다.
샘 알트먼 CEO는 GPT-5 성능 개선, 모델 정보 투명화, 사용량 한도 확대를 약속했다는 뉴스

기사보기

예스24, 두 달 만에 또 랜섬웨어 공격

예스24가 두 달 전 랜섬웨어 감염에 이어 또다시 홈페이지 접속 장애를 겪고 있다.
회사는 11일 새벽 4시 30분경 외부 랜섬웨어 공격을 받아 서비스가 중단됐다고 밝혔다.
현재 시스템을 긴급 차단하고 보안 점검 및 방어 조치를 시행 중이며, 백업 데이터를 활용해 복구 작업을 진행하고 있다.
예스24는 고객 불편에 사과하며 빠른 복구를 약속했다는 뉴스

기사보기

구글 전임원, "AI 디스토피아 2027년에 시작된다"

전 구글 X 최고사업책임자 모 가댓이 향후 15년 안에 전 세계가 ‘AI 디스토피아’로 치달을 것이라고 전망했다.
그는 2027년부터 12~15년간 디스토피아가 지속될 것이라며, AI 자체보다 인간의 가치 체계와 사회 구조가 문제라고 지적했다.
AI는 본래 업무 부담을 줄이고 생산성을 높이는 유토피아적 목적이 있었지만, 자본주의 이윤 추구에 왜곡돼 노동시장 파괴와 사회 문제를 심화시키고 있다고 설명했다.
딥페이크, 전쟁 개입, 자율 무기, 대규모 공공 감시 등에서 AI가 악용되고 있으며, 핵무기 개발 가능성까지 제기됐다.
그는 AI의 긍정적 활용 가능성을 인정하면서도 AI 자체가 아닌 그 사용을 규제하는 법적 장치가 필요하다고 주장했다는 뉴스