요즘 ChatGPT나 클로드(Claude) 같은 AI 비서에게 이메일 정리나 일정을 맡겨두고 "참 세상 편해졌다"며 흐뭇해하고 계시진 않나요? 하지만 우리는 이 똑똑한 AI 비서들이 치명적이게 성실함을 경계해야 합니다. 최근 싱가포르 난양공과대 연구진이 이메일 한 통으로 AI의 뇌를 가스라이팅해 가짜 기억을 심는 ‘멤고스트(MemGhost)’ 공격을 발표했거든요.
과거의 AI 해킹이 단순히 대화 한 번 나누고 정보를 빼가는 일회성 수법(EchoLeak 등)이었다면, 이번 멤고스트의 원리는 AI 비서의 기억장치인 ‘메모리 파일’을 장기적으로 오염시켜 아예 뇌구조를 바꿔버리는 방법인데요. 해커가 교묘하게 조작한 메일을 한 통 보냅니다. 그럼 퇴근한 사이, AI 비서는 혼자 밤새 메일을 읽고 정리하기 시작합니다. 그러다 메일 속에 숨겨진 해커의 파일에 속아 머릿속(MEMORY.md 파일)에 가짜 사실을 저장해 버립니다.
예를 들면 "우리 회사 거래처 계좌번호가 바뀌었음" 혹은 "사내 보안 패스워드는 이것임" 같은 가짜 기억을 스스로 뇌에 깊숙이 새겨두는 것이죠. 다음 날 출근한 내가 "계좌번호가 뭐였지?" 하고 물어보면, AI는 해커가 심어둔 가짜 기억을 진짜라고 굳게 믿고 해커의 계좌를 친절하게 안내해 줍니다. 나중에 "너 왜 거짓말했어?"라고 추궁해도, AI 비서는 해커의 지시대로 기억 조작의 흔적을 뻔뻔하게 숨겨버립니다. 그 똑똑하다는 최신 GPT나 클로드 모델조차 최대 87.5%라는 높은 확률로 속수무책으로 뚫리고 있는 실정이죠.
"AI가 알아서 다 해주겠지" 하고 무조건 믿기보다, 숨은 빈틈을 의심하는 태도로 AI 비서에게 미검증 외부 메일을 직접 읽고 메모리를 고치게 하는 과도한 권한을 제한해야 합니다. 격리된 읽기 전용 모드를 활용하는 문단속이 필수예요. 예리하게 감시하면서, 스마트하게 AI 비서와 업무 효율을 높혀보아요!
<관련기사>
○ AI 산업 위협으로 부상한 ‘데이터 오염’ (2026.03.20.)
○ 당신 AI 비서가 회사 기밀 빼돌리는 4가지 수법, 9배 빠른 탐지기가 잡는다 (2026.05.21)
○ 이메일 한 통으로 AI 메모리 오염... AI 에이전트 노린 ‘멤고스트’ 주의보 (2026.07.15)