당근메일

당근메일 #293 | 2026년 10월 12일 - WEEK 42

AI를 잘 쓴다는 건 무엇일까요?

화려한 말 대신 Agent Loop부터 이해해 봅시다.

진대연

요즘 주변에서 이런 질문을 자주 받아요. 도대체 어떻게 써야 AI를 잘 쓰는 거냐고요.

그런 질문이 나오는 데는 이유가 있습니다. 유튜브 쇼츠나 인스타그램 릴스를 넘기다 보면 「AI 직원을 10명 채용했습니다」, 「이거 모르면 1년 뒤 도태됩니다」 같은 광고가 몇 개씩 연달아 나오거든요. 거기에 오케스트레이션, 멀티 에이전트 같은 말이 일부러 어렵게 섞여 있죠. 그래서 보고 나면 나만 뒤처진 것 같은 기분은 드는데, 정작 무엇부터 해야 하는지는 여전히 모르는 채로 남습니다.

이런 광고, 한 번쯤 보셨죠? 실제 광고를 흉내 내 만든 가상의 화면입니다.

이런 분위기는 해외도 크게 다르지 않습니다. 시장조사기관 가트너는 작년 6월 에이전트 워싱(agent washing), 즉 원래 있던 챗봇이나 자동화 도구에 「에이전트」라는 이름표만 새로 붙여 파는 일이 많아졌다고 꼬집었습니다. 친환경이 아닌데 친환경인 척하는 「그린워싱」에서 따온 말이죠. 그리고 지금 기업들이 시작한 에이전트 프로젝트의 40% 이상이 2027년 말까지 중단될 것이라고 내다봤습니다. 돈은 계속 드는데 효과가 분명하지 않기 때문이라고 합니다.

그래서 저는 거꾸로 묻고 싶어졌습니다.

그렇게 만든 에이전트, 지금도 열심히 쓰고 계신가요?

사실 저도 지난 291호에서 AI 봇 열두 개 이야기를 했습니다. 그런데 그 열두 개도 처음에는 Claude Code 하나였어요. 폴더 하나를 열어 두고 그 안에서 슬라이드를 만들거나 프로젝트 하나를 진행하는 식이었죠. Claude Code를 써 보신 분이라면 대부분 이렇게 시작하셨을 거예요. 그렇게 하나둘 쓰다 보니 에이전트가 어떻게 움직이는지 자연스럽게 알게 됐고, 그 뒤로 목적별 폴더가 하나씩 늘어났습니다. 폴더 하나가 곧 프로젝트 하나였으니까요.

그 과정에서 제가 알게 된 건 의외로 단순했습니다. 지금 우리가 쓰는 에이전트만 제대로 이해해도 충분히 잘 쓸 수 있다는 것이죠. 그래서 오늘은 그 바탕이 되는 구조, Agent Loop 이야기를 최대한 쉬운 말로 풀어 보려고 합니다.

Agent Loop는 생각보다 단순합니다

저는 AI 제품을 만드는 회사에 있었기 때문에 에이전트가 어떻게 돌아가는지 어렴풋이는 알고 있었습니다. 그런데 그 구조를 눈으로 확실하게 본 건 Anthropic이 직접 여는 온라인 강의, Anthropic Academy의 「Claude Code 101」에서였어요. 이 기본 강의는 Claude Code가 어떻게 일하는지 설명하면서 Agent Loop부터 짚고 넘어가는데, 저는 그 대목에서 정말 감탄했습니다. 왜냐하면 우리가 하는 거의 모든 일의 과정을 가장 단순한 모양으로 담아 둔 표준이었기 때문입니다.

Agent Loop, 즉 AI가 일을 끝낼 때까지 같은 순서를 되풀이하는 구조는 이렇게 생겼습니다.

상황을 살핀다 — 파일을 열어 보고, 검색하고, 필요한 정보를 모읍니다.
도구를 써서 일을 한다 — 문서를 고치고, 메일 초안을 쓰고, 표를 만듭니다.
결과를 확인한다 — 제대로 됐는지 다시 열어 봅니다.
아직 모자라면 1번으로 돌아간다.

어디서 많이 본 모습 아닌가요? 회사에 새로 온 인턴에게 「지난달 매출 정리해 주세요」라고 맡겼다고 해 볼게요. 인턴은 먼저 지난달 자료를 찾아 열어 봅니다. 그다음 엑셀로 표를 만들고, 합계가 맞는지 한 번 더 확인하죠. 숫자가 안 맞으면 자료를 다시 찾아봅니다. Agent Loop는 바로 이 인턴의 일하는 순서를 그대로 옮겨 놓은 겁니다.

살피고, 하고, 확인하고, 다시. ChatGPT 생성 이미지

그리고 이 구조는 한 회사만의 이야기도 아닙니다. Anthropic은 Claude Code가 일하는 방식을 「맥락을 모으고, 행동하고, 검증하고, 반복한다」고 설명합니다. OpenAI도 올해 1월 Codex가 일하는 방식을 풀어 쓴 글에서 이 반복 구조를 「에이전트 루프」라고 불렀고요. 개발자 사이먼 윌리슨은 이것을 아예 한 문장으로 정리했습니다.

「AI 에이전트는 목표를 이룰 때까지 도구를 반복해서 쓰는 것이다.」 사이먼 윌리슨, 2025년 9월

회사가 달라도 구조는 같습니다. 그래서 저는 이것을 표준이라고 부릅니다.

예전에는 AI에게 길을 미리 그려 줬습니다

Agent Loop가 자리 잡기 전에는 랭체인(LangChain) 같은 도구로 에이전트를 만들었습니다. 사람이 먼저 순서도를 그려 두고, AI는 그 칸을 하나씩 채우는 방식이었죠. 「먼저 검색하고, 그 결과를 요약하고, 요약이 길면 다시 줄여라」처럼 길을 한 칸 한 칸 정해 주는 겁니다.

물론 이 방식이 쓸모없다는 뜻은 아닙니다. 순서가 정해진 일이라면 여전히 이쪽이 더 잘 맞을 때가 있고, AI가 헤매지 않으니 토큰, 즉 AI 사용료도 아낄 수 있거든요. Anthropic도 이 둘을 나눠서 설명합니다. 사람이 미리 짜 둔 경로를 따라 움직이면 워크플로, AI가 스스로 과정과 도구를 골라 가며 일하면 에이전트라고요. 그리고 가장 단순한 방법에서 시작하고, 꼭 필요할 때만 복잡하게 만들라고 권하죠.

그런데 그사이 AI 모델의 성능이 정말 빠르게 좋아졌습니다. 예전에는 AI가 길을 잃을까 봐 순서도를 촘촘히 그려 줘야 했다면, 이제는 목적지만 알려 줘도 스스로 길을 고를 만큼 똑똑해졌죠. 택시를 타고 「서울역 가 주세요」 한마디만 하면 기사님이 알아서 길을 고르는 것처럼요. 그러자 한 가지 일에만 맞춘 순서도보다, 어떤 일이든 담을 수 있는 범용적인 방식이 더 중요해졌습니다.

ChatGPT 생성 이미지

순서도를 만들던 랭체인도 이 흐름에 맞춰 「딥 에이전트(Deep Agents)」를 내놓았습니다. 계획을 세우고, 파일을 읽고 쓰고, 일을 나눠 맡기는 도구를 루프에 미리 붙여 둔 형태인데, 랭체인은 이것을 「에이전트 하네스」라고 부릅니다.

하네스는 잘 차린 책상입니다

그렇다면 하네스는 무엇일까요? 291호에서는 「내가 점점 말을 덜 해도 AI가 알아서 일하게 만드는 맥락 환경」이라고 했는데, 저는 주변 사람들에게 이걸 책상에 빗대어 설명하곤 합니다.

앞에서 말한 인턴의 책상을 떠올려 보세요. 왼쪽에는 읽고 참고할 수 있는 매뉴얼이 놓여 있습니다. 오른쪽에는 프린터, 컴퓨터, 스캐너, 전화기처럼 쓸 수 있는 도구가 있고요. 그리고 책상 한가운데에는 늘 펼쳐 둔 기본 지침 한 장이 있습니다. Claude에서는 CLAUDE.md, Codex에서는 AGENTS.md라고 부르는 파일이죠.

CLAUDE.md와 AGENTS.md는 폴더 안에 두는 메모 파일입니다. 이 폴더가 무슨 일을 하는 곳인지, 어떤 규칙을 지켜야 하는지를 적어 두면 AI는 일을 시작할 때마다 이 파일부터 읽습니다.

이 지침 파일은 이미 업계 공통의 형식이 되어 가고 있습니다. OpenAI는 작년 12월 AGENTS.md 형식을 리눅스 재단 아래에 OpenAI와 Anthropic이 함께 세운 에이전틱 AI 재단(Agentic AI Foundation)에 기증했습니다.

인턴은 이 책상에 앉아서 지침을 읽고, 필요하면 매뉴얼을 펼치고, 도구를 써서 자기 일을 합니다. 그리고 일이 끝날 때까지 루프를 돌죠. 정리하면 Agent Loop는 인턴이 일하는 순서이고, 하네스는 그 인턴이 앉는 책상입니다. 이게 Agent Loop와 하네스의 거의 전부예요.

왼쪽에는 매뉴얼, 오른쪽에는 도구, 가운데에는 지침 한 장, 그리고 앞쪽의 결재함. ChatGPT 생성 이미지

그래서 우리가 잘해야 하는 일도 생각보다 단순합니다. 에이전트가 일을 잘할 수 있도록 책상을 차려 주는 것이죠.

쓸데없는 매뉴얼은 치웁니다. 오래된 자료가 섞여 있으면 인턴은 그 자료를 믿고 일합니다.
지침은 최신으로 둡니다. 지난달 규칙이 그대로 붙어 있으면 지난달처럼 일합니다.
일에 맞는 도구를 연결합니다. 메일을 보내야 하는데 전화기만 있으면 아무것도 못 합니다.

특히 첫 번째가 생각보다 중요합니다. 자료를 많이 넣어 줄수록 AI가 더 잘할 것 같지만, 실제로는 반대인 경우가 많다고 합니다. 크로마(Chroma)라는 회사는 작년 7월 GPT-4.1, Claude 4, Gemini 2.5 등 18개 모델에게 같은 과제를 주고, 앞에 넣어 주는 글의 길이만 조금씩 늘려 봤습니다. 그랬더니 글이 길어질수록 정답률이 꾸준히 떨어졌고, 정답과 비슷해 보이지만 틀린 자료가 하나만 섞여도 정답률이 내려갔다고 합니다. 연구진은 이것을 컨텍스트 로트(Context Rot), 즉 AI에게 주는 자료가 많아질수록 판단이 조금씩 무뎌지는 현상이라고 불렀습니다. 책상 위에 오래된 매뉴얼이 쌓일수록 인턴이 엉뚱한 매뉴얼을 펴 드는 것과 같은 이치죠.

크로마가 「컨텍스트 로트」 보고서를 공개하며 올린 글입니다.

그리고 책상 한쪽에는 결재함을 하나 두면 좋습니다. 인턴이 끝낸 일을 올려 두는 자리예요. 루프의 세 번째 칸이 「확인」이었던 것처럼, 마지막 확인은 결국 우리 몫이기 때문입니다.

새 도구를 살 필요가 없습니다

에이전트를 쓰겠다고 새 서비스를 찾아다닐 필요도 없습니다. 우리가 매일 쓰는 Claude와 ChatGPT가 이미 에이전트이기 때문입니다. 질문을 받으면 검색하고, 파일을 읽고, 결과를 확인하면서 똑같은 루프를 돌고 있죠.

가장 쉬운 시작은 Claude Code나 Codex를 데스크톱 앱으로 쓰는 것입니다. 폴더 하나를 열어 주고 그 안에 지침 파일 하나를 두면, 그게 곧 첫 번째 책상이 됩니다.

조금 더 익숙해져서 여러 에이전트에게 동시에 일을 맡기고 싶다면 Orca 같은 서비스를 써 볼 수 있습니다. 저는 같은 고민 때문에 folderbot.dev를 직접 만들어 쓰고 있고요. 하지만 이건 어디까지나 그다음 이야기입니다.

한 명과 먼저 손발을 맞춰야 합니다

AI를 쓰면 쓸수록 저는 경영학이 떠오릅니다. 291호에서 「경영 시뮬레이션」이라고 했던 바로 그 이야기입니다. 그런데 경영 실무는 큰 조직에서 시작하지 않습니다. 한 사람과 일을 잘해 본 뒤에 조금씩 사람을 늘려 가며 익히는 것이죠. AI도 마찬가지인 것 같습니다. 저는 이 과정을 세 단계로 봅니다.

사람 하나와 AI 하나, 사람 하나와 AI 여럿, 사람 여럿과 AI 여럿. ChatGPT 생성 이미지

1단계 — 사람 한 명과 AI 하나. AI가 실제로 어떻게 움직이는지 이해하고, 하나의 에이전트와 친해지는 단계입니다. 내 말을 어디까지 알아듣는지, 어떤 지침을 주면 덜 헤매는지를 직접 겪으며 익히죠.

2단계 — 사람 한 명과 AI 여럿. 하나와 손발이 맞기 시작하면 자연스럽게 욕심이 생깁니다. 에이전트 여럿이 서로 협업하게 만들고 싶어지죠. 그런데 처음부터 여럿을 두면 누구에게 어떤 일을 시켰는지 놓치기 시작합니다. 왜냐하면 우리 머리에도 한계가 있기 때문입니다. 심리학자 넬슨 코완은 사람이 한 번에 머릿속에 붙잡아 둘 수 있는 것이 평균 네 덩어리 정도라고 정리했습니다. 에이전트 다섯에게 각기 다른 일을 맡겼다면 벌써 그 한계를 넘어선 셈이죠.

에이전트끼리 어떻게 소통하게 할지도 큰 고민입니다. AI 코딩 에이전트 데빈(Devin)을 만든 코그니션은 재미있는 예를 하나 들었습니다. 「플래피 버드」 게임을 만드는 일을 둘로 쪼개 두 에이전트에게 맡겼더니, 한쪽은 슈퍼마리오 같은 배경을 만들고 다른 쪽은 게임과 전혀 어울리지 않는 새를 만들었다는 것이죠. 각자 자기가 들은 만큼만 알고 일했기 때문입니다.

코그니션의 월든 얀이 쓴 「멀티 에이전트를 만들지 마라(Don't Build Multi-Agents)」

비용도 함께 늘어납니다. 대표가 사람을 뽑을 때 인건비를 따지듯, 에이전트가 늘수록 토큰 비용이 쌓이거든요. Anthropic이 직접 잰 숫자로는 에이전트 하나가 일반 채팅보다 토큰을 4배쯤 쓰고, 여러 에이전트가 함께 일하면 15배쯤 쓴다고 합니다.

ChatGPT 생성 이미지

3단계 — 사람 여럿과 AI 여럿. 같은 에이전트를 여러 사람이 함께 쓰면 그 안에서 충돌이 생깁니다. 한 사람은 이렇게 지시하고 다른 사람은 저렇게 지시하면, 에이전트보다 먼저 사람끼리 맞춰야 할 업무 프로세스가 하나 더 생기죠. 저도 지금 이 단계를 연구하고 있습니다.

최근 인상 깊게 본 사례가 있습니다. Cursor에서 일하다 지금은 SpaceXAI에서 Grok 봇을 만들고 있는 엔지니어 로렌 탄(Lauren Tan)은 올해 5월 「How I Use Cursor」라는 글에서, Cursor 시절 매일 쓰던 작업 방식을 pstack 이라는 이름으로 공개했습니다. 버그를 고칠 때, 새 기능을 만들 때, 에이전트에게 밤새 일을 맡길 때처럼 상황마다 따라야 할 순서를 스물세 개의 플레이북으로 정리해 둔 것이죠. 즉 혼자 머릿속에만 있던 일하는 방식을 동료와 에이전트가 함께 읽을 수 있는 문서로 바꿔 둔 겁니다.

로렌 탄의 「How I Use Cursor」

그 글의 한 소제목은 이 글의 세 단계와 그대로 겹칩니다. 「빨리 가고 싶다면 먼저 깊이 들어가라(If you want to go fast, go deep first).」 에이전트 하나와 깊이 일해 보고 그 결과를 믿을 수 있게 되어야, 비로소 여럿을 동시에 맡길 수 있다는 이야기죠.

저도 회사 안에서 스펙 주도 개발(SDD, Spec-Driven Development), 즉 무엇을 만들지 문서로 먼저 합의하고 그 문서를 사람과 AI가 함께 따라가는 방식을 어떻게 같이 잘할 수 있을지 고민이 많았습니다. AI 네이티브 회사들이 가장 깊이 고민하는 지점도 결국 여기인 것 같습니다. 에이전트를 몇 개 두느냐보다, 여러 사람이 같은 일하는 방식을 나눠 쓸 수 있느냐는 것이죠. 이 이야기는 다음에 따로 더 깊이 해 보겠습니다.

단계를 오르면서 함께 자라야 하는 것도 있습니다. 첫째는 도구를 다루는 지식입니다. 의사 선생님이 MRI 같은 장비를 다룰 줄 알아야 그 결과를 읽을 수 있는 것처럼, 내가 그 도구를 어느 정도 알아야 에이전트에게도 제대로 시킬 수 있습니다. 둘째는 나만의 업무 프로세스입니다. 일을 시키다 보면 내 방식이 지침과 매뉴얼에 조금씩 쌓이고, 그 프로세스를 AI에게 그대로 옮길 수 있게 됩니다. 물론 그 매뉴얼은 필요할 때마다 계속 고쳐 줘야 하고요.

결국 AI 시대에 가장 중요한 역량은 이 모든 것을 관리하는 매니지먼트 역량이 되는 것 같습니다.

에이전트는 이미 우리 눈앞에 있습니다

그러니 광고 속 화려한 말에 흔들릴 필요는 없습니다. 우리에게 필요한 건 그럴듯한 마케팅 용어에 돈을 쓰는 일이 아니라, 이미 우리 눈앞에 있는 Claude와 ChatGPT라는 에이전트를 제대로 이해하고 충분히 잘 쓰는 것이죠.

제대로 쓰는 법을 배우는 데도 비싼 강의가 꼭 필요하지는 않습니다. AI를 만드는 회사들이 직접 강의를 열고 있기 때문입니다. Anthropic은 올해 8월 누구나 무료로 들을 수 있는 Claude Academy를 열었고, 개발자를 위한 Anthropic Academy에는 Claude Code, MCP, 에이전트 스킬까지 스무 개가 넘는 강의가 있습니다. OpenAI도 OpenAI Academy에서 ChatGPT와 Codex 강의를 열고 있고요. 도구를 만든 사람들이 그 도구가 어떻게 움직이는지 직접 설명하니, 이보다 정확한 교재는 찾기 어렵죠. 광고 속 강의를 결제하기 전에 이 강의들부터 한 번 들어 보시길 권합니다.

「강의와 튜토리얼은 누구에게나 무료로 열려 있습니다.」 Claude Academy 공개 소식

그리고 이번 주에는 지금 쓰는 AI 하나에 책상 위 지침 세 줄을 적어 주면 좋겠습니다. ChatGPT의 맞춤 설정이나 Claude의 프로젝트 지침에 붙여 넣어도 되고, Claude Code나 Codex라면 폴더 안에 CLAUDE.md나 AGENTS.md 파일을 만들어 적으면 됩니다.

나는 ○○ 일을 하는 사람이고, 이 대화에서 너는 ○○를 돕는다.
일을 시작하기 전에 내가 준 자료를 먼저 읽고, 모르는 것은 지어내지 말고 물어봐 줘.
끝나면 무엇을 했고 무엇을 확인해야 하는지 세 줄로 알려 줘.

참고한 글

함께 보면 좋은 이전 당근메일

🔁 Agent Loop는 살피고, 하고, 확인하고, 다시 하는 단순한 반복입니다. 회사가 달라도 구조는 같습니다.
🗂 하네스는 잘 차린 책상입니다. 쓸데없는 매뉴얼을 치우고, 지침을 최신으로 두고, 맞는 도구를 연결하면 됩니다.
🪜 에이전트 하나와 먼저 손발을 맞추고, 그다음에 여럿으로, 그다음에 여러 사람으로 넓혀 가면 됩니다.

이번 주 당근메일 내용이 마음에 드셨나요? 함께 보면 좋은 친구나 동료에게 공유해주세요!

게시하기

웹에서 보기

AI에게 "기획서 좀 찾아 줘"라고 해 보셨나요?

오늘 이야기한 책상, 기억나시죠? 에이전트가 아무리 똑똑해도 책상이 어질러져 있으면 엉뚱한 매뉴얼을 펴 듭니다. 그런데 우리 노트북은 어떤가요. 「기획서_최종_진짜최종」과 「기획서 (1)」이 바탕화면과 다운로드 폴더에 흩어져 있으면, AI는 그중 어느 것이 지금 하는 일인지 알 수 없습니다. 그래서 AI가 똑똑해질수록 정리는 오히려 더 중요해집니다.

그래서 하루 동안 내 노트북을 직접 정리하는 워크숍, PARA AI를 엽니다. 티아고 포르테의 PARA로 폴더를 다시 세우고, 그 폴더를 AI가 읽게 만듭니다. 예제 파일은 없습니다. 지금 어질러진 내 노트북으로 합니다.