🗣️ AI에게 시켰는데 왜 안 됐을까

아침에 AI 에이전트에게 일감 한 장을 보낸다. 저녁에 보고서가 돌아온다. 명령은 분명히 내려졌고, 기계는 분명히 수행했다. 그런데 그 보고서를 내가 읽지 않은 날이 있었다. 읽었는데 다음 일이 이어지지 않은 날도 있었다. 누가 잘못한 것인가. 에이전트는 시킨 대로 했고, 나는 시킬 것을 시켰다. 잘못한 사람이 없는데 일은 멈춰 있다.

이 역설을 설명하지 못하는 것이 "명령과 복종" 모형이다. 보내면 끝이라고 믿는 모형. 두 기기 사이에서 에이전트를 돌리는 동안 나는 줄곧 이 모형으로 생각했고, 그래서 멈춘 날을 설명하지 못했다. 설명해 준 사람은 독일의 사회학자 니클라스 루만이었다. 이번에 블로그에 올리기 시작한 「소통으로 읽는 에이전트 하네스」 1편과 2편이 그 이야기다. 정본은 인용과 도식이 빽빽하니, 여기서는 쉽게 풀어 보려 한다.

문자는 보낸 쪽에서 끝나지 않는다

친구에게 "토요일 어때?"라고 문자를 보냈다고 하자. 루만은 여기에 세 번의 선택이 있다고 말한다. 무엇을 말할지 고르는 선택, 그것을 지금 알리기로 하는 선택, 그리고 받는 쪽이 그 말을 어떻게 읽을지 고르는 선택. 앞의 둘은 보내는 쪽의 것이고 셋째는 받는 쪽의 것이다. 루만의 결론은 단순하고 불편하다. 소통은 셋째 선택에서 완성된다. 보내는 쪽이 아니라 받는 쪽에서.

이 한 문장이 무게 중심을 옮긴다. 프롬프트를 잘 쓰는 기술은 보내는 쪽의 두 선택을 다듬는 일이다. 끝이 없다. 그런데 내 시스템에서 실제로 품이 들어간 자리는 받는 쪽이었다. 에이전트가 세션을 열 때 처음 읽는 규칙 파일, 모든 노트가 갖춰야 하는 메타데이터 일곱 칸, 일을 맡길 때 함께 적는 완료 기준. 전부 들어온 것을 정보로 읽어 내는 틀이다. 루만은 1981년에 자기 카드 상자에 대해 쓰면서 이렇게 적었다. 정보는 비교할 틀을 가진 쪽에서만 생긴다. 틀이 없으면 들어오는 것은 정보가 아니라 소음이다.

보고서가 읽히지 않던 날의 정체가 그것이었다. 보고서가 나빴던 것이 아니다. 받는 쪽에 비교할 틀이 없었다. 완료 기준을 미리 적어 두지 않으면 "끝냈습니다"라는 문장은 무엇과도 비교되지 않는 통보일 뿐이다.

화살표는 비어 있다

워크플로우 도구를 열면 상자와 화살표가 보인다. 상자는 호출이고 화살표는 "앞의 출력이 뒤의 입력이 된다"는 약속이다. 루만을 받아들이면 그 화살표는 비어 있다. 앞 단계의 결과가 뒤 단계의 입력이 되는 일은 자동이 아니다. 뒤 단계에 비교할 틀이 있어야 결과가 정보가 되고, 정보가 되어야 다음 호출이 그 위에 선다. 내 생각에 에이전트 워크플로우의 가장 흔한 고장은 모델의 오답이 아니라 틀 없는 화살표다. 앞 단계의 "완료"가 뒤 단계에 소음으로 도착하는 것.

그래서 설계는 상자를 세는 일이 아니라 화살표마다 세 가지를 묻는 일에서 시작한다. 받는 쪽은 이 결과를 무엇과 비교하는가. 이 흐름이 끊기면 어디서 다시 붙는가. 이 결과를 받아들이기로 하는 선택은 누가 어디서 하는가.

침묵은 승인이 아니다

셋째 질문이 가장 자주 무너진다. "회신 없으면 동의로 간주합니다"라는 메일을 받아 본 적 있을 것이다. 사람 사이에서도 찜찜한 이 규칙이 기계 사이에서는 기본값이 되기 쉽다. 시간이 지나면 넘어가고, 답이 없으면 진행한다. 루만의 말로 하면 수용은 선택이고, 선택하지 않은 것은 수용이 아니다. 그래서 내 시스템의 설계안에는 이렇게 적었다. 사람에게 던진 질문이 몇 분 안에 답을 받지 못하면 승인되지도 사라지지도 않고, 원래 화면으로 돌아와야만 답할 수 있는 상태로 남는다. 어느 경로로도 자동 승인은 없다.

루만은 신뢰와 확신도 갈랐다. 위험을 알고 거는 기대가 신뢰이고, 대안을 생각해 본 적 없이 당연하게 여기는 기대가 확신이다. 에이전트의 권한 확인을 전부 꺼 둔 상태는 신뢰가 아니라 확신이다. 누가 언제 무엇을 허용했는지 아무도 고르지 않았기 때문이다. 범위와 만료와 중단 스위치를 적어 둔 예외만이 확신을 신뢰로 바꾼다.

일곱 층은 명령 계통도가 아니다

2편은 받는 쪽을 어떻게 세우는가의 이야기다. 내 시스템의 설계도는 일곱 층이고, 왜 일곱이냐는 질문을 자주 받는다. 답은 수에 있지 않다. 소유에 있다. 모든 일에는 실행하는 주인 하나와 쓰는 주인 하나가 있다. 이 원칙 위에서 세 번 가른다. 있어야 할 상태와 있는 상태를 가르고, 실행하는 일과 보는 일과 결정하는 일을 가르고, 위에서 내려오는 지시와 옆에서 오는 신호를 가른다. 그러면 일곱 책임 영역이 남는다.

중요한 것은 이 그림이 위가 아래를 시키는 조직도가 아니라는 점이다. 번호를 뒤집어 읽어도 뜻이 통해야 한다. 가장 아래 층인 선언 원장은 가장 낮은 층이 아니라 모든 층이 참조하는 기준이고, 가장 위의 화면은 가장 높은 층이 아니라 가장 바꾸기 쉬운 껍질이다. 집의 일곱 방이 아니라 일곱 개의 열쇠라고 생각하면 가깝다.

사고는 결정하지 않은 것에서 난다

루만은 조직을 사람의 모임이 아니라 결정의 연쇄로 봤다. 결정은 다음 결정의 전제가 된다. 그리고 아무도 결정한 적 없는데 모든 결정이 그 위에 서는 전제가 하나 있다. 조직 문화다. 내 시스템에서 그 자리에 있는 것은 기본값이다. 전부 허용으로 켜져 있던 권한, 옆 에이전트의 메시지를 받도록 열려 있던 설정, 원격 명령이 집어 들던 가장 오래된 버전. 아무도 그것을 고르지 않았다. 최근 점검에서 드러난 사고는 대개 거기서 났다.

그래서 시스템 점검의 첫 질문은 "무엇을 결정했나"가 아니라 "무엇을 결정하지 않았나"여야 한다. 원칙 목록보다 기본값 목록이 먼저다. 설계의 어조도 바뀐다. "모델을 믿지 말라"가 아니라 "어디서 믿기로 할지 정하라"다. 전자는 끝없는 검증을 낳고, 후자는 믿기로 한 자리 하나와 나중에 다시 열어 볼 주소 여럿을 낳는다.

당신의 화살표는

AI 에이전트를 쓰지 않더라도 이 질문은 남는다. 당신이 보낸 보고서는 받는 쪽에서 무엇과 비교되는가. 당신의 팀은 회신 없음을 어디서 동의로 읽는가. 아무도 정하지 않았는데 모두가 그 위에서 일하는 기본값은 무엇인가. 명령 모형은 편하다. 보내면 끝이니까. 그러나 읽히지 않은 보고서와 이어지지 않은 다음 일은 그 편안함의 청구서다.

다음 편들

시리즈는 여섯 편이다. 3편은 명령 없이 30년을 돌아간 하네스, 루만이 손으로 만든 카드 9만 장의 네 가지 규칙이다. 4편은 스키마가 하나가 아니라는 이야기로, 루만의 카드 상자와 카파시의 LLM 위키와 내 볼트와 에이전트 장부를 나란히 놓는다. 5편은 아홉 명의 요한, 곧 아홉 에이전트에 왜 인격과 덕목을 주었는지 그 설계 원리를 밝힌다. 6편은 라투르를 불러 층 그림이 어디서 새는지 누수 일곱 곳을 센다. 정본은 블로그에 차례로 올라가고, 더배러에는 이렇게 쉬운 판으로 다시 온다. 자, 준비되었는가?

—🌌 지식을 연결하고 지휘하는 새로운 경험, 커맨드스페이스—

📚 AI로 자료 수집을 넘어, 나만의 지식베이스를 만들어보세요!

AI로 찾은 자료, 정리만 하고 다시 활용하지 못하고 계신가요?

자료의 출처를 확인하고, 나만의 지식으로 연결하고 싶으신가요?

커맨드스페이스의 LLM Wiki 부트캠프를 통해
흩어진 자료를 근거 있는 지식으로 연결하는 AI 지식베이스를 만들어보세요!

📌 부트캠프 결과물:

1. 출처가 연결된 나만의 위키 페이지
2. AI 답변의 근거를 확인할 수 있는 검색 시스템
3. 내 해석 노트와 다음 학습 질문

🗓️ 교육 일정: 10/21(수), 10/28(수) 19:30~21:30 (총 2회, 4시간)

📝 신청하기: https://pbl.to/N7LteU

🔁 반복 업무, 이제 AI Agent에게 맡겨보세요!

매번 반복하는 업무, AI로 자동화하고 싶으신가요?

내 지식과 기준에 맞춰 AI가 일하고, 결과까지 검토할 수 있다면 어떨까요?

커맨드스페이스의 AI Agent Workflow 부트캠프를 통해
반복 업무를 AI에게 맡기고, 검토하고 개선하며 재사용할 수 있는 나만의 업무 흐름을 만들어보세요!

📌 부트캠프 결과물:

1. 사람의 승인 단계를 포함한 AI 업무 자동화 흐름
2. 일관된 품질을 유지하는 AI 실행 스킬
3. 검증·개선 기록과 30일 운영 체크리스트

🗓️ 교육 일정: 11/5(목)~11/7(토), 총 3회 6시간

• 11/5(목), 11/6(금) 19:30~21:30
• 11/7(토) 10:00~12:00

🎁 얼리버드 신청: 10/28(수)까지!

📝 신청하기: https://pbl.to/qR9tMl