🗣️ AI에게 시켰는데 왜 안 됐을까 (249호)

명령 대신 연결, 계층 대신 책임

2026. 10. 25.

🗣️ AI에게 시켰는데 왜 안 됐을까

이 메일이 잘 안보이시나요?

제 249호 (2026.10.26.)

Editor's Comments

명령 대신 연결, 계층 대신 책임

🗣️ AI에게 시켰는데 왜 안 됐을까

아침에 AI 에이전트에게 일감 한 장을 보낸다. 저녁에 보고서가 돌아온다. 명령은 분명히 내려졌고, 기계는 분명히 수행했다. 그런데 그 보고서를 내가 읽지 않은 날이 있었다. 읽었는데 다음 일이 이어지지 않은 날도 있었다. 누가 잘못한 것인가. 에이전트는 시킨 대로 했고, 나는 시킬 것을 시켰다. 잘못한 사람이 없는데 일은 멈춰 있다.

이 역설을 설명하지 못하는 것이 "명령과 복종" 모형이다. 보내면 끝이라고 믿는 모형. 두 기기 사이에서 에이전트를 돌리는 동안 나는 줄곧 이 모형으로 생각했고, 그래서 멈춘 날을 설명하지 못했다. 설명해 준 사람은 독일의 사회학자 니클라스 루만이었다. 이번에 블로그에 올리기 시작한 「소통으로 읽는 에이전트 하네스」 1편과 2편이 그 이야기다. 정본은 인용과 도식이 빽빽하니, 여기서는 쉽게 풀어 보려 한다.

문자는 보낸 쪽에서 끝나지 않는다

친구에게 "토요일 어때?"라고 문자를 보냈다고 하자. 루만은 여기에 세 번의 선택이 있다고 말한다. 무엇을 말할지 고르는 선택, 그것을 지금 알리기로 하는 선택, 그리고 받는 쪽이 그 말을 어떻게 읽을지 고르는 선택. 앞의 둘은 보내는 쪽의 것이고 셋째는 받는 쪽의 것이다. 루만의 결론은 단순하고 불편하다. 소통은 셋째 선택에서 완성된다. 보내는 쪽이 아니라 받는 쪽에서.

이 한 문장이 무게 중심을 옮긴다. 프롬프트를 잘 쓰는 기술은 보내는 쪽의 두 선택을 다듬는 일이다. 끝이 없다. 그런데 내 시스템에서 실제로 품이 들어간 자리는 받는 쪽이었다. 에이전트가 세션을 열 때 처음 읽는 규칙 파일, 모든 노트가 갖춰야 하는 메타데이터 일곱 칸, 일을 맡길 때 함께 적는 완료 기준. 전부 들어온 것을 정보로 읽어 내는 틀이다. 루만은 1981년에 자기 카드 상자에 대해 쓰면서 이렇게 적었다. 정보는 비교할 틀을 가진 쪽에서만 생긴다. 틀이 없으면 들어오는 것은 정보가 아니라 소음이다.

보고서가 읽히지 않던 날의 정체가 그것이었다. 보고서가 나빴던 것이 아니다. 받는 쪽에 비교할 틀이 없었다. 완료 기준을 미리 적어 두지 않으면 "끝냈습니다"라는 문장은 무엇과도 비교되지 않는 통보일 뿐이다.

화살표는 비어 있다

워크플로우 도구를 열면 상자와 화살표가 보인다. 상자는 호출이고 화살표는 "앞의 출력이 뒤의 입력이 된다"는 약속이다. 루만을 받아들이면 그 화살표는 비어 있다. 앞 단계의 결과가 뒤 단계의 입력이 되는 일은 자동이 아니다. 뒤 단계에 비교할 틀이 있어야 결과가 정보가 되고, 정보가 되어야 다음 호출이 그 위에 선다. 내 생각에 에이전트 워크플로우의 가장 흔한 고장은 모델의 오답이 아니라 틀 없는 화살표다. 앞 단계의 "완료"가 뒤 단계에 소음으로 도착하는 것.

그래서 설계는 상자를 세는 일이 아니라 화살표마다 세 가지를 묻는 일에서 시작한다. 받는 쪽은 이 결과를 무엇과 비교하는가. 이 흐름이 끊기면 어디서 다시 붙는가. 이 결과를 받아들이기로 하는 선택은 누가 어디서 하는가.

침묵은 승인이 아니다

셋째 질문이 가장 자주 무너진다. "회신 없으면 동의로 간주합니다"라는 메일을 받아 본 적 있을 것이다. 사람 사이에서도 찜찜한 이 규칙이 기계 사이에서는 기본값이 되기 쉽다. 시간이 지나면 넘어가고, 답이 없으면 진행한다. 루만의 말로 하면 수용은 선택이고, 선택하지 않은 것은 수용이 아니다. 그래서 내 시스템의 설계안에는 이렇게 적었다. 사람에게 던진 질문이 몇 분 안에 답을 받지 못하면 승인되지도 사라지지도 않고, 원래 화면으로 돌아와야만 답할 수 있는 상태로 남는다. 어느 경로로도 자동 승인은 없다.

루만은 신뢰와 확신도 갈랐다. 위험을 알고 거는 기대가 신뢰이고, 대안을 생각해 본 적 없이 당연하게 여기는 기대가 확신이다. 에이전트의 권한 확인을 전부 꺼 둔 상태는 신뢰가 아니라 확신이다. 누가 언제 무엇을 허용했는지 아무도 고르지 않았기 때문이다. 범위와 만료와 중단 스위치를 적어 둔 예외만이 확신을 신뢰로 바꾼다.

일곱 층은 명령 계통도가 아니다

2편은 받는 쪽을 어떻게 세우는가의 이야기다. 내 시스템의 설계도는 일곱 층이고, 왜 일곱이냐는 질문을 자주 받는다. 답은 수에 있지 않다. 소유에 있다. 모든 일에는 실행하는 주인 하나와 쓰는 주인 하나가 있다. 이 원칙 위에서 세 번 가른다. 있어야 할 상태와 있는 상태를 가르고, 실행하는 일과 보는 일과 결정하는 일을 가르고, 위에서 내려오는 지시와 옆에서 오는 신호를 가른다. 그러면 일곱 책임 영역이 남는다.

중요한 것은 이 그림이 위가 아래를 시키는 조직도가 아니라는 점이다. 번호를 뒤집어 읽어도 뜻이 통해야 한다. 가장 아래 층인 선언 원장은 가장 낮은 층이 아니라 모든 층이 참조하는 기준이고, 가장 위의 화면은 가장 높은 층이 아니라 가장 바꾸기 쉬운 껍질이다. 집의 일곱 방이 아니라 일곱 개의 열쇠라고 생각하면 가깝다.

사고는 결정하지 않은 것에서 난다

루만은 조직을 사람의 모임이 아니라 결정의 연쇄로 봤다. 결정은 다음 결정의 전제가 된다. 그리고 아무도 결정한 적 없는데 모든 결정이 그 위에 서는 전제가 하나 있다. 조직 문화다. 내 시스템에서 그 자리에 있는 것은 기본값이다. 전부 허용으로 켜져 있던 권한, 옆 에이전트의 메시지를 받도록 열려 있던 설정, 원격 명령이 집어 들던 가장 오래된 버전. 아무도 그것을 고르지 않았다. 최근 점검에서 드러난 사고는 대개 거기서 났다.

그래서 시스템 점검의 첫 질문은 "무엇을 결정했나"가 아니라 "무엇을 결정하지 않았나"여야 한다. 원칙 목록보다 기본값 목록이 먼저다. 설계의 어조도 바뀐다. "모델을 믿지 말라"가 아니라 "어디서 믿기로 할지 정하라"다. 전자는 끝없는 검증을 낳고, 후자는 믿기로 한 자리 하나와 나중에 다시 열어 볼 주소 여럿을 낳는다.

당신의 화살표는

AI 에이전트를 쓰지 않더라도 이 질문은 남는다. 당신이 보낸 보고서는 받는 쪽에서 무엇과 비교되는가. 당신의 팀은 회신 없음을 어디서 동의로 읽는가. 아무도 정하지 않았는데 모두가 그 위에서 일하는 기본값은 무엇인가. 명령 모형은 편하다. 보내면 끝이니까. 그러나 읽히지 않은 보고서와 이어지지 않은 다음 일은 그 편안함의 청구서다.

다음 편들

시리즈는 여섯 편이다. 3편은 명령 없이 30년을 돌아간 하네스, 루만이 손으로 만든 카드 9만 장의 네 가지 규칙이다. 4편은 스키마가 하나가 아니라는 이야기로, 루만의 카드 상자와 카파시의 LLM 위키와 내 볼트와 에이전트 장부를 나란히 놓는다. 5편은 아홉 명의 요한, 곧 아홉 에이전트에 왜 인격과 덕목을 주었는지 그 설계 원리를 밝힌다. 6편은 라투르를 불러 층 그림이 어디서 새는지 누수 일곱 곳을 센다. 정본은 블로그에 차례로 올라가고, 더배러에는 이렇게 쉬운 판으로 다시 온다. 자, 준비되었는가?

—🌌 지식을 연결하고 지휘하는 새로운 경험, 커맨드스페이스—

💬 이번 주 더배러 톡방 하이라이트

🧩 발표를 보고, 내 에이전트를 만들어보는 시간

화요일 더배러톡톡에서 Tofukyung/프리/llmwiki님의 발표를 본 뒤, 다음 날에는 직접 환경을 설정해본 후기가 이어졌습니다. 춘식 | 연구 | PKM님은 발표 화면의 채널 구성을 참고해 버즈를 설정했고, 텔레그램보다 읽기 편하게 느껴진다고 했습니다. 앤드류 | 지식노동자님이 초기 설정과 파일 첨부에서 막히자, 뀨야/연구/llm wiki님도 슬랙 환경을 여러 차례 고쳐 만든 경험을 보탰습니다. 멋진 시연을 감상하는 데서 끝나지 않고, 각자의 시행착오를 드러내며 따라 만들어본 시간이었습니다.

Tofukyung님의 더배러톡톡: https://youtu.be/Mx0jQSOSCxY

📄 새 문서 도구의 놀라움, 실제 파일에서의 확인

ACH_안창현님이 발견해 공유한 이음오피스를 여러 참여자가 직접 써봤습니다. 책쓰는듀공 / 제육우동먹기님은 워크시트와 사진으로 찍은 문서를 바탕으로 교재를 만드는 작업을 시도하며 반가워했습니다. 한편 neutron님은 기존 엑셀 파일을 편집·저장하거나 수식을 붙여넣을 때 문제가 생기는 것 같다고 했고, 쓰는듀공 / 제육우동먹기님도 인쇄 설정은 아쉬워 PDF로 내보내 인쇄하겠다고 했습니다. 만들 수 있는 결과물의 폭과 함께, 기존 파일과 실제 출력 과정까지 확인해야 할 지점이 드러났습니다.

대화에서 직접 써본 도구 — 이음오피스: https://ieumoffice.vercel.app/https://ieumoffice.vercel.app/

🔎 생산이 빨라질수록, 확인하는 사람이 더 바빠진다

책쓰는듀공 / 제육우동먹기님은 자동화를 고도로 구축한 사람들도 여전히 바빠 보인다며, 노동에서 해방된다는 기대에 질문을 던졌습니다. 이제현|R&D|재미님은 자신이 속한 부서에서 예전에는 한 달을 받던 일의 마감이 하루로 줄었다는 경험과 함께, 병목이 생산에서 검증으로 옮겨갔다고 했습니다. 주말에는 보고서에서 ‘이상’이 ‘최대’로 바뀌어 수치의 의미가 뒤집힌 오류를 찾아낸 사례도 전했습니다. 주초에 공유한 학회 발표 글의 논문 홍수와 검증 병목이라는 문제의식이, 실제 업무의 속도와 책임을 묻는 대화로 이어졌습니다.

논문 홍수와 검증 병목을 논의하며 공유한 본인의 학회 발표 글: https://tech.jehyunlee.dev/2026/09/30/General-97_ai4scikorea2026/

✍️ AI가 썼는지와, 내가 책임질 수 있는지는 다른 질문

AI 작성 판별 점수를 얼마나 믿을 수 있는지 묻는 질문에서 긴 토론이 시작됐습니다. 디케이님은 판별기가 내놓은 비율의 근거와 억울한 판정 가능성을 물었고, 루테넌트(김민석)|개발님은 통계적 패턴으로 추적할 수 있다는 관점을 제시했습니다. 이제현|R&D|재미님은 자신이 시험해본 검사 결과가 크게 달랐던 경험을 나누며, AI가 쓰지 않은 것처럼 보이는 글과 자신이 쓴 것처럼 보이는 글은 다르다고 했습니다. 작성 도구를 판별하는 문제와 별개로, 내용에 대한 이해와 자기 목소리, 결과물의 책임을 어떻게 확인할지도 남았습니다.

🌱 아이에게 남길 위키, 가족이 쓸 수 있는 인터페이스

구요한 | 연구 | 지식관리님이 아들에게 무엇을 남길지 생각하며 쓴 에세이를 공유하자, Tofukyung/프리/llmwiki님은 어린 시절의 독후감을 모아 위키로 만들어보고 싶다고 했습니다. 싼타/기획/AI님과 남박사 / 전략님은 AI가 아이 대신 생각하지 않도록 하는 부모의 역할에 주목했습니다. 며칠 뒤 가족위키 이야기가 다시 나오자, ACH_안창현님은 자신의 설정 일부를 아내에게 복사하되 짧은 요청만으로도 쓸 수 있도록 따로 구성한 경험을 전했습니다. 자료를 얼마나 많이 남기는가에서, 누가 어떤 방식으로 쓰고 생각하게 할 것인가로 관심이 넓어졌습니다.

아들에게 남길 기록과 AI의 역할을 생각하며 공유한 에세이: https://jisan.cmdspace.work/posts/alexandria-for-my-son/

🏁 해커톤에서 마주한 건, 평소와 다른 작업 환경

일요일 해커톤에 참여한 분들은 카메라와 주변 환경 준비부터 낯선 AI 사용 방식까지 예상 밖의 어려움을 나눴습니다. 현우/개발/AX전문님은 환경에 적응하고 반복 작업을 하는 데 시간이 들었다고 했고, 최은우/연구원/이직지망생님은 핵심 기준을 먼저 추출해 판정을 반복한 방식과 도메인 지식의 중요성을 이야기했습니다. 관련 기사가 공유된 뒤에는 최신 모델로 역량을 평가해야 한다는 기대와, 실제 사내 환경의 제약을 반영한 시험일 수 있다는 해석이 함께 나왔습니다. 주 후반에는 합격 소식에 축하가 이어지는 동시에, 탈락한 분들의 아쉬움도 함께 나눴습니다.

참여 후기 이후 공유하며 토론한 해커톤 관련 기사: https://www.hani.co.kr/arti/economy/it/1283118.html

👓 스마트안경, 신기함 다음에는 나의 사용 장면

문샤인님이 스마트안경 사용 경험을 묻자, 강성준 | 의료AI | 신약개발님은 해외 생활에서 번역과 전사에 도움받고 발표 때 대본을 띄워보기도 한다고 했습니다. 다만 발표만을 위해서라면 전용 프롬프터가 나을 수도 있다며, 새 도구를 쓰는 재미도 함께 이야기했습니다. 주말에는 문샤인님이 매장에서 써본 뒤 주문했다는 소식을 전했고, 앤드류 | 지식노동자님은 해외 출장과 고객 미팅에서의 활용을 기대했습니다. 같은 도구도 각자의 일에 대입해보면 구매 이유가 달라졌습니다.