AI 에이전트 워크플로: 외부 행동 전에 확인할 승인·복구 체크리스트
AI 에이전트 워크플로는 도구부터 연결하기보다 허용 도구, 근거, 사람 승인, 롤백, 수동 대안을 먼저 정하는 편이 맞았습니다. 2026-08-16 자동완성에는 ‘10 autocomplete suggestions’가 기록됐지만, 이는 관심 표면일 뿐 워크플로의 안전성이나 성과를 입증하지 않습니다. 특히 전송·결제·삭제·권한 변경·게시처럼 외부 상태를 바꾸는 행동은 에이전트가 초안을 만들고 사람이 실행 여부를 결정하는 경계가 필요합니다.
세 줄 요약
- 에이전트가 읽을 수 있는 정보와 실행할 수 있는 도구를 분리합니다.
- 외부 행동 직전에는 근거와 실행 미리보기를 사람이 확인합니다.
- 되돌릴 수 없거나 수동 대안이 없으면 자동 실행 범위에서 제외합니다.
먼저 확인한 근거의 범위
| 검토 항목 | 날짜·조건 | 이 글에서 쓰는 범위 |
|---|---|---|
| 워크플로 시작 기준 | 2026-08-16 검토, AI workflow starter worksheet | 빈도·반복성·가치·복잡성·위험, 기대 산출물, 사람 검토, 중단 조건 |
| 역할과 감독 | 2026-08-16 검토, NIST AI RMF Core | 목적·맥락·범위·요구사항과 사람의 감독 책임 문서화 |
| 도구와 외부 행동 | 2026-08-16 검토, OWASP AI Agent Security Cheat Sheet | 최소 권한, 외부 데이터 불신, 입출력 검증, 고위험 행동의 명시적 승인과 복구 경계 |
자동완성은 검색량이나 구매 의도, 난이도, 성과를 뜻하지 않습니다. 나머지 자료도 이 글의 지도가 안전하거나 효과적이라고 인증하지 않습니다. 아래 구조는 공개 지침을 바탕으로 빌더로그가 정리한 초보자용 판단 도구입니다.
초보자용 워크플로의 핵심은 자율성의 크기가 아니라, 행동 경계가 눈에 보이는가였습니다.
도구 목록보다 권한표가 먼저였습니다
저는 도구를 연결한다는 말을 네 칸으로 나누어 보게 됐어요.
- 읽기: 어떤 자료를 볼 수 있는가
- 판단 보조: 어떤 분류·요약·비교를 맡길 수 있는가
- 초안 작성: 어떤 외부 행동의 미리보기를 만들 수 있는가
- 실행: 누가 실제 변경을 확정하는가
여기서 읽기 권한이 곧 실행 권한은 아닙니다. 외부 문서와 입력은 신뢰된 명령이 아니라 검증할 데이터로 남겨둡니다. 출력에도 대상, 내용, 예상 변화가 빠지지 않았는지 확인하는 칸이 필요했습니다.
예를 들어 가상의 편의점 할인 행사 앱에서 에이전트가 공개 행사 정보를 읽고 알림 문안을 작성할 수는 있습니다. 하지만 고객에게 보내는 행동은 별도 승인 대상으로 둡니다. 잘못된 상품이나 조건이 섞이면 초안 폐기로 끝낼 수 있지만, 발송 뒤에는 회수가 어려워지기 때문입니다.
근거에서 실행까지 끊어 읽었습니다
제가 정리한 흐름은 다음과 같습니다.
입력 수집 → 출처 표시 → 예상 산출물 생성 → 규칙 검증 → 실행 미리보기 → 사람 승인 → 외부 행동 → 결과 기록
출처 표시가 빠진 결과는 승인 단계로 보내지 않습니다. 실행 미리보기에는 행동 대상, 바뀌는 내용, 되돌리는 방법, 실패 시 수동 대안이 함께 보여야 합니다. 승인자는 결과가 그럴듯한지만 보는 사람이 아니라, 이 행동을 지금 허용할 책임자로 정의됩니다.
실행 후 기록도 중요했습니다. 입력과 출력만 남기는 것으로는 부족합니다. 누가 승인했는지, 어떤 외부 변화가 생겼는지, 중단이나 복구가 가능한 상태인지가 이어져야 나중에 원인을 찾을 수 있습니다.
승인 버튼은 안전장치가 아니라, 책임·근거·복구 가능성을 한 화면에서 확인하는 검토 지점이었습니다.
복사해서 쓰는 외부 행동 전 체크리스트
아래 문안을 워크플로 문서의 승인 구역으로 옮겨 쓸 수 있습니다.
- 이 워크플로의 목적과 기대 산출물이 적혀 있다.
- 읽기 도구와 실행 도구가 구분돼 있다.
- 필요한 범위보다 넓은 권한을 요구하지 않는다.
- 외부 입력을 신뢰된 지시로 취급하지 않는다.
- 판단에 사용한 출처와 누락된 근거가 보인다.
- 입력과 출력의 형식·대상·금지 항목을 검증한다.
- 외부 행동의 대상과 변경 내용이 미리 보인다.
- 전송·결제·삭제·권한 변경·게시에는 사람 승인이 있다.
- 중단할 조건과 담당자가 적혀 있다.
- 실행 전 상태로 돌아갈 경계가 확인된다.
- 롤백이 불가능할 때 사용할 수동 절차가 있다.
- 실행 결과와 승인 기록을 다시 확인할 수 있다.
이 체크리스트에서 답할 수 없는 항목이 생기면, 저는 그 지점을 자동 실행 범위가 아니라 설계 미완료 구역으로 보게 됐어요.
실패는 실행 뒤보다 설계표에서 먼저 보였습니다
가장 흔한 실패 경로는 결과가 틀리는 경우만이 아닙니다. 맞는 내용을 잘못된 대상에게 보내거나, 오래된 자료를 근거로 삼거나, 승인자가 복구 방법을 모른 채 실행을 허용할 수도 있습니다. 권한이 넓으면 작은 판단 오류가 외부 변경으로 이어집니다.
그래서 실패 처리는 “다시 시도”만으로 부족합니다. 입력이 불명확하면 중단하고, 근거가 충돌하면 사람에게 넘기며, 실행 결과를 확인할 수 없으면 추가 행동을 막는 조건이 필요합니다. 복구가 실패하면 같은 작업을 반복하지 않고 수동 절차로 전환하는 편이 경계를 분명하게 만듭니다.
이 지도만으로 알 수 없는 것
가상 또는 비민감 예시는 실제 운영의 모든 예외를 드러내지 못합니다. 서비스 장애, 권한 오류, 악의적 입력, 예상하지 못한 외부 변경은 별도로 나타날 수 있습니다. 보이는 실행 기록도 신뢰성 시험이나 운영 준비 인증은 아닙니다.
검토한 자료는 어떤 에이전트 워크플로도 속도, 정확성, 생산성, 안정성, 안전성, 매출을 높인다고 증명하지 않습니다. 안전한 도구 범위와 승인자, 롤백 방식 역시 오류의 결과가 무엇인지에 따라 달라집니다.
되돌릴 방법과 수동 대안이 문서에 없으면, 아직 자동화할 단계가 아니라는 판단이 남았습니다.
최종 판단
초보자용 AI 에이전트 워크플로는 읽기와 초안 작성부터 제한적으로 시작하고, 모든 외부 행동 앞에 근거 확인과 사람 승인을 두는 구조가 적절합니다. 실행 미리보기, 중단 조건, 롤백, 수동 대안 가운데 하나라도 비어 있다면 외부 실행은 열지 않는 편이 맞습니다.
이어지는 기록
에이전트가 행동하기 전에 사람이 근거와 변화를 검토하고, 되돌릴 수 없는 행동은 자동 실행 범위에서 제외합니다.