AI 워크플로 휴먼 인 더 루프, 네 가지 질문으로 승인 경계 찾기

AI 워크플로 휴먼 인 더 루프의 핵심은 모든 단계에 사람을 붙이는 일이 아니라, 권한·오류 비용·복구 가능성·민감정보를 기준으로 승인 경계를 명시하는 일입니다. 초안 작성처럼 외부 상태를 바꾸지 않는 단계는 자동으로 넘길 수 있습니다. 반면 발송, 결제, 게시, 삭제, 권한 변경은 사람이 실행 전에 확인하는 편이 맞습니다. 다만 사람의 승인이 안전이나 정확성을 보장하지는 않습니다.

먼저 확인한 근거와 범위

이 글의 근거 패킷은 2026-08-16에 검토했습니다. 특정 내부 도구나 제작 환경은 검토 대상에서 제외했습니다.

항목	검토 조건과 확인된 사실
역할 구분	NIST AI RMF Appendix C는 완전 자동부터 완전 수동까지 인간과 AI의 역할 구성이 달라질 수 있다고 설명합니다.
감독 절차	NIST AI RMF Core는 역할과 책임을 구분하고, 인간 감독 절차를 정의·평가·문서화할 것을 다룹니다.
개입 깊이	NIST의 안전 특성은 잠재적 실패의 유형과 심각도에 따라 모니터링, 중단, 수정, 인간 개입의 깊이가 달라진다고 설명합니다.
승인 기록	NIST AI RMF Playbook은 인간 감독을 측정·문서화하고 책임 주체의 진행·중단 판단을 기록하는 방식을 제시합니다.
관심 신호	같은 날 자동완성 수집에서 정확한 질의 AI workflow human in the loop에 대한 제안 한 건이 관찰됐습니다. 검색량이나 구매 의도 증거는 아닙니다.

세 줄 요약

• 자동화 범위는 작업 난도보다 외부 상태를 바꿀 권한에서 먼저 갈립니다.
• 되돌리기 어렵고 오류 영향이 큰 단계일수록 실행 전 승인이 필요합니다.
• 승인자, 확인 대상, 중단 조건이 기록되지 않았다면 휴먼 인 더 루프가 아니라 막연한 기대에 가깝습니다.

사람은 워크플로 곳곳에 배치되는 장식이 아니라, 되돌리기 어려운 변화 앞에 놓이는 책임 주체입니다.

자동으로 넘길 단계는 무엇이 다른가

저는 작업을 “AI가 잘할 수 있는가”보다 실패했을 때 무엇이 바뀌는가로 나누게 됐어요. 가상의 ‘편의점 행사 정보’ 워크플로라면 승인된 비민감 입력을 정리하고, 중복 후보를 표시하고, 검토용 초안을 만드는 일은 외부 상태를 직접 바꾸지 않습니다.

첫 예시는 이 범위 안에 머물러야 합니다. 합성 데이터나 사용이 승인된 비민감 입력만 쓰고, 발송·결제·게시·삭제·권한 변경은 포함하지 않습니다. 초안이 가역적이어도 민감정보를 노출하거나 중요한 판단을 사실상 확정한다면 별도 승인이 필요합니다.

반대로 공개 문구를 게시하거나 수신자에게 알림을 보내는 순간 권한의 성격이 달라집니다. 이후 수정할 수 있더라도 이미 본 사람, 내려받은 자료, 전달된 판단까지 되돌릴 수는 없더라고요.

네 가지 질문으로 경계를 긋는다

아래 질문은 공식 표준을 옮긴 것이 아니라, NIST의 역할·감독 원칙을 업무 흐름에 적용하기 위한 빌더로그의 교육용 구조입니다.

• 권한: 이 단계가 보내기, 지불하기, 공개하기, 삭제하기, 접근권한 바꾸기처럼 외부 상태를 변경하는가?
• 오류 비용: 잘못된 결과가 사람의 권리, 중요한 결정, 대외 신뢰, 업무 연속성에 영향을 주는가?
• 복구 가능성: 실행 뒤 원상복구가 가능하며, 복구 과정에서 추가 피해가 생기지 않는가?
• 민감정보: 입력·출력·로그에 공개하면 안 되는 정보가 포함되거나 추론될 수 있는가?

여기서 하나라도 영향이 불명확하면 자동 실행보다 승인 대기로 분류하는 판단이 보수적입니다. 적절한 승인자는 업무와 조직, 적용 법률, 잠재적 영향에 따라 달라집니다. 작성자 자신이 늘 적합한 승인자라는 뜻도 아닙니다.

승인 경계는 모델의 자신감이 아니라, 행동의 권한과 실패 뒤 복구 가능성에서 결정됩니다.

복사해 쓰는 승인 경계표

단계	외부 상태 변경	오류 영향	복구 가능성	민감정보	처리 방식	승인 책임
승인된 자료 정리	없음	제한적	가능	없음	자동 진행	결과 검토 담당
검토용 초안 생성	없음	맥락에 따라 달라짐	가능	사전 확인	자동 후 표본 검토	내용 책임자
중요한 판단 후보 제시	간접적	클 수 있음	결정 전 가능	확인 필요	사람 검토 대기	해당 분야 책임자
외부 발송·공개	있음	클 수 있음	완전 복구 어려움	확인 필요	실행 전 승인	발행 책임자
결제·삭제·권한 변경	있음	클 수 있음	어렵거나 불명확	확인 필요	실행 분리 및 승인	권한 보유 책임자

[이미지 캡션: 반복 업무의 각 단계를 ‘자동 진행·검토 대기·실행 전 승인’으로 나누고, 외부 상태 변경 지점 앞에 승인선을 표시한 흐름도]

복사 가능한 기록 양식은 짧을수록 남기기 쉬웠습니다.

1. 작업 단계:
2. 사용하는 입력의 범위:
3. 외부 상태 변경 여부:
4. 예상되는 실패:
5. 복구 방법:
6. 승인 책임:
7. 진행 또는 중단 판단과 판단 근거:

이 기록은 “사람이 봤다”는 표시보다 유용합니다. 무엇을 보고 어떤 권한으로 통과시켰는지가 남기 때문입니다.

사람이 봐도 실패하는 이유

가장 흔한 실패는 모든 결과를 사람에게 쌓아두고 감독이 생겼다고 믿는 방식입니다. 책임자가 불명확하면 검토는 밀리고, 확인 기준이 없으면 익숙한 형식만 훑게 됩니다. 실행과 승인이 같은 흐름에 붙어 있으면 잘못된 클릭을 막기도 어렵습니다.

사람의 승인은 안전, 법적 준수, 정확성, 신뢰성, 비용 절감, 수익을 보장하지 않습니다. 체크리스트 역시 모든 후속 영향을 찾아내지 못하며 전문 분야 검토를 대신할 수 없습니다. 자동완성 제안 한 건도 관심 표면의 흔적일 뿐 검색 성과나 시장성을 뜻하지 않습니다.

따라서 승인 장치만 추가하고 끝내기보다, 중단과 수정이 실제로 가능한지 함께 확인할 필요가 있습니다. 책임자가 결과를 이해할 정보나 권한이 없다면 승인 버튼은 안전장치보다 통과 의식에 가까워집니다.

사람을 넣었다는 사실보다, 그 사람이 멈출 수 있는지가 더 중요한 검증 대상입니다.

최종 판단은 실행 권한 앞에서 내린다

제 판단은 명확합니다. 비민감 입력을 사용하고 외부 상태를 바꾸지 않으며 복구 가능한 초안 단계는 자동으로 넘길 수 있습니다. 보내기, 지불하기, 공개하기, 삭제하기, 권한 바꾸기처럼 현실을 변경하는 단계는 책임 있는 사람의 실행 전 승인 경계로 남겨야 합니다.

오류 영향이나 복구 가능성을 설명할 수 없다면 자동화 범위를 넓힐 근거도 아직 없습니다. 이때의 산출물은 더 복잡한 워크플로가 아니라, 책임자와 중단 조건이 적힌 승인 경계표입니다.

이어지는 기록

• Human-in-the-Loop Controls: 5 Stop Gates for AI Agents
• AI Automation Workflow Checklist: Six Boxes Before You Build