1장. 업무 분석과 자동화 설계
학습 목표
- 업무 흐름을 단계로 나누고 단계마다 입력·출력·담당자·완료 조건을 적는다.
- 반복성·위험도·검수 비용으로 자동화 후보를 비교하되, 제외 조건을 먼저 적용한다.
- 규칙으로 처리할 단계와 AI 판단이 필요한 단계를 구분한다.
- 되돌리기 어려운 행동, 다른 사람에게 보이는 행동, 개인에게 중대한 결정 앞에 사람 검수 지점을 둔다.
- 가장 단순한 위임 수준에서 시작해 근거에 따라 범위를 넓히는 설계서를 쓴다.
들어가며
어느 회사의 총무팀장이 “AI로 협력사 관리 업무를 자동화하라”는 지시를 받았다고 해 봅시다. 그는 곧바로 어떤 도구를 살지부터 알아봅니다. 몇 주 뒤 도구는 들어왔지만 아무도 쓰지 않습니다. 협력사 관리가 실제로 어떤 단계로 되어 있는지, 그중 어디가 반복되고 어디가 위험한지, 누가 무엇을 확인해야 하는지 아무도 적어 본 적이 없었기 때문입니다. 도구는 ‘협력사 관리’라는 덩어리를 받을 수 없습니다. 받을 수 있는 것은 ‘협력사가 보낸 메일에서 사업자 정보와 담당자 연락처를 뽑아 등록 양식에 옮긴다’ 같은 구체적인 일 하나입니다. 반대 방향의 실패도 흔합니다. 의욕적인 담당자가 등록 서류 확인부터 거래 개시 통보까지 한 번에 맡기려다, 첫 주에 서류가 덜 갖춰진 업체에 통보가 나가 버리는 경우입니다. 두 실패의 원인은 같습니다. 어떤 단계를 어디까지 맡길지 정하지 않은 채 시작했습니다.
이 장은 자동화를 도구가 아니라 업무에서 시작하는 법을 다룹니다. 먼저 업무를 단계로 쪼개고 단계마다 입력과 출력을 적습니다. 다음으로 반복성·위험도·검수 비용이라는 세 기준으로 어느 단계를 먼저 맡길지 정합니다. 그다음 사람이 반드시 확인해야 할 지점을 정하고, 가장 단순한 위임 수준에서 출발해 근거를 쌓으며 넓히는 방법을 배웁니다. 마지막으로 이 모든 결정을 한 장짜리 설계서로 남깁니다. 이 설계서는 2장부터 5장까지 계속 쓰입니다.
핵심 개념
업무를 단계로 쪼개기
요리사는 요리를 시작하기 전에 재료를 손질해 순서대로 늘어놓습니다. 자동화도 같습니다. 업무를 단계로 쪼개고, 단계마다 다섯 가지를 적습니다.
| 적을 것 | 뜻 | 예: 견적 요청 처리 |
|---|---|---|
| 입력 | 이 단계가 받는 것 | 고객 메일, 첨부 도면 |
| 처리 | 이 단계에서 하는 일 | 품목·수량·납기 추출 |
| 출력 | 다음 단계로 넘기는 것 | 견적 요청 요약표 |
| 담당자 | 지금 이 일을 하는 사람 | 영업지원 담당 |
| 완료 조건 | 끝났다고 인정하는 기준 | 품목·수량·납기 세 칸이 모두 채워짐 |
완료 조건은 반드시 적으세요. ‘요약한다’는 끝을 알 수 없지만 ‘세 칸이 모두 채워진다’는 확인할 수 있습니다. AI에 맡긴 단계의 결과를 검수할 때도 이 완료 조건이 그대로 검수 기준이 됩니다. 한 단계의 출력이 다음 단계의 입력이 되므로, 앞 단계에서 빠진 정보가 뒤에서 어떤 문제를 일으키는지도 표를 보면 드러납니다.
시작 조건, 완료 조건, 인수인계
업무는 어떤 사건으로 시작됩니다. 메일이 도착하거나, 월말이 되거나, 신청서가 제출됩니다. 이것을 시작 조건이라고 합니다. 시작 조건을 적으면 그 업무를 예약 작업으로 돌릴지, 메일 도착 같은 이벤트에 반응하게 할지, 사람이 그때그때 시킬지가 정해집니다.
단계표를 그릴 때는 담당자가 바뀌는 지점, 즉 인수인계를 꼭 표시하세요. 많은 업무에서 시간을 잡아먹는 것은 일을 처리하는 시간(처리 시간)이 아니라 다음 사람이 손대기를 기다리는 시간(대기 시간)입니다. 견적서 작성에 20분이 걸려도 결재가 이틀 묵으면 고객은 이틀을 기다립니다. 이때 AI로 작성 시간을 10분으로 줄여도 고객 체감은 거의 바뀌지 않습니다. 처리 시간과 대기 시간을 따로 적어 두면 AI가 줄일 수 있는 시간과 줄일 수 없는 시간을 구분할 수 있습니다.
정상 경로와 예외 경로
평균적인 사례에만 맞춘 자동화는 현장에서 자주 멈춥니다. 단계표에는 정상 경로(대부분의 건이 지나가는 길)와 예외 경로(정보가 빠졌거나, 자료끼리 충돌하거나, 기한을 넘긴 건이 지나가는 길)를 함께 그립니다.
- 정상 경로에서 벗어나는 사례를 지난 기록에서 모읍니다.
- 사례를 유형으로 묶고, 유형마다 빈도와 영향을 적습니다.
- 유형마다 처리 방식을 정합니다. 보완 요청을 보낼지, 사람에게 넘길지, 보류할지.
- AI가 예외를 알아챌 신호를 적습니다. 예: 필수 칸이 비어 있음, 금액이 기준을 넘음, ‘긴급’ 같은 표현.
예외를 사람에게 넘기는 기준이 분명할수록 자동화는 오래 갑니다. 예외를 억지로 자동 처리하려 들면 정상 경로까지 복잡해집니다.
세 가지 기준: 반복성·위험도·검수 비용
단계마다 세 기준으로 평가하면 자동화 순서가 정해집니다.
| 기준 | 묻는 질문 | 자동화에 유리한 쪽 |
|---|---|---|
| 반복성 | 얼마나 자주, 얼마나 비슷한 형태로 반복되는가 | 높을수록 |
| 위험도 | 틀리면 얼마나 해롭고 되돌리기 어려운가 | 낮을수록 |
| 검수 비용 | 사람이 결과를 확인하는 데 시간이 얼마나 드는가 | 낮을수록 |
다만 세 점수를 그냥 더하면 안 됩니다. 반복성 점수가 아주 높으면 큰 위험이 가려지기 때문입니다. 순서는 이렇습니다.
- 제외 조건을 먼저 적용합니다. 사람 검토 없이 개인의 권리에 영향을 주는 결정, 승인되지 않은 계정에 민감 자료를 넣어야 하는 일은 점수와 관계없이 자동 처리 대상에서 뺍니다.
- 남은 후보만 비교합니다. 하루 수십 번 반복되고, 틀려도 쉽게 고치며, 확인이 1분이면 끝나는 일이 첫 후보입니다.
- 검수 비용을 원래 작업 시간과 비교합니다. 사람이 확인하는 데 원래 작업만큼 시간이 들면 자동화해도 줄어드는 시간이 거의 없습니다.
분기에 한 번 하는 일은 설계와 시험에 드는 시간을 회수하기 어렵다는 점도 기억하세요.
위험도를 쪼개 보기
‘위험도’ 한 칸으로는 판단이 거칠어집니다. 같은 오류라도 내부 초안에서 나면 고치면 그만이지만, 고객에게 나가면 회수할 수 없습니다. 위험도는 세 가지로 쪼개 보면 정확해집니다.
| 하위 요소 | 묻는 질문 | 낮음 | 높음 |
|---|---|---|---|
| 영향 범위 | 오류가 누구에게 닿는가 | 작성자 본인 | 고객, 외부 기관, 다수 직원 |
| 되돌리기 어려움 | 취소·수정·회수가 얼마나 어려운가 | 초안 수정 | 송금, 발송, 삭제 |
| 발견까지 걸리는 시간 | 오류를 언제 알아채는가 | 바로 다음 단계에서 | 몇 주 뒤 민원으로 |
세 요소가 모두 낮은 단계는 자동 실행 후보가 될 수 있고, 하나라도 높으면 사람의 승인이나 강한 검수가 필요합니다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크(AI RMF)처럼 조직이 AI 위험을 체계적으로 다루도록 돕는 자발적 지침도 있으니, 회사 차원의 기준을 만들 때 참고할 수 있습니다.
규칙으로 처리할 일과 AI 판단이 필요한 일
모든 단계에 생성형 AI가 필요한 것은 아닙니다. 정해진 공식으로 계산하는 일, ‘금액이 50만 원을 넘으면 결재선 추가’ 같은 분기는 스프레드시트 수식, 메일 필터, 업무 시스템의 규칙으로 처리하는 편이 정확하고 설명하기도 쉽습니다. 생성형 AI는 같은 입력에도 표현이 조금씩 달라질 수 있는 확률적 도구이기 때문입니다.
| 성격 | 예 | 알맞은 처리 |
|---|---|---|
| 정해진 조건에 따른 분류 | 발신 도메인별 폴더 이동 | 필터·규칙 |
| 문맥 해석이 필요한 분류 | 고객 메일이 불만인지 문의인지 | AI |
| 정확한 계산 | 수당, 세액, 할인 금액 | 수식·업무 시스템 |
| 자유 형식 정리 | 회의 녹취에서 결정 사항 추리기 | AI |
| 둘의 결합 | AI가 메일에서 금액을 추출하고, 수식이 검산 | AI + 규칙 |
좋은 설계는 둘을 섞습니다. AI가 비정형 텍스트를 정해진 칸으로 옮기면, 그 뒤의 계산과 분기는 규칙이 맡습니다. 규칙이 AI 결과를 검증하는 관문 역할을 하면 오류가 다음 단계로 번지기 전에 걸러집니다.
위임 수준 사다리
‘자동화한다’는 말은 너무 넓습니다. AI에 맡기는 정도를 네 칸의 사다리로 나누면 범위를 구체적으로 정할 수 있습니다.
| 칸 | AI가 하는 일 | 사람이 하는 일 | 다음 칸으로 넘어가는 근거 |
|---|---|---|---|
| 1. 정리·추천 | 자료를 모으고 요점을 정리 | 판단과 작성 모두 | 정리 결과를 그대로 쓰는 비율이 기준 이상 |
| 2. 검토용 초안 | 결과물 초안 작성 | 고치고 직접 실행 | 수정 없이 채택한 비율이 기준 이상 |
| 3. 승인 후 실행 | 실행까지 준비 | 내용을 보고 승인 | 승인 시 수정·거절 비율이 충분히 낮음 |
| 4. 제한적 자동 실행 | 정해진 조건 안에서 스스로 실행 | 표본 검수와 예외 처리 | 표본 오류율이 기준 이하로 유지 |
Anthropic은 AI 시스템을 만들 때 가능한 한 가장 단순한 해법을 찾고 필요할 때만 복잡도를 높이라고 권합니다. 사다리도 아래 칸에서 시작합니다. 처음부터 4칸을 노리면 실패했을 때 지침이 문제인지, 자료가 문제인지, 실행 연결이 문제인지 가려내기 어렵습니다. 넘어가는 근거는 시작하기 전에 숫자로 정해 두어야 나중에 ‘잘 되는 것 같다’는 느낌으로 넘어가지 않습니다.
사람 검수 지점은 어디에 두나
사람의 확인은 모든 단계가 아니라 영향이 큰 지점에 둡니다. Anthropic은 확인을 받아야 할 행동의 예로 파괴적인 작업(삭제 등), 되돌리기 어려운 작업, 다른 사람에게 보이는 작업(메시지 발송, 공유 시스템 변경)을 듭니다. 업무 자동화에서는 여기에 하나를 더합니다.
- 파괴적인 행동: 파일·기록 삭제, 데이터 덮어쓰기.
- 되돌리기 어려운 행동: 송금, 환불 실행, 주문 확정.
- 다른 사람에게 보이는 행동: 고객 메일 발송, 공개 게시, 거래처 공유.
- 개인에게 중대한 결정: 채용, 신용, 보험처럼 사람의 권리와 기회에 영향을 주는 결정.
여기서 승인과 확인을 구분하세요. 승인은 ‘이 행동을 해도 된다’는 허락이고, 확인은 ‘내용이 맞다’는 검토입니다. 버튼을 눌러 승인했다고 내용을 확인했다는 뜻은 아닙니다. 승인 화면에 무엇을 보여 줘야 확인까지 이루어지는지는 3장에서 다룹니다.
주의
모든 단계에 승인을 두면 안전해 보이지만 실제로는 반대가 됩니다. 승인 요청이 너무 많으면 사람은 내용을 보지 않고 버튼만 누르게 됩니다. 이를 승인 피로라고 합니다. 승인은 꼭 필요한 곳에 적게 두어야 진짜 검토가 됩니다.
검수할 수 있는 작업량 설계하기
승인 버튼을 넣는 것과 사람이 실제로 검수할 수 있는 것은 다른 문제입니다. 검수 지점을 정했다면 다음을 계산하고 준비합니다.
- 건당 검수 시간과 하루 처리량: 예를 들어 하루 200건, 건당 검수 2분이면 하루 400분, 약 6.7시간이 필요합니다. 검수자 한 명이 다른 일과 함께 할 수 있는 양인지 따져 봅니다.
- 검수자에게 줄 근거: 원문 전체를 다시 읽게 하지 말고, AI가 결과와 함께 핵심 수치·근거 위치·불확실한 부분을 따로 표시하게 합니다.
- 부재 시 대체 경로: 검수자가 휴가일 때 누가 볼지, 아무도 없으면 실행을 멈출지 정합니다.
- 검수 대기 중 동작: 검수를 기다리는 동안 결과가 자동으로 나가지 않게 합니다.
계산 결과 사람이 감당할 수 없다면 검수 지점을 없애는 것이 아니라, 자동화 대상을 검수할 수 있는 건수로 좁히거나 위험이 낮은 단계만 표본 검수로 돌려 고위험 단계에 검수 시간을 모읍니다.
업무 요구를 기능 조합으로 번역하기
단계표가 완성되면 단계마다 필요한 기능의 형태를 고릅니다. 제품 이름보다 형태로 먼저 생각하면 도구가 바뀌어도 설계가 살아남습니다.
| 업무 요구 | 알맞은 형태 | 다루는 장 |
|---|---|---|
| 팀이 같은 자료를 계속 참고하며 함께 일함 | 지식 공간(프로젝트) | 2장 |
| 많은 사람이 같은 절차로 같은 질문에 답을 받음 | 커스텀 어시스턴트 | 2장 |
| 메일·드라이브·업무 시스템의 최신 정보를 가져오거나 기록함 | 커넥터·앱 연결 | 3장 |
| 여러 단계를 스스로 계획하고 앱과 웹을 오가며 처리함 | 에이전트 기능 | 3장 |
| 정해진 시간이나 사건에 맞춰 반복 실행함 | 예약 작업 | 3장 |
한 업무에 여러 형태가 함께 쓰이는 것이 보통입니다. 다만 형태가 하나 늘 때마다 연결 권한, 공유 범위, 검수 지점도 함께 늘어난다는 점을 기억하세요. 필요 없는 형태는 빼는 것이 설계입니다.
자동화하지 말아야 할 것
OpenAI의 이용정책은 고용, 금융·신용, 보험, 주택, 교육, 법률, 의료 같은 민감한 영역에서 사람의 검토 없이 중요한 결정을 자동화하는 것을 금지합니다. Anthropic의 사용 정책도 이런 고위험 영역에서 개인에게 영향을 주는 조언이나 결정에는 자격을 갖춘 사람의 검토를 요구하고, 모델의 출력을 개인에게 직접 보여 줄 때는 AI를 썼다는 사실을 알리도록 요구합니다. 회사가 승인하지 않은 개인 계정에 고객이나 지원자 정보를 넣어야만 가능한 자동화도 자동화 이전에 데이터 경계 위반입니다.
이런 일은 영원히 손대지 말라는 뜻이 아닙니다. ‘현재 조건에서 맡기기 어려운 이유’를 적고, 조건을 바꿀 방법을 찾습니다. 결정은 사람이 하고 AI는 자료 정리만 맡기거나, 회사 워크스페이스를 갖춘 뒤 일부 단계만 자동화하는 식입니다.
한 장짜리 자동화 설계서
지금까지의 결정은 한 장짜리 설계서로 남깁니다. 담당자가 바뀌어도 목적과 경계를 이해할 수 있어야 합니다.
[자동화 설계서]
업무명 / 책임자 / 작성일
1. 목적: 무엇을 얼마나 줄이려 하는가 (기준선 수치 포함)
2. 시작 조건과 입력
3. 단계표: 단계별 입력·처리·출력·담당자·완료 조건
4. 위임 수준: 단계별 사다리 칸
5. 사용 자료와 허용 도구 (연결할 시스템, 열어 둘 동작)
6. 사람 검수 지점: 위치, 확인 항목, 검수자, 부재 시 처리
7. 제외 업무와 그 이유
8. 중단 조건: 무엇이 보이면 자동 실행을 멈추는가
9. 성공 기준: 다음 칸으로 넘어가는 숫자
깊이 읽기
워크플로냐 에이전트냐
Anthropic은 AI 시스템을 두 종류로 구분합니다. 워크플로는 미리 정한 경로를 따라 AI와 도구가 움직이는 시스템이고, 에이전트는 AI가 스스로 과정과 도구 사용을 결정하는 시스템입니다. 에이전트 같은 복잡한 구조는 대개 지연 시간과 비용을 대가로 성능을 얻으므로, 단순한 방법이 부족할 때만 쓰라고 권합니다. 또 단계가 분명히 나뉘는 일은 프롬프트를 연결하고 중간에 점검 관문을 두는 워크플로가 알맞다고 설명합니다.
노코드 업무 자동화에 옮기면 판단 기준은 이렇습니다. 단계 수와 순서를 미리 알 수 있으면 워크플로처럼 설계합니다. 예를 들어 ‘메일 분류 → 정보 조회 → 답장 초안’처럼 고정된 순서라면, 각 단계를 따로 실행하고 중간 결과를 확인하는 편이 오류를 찾기 쉽습니다. 반대로 몇 단계가 필요할지 미리 알 수 없는 조사나 탐색은 에이전트가 낫습니다. 다만 에이전트는 오류가 단계를 거치며 쌓일 수 있으므로, 중단 조건과 사람이 개입할 체크포인트를 함께 설계해야 합니다.
점수표의 함정
반복성·위험도·검수 비용을 1~5점으로 매겨 합산하는 점수표는 팀 회의에서 설득력이 있습니다. 그러나 세 가지 함정이 있습니다.
- 상쇄 효과: 반복성 5점이 위험도 5점을 상쇄해 위험한 단계가 상위에 오릅니다. 제외 조건을 먼저 거르는 이유입니다.
- 평가자 편차: 같은 단계를 두 사람이 평가하면 점수가 다릅니다. 점수마다 ‘3점은 하루 10~30건’처럼 기준을 적어 두면 편차가 줄어듭니다.
- 단계가 아닌 업무 단위 평가: ‘고객 응대’ 전체에 점수를 매기면 분류(저위험)와 보상 지급(고위험)이 섞여 평균이 됩니다. 점수는 반드시 단계 단위로 매깁니다.
점수표는 결정을 대신하지 않습니다. 대화를 구조화하는 도구로 쓰고, 최종 판단과 이유는 설계서에 문장으로 남깁니다.
고무도장 검수
사람 검수 지점을 두었는데도 오류가 그대로 통과하는 일이 있습니다. 검수자가 AI 결과를 대부분 맞다고 경험하면 점점 덜 꼼꼼히 보게 되고, 결국 도장만 찍는 상태가 됩니다. 이런 형식적 승인 상태를 이 책에서는 ‘고무도장 검수’라고 부르겠습니다. 원인과 대책은 다음과 같습니다.
| 원인 | 대책 |
|---|---|
| 무엇을 확인할지 정해지지 않음 | 단계의 완료 조건을 검수 체크리스트로 만든다 |
| 근거를 찾는 데 시간이 오래 걸림 | AI가 결과와 함께 근거 위치를 표시하게 한다 |
| 검수량이 너무 많음 | 위험이 낮은 단계는 표본 검수로 돌리고 고위험 단계에 시간을 모은다 |
| 오류를 잡아도 보상이 없음 | 검수자가 찾은 오류를 기록하고 개선에 반영한 사례를 공유한다 |
정기적으로 일부러 오류를 넣은 결과물을 섞어 검수자가 잡아내는지 확인하는 방법도 있습니다. 검수는 사람이 있다는 사실이 아니라 오류를 잡는 능력으로 평가해야 합니다.
실무 장면
해솔시설관리: 수리 요청 접수 정리
오피스 빌딩 열두 곳을 관리하는 ‘해솔시설관리’ 상황실은 하루 150건 안팎의 수리 요청을 받는다. 요청은 입주사 담당자가 메일, 메신저, 전화 메모로 자유롭게 보낸다. 상황실 주임 도은서는 요청을 정리해 현장 기사에게 배정하는 일을 자동화하라는 과제를 받았다.
도 주임은 먼저 업무를 다섯 단계로 쪼갰다. ① 요청 접수, ② 장소·증상·긴급도 정리, ③ 담당 기사 배정, ④ 입주사에 접수 회신, ⑤ 처리 완료 기록. 단계마다 처리 시간과 대기 시간을 재 보니 ②가 건당 4분으로 가장 길었고, ③은 상황실장이 오전에 한꺼번에 배정하느라 대기가 평균 두 시간이었다.
세 기준을 적용하기 전에 제외 조건부터 확인했다. 가스 냄새, 누전, 엘리베이터 갇힘처럼 안전과 관련된 요청은 지금도 전화로 즉시 출동하는 별도 절차가 있었다. 도 주임은 이 유형을 자동화 범위에서 빼고, AI가 이런 표현을 발견하면 정리 작업을 멈추고 상황실 전화로 알리게 하는 예외 경로만 두기로 했다.
남은 단계 중 ②는 반복이 많고, 틀려도 기사가 현장에서 바로잡을 수 있으며, 검수가 30초면 끝났다. 첫 후보로 골랐다. ③ 배정은 기사별 숙련도와 이동 거리를 따지는 판단이라 당장은 사람이 하되, AI가 정리한 표를 보고 하게 했다. ④ 회신은 입주사에 보이는 행동이라 2칸(검토용 초안)으로 시작했다.
팀원 한 명은 “기사에게 문자까지 자동으로 보내면 대기 두 시간이 사라진다”고 제안했다. 도 주임은 이 제안을 바로 받아들이지 않았다. 대기의 원인은 배정 판단이 오전에 몰리는 데 있었고, 문자를 자동으로 보내도 배정이 늦으면 대기는 그대로였다. 대신 상황실장이 오전·오후 두 번 배정하도록 절차를 바꾸는 안을 함께 올렸다.
장소가 빠진 요청은 AI가 입주사에 보완을 요청하는 문구를 만들고 주임이 확인 후 보내게 했다. 성공 기준은 ‘정리표를 수정 없이 쓴 비율 80% 이상, 잘못 배정된 건 주 2건 이하’로 정했다. 설계서의 마지막 줄에는 “안전 관련 표현을 놓친 사례가 한 건이라도 나오면 자동 정리를 멈추고 원인을 찾는다”는 중단 조건을 적었다.
글다락: 투고 원고 1차 검토
인문 출판사 ‘글다락’ 편집부에는 한 달에 원고 투고가 200편 가까이 들어온다. 편집자 세 명이 투고 메일을 열어 원고를 훑고, 출간 검토 대상으로 올릴지 정하고, 거절 회신을 보낸다. 편집장 서하늘은 “AI가 원고를 읽고 거절할 원고를 골라 회신까지 보내 주면 좋겠다”고 했다.
담당 편집자 노지후는 업무를 쪼개면서 이 요청이 세 가지 다른 일을 묶고 있다는 것을 알아챘다. 원고의 분야·분량·구성을 정리하는 일, 출간 검토 대상인지 판단하는 일, 투고자에게 회신하는 일이다. 첫째는 반복이 많고 틀려도 편집자가 바로 고칠 수 있었다. 둘째는 출판사의 안목이 걸린 판단이었고, 셋째는 외부에 보이는 행동이었다.
노 편집자는 세 가지 안을 비교했다. (가) AI가 판단과 회신까지 모두 하는 안, (나) AI가 정리와 추천만 하고 편집자가 판단·회신하는 안, (다) AI가 정리·추천을 하고, 편집자가 판단하면 AI가 회신 초안을 쓰는 안이다. (가)는 거절 회신이 잘못 나가면 되돌릴 수 없고, 한 번 거절한 저자와의 관계는 회복하기 어렵다는 이유로 버렸다. (나)는 안전하지만 회신 작성에 드는 시간이 그대로 남았다.
(다)를 골랐다. AI는 원고마다 분야, 예상 분량, 목차 구성, 출판사 기획 방향과 맞는 점과 맞지 않는 점을 한 쪽으로 정리하고, ‘검토 추천’ 또는 ‘보류 추천’을 근거와 함께 표시한다. 편집자가 판단을 내리면 AI가 회신 초안을 쓰고, 편집자가 읽고 보낸다. 원고는 투고자의 저작물이므로, 회사가 계약한 업무용 워크스페이스에서만 처리하기로 했다.
검수량도 계산했다. 한 달 200편, 정리표 검토 건당 3분이면 월 10시간이다. 세 명이 나누면 충분했다. 시작 전 기준선으로 지난달 투고 처리에 든 시간(편집자 합계 약 70시간)과 투고 후 회신까지 걸린 평균 일수(19일)를 기록했다. 두 달 뒤 처리 시간은 약 40시간으로 줄었고, 편집자들의 손이 비자 읽지 못하고 쌓여 있던 투고가 줄어 회신 평균도 8일로 줄었다. 노 편집자의 보고서 첫 줄은 “AI는 원고를 판단하지 않는다. 판단에 필요한 정리를 한다”였다.
자주 틀리는 지점
- “중요한 일부터 자동화해야 효과가 크다.” 중요한 일은 오류의 영향도 큽니다. 첫 대상은 반복이 많고 위험이 낮으며 검수가 쉬운 일입니다.
- “세 기준의 점수를 합산하면 우선순위가 나온다.” 합산하면 반복성이 위험을 가립니다. 제외 조건을 먼저 적용한 뒤 남은 후보를 비교합니다.
- “계산도 AI에게 맡기면 한 번에 끝난다.” 정해진 공식이 있는 계산은 수식이나 업무 시스템이 더 정확합니다. AI는 비정형 입력을 정리하는 데 씁니다.
- “많이 확인할수록 안전하다.” 모든 단계 승인은 승인 피로를 낳아 형식적인 확인으로 끝납니다. 영향이 큰 지점에 집중합니다.
- “승인 버튼이 있으면 검수가 된다.” 승인과 내용 확인은 다릅니다. 검수자가 근거를 보고 확인할 수 있는 시간과 자료가 있어야 합니다.
- “시범 정확도가 높으면 승인은 빼도 된다.” 정확도가 높아도 되돌릴 수 없는 오류는 한 건으로도 큰 피해가 됩니다. 위임 수준은 정확도와 되돌리기 어려운 정도를 함께 보고 정합니다.
- “도구부터 골라야 설계할 수 있다.” 단계표와 성공 기준이 먼저 있어야 도구를 비교할 기준이 생깁니다.
한눈에 정리
| 질문 | 기억할 답 |
|---|---|
| 무엇부터 하나 | 업무를 단계로 쪼개고 입력·출력·담당자·완료 조건을 적는다 |
| 시간은 어디서 새나 | 처리 시간과 대기 시간을 따로 잰다 |
| 무엇을 먼저 맡기나 | 제외 조건을 거른 뒤 반복성 높고, 위험 낮고, 검수 쉬운 단계 |
| 위험도는 어떻게 보나 | 영향 범위, 되돌리기 어려움, 발견까지 걸리는 시간 |
| 규칙이냐 AI냐 | 정해진 조건·계산은 규칙, 문맥 해석·자유 형식은 AI, 섞어서 서로 검증 |
| 얼마나 맡기나 | 정리·추천 → 초안 → 승인 후 실행 → 제한적 자동 실행, 숫자 근거로 한 칸씩 |
| 사람은 어디에 | 파괴적·되돌리기 어려운·남에게 보이는 행동, 개인에게 중대한 결정 |
| 검수는 가능한가 | 건당 시간 × 하루 건수, 근거 표시, 부재 시 처리, 대기 중 실행 금지 |
| 결과물 | 한 장짜리 자동화 설계서 |
공식 문서로 확인하기
- Anthropic — Building effective agents: 워크플로와 에이전트의 구분, 가장 단순한 해법부터 시작하라는 원칙을 읽습니다.
- Anthropic — Prompting best practices: ‘Balancing autonomy and safety’ 절에서 확인을 받아야 할 행동의 예를 확인합니다.
- Anthropic — Define success criteria and build evaluations: 성공 기준을 구체적이고 측정 가능하게 정하는 법을 읽습니다.
- OpenAI — Usage policies: 사람 검토 없는 민감 영역의 중요 결정 자동화 금지 항목을 확인합니다.
- Anthropic — Usage Policy: 고위험 사용 사례에서 요구하는 사람 검토와 AI 사용 고지를 읽습니다.
- NIST — AI Risk Management Framework: 조직의 AI 위험 관리를 위한 자발적 프레임워크와 생성형 AI 프로파일을 확인합니다.
셀프 체크
1-1. 위험도를 하나의 점수로 매기지 않고 세 가지 하위 요소로 나눠 보라고 했다. 세 요소를 쓰고, 각각 높을 때의 예를 하나씩 들어라.
1-2. 단계표에 처리 시간과 대기 시간을 따로 적어야 하는 이유를 설명하라. AI가 줄일 수 있는 쪽은 어느 것인지도 밝혀라.
1-3. 사내 우편물 접수 업무에서 ‘봉투에 적힌 부서명으로 분류하기’와 ‘동봉된 편지가 항의인지 단순 문의인지 가리기’ 중 규칙으로 처리할 단계와 AI가 맡을 단계를 고르고 이유를 써라.
1-4. 승인과 확인은 어떻게 다른가. 승인만 있고 확인이 없는 상태가 위험한 이유를 한두 문장으로 써라.
1-5. 어느 팀이 하루 90건의 결과물을 사람이 검수하려 한다. 건당 검수에 4분이 걸리고 검수자는 하루 세 시간만 쓸 수 있다. 이 계획의 문제를 계산으로 보이고, 검수 방식이나 자동화 범위를 어떻게 조정할지 한 가지 제안하라.
1-6. 다음 업무 요구를 이 장의 기능 형태(지식 공간, 커스텀 어시스턴트, 커넥터, 에이전트, 예약 작업)로 번역하라. “매주 월요일 아침, 팀 공유 드라이브의 지난주 회의록을 모아 결정 사항만 정리해 팀장에게 보여 준다.”
1-7. 한 장짜리 자동화 설계서에 반드시 들어가야 할 항목 가운데, 담당자가 바뀌었을 때 특히 중요한 두 가지를 고르고 이유를 써라.
실습 과제
실습
내 팀 업무 단계표 만들기 (50분)
- 팀에서 매주 반복되는 업무 하나를 고른다.
- 업무를 4~7단계로 나누고 단계마다 입력·처리·출력·담당자·완료 조건을 표로 적는다.
- 지난 2주 기록에서 단계별 처리 시간과 대기 시간을 대략 적는다.
- 정상 경로에서 벗어난 사례를 세 개 이상 찾아 예외 경로와 처리 방식을 적는다.
- 제외 조건을 먼저 적용한 뒤, 남은 단계마다 반복성·위험도(영향 범위·되돌리기 어려움·발견 시간)·검수 비용을 상·중·하로 평가한다.
완료 기준: 모든 단계에 다섯 칸과 처리·대기 시간이 있고, 예외 경로가 셋 이상이며, 제외한 단계에는 제외 이유가 적혀 있으면 완료다.
실습
한 장짜리 자동화 설계서 쓰기 (40분)
- 앞 실습의 단계표에서 첫 자동화 대상 단계를 하나 고른다.
- 그 단계의 위임 수준을 사다리에서 고르고, 다음 칸으로 넘어갈 근거를 숫자로 적는다.
- 사람 검수 지점의 위치, 확인 항목, 검수자, 부재 시 처리를 적고 하루 검수 시간을 계산한다.
- 중단 조건을 두 개 이상 적는다.
- 설계서를 동료 한 명에게 보여 주고, 설명 없이 이해되지 않은 부분을 고친다.
완료 기준: 설계서의 아홉 항목이 모두 채워져 있고, 하루 검수 시간 계산과 숫자로 된 성공 기준이 있으며, 동료 검토 후 고친 내용이 한 줄 이상 기록되어 있으면 완료다.