5장. 도입 가치와 조직 관점

학습 목표

• 구독형 과금과 토큰 과금의 차이를 설명하고, 과금표의 단위를 읽어 용도에 맞게 고른다.
• 단가가 아니라 준비·검수·재작업을 포함한 총비용과 총시간으로 비교한다.
• 업무 사례를 효과와 위험으로 분류해 첫 도입 대상을 고른다.
• 기준선과 측정 가능한 지표로 도입 효과를 제시하고, 사용량 지표의 함정을 피한다.
• 파일럿의 순서와 확대·수정·중단 기준, 조직의 거버넌스 틀을 설명한다.

들어가며

가구 제작 공방을 운영하는 탁 대표는 지난봄 전 직원 열두 명에게 AI 유료 구독을 사 주었습니다. 석 달 뒤 회계 담당자가 물었습니다. "매달 나가는 이 비용으로 무엇이 좋아졌나요?" 탁 대표는 대답하지 못했습니다. 직원들은 "편해졌다"고 했지만, 무엇이 얼마나 빨라졌는지, 실수가 줄었는지 아는 사람이 없었습니다. 열두 명 가운데 매주 쓰는 사람은 네 명이었습니다. 회계 담당자는 구독을 모두 해지하자고 했고, 자주 쓰는 직원들은 오히려 더 비싼 플랜이 필요하다고 했습니다. 어느 쪽이 맞는지 가릴 숫자가 없었습니다.

문제는 AI가 쓸모없었다는 것이 아닙니다. 어떤 일에 쓸지 고르지 않았고, 도입 전 상태를 재지 않았으며, 무엇을 성공으로 볼지 정하지 않았다는 데 있습니다. 그러니 계속할지, 늘릴지, 그만둘지 판단할 근거가 없었습니다.

이 장은 AI 도입을 판단하는 관리자의 눈을 다룹니다. 먼저 비용 구조(구독형과 토큰 과금, 총비용)를 이해하고, 어떤 업무부터 시작할지 고르는 기준을 봅니다. 이어서 효과를 숫자로 보여 줄 지표와 기준선, 파일럿을 설계하고 결론 내리는 방법, 조직 차원의 운영 틀을 다룹니다. 이 내용은 관리자뿐 아니라 자기 팀에 AI 도입을 제안하려는 실무자에게도 필요하며, AI 활용 역량의 위임과 성실을 조직 단위로 넓힌 것입니다.

핵심 개념

구독형 과금과 토큰 과금: 정액 요금제와 전기 요금

AI 비용은 크게 두 방식입니다.

사람이 매일 문서 작업에 쓰는 도구는 구독형이 예측하기 쉽고, 시스템이 대량으로 자동 처리하는 일은 토큰 과금이 맞는 경우가 많습니다. 두 체계는 서로 다른 지갑이라는 점도 기억하세요. OpenAI는 구독에 포함된 사용량과 별개로 API 사용은 API의 가격 규칙을 따르고, 자기 API 키로 쓰면 API 가격이 적용된다고 안내합니다.

과금표를 읽을 때 확인할 단위

과금표를 비교할 때는 같은 단위로 맞춰야 합니다. 다음 항목을 확인하세요.

두 가지를 덧붙입니다. 첫째, 구독형이 모든 기능의 무제한 사용을 뜻하지는 않습니다. 대부분의 플랜은 기능별 사용 한도를 둡니다. 둘째, 토큰 과금에서도 단가는 하나가 아닙니다. OpenAI는 입력, 캐시된 입력, 출력 토큰의 가격이 다를 수 있다고 안내하고, 즉시 응답이 필요 없는 일괄 작업은 일반 호출보다 50% 저렴하게 처리하는 방식을 제공합니다. 정확한 가격은 자주 바뀌므로 의사결정 직전에 공식 가격 페이지에서 다시 확인합니다.

단가가 아니라 총비용

OpenAI는 100만 토큰당 가격이 낮다고 총비용이 반드시 낮은 것은 아니라고 설명합니다. 모델마다 같은 글을 다른 개수의 토큰으로 자르고, 출력과 추론 토큰(1장에서 본, 답하기 전에 속으로 쓰고 출력으로 과금되는 토큰)을 만드는 양도 다르기 때문입니다. 그래서 화면에 보이는 답의 길이가 아니라, 우리 업무의 대표 작업을 직접 돌려 본 결과로 비교하라고 안내합니다.

여기에 사람의 비용이 더해집니다. AI 도입의 총비용은 이용료만이 아닙니다.

1. 준비 비용: 자료 정리, 지시문과 템플릿 작성, 점검 사례 만들기
2. 교육 비용: 직원 교육, 사용 가이드 작성
3. 운영 비용: 관리자 설정, 권한 관리, 정책 갱신
4. 검수 비용: 결과를 확인하고 고치는 시간
5. 재작업 비용: 쓸 수 없는 결과를 처음부터 다시 하는 시간

이용료가 싼 도구도 검수와 재작업이 많으면 비싼 도구가 됩니다. 간단히 쓰면 '총비용 = 이용료 + 준비·교육·운영 비용 + (검수 시간 + 재작업 시간) × 시간당 인건비'입니다.

사용 사례 선정 기준: 직무가 아니라 업무의 한 단계

"영업에 AI를 도입하자"는 목표는 너무 커서 검증할 수 없습니다. 직무 전체가 아니라 업무의 한 단계를 고릅니다. 영업이라면 자료 수집, 제안서 초안 작성, 고객 질문 답변 초안, 계약 조건 검토처럼 단계를 나누고, 그중 하나를 첫 대상으로 정합니다.

좋은 첫 후보는 다음 조건을 갖춥니다.

시연에서 눈에 띄는 일보다, 매주 반복되고 사람이 쉽게 확인할 수 있는 일에서 가치가 꾸준히 쌓입니다.

효과와 위험으로 분류하기

후보 업무를 효과(절감 시간, 품질 향상)와 위험으로 나누면 우선순위가 보입니다.

위험은 한 숫자가 아니라 네 요소의 조합으로 봅니다.

1. 오류 가능성: 이 일에서 AI가 얼마나 자주 틀리는가
2. 피해 규모: 한 번 틀리면 얼마나 큰 피해가 나는가
3. 발견 난이도: 틀린 것을 사람이 쉽게 알아챌 수 있는가
4. 되돌림 가능성: 틀린 결과를 되돌릴 수 있는가

자주 틀리지만 바로 보이고 쉽게 고치는 일은 위험이 낮을 수 있고, 드물게 틀려도 틀린 것을 찾기 어렵고 외부로 나가 되돌릴 수 없는 일은 위험이 높습니다. '효과 큼·위험 낮음' 칸에는 보통 회의록 정리, 내부 문의 분류, 초안 작성이 들어갑니다. 4장에서 본 고위험 영역의 결정은 효과가 커도 사람의 검토 절차를 먼저 설계해야 하는 칸입니다.

AI 없이 해결하는 방법과 비교하기

모든 문제의 답이 AI는 아닙니다. 문서 서식이 제각각이라 시간이 걸린다면 표준 양식 하나로 해결될 수 있고, 같은 질문이 반복된다면 잘 정리한 안내 페이지가 먼저일 수 있습니다. 도입을 검토할 때는 비교 대상에 'AI 없이 개선하는 방법'을 넣으세요. 기존 양식 개선, 일반 검색과 계산 도구, 업무 규칙 정리로 풀리는 부분을 빼고 나서도 남는 가치가 AI의 진짜 몫입니다. Anthropic이 에이전트 설계에서 가능한 가장 단순한 해법부터 찾으라고 권하는 것도 같은 원리입니다.

좋은 도입 효과 지표의 네 조건

Anthropic은 좋은 성공 기준을 네 가지 조건으로 설명합니다.

• 구체적: '좋은 성과'가 아니라 '정확한 문의 분류'처럼 무엇을 이룰지 밝힙니다.
• 측정 가능: 숫자나, 일관되게 적용하는 평가 척도를 씁니다.
• 달성 가능: 업계 기준, 이전 실험, 전문가 지식에 비춰 현실적인 목표를 잡습니다.
• 관련성: 업무의 목적과 사용자 요구에 맞는 지표를 고릅니다.

Anthropic은 대부분의 경우 기준이 하나가 아니라 여러 차원이어야 한다고도 설명합니다. 처리 시간만 재면 품질이 떨어진 것을 놓치고, 품질만 재면 비용이 늘어난 것을 놓칩니다. 도입 효과는 시간과 품질을 짝으로 재는 것이 기본입니다.

기준선과 측정 설계

기준선은 도입 전에 잰 같은 지표의 값입니다. 기준선이 없으면 "좋아졌다"를 증명할 수 없습니다. OpenAI도 프롬프트 개선 단계에서 만든 평가 세트를 이후 비교의 기준선으로 삼으라고 권합니다. 측정을 설계할 때 정할 것은 다음과 같습니다.

1. 무엇을 재는가: 지표의 정의와 분모(건당인지, 하루당인지)
2. 언제, 얼마나 재는가: 도입 전과 후의 기간, 같은 계절과 업무량
3. 어떤 표본인가: 비슷한 난이도의 업무, 쉬운 일만 골라 재지 않기
4. 품질은 누가 어떻게 판정하는가: 같은 기준표, 같은 판정자
5. 예외는 어떻게 기록하는가: 실패 사례와 사람이 다시 한 사례를 따로 남기기

지표의 종류와 함정

자주 빠지는 함정이 세 가지 있습니다.

• 사용량을 성과로 착각하기: 로그인 수나 질문 수가 늘었다는 것은 관심의 지표일 뿐 가치의 증거가 아닙니다.
• 생성 시간만 재기: 초안이 1분 만에 나와도 검수와 수정에 오래 걸리면 업무는 빨라지지 않습니다. 자료 준비부터 승인과 전달까지 완료까지의 총시간을 잽니다. 쓸 수 없어 처음부터 다시 한 건의 시간도 포함합니다.
• 시간 절약을 곧 비용 절감으로 계산하기: 직원의 시간이 줄었다고 지출이 줄어드는 것은 아닙니다. 줄어든 시간은 '확보한 업무 여력'이며, 그 여력을 무엇에 썼는지(더 많은 건 처리, 외주 감소, 새 업무)를 따로 보여 줘야 실제 가치가 됩니다. 같은 편익을 두 번 세지 않도록 주의합니다.

파일럿의 순서와 확대·수정·중단 기준

파일럿은 작은 범위에서 먼저 시험 운영해 보는 것입니다. 도입 효과를 확인하는 흐름은 다음 순서를 따릅니다. 각 단계가 앞 단계의 결과를 입력으로 쓰므로 순서를 바꾸기 어렵습니다.

1. 후보 업무를 모읍니다.
2. 효과와 위험으로 우선순위를 정해 첫 대상을 고릅니다.
3. 성공 기준과 중단 조건을 미리 정합니다.
4. 고른 업무의 현재 값을 재서 기준선을 만듭니다.
5. 소규모 파일럿을 운영하며 같은 방식으로 다시 잽니다.
6. 두 값을 비교해 확대, 수정, 중단을 결정합니다.

결정 기준은 파일럿을 시작하기 전에 정해 둡니다. 시작한 뒤에 정하면 들인 노력 때문에 결과를 좋게 해석하기 쉽습니다.

작은 파일럿의 결과를 조직 전체에 그대로 일반화하지 마세요. 열성적인 소수가 낸 결과는 모든 사람에게 같은 효과로 이어지지 않을 수 있습니다.

조직 관점: 거버넌스와 역량

AI 도입이 개인의 요령을 넘어 조직의 일이 되면 운영 틀이 필요합니다. 미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크(AI RMF 1.0)는 자발적으로 쓰는 틀이며, 핵심을 네 기능으로 나눕니다.

NIST는 2024년에 생성형 AI에 특화된 위험을 다루는 생성형 AI 프로파일(NIST AI 600-1)도 냈습니다. 작은 조직이라도 이 네 기능을 한 쪽짜리 표로 채워 보면 빠진 곳이 보입니다. 특히 회사가 모르는 사이에 쓰이는 AI 도구(흔히 섀도 AI라고 부릅니다)가 있다면, 측정이나 대응보다 현황 파악이 먼저입니다.

사람의 역량도 운영 틀의 일부입니다. 이 책의 사용법에서 소개한 AI 활용 역량의 네 가지(위임, 설명, 분별, 성실)는 교육 과정을 설계하는 기준으로도 쓸 수 있습니다. 무엇을 AI에 맡길지 정하는 법, 잘 지시하는 법, 결과를 평가하는 법, 책임 있게 쓰는 법을 고르게 가르쳐야 도입이 소수의 요령에 머물지 않습니다.

깊이 읽기

도입했는데 아무도 쓰지 않는다면

라이선스를 배포했는데 쓰는 사람이 적다면, 원인은 대개 도구가 아니라 '어떻게 내 일에 쓰는지 모름'에 있습니다. 이때 라이선스를 더 사거나 사용을 강제하는 것은 효과가 적습니다. 다음이 더 효과적입니다.

1. 업무별 사용 예를 보여 줍니다. 일반적인 기능 소개보다 "우리 팀의 주간 보고를 이렇게 줄였다"는 구체적 사례가 사람을 움직입니다.
2. 검증된 템플릿을 공유합니다. 2장에서 만든 템플릿과 점검 사례를 팀 자산으로 나눕니다.
3. 부서별 도우미를 둡니다. 먼저 익숙해진 사람이 동료의 질문을 받는 창구가 됩니다.
4. 두려움을 다룹니다. 일자리 걱정이 사용을 막기도 합니다. 반복 작업을 덜어 판단과 고객 응대에 시간을 쓰게 하려는 목적이고, 결과의 책임은 사람에게 남는다는 점을 분명히 합니다.

사용률은 정착 정도를 보는 보조 지표로 유용하지만, 도입의 목표가 되어서는 안 됩니다.

한 공급사에 묶이지 않기

조직의 업무 흐름 전체를 한 회사의 한 제품, 한 기능에 깊이 맞춰 두면, 그 제품의 가격, 기능, 정책이 바뀔 때 함께 흔들립니다. 이를 공급사 종속이라고 합니다. 3장에서 본 것처럼 제품 이름과 형태는 몇 달 사이에도 바뀝니다.

완전히 피할 수는 없지만 충격을 줄이는 방법은 있습니다. 지시문과 점검 사례를 제품 밖의 문서로 보관하고, 업무 자료의 원본은 회사 시스템에 두고 AI에는 연결하거나 사본을 넣으며, 중요한 업무는 대표 사례로 다른 제품에서도 돌려 볼 수 있게 해 둡니다. 결과물과 대화를 내보낼 수 있는지도 도입 전에 확인할 항목입니다.

실무 장면

새김인쇄의 견적 회신 파일럿

상업 인쇄소 '새김인쇄'의 정 실장은 대표에게서 "AI 도입하면 뭐가 좋아지는지 숫자로 보여 달라"는 요청을 받았다.

정 실장은 먼저 직원들에게 반복 업무를 물어 후보 여섯 개를 모았다. 그중 '견적 문의 메일 회신 초안'은 하루 30건 이상 들어오고, 담당자가 초안을 보고 고칠 수 있어 효과는 크고 위험은 낮았다. '거래처 신용 평가'는 효과는 컸지만 틀리면 거래에 큰 영향을 주어 위험이 높았다. 정 실장은 견적 회신을 첫 대상으로 고르고, 성공 기준(건당 완료 시간 30% 이상 단축, 재문의율 상승 없음)과 중단 조건(가격이 틀린 회신이 고객에게 한 건이라도 나감)을 먼저 정했다.

도입 전 2주 동안 견적 회신의 건당 완료 시간과, 고객이 같은 내용을 다시 문의한 비율을 쟀다. 평균 12분, 재문의율 18%였다. 이어 직원 3명이 4주 동안 AI 초안을 써 보게 했다. 처음에는 초안 생성 시간만 재자는 의견이 있었지만, 정 실장은 초안을 검토하고 고치는 시간까지 넣은 완료 시간으로 쟀다. 평균 7분, 재문의율 15%였다. 쓸 수 없어 처음부터 다시 쓴 초안은 전체의 5%였고, 이 시간도 평균에 포함했다.

비용은 이렇게 따졌다. 직원들이 화면에서 직접 쓰는 일이므로 좌석당 구독형을 택했고, 3명분 월 구독료와 확보한 시간(건당 5분 × 월 600건 = 월 50시간)을 나란히 놓았다. 정 실장은 50시간을 곧바로 인건비 절감으로 적지 않고, "확보한 50시간 중 30시간은 신규 거래처 상담에, 20시간은 밀려 있던 재고 정리에 썼다"는 사용처를 함께 보고했다. 보고서는 "직원 만족도가 높았다"가 아니라 "건당 5분 단축, 재문의율 3%포인트 개선, 중단 조건 발생 없음"으로 시작했다. 대표는 견적 회신을 확대하고, 거래처 신용 평가는 사람의 검토 절차를 설계한 뒤 다시 검토하기로 했다.

나눔다리의 첫 도입 업무 고르기

지역 비영리단체 '나눔다리'는 상근자 다섯 명이 후원자 3천 명을 관리한다. 사무국장은 AI를 써 보고 싶은 업무 세 가지를 놓고 어디서 시작할지 고민했다. 공개 행사 안내문 작성, 내부 회의록 정리, 후원자 한 명 한 명에게 보내는 개인화 감사 메시지 발송이다.

사무국장은 세 업무를 같은 표에 놓았다.

감사 메시지가 효과는 가장 커 보였지만, 후원자 개인정보를 다루고 수천 명에게 직접 나가는 일이라 틀리면 되돌릴 수 없었다. 이사 한 명은 "가장 효과가 큰 일부터 해야 성과가 보인다"고 했지만, 사무국장은 위험이 높은 일은 통제 장치가 먼저라는 이유로 보류했다. 행사 안내문은 위험은 낮지만 빈도가 낮아 효과를 증명하기 어려웠다. 회의록 정리는 자주 반복되고, 사람이 쉽게 확인할 수 있으며, 단체가 승인한 기업용 환경에서 다룰 수 있었다.

사무국장은 회의록 정리를 첫 대상으로 정하고, 기준선으로 지난 한 달간 회의록 작성에 든 시간과, 회의 뒤 "그때 뭘 정했죠?"라는 확인 문의 횟수를 기록했다. 감사 메시지는 개인정보를 빼고 문안 틀만 AI로 만들고 이름과 내역은 사람이 넣는 방식으로, 다음 분기에 다시 검토하기로 했다.

자주 틀리는 지점

1. "단가가 싸면 총비용도 싸다." 토큰을 자르는 방식과 출력·추론 토큰의 양이 모델마다 달라 총비용은 다를 수 있습니다. 검수와 재작업 시간도 비용입니다.
2. "구독료를 냈으니 API도 그 안에서 쓸 수 있다." 채팅 제품의 구독과 API 사용은 서로 다른 가격 규칙을 따릅니다.
3. "많이 쓰면 성공이다." 사용량은 관심의 지표일 뿐 가치의 증거가 아닙니다.
4. "초안이 빨리 나오니 업무가 빨라졌다." 생성 시간이 아니라 검수와 재작업을 포함한 완료까지의 총시간으로 판단합니다.
5. "절약한 시간만큼 비용이 줄었다." 시간 절약은 업무 여력이며, 그 여력의 사용처를 보여 줘야 실제 가치가 됩니다.
6. "일단 도입하고 나중에 잰다." 도입 전 기준선이 없으면 효과를 증명할 방법이 사라집니다.
7. "가장 효과가 큰 일부터." 효과가 커도 위험이 높으면 통제 장치가 먼저입니다. 첫 사례는 효과가 크고 위험이 낮은 곳에서 고릅니다.
8. "중단 기준은 결과를 보고 정한다." 기준은 시작 전에 정해야 들인 노력에 끌려가지 않습니다.

한눈에 정리

공식 문서로 확인하기

• OpenAI — Understanding and counting tokens: 토큰 종류별 가격, '단가보다 총비용'.
• OpenAI — ChatGPT Work and Codex: 구독 사용량과 API 가격 규칙의 구분.
• OpenAI — Batch API: 급하지 않은 대량 작업의 할인과 처리 시간.
• Anthropic — Define success criteria and build evaluations: 성공 기준의 네 조건, 여러 차원의 기준.
• NIST — AI Risk Management Framework: AI RMF 1.0과 생성형 AI 프로파일 개요.
• NIST — AI RMF Core: 네 기능의 설명.
• Anthropic — The AI Fluency Framework: 위임, 설명, 분별, 성실의 정의.

셀프 체크

5-1. 구독형 과금과 토큰 과금을 일상의 비유로 설명하고, 각각 어떤 용도에 유리한지 쓰라.

5-2. 좋은 도입 효과 지표의 네 가지 조건을 쓰라.

5-3. 기준선 없이 도입 효과를 보고하면 어떤 문제가 생기는지 두 가지를 쓰라.

5-4. 업무의 위험을 판단할 때 함께 보는 네 가지 요소를 쓰고, '자주 틀리지만 위험이 낮을 수 있는 일'의 조건을 설명하라.

5-5. "AI로 직원들이 한 달에 40시간을 아꼈으니 인건비 40시간분이 절감되었다"는 보고의 문제를 지적하고, 어떻게 고쳐 보고해야 하는지 쓰라.

5-6. 도입 석 달 뒤 보고서에 '주간 활성 사용자 수'와 '총 질문 수'만 들어 있다. 이 보고서로 판단할 수 없는 것은 무엇이며, 어떤 지표를 더해야 하는가?

5-7. 자기 팀의 업무 하나를 골라 한 쪽짜리 파일럿 계획을 설계하라. 대상 업무 단계, 기준선, 시간과 품질 지표, 기간, 확대·수정·중단 조건이 모두 들어가야 한다.

실습 과제