第 1 章 工作分析与自动化设计

学习目标

• 将工作流程拆成步骤，记录每一步的输入、输出、负责人和完成条件。
• 按重复性、风险和审核成本比较自动化候选项，但先应用排除条件。
• 区分可用规则处理的步骤和需要AI判断的步骤。
• 在难以撤回、对他人可见的操作和对个人有重大影响的决定之前，设置人工审核节点。
• 编写从最低委托级别起步、依据证据逐步扩大范围的设计方案。

引言

假设一家公司的行政主管接到了这样的指示：“用AI把合作方管理工作自动化。”他随即开始打听应该购买哪一种工具。几周之后，工具已经引进，却没有人使用。因为没有人曾经写清楚，合作方管理实际上由哪些步骤组成，其中哪些地方反复出现、哪些地方有风险，以及谁需要确认什么内容。工具无法接下“合作方管理”这样一整块笼统的工作。它能够接下的，是“从合作方发来的邮件中提取企业登记信息和负责人联系方式，转填到登记表中”这样一项具体的任务。另一个方向的失败也很常见：一位干劲十足的负责人试图把核查登记材料到通知开始交易的全部过程一次性交出去，结果第一周就给材料尚未备齐的企业发出了通知。这两种失败的原因是相同的：还没有确定哪些步骤要交出去、交到什么程度，就已经开始了。

本章讨论如何从业务工作本身出发设计自动化，而不是从工具出发。首先将工作拆分为步骤，并记录每一步的输入和输出。接着，依据重复性、风险和审核成本这三项标准，确定优先把哪个步骤交出去。然后确定必须由人确认的节点，并学习如何从最简单的委托程度开始，一边积累依据，一边扩大委托范围。最后，将这些决定全部留在一页设计书上。这份设计书将在第2章至第5章中持续使用。

核心概念

将工作拆分成步骤

厨师在开始做菜前，会先处理食材并按顺序摆好。自动化也是如此。把工作拆成步骤，每步记录五项内容。

务必写明完成条件。“进行总结”无法判断何时结束，“三栏全部填妥”则可以核查。审核AI执行步骤的结果时，这些完成条件可直接作为审核标准。一个步骤的输出会成为下一步的输入，因此从表中也能看出前一步缺少的信息将在后续造成什么问题。

启动条件、完成条件与交接

工作会由某个事件启动：可能是收到一封邮件，也可能是到了月末，或是有人提交申请表。这样的事件称为启动条件。把启动条件写出来，就能确定这项工作应该设为定时任务，还是响应邮件到达之类的事件，或由人每次按需要发起。

制作步骤表时，一定要标出负责人发生变化的位置，也就是工作交接的位置。在许多工作中，占用时间的并非实际处理事务的时间（处理时间），而是等待下一个人开始着手的时间（等待时间）。即使撰写报价单只需要20分钟，只要审批搁置两天，客户仍然要等待两天。这时候，就算用AI把撰写时间缩短到10分钟，客户的实际感受也几乎不会改变。分别记录处理时间和等待时间，才能分清哪些时间可以用AI缩短，哪些时间无法用AI缩短。

正常路径与异常路径

只按通常情况设计的自动化，到了实际工作现场常常会停下来。步骤表上要同时画出正常路径，也就是大多数事项会经过的路线，以及异常路径，也就是信息缺失、资料彼此冲突或已经超过期限的事项所经过的路线。

1. 从以往的记录中，收集那些偏离正常路径的案例。
2. 将案例按类型归组，并为每一类记录出现频率和造成的影响。
3. 为每一类确定处理方式：是发出补充信息的请求，还是转交给人处理，或是暂缓处理。
4. 写出让AI识别异常的信号。例如：必填栏位为空、金额超过规定标准，或出现“紧急”这样的表述。

将异常情况转交给人的标准越明确，自动化就越能持续运行。若勉强要求异常情况也自动处理，连正常路径都会变得复杂。

三项标准：重复性、风险、审核成本

按三项标准评估每个步骤，就能确定自动化顺序。

但不能直接将三个分数相加，否则极高的重复性可能掩盖重大风险。应按以下顺序处理。

1. 先应用排除条件。 未经人工审查就影响个人权利的决定，或必须将敏感资料放入未经批准账户的工作，无论得分如何，都排除在自动处理范围外。
2. 只比较剩余候选项。 每天重复几十次、出错易于纠正、一分钟就能确认完的步骤，是首选。
3. 将审核成本与原工作时间比较。 人工核查所需时间若与原工作相当，自动化几乎省不下时间。

还要记住，每季度才做一次的工作，很难收回在设计和测试上投入的时间成本。

将风险拆开来看

仅用一个“风险”栏位来评估，判断就容易过于粗略。同样一个错误，如果出现在内部草稿中，改正即可；如果已经发给客户，就无法收回。把风险拆成三个方面来看，判断会更准确。

三个因素都低的步骤，可以成为自动执行的候选项；但只要其中一项高，就需要人工批准或严格审核。也有一些自愿性指南，旨在帮助组织有条理地管理AI风险，例如美国国家标准与技术研究院（NIST）的AI风险管理框架（AI RMF）。制定公司层面的标准时，可以参考这些指南。

哪些工作用规则，哪些需要AI判断

并非每个步骤都需要生成式AI。按既定公式计算，或“金额超过50万韩元则增加审批层级”之类的分支，用电子表格公式、邮件筛选器或业务系统规则处理更准确，也更容易解释。生成式AI是概率性工具，同样的输入也可能产生略有不同的表达。

好的设计会结合两者。AI把非结构化文本填入固定栏目，之后的计算和分支交给规则。让规则成为验证AI结果的关卡，就能在错误传到下一步前将其拦下。

委托程度阶梯

“自动化”一词范围太宽。把交给AI的程度分成四级，才能具体界定范围。

Anthropic建议构建AI系统时尽可能从最简单的方案出发，仅在必要时增加复杂度。阶梯也应从低处开始。一开始就瞄准第4级，失败后很难区分是指令、资料还是执行连接出了问题。升级依据应在开始前设为明确的量化指标，避免日后凭“似乎效果不错”的感觉升级。

人工审核节点设在哪里

人工确认应放在影响较大的节点，而非每一个步骤。Anthropic列举的需要事先取得确认的操作，包括破坏性操作（如删除）、难以撤回的操作，以及其他人能够看到的操作（发送消息、更改共享系统）。在业务自动化中，还要在此基础上增加一类。

1. 破坏性操作：删除文件或记录、覆盖数据。
2. 难以撤回的操作：转账、执行退款、确认订单。
3. 对他人可见的操作：发送客户邮件、公开发布内容、向交易合作方共享资料。
4. 对个人有重大影响的决定：例如招聘、信贷、保险中，影响个人权利与机会的决定。

这里需要区分批准和核查。批准是允许“可以执行这项操作”，核查则是审查“内容是否正确”。按下按钮表示批准，并不意味着已经核查内容。审批界面上需要展示哪些信息，才能让内容核查也真正发生，将在第3章讨论。

设计能够实际审核的工作量

设置审批按钮与人能否实际完成审核，是两回事。确定审核节点后，要计算并准备以下内容。

1. 每件审核时间与每日处理量：每天200件、每件2分钟，则每天需400分钟，约6.7小时。要判断一位审核者在兼顾其他工作时能否承担。
2. 提供给审核者的依据：避免要求审核人员重新通读原文，要求AI在结果旁单独标出关键数字、依据位置和不确定部分。
3. 缺席时的替代路径：确定审核者休假时由谁接手，无人可接手时是否停止执行。
4. 等待审核时的行为：确保等待审核期间，结果不会自动发出。

若计算后发现人无法承担，应缩小自动化范围到可审核的数量，或将低风险步骤改为抽样审核，把审核时间集中到高风险步骤，而不是取消审核节点。

将业务需求转换为功能组合

完成步骤表后，为各步骤选择所需的功能形态。先考虑形态而非产品名称，工具变更后设计仍然适用。

一项工作通常会结合多种形态。但每增加一种，连接权限、共享范围和审核节点也会增加。去掉不需要的形态，也是设计的一部分。

不应自动化的事

OpenAI的使用政策禁止在就业、金融与信贷、保险、住房、教育、法律、医疗等敏感领域，未经人工审查就自动作出重要决定。Anthropic的使用政策也要求，在这类高风险领域，对个人有影响的建议或决定，必须由具备相应资质的人进行审查；如果直接向个人展示模型输出，还必须告知使用了AI。另一类情况是，必须把客户或求职者信息输入公司未批准的个人账户，才能实现的自动化。这在讨论自动化之前，就已经违反了数据边界。

这并不是说永远都不能处理此类工作。应当写清“在当前条件下难以交给AI的原因”，并寻找改变这些条件的方法。例如，决定由人来作，AI只负责整理资料；或者先建立公司的工作区，再对其中一部分步骤进行自动化。

一页自动化设计书

将上述决定留在一页设计书中。即使负责人更换，也应能理解目标和边界。

[自动化设计书]
工作名称 / 负责人 / 编写日期
1. 目标：要减少什么、减少多少（含基线数值）
2. 启动条件与输入
3. 步骤表：各步骤的输入、处理、输出、负责人、完成条件
4. 委托程度：各步骤对应的阶梯级别
5. 使用资料与允许工具（连接系统、开放操作）
6. 人工审核节点：位置、核查项、审核者、缺席时处理
7. 排除工作及其理由
8. 停止条件：出现什么情况就停止自动执行
9. 成功标准：升到下一级所依据的数字

深入阅读

工作流还是智能体

Anthropic把AI系统分为两类。工作流是AI与工具按照事先设定的路径运行的系统；智能体则是AI自主决定处理过程及工具使用方式的系统。智能体等复杂结构，通常以增加延迟和成本为代价换取性能，因此Anthropic建议，只在简单方法无法满足需要时才采用。它还说明，对于能够明确划分步骤的工作，适合采用把提示词串联起来、并在中间设置检查关卡的工作流。

将这一思路用于无代码业务自动化，判断标准如下：如果事先能够知道步骤的数量和顺序，就按工作流的方式设计。例如，“邮件分类→信息查询→回复草稿”这样顺序固定的任务，分别执行各个步骤，并确认中间结果，更容易找到错误。相反，对于事先无法知道需要多少步骤的调查或探索，智能体更合适。不过，智能体的错误可能随着步骤推进而累积，因此必须同时设计停止条件，以及由人介入的检查点。

评分表的陷阱

将重复性、风险和审核成本分别打1～5分再相加的评分表，在团队会议中很有说服力，但有三个陷阱。

1. 抵消效应：重复性5分抵消风险5分，使危险步骤排在前列。这正是应先排除不符合条件的步骤的原因。
2. 评分者差异：两人评价同一步骤，分数可能不同。为每个分值写明标准，例如“3分代表每天10～30件”，可减少差异。
3. 按整项工作而非步骤评分：给“客户服务”整体打分，会把分类（低风险）和赔付（高风险）混为平均值。务必按步骤评分。

评分表不能代替决定。它是组织讨论的工具，最终判断和理由仍要用文字留在设计书中。

走过场的审核

即使设置了人工审核节点，错误仍有可能原样通过。当审核者反复体验到AI结果大多数时候都正确，就会渐渐不再仔细检查，最后变成只盖章的状态。本书将这种形式化的批准称为“走过场的审核”。其原因和应对方法如下。

还可以定期在结果中混入一些故意放入错误的成果，确认审核者能否将它们找出来。评价审核时，应看它发现错误的能力，而不能仅看是否有人参与。

工作场景

海松设施管理：整理维修请求

“海松设施管理”负责管理十二座办公楼，其调度室每天收到150件左右的维修请求。租户负责人通过邮件、即时消息和电话备忘等方式，自由提交请求。调度室都主任接到了一项任务：把整理请求并分派给现场技师的工作自动化。

都主任首先将工作拆成五步：①接收请求，②整理地点、症状和紧急程度，③分派负责技师，④向租户回复已受理，⑤记录处理完成情况。她测量了每个步骤的处理时间和等待时间，发现②的处理时间最长，每件需要4分钟；③则因为调度室长集中在上午一次性分派，平均要等待两小时。

在应用三项标准之前，她先检查了排除条件。对于燃气异味、漏电、电梯困人等涉及安全的请求，本来就有接到电话后立即出勤的独立流程。都主任决定把这类请求排除在自动化范围之外，只为其设置异常路径：AI一旦发现这些表述，就停止整理工作，通过调度室电话发出通知。

在剩下的步骤中，②重复次数多，即使出错，技师也能在现场纠正，审核只需30秒即可完成。因此，她把②选为首个候选步骤。③的分派需要判断每名技师的熟练程度及移动距离，暂时仍由人负责，但让人参考AI整理的表格来判断。④的回复是租户能够看到的操作，因此从第2级（待审核草稿）开始。

一位团队成员提议：“如果连发给技师的短信也自动发送，那两小时的等待就消失了。”都主任没有立即接受这个建议。等待的原因在于分派判断集中在上午；即便短信自动发送，只要分派本身仍然滞后，等待就依然存在。她转而一并提交了另一项方案：修改流程，让调度室长在上午、下午各分派一次。

对于缺少地点的请求，让AI起草向租户要求补充信息的文字，都主任核查后再发送。成功标准定为“整理表无需修改即可使用的比例达到80%以上，每周错误分派的事项不超过2件”。她在设计书的最后一行写下停止条件：“只要出现一件漏识安全相关表述的案例，就停止自动整理，并寻找原因。”

文阁：投稿稿件初审

人文出版社“文阁”的编辑部，每月收到近200篇投稿。三位编辑要打开投稿邮件，浏览稿件，确定是否将其列为出版评审对象，并发送退稿回复。主编徐编辑说：“希望能让AI读稿，挑出要拒绝的稿件，连回复也一起发出去。”

负责这项工作的卢编辑在拆分工作时，发现这个要求把三件不同的事捆在了一起：整理稿件的领域、篇幅和结构，判断是否应列为出版评审对象，以及回复投稿人。第一件事重复次数多，即使出错，编辑也能立即改正。第二件事涉及出版社选稿眼光的判断，第三件事则是对外可见的操作。

卢编辑比较了三个方案：（甲）判断和回复全部由AI完成；（乙）AI只做整理和推荐，由编辑判断并回复；（丙）AI整理和推荐，编辑判断之后，再由AI起草回复。她放弃了甲案，因为错误的退稿回复一旦发出就无法撤回，而与已经被拒绝一次的作者之间的关系，也很难恢复。乙案虽然安全，撰写回复所需的时间却完全没有减少。

她选择了丙案。AI针对每篇稿件，将领域、预计篇幅、目录结构、符合出版社策划方向的方面和不符合的方面整理成一页，并附上依据，标明“建议评审”或“建议暂缓”。编辑作出判断后，AI起草回复，再由编辑阅读并发送。稿件属于投稿人的作品，因此她决定只在公司签约的业务工作区中处理。

她还计算了审核工作量：每月200篇，每篇整理表需要审核3分钟，合计每月10小时。由三位编辑分担，完全能够承担。开始前，她记录了上个月处理投稿所花的时间（编辑合计约70小时），以及从投稿到回复的平均天数（19天），作为基线。两个月后，处理时间降至约40小时；编辑们腾出手来，积压未读的投稿减少了，平均回复时间也缩短为8天。卢编辑报告的第一行是：“AI不对稿件作判断。它整理作出判断所需的材料。”

易错点

1. “先自动化重要工作，才会有更大效果。” 重要的工作，出错后的影响也大。首个自动化对象应是重复次数多、风险低，而且容易审核的工作。
2. “把三项标准的分数相加，就能得到优先级。” 直接相加，会让重复性掩盖风险。应先应用排除条件，再比较剩下的候选项。
3. “把计算也交给AI，就能一次性完成。” 对于有固定公式的计算，电子表格公式或业务系统更准确。AI应用来整理非结构化输入。
4. “确认得越多，就越安全。” 每个步骤都审批，会产生审批疲劳，最终只有形式上的确认。应把确认集中在影响大的节点。
5. “有批准按钮，就能完成审核。” 批准与核查内容是两回事。审核者必须有查看依据、确认内容所需要的时间和资料。
6. “试点准确率高，就可以取消审批。” 即使准确率很高，只要发生一件无法撤回的错误，也可能造成重大损失。确定委托程度时，必须同时考虑准确率和撤回的难度。
7. “先选好工具，才能进行设计。” 先有步骤表和成功标准，才会有比较工具的依据。

要点速览

查阅官方文档

• Anthropic — Building effective agents：阅读工作流与智能体的区别，以及从最简单方案开始的原则。
• Anthropic — Prompting best practices：在“Balancing autonomy and safety”一节确认需要批准的操作示例。
• Anthropic — Define success criteria and build evaluations：阅读如何设定具体、可测量的成功标准。
• OpenAI — Usage policies：确认禁止在敏感领域未经人工审查自动作出重要决定的规定。
• Anthropic — Usage Policy：阅读高风险用例要求的人工审查和AI使用告知。
• NIST — AI Risk Management Framework：确认用于组织AI风险管理的自愿性框架与生成式AI配置文件。

自测

1-1. 本章提出，不应只用一个分数评估风险，而应拆成三个子因素。请写出这三个因素，并为每个因素分别举出一个程度较高时的例子。

1-2. 请解释，为什么步骤表中应分别记录处理时间和等待时间，并指出AI能够缩短的是哪一种时间。

1-3. 在公司内部的邮件收件工作中，有“按信封上写的部门名称分类”和“判断随附的信件是投诉还是一般咨询”两个步骤。请选择哪一步用规则处理、哪一步交给AI，并写出理由。

1-4. 批准与核查有什么不同？请用一两句话说明，只有批准却没有内容核查，为什么会有危险。

1-5. 某个团队准备由人审核每天90件成果，每件审核需要4分钟，而审核者每天只能投入3小时。请通过计算说明这一计划的问题，并就如何调整审核方式或自动化范围，提出一种方案。

1-6. 请将以下业务需求，转换为本章介绍的功能形态（知识空间、自定义助手、连接器、智能体、定时任务）：“每周一早晨，收集团队共享云盘中上一周的会议纪要，只整理其中的决议，交给团队负责人查看。”

1-7. 请从一页自动化设计书必须包含的项目中，选出在负责人更换时尤其重要的两项，并说明理由。

实操练习