第 5 章 报告与后续整改
学习目标
- 将发现事项按照标准、现状、原因、影响这四个要素,结合依据进行撰写。
- 用证据确认原因,并提出针对组织自身可应对原因的建议。
- 依照公司规定的方法,确定发现事项的风险等级与整改期限。
- 在报告中妥善反映管理层意见、审计范围与局限性以及样本推断总体的可行性。
- 凭借符合整改类型的证据确认后续整改的完成情况,并将风险接受情况报告给相应人员。
引言
某市政府审计团队发现了 AI 信访咨询聊天机器人的问题。报告初稿的第一句话是:“聊天机器人运行存在不足,应加强管理。”主管部门读后点头认同,但三个月后情况依然毫无改变。这是因为报告既未指明不足之处是什么、为何出现不足,也未明确谁应该在何时之前完成什么整改工作。
优秀的发现事项应让读者清楚下一步该采取什么行动。它不仅展示应有状态(标准)与实际状态(现状)之间的差距,还用证据支撑造成该差距的因素(原因)以及该差距导致的后果(影响)。只有准确切中原因,审计建议才能发挥实效;只有合理估计影响,才能确定整改的紧迫程度。此外,审计工作并非在提交报告之日便宣告结束,唯有确认建议确实消除了根本原因之后,才算真正收尾。由于 AI 审计的发现事项往往直接关系到市民或客户,因此确认建议落实情况的后续跟踪阶段显得尤为重要。
本章将首先探讨发现事项的四个要素、查找原因、估计影响及确定风险等级。接着学习如何在报告中撰写建议、管理层意见、结论表述以及审计范围与局限性。最后总结后续确认的方法以及管理层选择接受风险时的应对策略。
核心概念
发现事项的四个要素
Yellow Book 要求审计人员在发现问题时,在满足审计目标所需的范围内,规划并执行审计程序,以阐明标准、现状、原因和影响(GAO 8.116)。正如前言所述,Yellow Book 是美国政府审计准则,本书借鉴了其中关于发现事项与报告的基本原理。如果您所在机构有必须遵守的国内审计规章,应以该规章为准。IIA 准则同样要求发现事项应始于标准与现状的对比,深入探寻根本原因与影响,并评估其重要性(IIA 14.3)。
| 要素 | 含义 | AI 审计示例 |
|---|---|---|
| 标准(criteria) | 应有状态。法律法规、标准、指引、预期成果 | “AI 草案在发送前须由经办员工核实事实关系”(信访处理指引) |
| 现状(condition) | 审计中确认并形成书面记录的实际状态 | 抽样的 120 件中有 18 件未经核实便已发送 |
| 原因(cause) | 导致标准与现状产生差距的因素,提出建议的依据 | 发送系统在核对栏为空时仍允许发送 |
| 影响(effect) | 差距已造成或可能造成的后果 | 18 件中有 4 件因手续费告知错误而导致再次咨询 |
并非必须同时具备这四个要素。如果审计目标仅在于核实实况,则只需阐明现状即可(GAO 8.128)。但若是要推动改进的发现事项,则绝不能缺少原因和影响。
查找原因
Yellow Book 将原因定义为导致标准与现状产生差距的因素,常见的起因包括设计不当的政策、程序或标准,执行不一致、不完整或不正确,以及管理层无法控制的外部因素(GAO 8.126)。此外,当内部控制对审计目标至关重要时,准则要求在查明原因时考虑内部控制的缺陷(8.117),并指出违反法律法规这一发现事项的根本原因可能是控制设计上的缺陷(8.129)。
查找根本原因最直接的方法是反复追问“为什么”。IIA 准则建议在查找原因时与管理层合作,因为最了解其中差距的正是实际从事该项业务的人员。
- 聊天机器人为什么会告知旧的标准金额?→ 知识文档未及时更新。
- 为什么没有更新?→ 经办人员不知道标准已修订。
- 为什么不知道?→ 没有指定负责将修订标准同步到知识文档中的责任人。
如果仅停留在“员工失误”,审计建议往往就会沦为培训或问责,而同样的事情还会发生在其他员工身上。原因应当记录为通过证据确认的实际因素,并且必须深入追查致使该失误得以发生的职责分工、业务流程、系统配置乃至合同条款。如果原因是管理层无法控制的外部因素,应如实陈述,而建议则应当针对组织自身能够采取的应对措施。
影响的估计与表述
影响体现了需要采取整改措施的理由(GAO 8.127)。在 AI 审计中,影响通常分为以下三个方面进行阐述:
- 已造成的后果:错误告知的件数、被错误驳回的申请、受阻的正常交易。
- 可能造成的后果:若内部控制维持现状,未来可能产生的损失规模。
- 受影响的人群:客户、市民或员工中具体涉及哪些人、人数有多少。
Yellow Book 要求,为了让读者能够判断发现事项的性质与严重程度,应当将确认的案例与总体或审查的件数联系起来进行说明,并尽可能以金额等形式予以量化。如果无法将结果推断至总体,则必须对结论作出相应限定(GAO 9.21)。若仅针对存在风险信号的业务进行筛选,并在 60 件中发现了 6 件错误,就不能写成“总体的 10% 存在错误”,而必须表述为“在选取的 60 件高风险业务中有 6 件存在错误”。
风险等级与优先级
IIA 准则要求根据风险发生的可能性与影响来评估各项发现事项的重要性,并按照审计负责人确定的方法确定优先级(IIA 14.3)。等级由公司的方法论决定,审计人员应当将该方法一致地应用于事实。
在评定等级时,常见的错误是因为尚未发生实际损失而调低等级。针对财务报告控制,AS 2201 阐明,控制缺陷的严重程度并不取决于错报是否已经实际发生,而是取决于该控制未能防止或发现错报的合理可能性以及潜在的严重程度(AS 2201 .63–.64)。虽然这是针对财务报告的准则,但在 AI 审计中,同样可以借鉴这一原理来判断不能仅因缺乏实际损失就调低风险等级。例如,单价表每年都在变动,但如果缺少更新 AI 所参考单价表的流程,即便本季度单价未变而未造成损失,对客户资金造成影响的合理可能性依然存在。
即使是同一种 AI 错误,根据其输出结果的应用场景不同,风险等级也会有所不同。内部会议纪要摘要的遗漏属于工作效率问题;管理层用于制定预算的统计汇总出现错误属于决策问题;而向客户告知的金额出现错误则关乎客户权益问题。
撰写建议
Yellow Book 要求建议必须合乎逻辑地承接发现事项与结论,以消除所发现缺陷的原因为主旨,并明确指出建议采取的措施(GAO 9.23)。有效的建议应当针对拥有执行权限的部门或责任人提出,做到具体明确、切实可行、具成本效益且可衡量(9.28)。IIA 准则同样要求建议或整改计划能够消除标准与现状之间的差距,将风险降低至可接受水平,并解决根本原因(IIA 14.4)。
| 不力建议 | 改进后的建议 |
|---|---|
| “应加强 AI 管理” | “信息化团队应在下月末前更改配置,使核对栏为空时无法发送,并在随后一个月内报告未经核对而发送的件数” |
| “应开展员工培训”(当原因实为系统配置时) | “信息化团队应在本季度内禁用确认界面上的批量审批功能,并通过下季度的抽样复查报告其实际效果” |
| “应停用 AI”(与原因无关的过度整改) | “信访支持科应在下个月前明确标准修订时知识文档的更新责任人与完成期限,并在更新后报告错误告知的件数” |
在建议中,最好单独针对已经遭受损失的人群提出补救措施。因为即使纠正了原因,被错误驳回的 37 件申请也不会自行恢复正常。
获取管理层意见
Yellow Book 要求审计人员获取责任人对报告中的发现事项、结论、建议以及拟采取的纠正措施的意见,并将其纳入报告中(GAO 9.50–9.51)。若该意见与发现事项不符,审计人员必须评估该意见的合理性;如不同意该意见,应在报告中说明理由;若该意见合理且有充分、适当的证据支持,则应当修改报告(9.52)。若被审计单位未提出意见或未能在合理期限内提出,审计人员可在不附带意见的情况下出具报告,并在报告中陈述该事实(9.53)。
这一原则引申出两点:被审计单位的同意并非发布报告的前提条件;同时,绝不能仅仅因为对方不同意就删减发现事项,也不能隐瞒不利意见。还需谨记的是,在审计现场调查结束后才形成的文档,并不能证明该期间之前的实际状态。IIA 准则要求,当审计人员与管理层在建议或整改计划上存在分歧时,双方应阐明立场与理由,并遵循既定流程予以解决(IIA 14.4)。
结论与鉴证的表述
结论不是发现事项的简单罗列,而是从中推导出的逻辑推论,其说服力度取决于证据的说服力以及逻辑的严谨性(GAO 9.27)。IIA 准则要求审计结论对照审计目标总结审计结果,鉴证业务的结论应包含对被审计活动的治理、风险管理与控制是否有效的评价;若运行有效,还应在结论中对此予以确认(IIA 14.5)。
在 AI 审计的结论中,尤其需要警惕扩大保证范围的措辞。如果将“审计了 7 个 AI 系统且未发现问题”改写为“公司的 AI 管理符合 ISO/IEC 42001 标准”,就会让人误以为审计人员对未经审计的系统和流程也提供了保证。ISO/IEC 42001 针对的是组织整个 AI 管理体系的要求,而非个别系统,因此仅凭对 7 个系统的审计无法对体系整体作出评价。此外,ISO 自身不开展认证,认证工作由外部认证机构负责。内部审计虽可在所审计的范围内评估是否符合标准要求,但其结论绝不能被解读为官方认证。内部审计结论的书写必须严格限定在审计的范围、标准及期间之内。
说明范围、方法与局限性
Yellow Book 要求在报告中清楚阐明所开展工作的范围与局限性,以免读者产生误解,并且必须报告诸如信息受限或记录调取被拒等重大限制(GAO 9.12)。报告需说明总体与受检项目的关系、涵盖期间、证据的种类与来源(9.13);说明证据收集与分析技术、所采用的标准;若抽样结果对结论构成重大支持,还需说明抽样设计及其原因,以及是否可推断至总体(9.14)。如果证据存在重大局限性或不确定性,应随结论一同说明(9.20);若不说明则可能误导读者的重大事实也必须予以公开(9.22)。如果内部控制对审计目标至关重要,则应将内部控制的工作范围及重大缺陷纳入报告(9.29)。
在 AI 审计中,通常需要在方法论部分说明以下内容:因日志保存期限而未能核实的时段(该局限性本身可能作为证据保存控制缺陷而单独列为一项发现事项)、审计团队所使用的 AI 分类工具及其验证结果、参与工作的外部专家及其工作范围,以及从审计范围中排除的系统及其理由。
后续确认的原则
IIA 准则要求内部审计人员按照既定方法确认管理层是否已落实建议或整改计划,其方法包括询问进展情况、开展基于风险的后续评估以及更新跟踪系统的状态。审计程序的范围应结合发现事项的重要性来确定(IIA 15.2)。Yellow Book 也要求在规划下一次审计时,确认以往建议的落实情况,并将结果运用于风险评估和后续程序中(GAO 8.30)。
管理层的“整改完成”报告只是后续确认的起点。完成报告、修订后的流程文件以及指定责任人的正式公文仅能表明控制的设计有效性,并不能作为该控制已消除原因且在一段时间内持续运行的运行有效性证据。
各整改类型的闭环证据
应当凭何种证据进行结项,取决于整改措施的性质。
| 整改类型 | 结项所需证据 | 理由 |
|---|---|---|
| 人工定期执行的新增控制(月度复查等) | 确认首次执行结果,以及在与执行频率和风险相匹配的运行期后的抽样测试 | 仅执行一次不足以有力证明其持续运行。运行期越长,证据越充分(AS 2201 .52) |
| 系统配置变更(阻止批量审批等) | 直接核查配置、进行测试输入,以及确认此后配置未被更改的变更管理记录 | 若程序变更、访问与运行的一般控制有效且持续接受测试,则可采用基准线策略(AS 2201 .B28–.B29) |
| 仅修订政策与流程文件 | 审查修订内容是否针对了原因,但不予结项并保留为“整改中”,同时排定运行测试日程 | 目前仅处于设计变更阶段 |
| 增加合同条款 | 已签署的合同文本,核实该条款是否实际得到运用(是否已收到通知) | 即便有条款,也可能未付诸运行 |
| 对已遭受损失人员的救济 | 对象名单的完整性,告知与更正记录 | 与消除根本原因分开进行独立核实 |
若整改发生延误,IIA 准则要求获取管理层的解释并予以记录,并与审计负责人进行讨论。审计负责人应判断该延误或未整改是否表明管理层接受了超出风险容忍度的风险(IIA 15.2)。
风险接受与报告
NIST AI RMF 将缓解、转移、规避和接受列为应对高优先级 AI 风险的策略,并要求制定、规划这些应对措施并形成书面记录(MANAGE 1.3)。接受风险可能是一项正当的选择,而该决定属于管理层的职责范围。
然而,如果所接受的风险超出了组织的风险偏好或容忍度,情况便有所不同。IIA 准则要求,审计负责人若判定管理层接受了此等水平的风险,应与高级管理层进行讨论;若未获解决,应向董事会(设有审计委员会的组织通常为审计委员会)通报。解决风险并非审计负责人的责任(IIA 11.5)。审计的作用在于让该项决策呈现在拥有相应权限的人士面前。若风险在容忍度之内,则可记录接受决定、依据及决策人,并结束跟踪。
深入阅读
AI发现项的影响直接触及个人
传统内部控制审计的影响往往以金额来衡量。而AI审计的影响则往往直接触及个人。被错误拒绝的贷款申请、因收到旧标准指引而未能申请的福利津贴、被误判为违规交易而遭拦截的汇款均属此类。在评估此类影响时,通常分别统计三个维度:可能受到影响的人员范围(在该期间收到该适用通知的所有人)、经确认实际受到影响的人(通过抽样或全量分析确认),以及尚可予以纠正补救的人(申请期限尚未截止的人)。
最后一个数字尤为关键。消除根本原因的审计建议虽然可以防止未来的损害,但对于已经受到影响的人,必须采取额外的措施才能予以救济。审计人员应当核查是否存在可用于查明受影响人员的留存记录,并将救济措施作为独立于根因消除的单独建议予以列明。NIST AI RMF 也要求将事故与错误通报给包括受影响人员在内的相关方,并遵循跟踪、响应与恢复程序且予以文档化(MANAGE 4.3)。如果因缺乏记录而无法确定具体对象,则该事实本身即构成日志保存控制方面的发现项。
与管理层意见不一致时
在AI审计中,与管理层意见不一致的情况屡见不鲜。“由人做最终决定,因此监督已经足够”、“供应商提供了保证,所以数据没有问题”、“目前尚未造成损失,请调低风险等级”等反驳意见,与本书前面各章所探讨的误解如出一辙。
此时审计人员应当坚守的原则是证据。如果管理层的反驳有新的证据支持,就对报告进行修改;如果没有,则在报告中如实载明其反驳意见以及不予赞同的理由。等级应当严格依据公司规定的方法评定,绝不是讨价还价的谈判对象。不过,审计人员也必须重新审视自身的证据是否充分。如果管理层的反驳指出了审计人员遗漏的事实,那么修改报告并非妥协认输,而是形成一份公正报告所必经的过程。《黄皮书》(Yellow Book)之所以指出将草案送交负责人征求意见有助于编制出公正、完整且客观的报告,原因也正在于此(GAO 9.54)。
工作场景
星光市:将单句发现项重写为四要素
“星光市”审计官室对利用AI对市民建议进行分类并分配至责任部门的系统开展了审计。初稿中的发现项仅有一句话:“AI建议分类准确率较低,亟待改进。”审计官要求将这一句话按照四要素进行重写。
首先寻找标准。市政府的建议处理指南规定“建议须在受理后3日内分配至责任部门”,而系统引入计划书则将“误分配建议比例低于5%”列为目标。现状则是,在审计团队随机抽取的200件建议中,有31件(15.5%)被误分配,其中22件重新分配平均耗时9天。由于采取的是随机抽样,审计团队决定以此比例对上季度全部6,400件建议的整体情况进行估算,并连同置信区间等抽样风险大小一并予以报告。
查明原因耗费了一番功夫。起初,“AI模型性能不足”看似是根本原因。审计团队不断深入追问“为什么”。结果发现,在误分配的31件建议中,有24件与今年3月因组织架构调整而变更了名称与职责的部门相关。系统内的部门分类表仍停留在调整前的状态,且没有任何部门被赋予将组织调整同步更新至系统的职责。因此,根本原因并非模型本身,而是缺乏将组织架构调整反映到分类表中的流程。
影响列明了三个方面:估算的误分配规模、重新分配期间延误的处理周期,以及对于超出处理期限的建议未向市民发送延迟通知这一事实。针对信息通信科提出的审计建议写为:“明确组织架构调整时分类表的更新责任与期限,并在更新后于下季度报告误分配率。”虽然曾有人提议建议重新训练模型,但因与根本原因不符而未予采纳。关于未向市民发送通知的问题,则作为单独建议下发给了政务服务部门。
甘霖能源:对三项“整改完成”的不同核实方式
管道燃气公司“甘霖能源”利用AI识别远程抄表读数的异常,以此筛选现场检查对象。针对去年的三项审计发现项,管理层均汇报为“整改完成”。然而,审计团队并未对这三项采取相同的核实方式。
第一项发现项为“现场检查人员未经核实依据便批量办结AI筛选出的对象”。对此,管理层在检查App中取消了批量办结功能,改为必须上传检查照片才能激活办结按钮。审计团队亲自核查了App的配置,并使用不会在生产数据中留下痕迹的测试账号,验证了在没有照片的情况下确实无法办结。鉴于App在程序变更、访问及运行方面的一般控制在当年已被评估为有效且持续接受测试,审计团队在确认配置后,查阅了证明配置未发生变动的变更记录并予以结项。
第二项为“对于AI从检查对象中排除的计量表中实际存在异常的情况,无人进行核实”。管理层制定了由质量团队每月抽样30个被排除的计量表进行现场核实的流程,并于上月首次执行。审计团队核实了首次执行记录,但认为单月的证据尚不足以证明该机制能够持续有效运行,因此排定了在试运行3个月后开展抽样测试的计划。该项的状态保留为“整改中(待验证运行效果)”。
第三项为“缺乏抄表异常检测模型的重新验证标准”。管理层以成本为由,决定不建立重新验证机制并维持现状。然而,公司的风险管理标准已明确将“与燃气安全相关的检查遗漏”定性为不可接受的风险。审计负责人判定该决定属于对超出容忍限度风险的接受,遂与代表理事进行了沟通;在决定未能改变的情况下,向董事会审计委员会作了汇报。对于内部有人提出的“由审计团队代为建立重新验证机制”的建议,审计团队未予采纳。因为这属于管理层的职责,若由审计团队代为建立,日后在评估自身工作时便会产生自我评价威胁。
易错点
- “原因是负责人的失误。” 若止步于失误,同样的事情就会重演。应循着证据追溯导致该失误的角色职责、流程、配置乃至合同,据此写明原因。
- “由于没有造成实际损失,因此降低等级。” 严重程度应根据控制失效的合理可能性及其影响大小来判断(AS 2201 .64)。
- “建议写得宽泛一些,管理层才能因地制宜地执行。” 有效的建议应面向有权处理的一方,且内容具体、可衡量(GAO 9.28)。
- “如果管理层不同意,就删除该审计发现。” 应评估管理层意见的合理性,若其不同意,则列明不同意的理由(GAO 9.52)。
- “将抽查样本的错误率当作总体错误率来写。” 对于无法推断总体的结果,结论应受到相应限定(GAO 9.21)。
- “既然受审系统没有问题,就可以写符合标准。” 结论只能在所审计的范围、标准和期间内表述。认证应由认证机构进行。
- “既然管理层已汇报整改完成,便予以结项。” 完成汇报只是起点。应以符合整改措施类型的证据进行核实。
- “管理层若接受了风险,审计便无事可做。” 若超出容忍限度,应与高管层讨论;若仍未解决,则通报董事会(IIA 11.5)。
要点速览
| 主题 | 核心要点 |
|---|---|
| 四要素 | 标准(应有状态)、现状(实际情况)、原因(造成差异的因素)、影响(后果)(GAO 8.124–8.127) |
| 原因 | 反复追问“为什么”,止步于可改进的控制因素。与管理层协同(IIA 14.3) |
| 影响 | 已造成的后果、可能产生的后果、受影响人员。结合总体阐述(GAO 9.21) |
| 等级 | 遵循公司方法:可能性 × 影响。依据合理可能性而非是否存在实际损失 |
| 建议 | 针对原因、面向有权方、具体·可行·可衡量(GAO 9.23, 9.28)。损害救济另行提出 |
| 管理层意见 | 予以收录;若存在分歧,在评估合理性后说明理由。取得同意并非出具报告的前提条件(GAO 9.50–9.53) |
| 结论 | 仅限在所审计的范围·标准·期间内。若切实有效,对该事实亦予认可(IIA 14.5) |
| 局限性 | 说明范围、抽样设计、推断可能性、证据局限性、所用工具及专家(GAO 9.12–9.14, 9.20) |
| 后续跟踪核实 | 基于风险开展。人工控制在运行一段期间后抽样,自动化配置则直接核实并结合变更管理 |
| 风险接受 | 超出容忍限度则报告高管层 → 董事会。解决问题并非审计的责任(IIA 11.5) |
查阅官方文档
- GAO — Government Auditing Standards 2024:审计发现(8.116–8.130)、报告内容(9.12–9.29)、责任人意见(9.50–9.54)、以往审计结果(8.30)。
- The IIA — Global Internal Audit Standards:准则 11.5(报告风险接受)、14.3(评估审计发现)、14.4(建议与行动计划)、14.5(结论)、15.2(确认整改落实)。
- PCAOB — AS 2201:缺陷的严重程度(.62–.64)、测试期间(.52)、自动化控制基线(.B28–.B29)。
- NIST AI RMF — Core:MANAGE 1.3(风险应对方式)、MANAGE 4.3(事故与错误的沟通与跟踪)。
- ISO — Certification:说明 ISO 本身并不开展认证,认证由认证机构负责。
自测
5-1. 写出审计发现的四要素,并对照《黄皮书》(Yellow Book)回答当审计目的仅为确认现状时,能否省略其余要素。
5-2. 某初稿将“经办员工未将标准变更反映在知识库文档中”写为原因。请写出需要对该原因进一步深入探究的理由,并给出一个更佳的原因表述示例。
5-3. 请对照 AS 2201 说明,在对未确认存在实际损失的控制缺陷进行定级时,应以什么为基准。
5-4. 根据《黄皮书》9.28 写出有效建议的条件,并指出“强化 AI 管理体系”这一建议不满足哪些条件。
5-5. 管理层就报告初稿中的审计发现出具了不同意的书面意见。请根据《黄皮书》9.50–9.53,按顺序写出审计团队应开展的工作。
5-6. 当管理层汇报“整改完成”的措施分别为(1)每季度执行的新人工检查、(2)系统配置变更时,分别写出结项所需的证据。
5-7. (设计)管理层以成本为由决定不落实建议。请依据 IIA 准则 11.5 与 15.2,分步设计审计负责人应当履行的程序。请分别就风险在容忍限度之内和超出容忍限度两种情形进行阐述。
实操练习
练习
撰写一项审计发现(45分钟)
- 选择前几章实操中出现的一个问题,或选择一个虚构的 AI 相关问题。
- 写出标准(含出处)、现状(含审查件数与总体)、原因(至少追问三次“为什么”的结果)、影响(已造成的后果、可能产生的后果、受影响人员)。
- 依据公司的评级标准(若无,则制作可能性 × 影响的三级表格)确定等级与整改期限。
- 撰写一条针对原因的建议;若需救济损失,则另行撰写一条建议。
完成标准: 四要素均附带证据写明,原因为可改进的控制因素,且建议中明确包含接收部门、整改措施、期限及衡量指标。
练习
制定后续跟踪核实计划(30分钟)
- 针对上述审计发现或三项虚构的审计发现,分别设定一项管理层汇报的整改措施。其中人工控制、系统配置、风险接受各占一项。
- 针对每项措施,写明结项所需证据、核实时间以及核实方法。
- 将风险接受事项与公司的风险容忍标准进行对照,并写明汇报路径(高管层、董事会)。
完成标准: 三项措施的结项证据各不相同,人工控制的核实时间体现了运行期间,且风险接受事项的汇报路径附带相关依据一并写明。