第 2 章 评估、面试与自动化决策

学习目标

• 界定韩国《个人信息保护法》中的“自动化决定”，并区分完全自动化决定与经人工实质性审查的决定。
• 区分拒绝权、说明与审查要求权、标准与程序公开义务的构成要件及例外情况，为各类招聘环节选定所需程序。
• 设计在法定期限内处理应聘者拒绝、说明与审查要求的流程。
• 编写用于核实 AI 面试及评估工具效度与可解释性的提问清单，并为残疾应聘者提供合理便利。
• 阐述韩国《人工智能基本法》中的高影响领域（招聘）及经营者职责，梳理向供应商核实的事项。
• 设计审查方式，确保人工审查不流于形式。

引言

假设在某次公开招聘中，AI 胜任力测评自动淘汰了后 40% 的应聘者。次日，人事团队收到了一封来自被淘汰应聘者的邮件：“请告诉我，我为什么落选了？”人事团队在三种回复方案前陷入纠结：第一种，以模型属于商业秘密为由不予告知；第二种，使用“综合评定”这类标准客套话；第三种，单独整理针对个人的结果与标准进行说明。哪一种才正确？如果像同一家公司招聘有工作经验人员的流程那样，是由人工完整阅读了材料原文后做出的决定，答案又是否会有所不同？

本章的核心在于区分“AI 参与”与“AI 决定”。韩国《个人信息保护法》赋予了信息主体针对完全自动化系统所做决定享有的一项特殊权利。如果是经人工实质性判断的决定，或许并不属于该权利的适用对象，但取而代之的新问题则是：人工判断是否真正具有实质性？

本章首先梳理自动化决定的定义、认定要素、三项权利及其例外情形；接着探讨预先公开与要求处理程序，以及优质说明应具备的条件；随后审视 AI 面试及评估工具的效度、可解释性与无障碍支持，并剖析韩国《人工智能基本法》将招聘定为高影响领域的涵义；最后探讨如何设计审查机制，使人工审查落到实处。

核心概念

自动化决定的定义

韩国《个人信息保护法》第 37 条之 2 第 1 款将自动化决定定义为“通过完全自动化系统（包括应用人工智能技术的系统）处理个人信息而做出的决定”。但依据韩国《行政基本法》第 20 条由行政机关做出的自动化处分除外。

这一定义可解读为三项成立要素与一项适用除外。① 必须是完全自动化系统。该定义只是“包括”人工智能系统，并不以此为限，因此即使是基于规则的程序，只要完全自动化也属于规制对象。② 必须处理个人信息。③ 必须是一项决定。与单纯提供信息或推荐不同，它必须针对信息主体做出了判定。此外在适用除外方面，行政机关做出的自动化处分被排除在外。

在招聘场景中，典型的例子就是在未经人工审查的情况下，直接对得分处于下游的应聘者确定淘汰。相反，如果 AI 只是对申请书进行摘要，而由负责人阅读原文后决定是否录用，那么做出决定的主体依然是人。

完全自动化与人工审查决定的边界

两者的边界并非始终泾渭分明。如果负责人仅仅点击了屏幕上的“批量批准”按钮，能算作是人工决定的吗？韩国个人信息保护委员会告示《关于个人信息处理者应对自动化决定的措施标准》第 6 条第 1 款规定，在判定是否属于自动化决定时，须综合考量以下各项：

1. 是否是在没有具有正当权限的人员进行实质性且有意义的介入的情况下，由完全自动化系统做出的决定
2. 系统是否对该信息主体的个人信息进行分析、加工等个性化处理过程并提取了有意义的信息
3. 是否属于个人信息处理者做出的影响信息主体权利或义务的决定
4. 该决定是否为影响权利或义务的最终决定
5. 系统的个人信息处理与决定之间是否存在实质性关联
6. 其他法律是否有特别规定

第一项要素在实务中最为关键。仅有人按按钮这一事实是远远不够的，关键在于该人员是否拥有更改结果的权限，并且是否切实进行了审查。

三项权利与例外

准确理解第 37 条之 2 赋予的权利和义务，需要将其划分为三个部分：

最容易犯错的地方在于例外仅适用于拒绝权。如果应聘者同意了包含 AI 评估及自动淘汰在内的处理流程，拒绝权固然可以适用例外，但要求说明与审查的权利以及公司的公开义务依然有效。“因为获得了同意，所以不需要任何程序”这种判断是错误的。韩国个人信息保护委员会将该例外解释为：已通过同意或合同等方式明确预先告知将做出自动化决定的事实，或法律有明确规定的情形（2024 年 9 月 26 日新闻通稿）。由于应聘阶段是否完全符合第 4 项（签订合同过程）可能存在争议，因此在同意书中明确写明自动化决定的事实及其范围是最稳妥的做法。

个人信息处理者在信息主体提出拒绝或要求说明等主张时，除有正当理由外，应当不予适用该自动化决定，或采取由人工介入重新处理、进行说明等必要措施（第 3 款）。

重大影响的认定

拒绝权仅在产生“重大影响”时方才成立。委员会告示第 6 条第 2 款要求综合考量以下方面：是否涉及与人的生命、人身安全相关的权利或义务；是否被剥夺权利或导致无法行使权利；是否产生了超出通常可接受限度的义务；权利或义务是否受到持续性限制；是否有恢复至受影响前状态或规避该影响的可能性。

招聘淘汰是直接导致应聘者失去该公司相应就业机会的决定，因此是必须审慎考量是否存在重大影响的典型场景。不过，具体结论取决于具体事实情况，因此建议公司按招聘环节将针对这五项要素的判定留存书面记录。如果是针对未产生重大影响的自动化决定提出说明要求，根据韩国《个人信息保护法施行领》第 44 条之 3 第 2 款但书及告示第 4 条第 3 款，可以从预先公开的事项中选取主要个人信息类型与决定的关系、考量事项及处理程序，予以简要告知。

应当预先公开的事项

第 37 条之 2 第 4 款规定，应当以信息主体能够容易确认的方式，公开自动化决定的标准、程序以及处理个人信息的方式。韩国《个人信息保护法施行领》第 44 条之 4 第 1 款规定了须通过互联网主页等途径公开的事项：

1. 将做出自动化决定的事实及其目的、作为对象的信息主体范围
2. 用于自动化决定的主要个人信息类型及其与自动化决定的关系
3. 自动化决定过程中的考量事项及处理主要个人信息的程序
4. 处理敏感信息或未满 14 周岁儿童个人信息的，其目的和具体项目
5. 信息主体可以提出拒绝、说明等要求的事实及其方法与程序

公开时应使用标准化、体系化的术语，并可运用视频、图画、图表等可视化方式（第 2 款）。公开并不意味着要交出源代码或训练数据原始样本，只需达到让应聘者能够理解“依据什么、如何做出评判”的程度即可。在招聘网站的招聘流程指南页面上，将这五项内容整理在同一页面中展示，正是实务操作的起点。

收到要求时的处理程序

信息主体提出要求时，须遵循个人信息处理者制定并公开的方法和程序（韩国《个人信息保护法施行领》第 44 条之 2）。针对不同类型的要求，所需采取的措施也有所不同。

期限。 必须自收到要求之日起 30 日内，以书面等方式采取措施。若有难以在 30 日内处理的正当理由，须告知该理由，且仅限延长 2 次，每次延长期限在 30 日以内（施行领第 44 条之 3 第 5 款、告示第 8 条第 1 款）。

拒绝。 因有可能不正当地侵害他人的生命、身体、财产等正当理由而拒绝要求时，必须以书面等方式毫不迟延地告知该理由（施行领第 44 条之 3 第 4 款）；告示第 8 条第 2 款规定，除有正当理由外，须自收到要求之日起 10 日内告知拒绝理由以及提出异议的方法与程序。对于正当理由，应综合权衡信息主体所受的不利影响与处理者及第三方的利益，进行个别判定（告示第 7 条第 1 款）。

将处理程序按实务步骤梳理如下：

1. 确认要求是否通过已公开的途径提出，确认申请人是否为本人。
2. 对要求的类型（拒绝、说明、审查，或其组合）进行分类，并记录处理期限。
3. 整理针对该应聘者的决定内容（结果、使用的主要个人信息类型及影响、处理程序），或审查能否采纳其提出的意见。
4. 撰写说明书或审查结果并由负责人审核。若存在拒绝受理的理由，须单独管理拒绝通知的时限。
5. 在期限内以书面等方式送达，并留存处理记录，以供后续检查参考。

优质说明的条件

施行领要求提供“简明且有意义的说明”，告示则规定应筛选对信息主体有意义的信息，并以易于理解的方式提供。在实践中有两种走极端的糟糕做法：一种是使用“AI 综合评估了各项要素”这类套话，由于缺少针对个人的结果和标准，根本算不上说明；另一种则是将模型权重或数百个特征值直接抛出，虽然信息量很大，但毫无实际意义。

商业秘密或测评题目的保密性，固然可以作为不公开源代码、权重和原始试题的理由，也可以作为调整说明深度的依据。然而，若要以此为由拒绝针对个人的全部说明，必须按照告示第 7 条的规定，个别权衡信息主体遭受的不利影响与处理者的利益；若决定拒绝，还必须告知拒绝理由及提出异议的方法。用千篇一律的标准套话回复所有要求，恰恰说明未进行这一权衡。

AI 面试与评估工具的效度

用于招聘评估的分数，必须具有证明该分数与岗位绩效相关联的客观证据。作为自愿采用的风险管理框架，NIST AI RMF 将效度确认（validation）定义为“通过提供客观证据，确认特定的预期用途或应用的要求已得到满足”（引用 ISO 9000:2015），并将“Valid and Reliable”列为可信 AI 的首要特征。其 Core 核心部分的 MEASURE 2.5 要求证明拟部署的 AI 系统是有效且可靠的。

效度并非工具本身的固有属性，而是针对特定岗位与应聘人群验证得出的。一项针对海外应届大学毕业生办公室文职人员的研究，无法直接套用于韩国本土的有经验汽修工。获取供应商资料时，应提出三项询问：证明了与什么的关联性（是实际工作绩效，还是其他考试成绩）？针对何种岗位和应聘群体？样本量有多少，各群体间的结果如何？如果公司自身拥有数据，应结合自身的岗位再次验证。甄选工具的效度通常细分为：与工作内容是否匹配（内容效度）、与实际绩效是否相关（效标效度），以及是否切实测出了意图测量的特征（构念效度）。

即便得分的效度已得到验证，不同群体的结果差异也需要单独审视（第 5 章）。尤其是通过面部表情、声音颤抖等外在表征信号来推断“抗压能力”、“情绪稳定性”、“亲切度”等内在特质的功能，必须严格核实其依据。由于这类情绪与内在特质推断功能往往缺乏充分的科学依据，因此若缺乏符合具体岗位及应聘群体的验证资料，应默认不予引入。依据越薄弱的数字，往往越容易误导和牵引人工的判断。降低权重或“仅供参考”展示并不能解决问题。只要它对决定产生影响，效度问题就依然存在。应聘者的同意也不会凭空赋予分数以效度。此外还应一并考量：若将与外貌相关的信号计入评分，可能导致将岗位并不必需的容貌条件纳入考核的不当后果（韩国《男女雇佣平等法》第 7 条第 2 款）。

可解释性与可解读性

NIST AI RMF 将可解释性（explainability）定义为对 AI 系统运行底层机制的表达，将可解读性（interpretability）定义为在设计目的语境下输出所具有的意义。同时指出，问责制是以透明度为前提的。

招聘负责人最需要的往往是可解读性。只有能够回答“这个分数对应聘者个人意味着什么”，才能向应聘者做出合理解释。在引入工具之前，不妨要求供应商以具体实例写出：“若要将这个分数解释给一位应聘者听，会组织成怎样的一句话？”如果连这样的说明语句都无法写出，该工具便很难满足法律所要求的说明标准。

无障碍与合理便利

AI 面试往往强制采用语音、视频、时间限制等形式。韩国《残疾人歧视禁止法》将无正当理由拒绝向残疾人提供合理便利的行为视为歧视（第 4 条第 1 款第 3 项），并禁止用人单位在招募与聘用中歧视残疾人（第 10 条第 1 款）。所谓合理便利，是指为使残疾人能够与健全人同等地参与相同活动，综合考量残疾类型、程度及特征等因素而提供的便利设施、设备、工具、服务等人力与物力手段及措施（第 4 条第 2 款）。

当听力障碍应聘者请求以替代方式代替语音面试，且语音沟通并非该岗位的必备要求时，原则上应当提供考察同等能力的书面作答或手语翻译面试，并采用与其他应聘者相同的能力评价量规（rubric）进行评分。由于提取语音特征的算法无法应用于替代方式，因此需预先制定适用于替代方式的评分流程（例如：由受过培训的考官依据量规评分）。若存在过重负担、显著困难的情形，或因特定岗位履职性质不可避免时，可构成正当理由（第 4 条第 3 款）。在采购合同签订阶段向供应商确认其支持哪些替代方式，即可避免在招录过程中手忙脚乱。

韩国《人工智能基本法》中的高影响领域与招聘

韩国《人工智能基本法》第 2 条第 4 项将对人的生命、人身安全及基本权利产生重大影响或有可能引发危险、并应用于列举领域的 AI 系统界定为高影响人工智能。其中第（g）目规定为“招聘、贷款审查等对个人权利与义务关系产生重大影响的判定或评估”。该认定须同时满足属于法定领域以及存在重大影响或危险隐患这两项要件。同为招聘业务，协调面试日程因不属于判定与评估，便与该目相去甚远。

该法规定的义务承担主体为人工智能经营者。法律将开发并提供人工智能的开发经营者，以及利用开发经营者提供的人工智能来提供人工智能产品与服务的利用经营者统称为经营者（第 2 条第 7 项）；将接受产品与服务的主体定义为用户（第 8 项）；将生命、人身安全及基本权利因此受到重大影响的主体定义为受影响者（第 9 项）。向客户企业销售招聘评估服务的 HR 解决方案公司即属于经营者。而在本企业招聘中使用该服务的公司处于何种地位，则取决于其向谁提供了什么，具体判定可能存在分歧，因此在采购引入时必须通过法律论证予以明确。

对于招聘负责人而言，实务中最关键的是供应商核实清单。在签订合同之前，请核实以下事项：是否已审查该工具是否属于高影响范畴？第 34 条规定的说明方案与人工管理监督方案为何？管理监督人的联系方式公布在何处？施行领第 27 条第 4 款允许利用经营者要求开发经营者提供履行职责所需资料，开发经营者应努力予以配合。

人工实质性审查的设计

仅由人工做出最终决定这一形式本身并不能保证任何实质效果。如果屏幕最顶端醒目显示着 AI 得分，审查者的判断就很容易被该数字所牵制。过度盲信并盲从自动化系统输出的倾向被称为自动化偏差，判断被最先看到的数字所绑架的倾向被称为锚定效应，两者往往相伴而生。NIST AI RMF 建议制定划分人与 AI 角色及职责的政策（GOVERN 3.2），并加强对操作人员的熟练度管理（MAP 3.4）。

具体采用何种应对策略，取决于客观条件。如果有充裕时间阅读全部原文，采用隐藏得分、先独立评估再比对的方式最为有效；如果时间紧迫，要求将依据与原文进行对照核验的方式更具现实可行性；如果评分本身未经充分验证，则应仅将 AI 用于确认资格门槛等客观事项，实质内容评价仍交由人工负责。

深入阅读

同意能解决什么，不能解决什么

同意是一种有力但适用范围有限的工具。根据第37条之2第1款但书，基于同意做出的自动化决定属于拒绝权的例外情形。然而，同意有三点无法解决：要求说明与复核权以及公开义务依然存在；同意不能作为分数与职务相关的依据；并且，如果对不同意的应聘者给予不利待遇，实际上就构成了强迫。若因是否同意而导致评估方式分化，以同一标准进行比较的公平性也会动摇。

还有一点需要注意。若要适用拒绝权例外，决定必须是“依据”同意做出的。对应聘申请书收集与利用的同意，与对AI自动评估及淘汰的同意可能并非一回事，因此必须在同意书中明确写明将做出自动化决定这一事实及其范围。

招聘代理与自动化决定的责任

如果将材料筛选委托给招聘代理公司，而代理公司使用其自有AI进行自动淘汰，那么应由谁来进行说明呢？韩国《个人信息保护法》第26条规定委托人应当对受托人进行培训与监督，第26条第8款规定受托人同样准用第37条之2等条款。这意味着委托人和受托人都无法免除责任。如果不在委托合同等文件中预先明确公开主体、要求受理窗口、处理期限以及说明文案审核的责任，在两家公司互相推诿的过程中，30天的期限就会悄然过去。如果代理公司将收到的应聘申请书纳入自己的人才数据库并用于向其他客户公司推荐，这就不是委托，而是构成了向第三方提供（第3章）。

改变自动化程度，义务也会随之改变

同样的工具，根据使用方式的不同，其法律性质也会发生变化。即使将后40%自动淘汰缩减为后20%，对于被淘汰的人来说，这依然是自动化决定。相反，如果改为由人工重新通读并决定淘汰对象，虽然可能不属于自动化决定，但相应地需要投入审核人力和时间。在运营过程中调整基准线或复核方式，属于变更法定义务范围的行为，因此必须履行变更审批流程（第5章），并同步修改已公开的标准和程序。

工作场景

山茶制药引入AI胜任力测评

制药企业“山茶制药”在研发支持岗公开招聘（应聘者约4,000人）中引入线上AI胜任力测评时，拟自动淘汰后35%的人员。人事团队首先制作了自动化决定判定表。他们认为，由于在没有人为审核的情况下直接确定淘汰，属于完全自动化决定，且会导致应聘者失去录用机会，因此具有重大影响。处理依据是在应聘阶段获取的同意，该同意涵盖了AI测评及自动淘汰内容。

基于这一判断，梳理出了三点结论：拒绝权因属于依据同意做出的决定而在法律条文上构成例外，因此因拒绝而进行的重新审查程序并非法定强制要求；然而，必须建立要求说明与复核的程序并履行公开义务；此外，将五项公开事项在招聘网站的选拔指南中整合至同一页面展示。不过，人事团队考虑到应聘者必须同意才能参测的结构可能引发对该同意是否属于实质性选择的争议，因此即便法律并未强制要求，仍自主设立了在应聘者对结果提出异议时由人工重新复核的渠道。

他们也摒弃了一些备选方案。“向所有应聘者告知个人分数即算履行了说明义务”这一提议，因未能包含结果、主要标准及程序的说明而被弃用。“等收到要求时再制定流程”这一提议，考虑到公开义务及30天期限的高风险性而被弃用。最后，人事团队针对复核要求，在公告阶段提前确定并告知了诸如“预定取得资格证 → 已取得”等应聘截止后发生变更的信息以哪个基准日为准。因为应对复核要求的义务在于审查是否能够予以采纳并告知结果，而实际是否采纳则取决于预先公开的标准以及与其他应聘者之间的公平性。

沙粒游戏的AI视频面试

游戏企业“沙粒游戏”决定在客户支持岗招聘中采用AI视频面试。供应商工具中除针对各个问题的回答评估外，还包含根据面部表情对“共情能力”进行评分的功能。当人事团队索取验证材料时，供应商仅发来了客户满意度调查和引入案例。人事团队判定这并不能作为共情得分与客户支持绩效相关的依据，于是关闭了该功能。对于各问题的回答评估，则决定在与本公司咨询服务质量评估数据进行对比试用验证后再行使用。

在选拔考核过程中，一名患有听力障碍的应聘者提出希望通过书面作答的方式参加面试。鉴于客户支持岗的主要职责是在线沟通和邮件回复，语音交流并非必备条件。人事团队以书面形式提供相同问题，并根据替代方式合理设定了答题时间等条件，随后由两名受过培训的考官使用同一评分标准表分别独立进行评分。内部起草的“无法参加AI面试则该项作零分处理”条款因会导致因残疾而排除应聘者的后果而被废止。在合同中，他们追加了确认供应商支持的替代方式、高影响归属审查结果以及管理监督人员联系方式的条款。

易错点

• “既然已经获得了同意，就没有必要进行说明。” 基于同意做出的决定仅仅是拒绝权的例外情形。要求说明与复核权以及公开义务依然存在。
• “最终由人工点击确认按钮，所以不是自动化决定。” 如果缺乏改变结果的权限和实质性审核，就属于形式化介入。相关告示首先考量的是是否存在实质且有意义的介入。
• “只要AI有微小的介入，就必须保障所有应聘者的拒绝权。” 如果该选拔环节是由人工通读原始材料后做出的决定，则可能不属于自动化决定。过度适用会导致将原本由人工做出的决定误导性地提示为由AI决定的另一类错误。
• “属于商业秘密，无法予以说明。” 源代码或许可以不予公开，但必须针对个人提供包含结果、主要标准及程序的说明。
• “降低分值权重就可以使用未经检验的功能。” 只要其对决定产生影响，效度问题就依然存在。
• “既然有供应商的研究报告，效度便已得到证实。” 如果目标岗位与应聘者群体不同，必须使用本公司的数据重新进行验证。
• “无法参加AI面试的应聘者予以淘汰。” 除非是履职的必备条件，否则应当提供合理便利。
• “遵守了《人工智能基本法》的义务，就能免除《个人信息保护法》的义务。” 这是两部不同法律各自规定的义务。

要点速览

查阅官方文档

• 韩国《个人信息保护法》第37条之2 —— 阅读拒绝权、要求说明权、公开义务及但书的原文。
• 韩国《个人信息保护法施行令》第44条之3 —— 查阅各项要求的应对措施、30天期限与顺延规定以及拒绝通知。
• 韩国《个人信息保护法施行令》第44条之4 —— 查阅预先公开的五项事项。
• 个人信息处理者应对自动化决定的措施标准 —— 阅读是否适用与重大影响的判定要素，以及拒绝通知的期限。
• 韩国《人工智能基本法》第2条 —— 阅读高影响人工智能的定义，以及经营者、使用者、受影响者的定义。
• 韩国《人工智能基本法》第34条 —— 查阅高影响人工智能经营者的六项职责。
• 韩国《禁止歧视残疾人法》第4条 —— 查阅合理便利的定义与正当理由。
• NIST AI RMF — Core —— 查找并阅读 GOVERN 3.2、MAP 3.4、MEASURE 2.5。

自测

2-1. 写出韩国《个人信息保护法》规定的“自动化决定”的三项构成要件及适用除外情形，并解释基于规则的程序为何也能被归入这一定义。

2-2. 在拒绝权、要求说明与复核权以及公开义务中，写出哪一项适用基于处理依据（同意、法律法规、合同）的例外规定，并说明其余两项依然保留的原因。

2-3. 写出委员会告示在判定是否属于自动化决定时要求考量的因素中，实务中最关键的一项，并解释它与形式化的批准按钮有何关联。

2-4. 整理针对说明要求的处理期限与延期规则，以及拒绝该要求时的通知规则。

2-5. 写出当供应商提交评估工具的效度研究时，在直接采纳该研究之前应当提出的三个问题。

2-6. 分别用一句话说明韩国《人工智能基本法》中开发经营者、利用经营者、用户、受影响者各自指什么，并指出销售招聘评估服务的HR解决方案企业属于其中的哪一类。

2-7. （设计）现已发现审查人员几乎全盘照搬AI评分的问题。请分别针对审查时间充足和不足的情况设计适宜的审查方式，并写出用于验证该方式是否有效的两项指标。

实操练习