附录 B 自测答案与解析
第1章
1-1. 招聘公告、申请表格式、材料审查标准与输入项。其中最难纠正的是招聘公告。因为受公告影响而放弃应聘的人不会留在数据中,所以在后续阶段无法衡量或纠正差异。
1-2. 直接歧视是指以受保护属性为由区别对待;间接歧视是指即便适用相同标准,也会给特定群体带来显著不利的结果,且该标准的正当性无法得到证明的情形。法定免责表述分别为“证明具有正当性”(韩国《男女雇佣平等法》第2条)、“合理理由”(韩国《高龄者雇佣法》第4条之4)以及“正当理由”(韩国《残疾人歧视禁止法》第4条)。
1-3. 与履行职责无关的本人身体条件,本人的籍贯、婚姻状况、财产,以及直系尊卑亲属和兄弟姐妹的学历、职业与财产。第一种情况属于法律适用范围之外,常雇员工未满30人的用人单位(以及国家和地方自治团体的公务员录用)不适用该法(但其他法律规定的义务依然有效)。第二种情况属于法条要件问题,履行职责实际所需的信息并不在禁止之列。但这种必要性必须有职务分析作为支持,且不得超出必要范围,而籍贯或家庭信息在履职中所必需的情况极为罕见。
1-4. 毕业年份可以代为反映年龄,社团名称可以代为反映性别(或宗教、籍贯),职业空窗期则可以代为反映与生育、育儿相关的性别,或是残疾与疾病。
1-5. 即使归并为较宽的区间,变量与受保护属性之间的关联依然会大量残留。最关键的是,如果该变量与职责无关,本就没有理由加工后继续使用,因此原则上应当剔除;若相关性尚未确认,在验证之前不将其用于淘汰判定才是正确的做法。
1-6. 与内部审批通过的劳动条件文件进行核对,修改与实际不符的数值后再发布。从一开始就刊登与事实不符的条件,涉及韩国《职业安定法》第34条规定的虚假招聘广告与虚假招聘条件问题;而韩国《招聘程序法》第4条第2款和第3款则明确禁止无正当理由不利于求职者地变更招聘广告内容,或在录用后不利于求职者地变更广告中的劳动条件。
1-7. 表格的列设置为:项目、分类(岗位要求/入职后需要/与岗位无关)、受保护属性关联可能性、依据、处理方式。模棱两可的项目根据职务分析结果(若缺少该信息是否无法判断任职资格)、利用本公司绩效数据的验证以及各群体结果来决定;在作出决定之前,不得将其用于淘汰判定。
第2章
2-1. 构成要件包括:属于完全自动化的系统、处理个人信息、构成决定;行政机关的自动化处分被排除适用。法律仅表示“包括”应用人工智能技术的系统,并未以此为限,因此只要具备完全自动化,基于规则的程序也属于规制对象。
2-2. 例外规定仅适用于拒绝权。要求说明与复核权(第2款)和公开义务(第4款)中没有根据处理依据设立的但书条款,因此即使是基于同意或合同作出的决定,个人信息主体仍有权要求说明,公司也必须公开相关标准与程序。不过,若存在正当理由,可以拒绝个别要求(第3款、施行令第44条之3第4款),此时必须告知拒绝理由。
2-3. 核心在于该决定是否在没有具备正当权限人员的实质性、有意义介入的情况下作出。即使有人负责点击批准按钮,但若其没有改变结果的权限,或者实际上并未进行复核,则这种介入就不具备实质性,被认定为自动化决定的风险就会增加。
2-4. 自收到要求之日起30天内,以书面等方式采取措施。若有正当理由,可告知该理由并在各30天的范围内延期,最多限延期2次。予以拒绝时,必须毫不迟延地以书面等方式告知理由;且根据委员会告示,除有正当理由外,须在收到要求之日起10天内告知拒绝理由以及提出异议的途径与程序。
2-5. 包括:展现出了与什么的相关性(是否为实际工作绩效)、以何种岗位和应聘者群体为对象、样本量有多少人,以及各群体的结果如何。若对象不同,则必须利用本公司的数据重新核实。
2-6. 开发经营者是指开发并提供人工智能的主体;利用经营者是指利用开发经营者提供的人工智能来提供产品或服务的主体;使用者是指接受产品或服务的主体;受影响者是指因该产品或服务而在生命、人身安全或基本权利方面受到重大影响的主体。将招聘评估服务出售给客户公司的HR解决方案企业属于人工智能经营者(若是自行开发则为开发经营者,若是利用其他公司的AI构建服务则为利用经营者)。
2-7. 若时间充裕,让评审人员在不查看AI评分的情况下先依据原文进行独立评估,随后仅对与AI评分差异较大的案例进行联合复审。若时间紧迫,则要求将AI的每一项依据链接至原文对应位置,仅在完成比对核实后方可作出决定,并设置抽样复查环节。效果指标可以采用原文查阅比例、与AI判断不一致的比例及原因记录、以及抽样复查中发现的错误率。
第3章
3-1. 原则是:若能通过匿名达到目的,则进行匿名处理;若无法通过匿名达到目的,则进行假名化处理。需要落实到个人发放的薪资核算必然要识别个人身份,但寻找部门级改善课题的问卷分析并不需要答卷者的身份信息,因此必须使用经匿名化处理的数据进行分析。
3-2. 敏感信息必须取得单独同意,或在法令有明确要求、允许的情况下方可处理,并须采取安全保障措施。固有识别信息同样需要单独同意,或有法令的具体要求、允许,并须采取加密等措施。居民登录号仅能在法令有具体要求或允许、存在紧迫利益、以及告示规定的不可避免的情形下才可处理,单纯的“同意”不能作为处理依据。因此,在求职申请阶段等缺乏法令依据的环节不得收集居民登录号;入职后也仅在法令具体要求的处理范围内予以处理,并进行加密。
3-3. 判断基准在于“数据是为谁的目的而处理”。如果是代为处理公司的业务,则属于委托处理;如果接收方为了自身目的使用数据,则属于向第三方提供。委托方必须以包含法定内容的文件形式进行委托,公开受托方与受托业务,对受托方进行培训和监督,并决定是否同意其进行转委托。
3-4. 例如,为与个人信息主体订立或履行合同而必须进行委托处理或存储的情形。此时,必须在个人信息处理方针中公开,或通过电子邮件等方式告知所转移的项目、接收国、转移时间与方法、数据接收方、利用目的与保存期限,以及拒绝的方式与后果。
3-5. 包括AI生成的评分、摘要、嵌入与分析日志,以及留在供应商(受托方)系统中的副本。能够识别特定个人,或通过与其他信息轻松结合即可识别个人的结果与假名信息均属于个人信息,因此一旦不再需要,必须与原始数据一同毫不迟延地予以销毁(依据其他法令须保存的,应单独存储),销毁义务同样准用于受托方。
3-6. 包括统计编制、科学研究、公益性记录保存等。该特例旨在开展不识别特定个人的分析(第28条之5禁止为识别特定个人而处理假名信息),且假名信息同样属于个人信息,因此不能作为挑选特定员工进行面谈或岗位调整的处理依据。此类人事处理必须在履行劳动合同等一般处理依据以及已告知的目的范围内进行。
3-7. 处理主体地位、是否用于训练、数据保存情况可从使用条款、数据处理附随协议(DPA)和个人信息处理方针中查找;存储位置与转委托情况可从次级处理者清单和区域设置文档中查找;保护措施与监督要求可从安全文档和合同条款中查找;自动化决定的处理情况则可从委托文件中查找。未能确认的栏目应标注为“未确认”,且原则上在疑问解除前不得输入个人信息。
第4章
4-1. 可划分为:通用文档草拟(低)、制度与规章答疑(中)、个人评估评语·个人指标·行为监测(高)。对于高风险场景,必须将输入限定在依据材料范围内,设置由人工与事实核对并最终确认的程序,并保留日后能够解释判断依据的记录。
4-2. 例如,限制外部知识(“仅以所提供的观察记录中的事实为依据进行撰写”)和引用验证(“每句话后均须附上依据记录的编号”)。允许在未知时回答不知道的技术,可结合“若缺乏依据,请标注为‘记录不足’”一并加入。
4-3. 若将工作日志中的事实与问题跟踪系统或业绩数据等客观记录进行核对并得到确认,便可作为评估依据。若未经核对就直接采用工作日志,自我陈述就会直接变为评估结论,因此不能使用。如果要安装新收集或关联工作记录的系统,还须同时按照第4章的要求进行协商与告知审查。
4-4. 过度功能:为用于制度答疑的聊天机器人附带人事数据库修改功能。过度权限:员工端聊天机器人使用能够读取全体员工薪资的账号权限进行查询。过度自主性:聊天机器人未经人工确认便擅自批准休假申请或修改人事记录。
4-5. 查询记录、决定记录、配置变更记录。记录本身也包含个人信息,因此若不规定实现目的所必需的保存期限与访问权限,就会产生无限期保存及目的外使用的风险。
4-6. 因为是否需要协商是决定引入时间表与程序的第一道关口;是否需要进行个人层面的处理决定了要安装和收集什么;而收集的项目与期限则是在该决定的基础上进一步具体化。前一步骤的结论直接决定了后一步骤的范围。
4-7. 待比对的资料包括指标数值与实际绩效考核、工作成果,以及按年龄群体和是否残疾分类得出的结果。判定标准为指标与绩效的相关程度,以及群体间差异的大小与显著性。应对方案的可选项包括:变更或剔除指标(相关性较弱时)、留存依据文档并持续监控(相关性较强时)、调整对特定员工的考核方式(提供合理便利)。
第5章
5-1. 系统性偏差、计算与统计偏差,以及人类认知偏差。这意味着不能仅凭某项指标达到基准就断定已确保公平性,而应将该结果作为研判依据,连同成因与职务相关性一并考察。
5-2. 前一群体的选拔率为30%,后一群体的选拔率为20%,因此选拔率之比为 20 ÷ 30 ≈ 0.67。该比值未达到 4/5(0.8),应视为存在不利影响的信号;在核实样本量(600人属于相对较大的样本)和统计学显著性后,展开成因分析。4/5经验法则是美国联邦指南中的标准,并非韩国法律的判定标准,而应用于内部自查的预警信号。
5-3. 即使差距更小,只要在统计上以及实际业务中具有意义,也可能构成不利影响。反之,即使差距更大,若样本量过小而不具备统计学显著性,也可能不属于不利影响,此时可以结合更长时间周期的数据等进行综合考察。
5-4. 若仅观察最终录取率,无法获知差距究竟产生于AI简历筛选环节还是人工面试环节,从而导致对错误的阶段进行整改。若问题已缩小范围至面试环节,则可选择采用结构化面试(统一的问题与评分标准)、隐去个人背景信息的盲测面试、多位面试官独立打分、面试官培训以及按面试官划分的结果复盘自查。
5-5. 第一,造成差距的成因(代理变量、未经检验的指标、带有偏见的评估)依然存在,会导致同样的问题反复出现。第二,为了凑齐自查指标数据而依据受保护属性适用不同标准,其行为本身就是因该属性而实行差别对待。这与“积极改善雇佣措施”等具有法定依据和明确法定目的的优待制度存在本质区别。
5-6. 定期检查、变更检查以及异常信号检查。供应商的模型更新属于变更检查的触发契机,应要求其提供事前通知、变更前后各群体结果的对比数据,以及在出现问题时回滚至上一版本的权限。
5-7. 例如,责任人可对应 GOVERN 2.1,变更控制对应 MANAGE 4.1(变更管理)与 GOVERN 2.1(变更负责人的职责),中止权限对应 MANAGE 2.4,检查周期对应 GOVERN 1.5(部署后监控对应 MANAGE 4.1,公平性评估对应 MEASURE 2.11),申诉渠道可关联至 MEASURE 3.3。记录保存期限相比于 NIST 条目,更应依据适用法规与组织政策来确定,系统废弃时的数据处理则关联至 GOVERN 1.7。核心关键在于每一要素中是否明确载明了具体责任人、触发信号与截止期限。