附录 A 术语表

术语 释义
假名信息 经假名化处理,在没有额外信息的情况下无法识别特定个人的信息。其仍属于个人信息
假名化处理 删除或替换部分个人信息,使之在没有额外信息的情况下无法识别个人的处理
间接歧视 即使适用相同标准也会对特定群体产生不利结果,且无法证明该标准合理性的情形
审计追踪 为使日后能够重构谁在何时出于何种原因做了什么而留存的记录
开发业务经营者 开发并提供人工智能的人工智能业务经营者(韩国《人工智能基本法》第2条第7项甲目)
个人信息 与生存的个人相关的信息,包括可识别个人的信息、可与其他信息容易结合从而识别个人的信息,以及假名信息
个人信息处理者 出于业务目的为运作个人信息文件,自行或通过他人处理个人信息的人
拒绝权 信息主体拒绝产生重大影响的自动化决定的权利。若决定系依同意、法律法规、合同作出则属例外(如已明确预先告知自动化决定事实等情形)
虚假招聘广告 假借招聘名义收集创意或进行宣传而发布的广告。韩国《招聘程序法》第4条予以禁止
要求复核 信息主体提出意见(如补充、更正个人信息等),要求审查能否将其反映到自动化决定中的行为
《高龄者雇佣法》 韩国《禁止雇佣年龄歧视及促进高龄者雇佣法》
高影响人工智能 对生命、身体安全及基本权利有重大影响或存在危险隐患,且在法定领域(如招聘、贷款审查等)中应用的 AI 系统
固有识别信息 居民登记号、护照号、驾照号、外国人登记号
公开义务 为使信息主体能够容易确认自动化决定的标准、程序与个人信息处理方式而进行公开的义务
结构化面试 基于相同的评分标准,向所有应聘者提出与岗位相关的相同问题的面试
跨境传输 向境外提供(包括查询)、委托处理或存储个人信息
《劳动者参与法》 韩国《促进劳动者参与及合作法》。规定劳资协议会的设立与协商事项
基础审查材料 求职者的应聘申请表、简历、自我介绍信
《男女雇佣平等法》 韩国《男女雇佣平等与工作家庭平衡支持法》
劳资协议会 由劳动者与用人单位共同参与协商的机构。以具有劳动条件决定权的企业或事业场所为单位设立,常雇人员不足30人的除外
分阶段分析 在招聘的各阶段分别计算各群体的通过率,以找出产生差距环节的方法
代理变量 本身并非受保护属性,但与其高度相关,最终起到替代反映该属性作用的变量
敏感信息 思想与信仰、加入工会或政党、政治见解、健康、性生活等信息,以及基因信息、犯罪记录、用于识别目的的生物特征、种族与民族信息
超出目的利用 超出收集时的目的与依据范围利用个人信息
返还申请期限 招聘方在确定录用与否之日起14至180天范围内确定并预先告知的应聘材料返还申请期限。通过网站或电子邮件接收的材料属于返还义务的例外
单独同意 与对其他处理的同意相区分而单独获得的同意
受保护属性 作为禁止歧视基准的特征。如年龄、性别、婚姻状况、残疾、籍贯等
不当劳动行为 以加入工会等为由给予不利待遇等韩国《工会法》第81条所禁止的用人单位行为
不利影响 选拔程序导致特定群体出现显著偏低的选拔率的现象
人类的有意义审查 具有正当权限的人在能够改变结果的状态下进行实质性审查
选拔率 某个群体的应聘者中进入下一阶段的人员比例
选拔率比 比较群体的选拔率除以选拔率最高群体的选拔率所得的比值
可解释性 能够表达 AI 系统运行底层机制的性质
要求说明权 针对自动化决定,要求对其结果、主要标准及处理程序进行说明的权利
受托人 受托处理个人信息业务的人。包括接受转委托的人
深度审查材料 作品集、研究成果等能够考察求职者实力的材料
4/5经验法则 选拔率比低于0.8即视为不利影响信号的美国联邦指南经验法则
安全措施 为防止泄露等而采取的技术、管理及物理措施。包括内部管理计划、访问记录留存等
受影响人员 因人工智能产品或服务导致其生命、身体安全及基本权利受到重大影响的人
委托 个人信息处理者将自身业务中的个人信息处理委托给第三方
使用业务经营者 利用开发业务经营者提供的人工智能来提供人工智能产品或服务的人工智能业务经营者(韩国《人工智能基本法》第2条第7项乙目)
用户 接受人工智能产品或人工智能服务的人
匿名化处理 即使合理考量时间、成本与技术,也无法再结合其他信息识别个人的处理
证明材料 学位证明、工作经历证明、资格证书等用于证明基础审查材料中所填事项的材料
自动化偏差 人类过度盲信并遵从自动化系统输出的倾向
自动化决定 通过完全自动化系统(包括 AI)处理个人信息所作出的决定。行政机关的自动处分除外
积极雇佣改善措施 为消除男女之间的雇佣歧视或促进雇佣平等而阶段性优待特定性别的措施
合理便利 考虑残疾特性而提供的手段与措施,以使残疾人能够与非残疾人同等参与
向第三方提供 将个人信息移交接收方以便其出于自身目的进行利用的行为
居民登记号处理限制 缺乏法律法规依据等情形下,即使取得同意也不得处理居民登记号的原则(第24条之2)
重大影响 自动化决定对信息主体的权利与义务产生较大影响,足以产生拒绝权的程度
岗位分析 系统梳理岗位实际从事的工作及所需的知识、技能与能力的工作
直接歧视 基于受保护属性而区别对待的行为
应聘材料 基础审查材料、证明材料、深度审查材料
《招聘程序法》 韩国《招聘程序公正化法》。适用于常雇人员30人以上企业(事业场所)的招聘程序,国家及地方自治团体的公务员录用除外
处理依据 处理个人信息的法律依据。如同意、法律法规、履行合同等
最小化收集 仅收集实现目的所需的最少个人信息的原则。举证责任由处理者承担
效度 经客观证据确认分数或判断与拟测量的对象(如工作绩效等)相关的属性
统计显著性 所观察到的差异难以仅凭偶然产生的程度
可理解性 在设计目的的上下文中能够理解 AI 输出所代表含义的性质
幻觉 AI 生成看似合理却与事实不符或在依据资料中不存在的内容的现象
限制外部知识 指令模型仅使用所提供文档的信息而不使用通用知识的技术
RAG(检索增强生成) 检索符合问题的文档,并让模型基于该文档内容进行回答的方式
过度代理 连接至 LLM 的功能拥有超出必要的功能、权限和自主性所带来的风险(OWASP LLM06)
劳动者监控设备 在工作场所监控劳动者的设备或程序。其安装属于劳资协议会的协商事项(韩国《促进劳动者参与及合作法》第20条第1款第14项)
遗漏率 符合条件的应聘者中被 AI 淘汰的比例(假阴性率)。按群体分别进行比较
提示词注入 利用输入或文档中的指令使模型的行为偏离预期的攻击(OWASP LLM01)
完全仲裁 是否允许执行操作并非由 LLM 决定,而是由下游系统(人事数据库、权限检查 API 等)针对每次请求进行强制校验的原则
GOVERN 在 NIST AI RMF 中建立风险管理文化和问责机制的功能。贯穿于所有其他功能之中
MAP 在 NIST AI RMF 中掌握 AI 系统上下文以梳理风险的功能
MEASURE 在 NIST AI RMF 中对风险进行定性与定量分析及评估的功能
MANAGE 在 NIST AI RMF 中为所掌握和度量的风险分配资源并进行应对的功能
NIST AI RMF 美国国家标准与技术研究院的人工智能风险管理框架