第 4 章 个人信息与安全使用

学习目标

• 解释个人信息的含义，并能找出看似单项无碍但拼凑在一起即可识别出特定个人的情况。
• 说明为什么不应将身份证号、账户与银行卡号、密码以及验证码输入 AI。
• 使用“红绿灯”三色法则区分可以输入和不可输入 AI 的信息。
• 通过剔除、替换或泛化个人信息，安全地重新表述同一个问题。
• 通过管理对话记录、训练设置、临时对话以及在公用设备上退出登录，保护自己的对话内容。
• 说明在输入他人信息、照片以及公司或学校资料前应核实的事项。

引言

崔英姬女士在接受膝盖治疗后打算申请保险理赔。由于理赔材料繁琐，她决定寻求 AI 的帮助。她用手机拍下了诊疗费收据和诊断证明书。照片上清晰地拍下了姓名、居民身份证号、家庭住址、病名以及支付所用银行卡的部分卡号。崔英姬女士将三张照片上传到 AI 对话窗口，甚至还写下了保险公司网站的登录密码，正准备发送一句“帮我用这些材料写一份保险理赔申请书”。

在一旁看到的儿子连忙制止了她：“妈，等一下！上传到这里的内容不仅留在您的手机里，还会发送到 AI 公司的计算机上，并且会被保存在那里。”崔英姬女士吃了一惊：“这难道不是我自己在手机上单独使用的吗？”

很多人觉得 AI 对话窗口就像日记本一样，仿佛是一个只有自己才能看到的空间。然而，在对话框中输入的文字和上传的照片，都会被发送到运营该服务的公司，并存储在那里。根据设置的不同，这些内容有时会被用于改进服务，甚至可能有人工审核员进行查看。

但这并不意味着不能使用 AI。如果崔英姬女士遮挡掉姓名和号码再提问，也完全可以获得理赔所需的材料清单和流程指引。本章将详细讲解这些方法。首先探讨什么是个人信息，以及对话框中的文字流向了何处；接着学习如何用“红绿灯”法则区分绝不可输入的信息与可输入的信息；随后依次讲解如何剔除个人信息后再提问、如何处理照片与他人信息、如何管理对话记录与训练设置，以及如何在公用设备上退出登录。

核心概念

什么是个人信息

个人信息是指有关生存个人的、能够识别出该个人身份的信息。韩国《个人信息保护法》第2条第1款将个人信息划分为以下几类：

• 通过姓名、居民身份证号、影像等能够识别特定个人的信息（a目）
• 即使仅凭该信息本身无法识别特定个人，但能够与其他信息容易结合而识别个人的信息（b目）
• 对a目或b目的信息进行假名化处理，若无用于还原的原状态附加信息便无法识别特定个人的信息，即假名信息（c目）

其中第二项尤为重要。即便不写姓名，多种信息合并在一起也能辨认出是谁。我们来看一个例子：

• “70多岁男性” → 无法知道是谁。
• “70多岁男性、佳蓝公寓102栋” → 范围缩小了。
• “70多岁男性、佳蓝公寓102栋、小学教长退休、上个月做了膝盖手术” → 邻居马上就能知道是谁。

虽然一句姓名都没有出现，但第三句话实际上已经明确指向了该特定人员。因此，在删除个人信息时，绝不能仅仅删去姓名就万事大吉，还必须一并审视拼凑起来便能识别出具体身份的零散信息。

对话框中输入的文字流向了何处

AI 聊天机器人通常并不会完全在手机本地独立运行。我们发送的文字和照片会通过互联网传输到服务运营公司的计算机（这被称为服务器），由 AI 在服务器端生成回答后再返回给我们。这样往来的对话通常会被保存为对话记录，方便日后再次查看。

保存下来的对话将如何使用，取决于各家公司及其相关设置。截至核实日，各家公司的官方说明如下：

Google 在 Gemini 应用个人信息保护中心明确提示：若该设置处于开启状态，“请勿输入机密数据，或任何您不希望审核员看到、不希望 Google 用于改进服务的数据”。

绝不可输入的内容 ①：密码与验证码

密码是账户的钥匙。验证码是银行或网站为了确认“是否确系本人”而通过短信发送的若干位数字。两者的原则都是绝不向任何人透露。无论是对家人、自称银行工作人员的人，还是对 AI，都一律如此。

AI 在回答问题时，绝不需要使用密码或验证码。切勿提出诸如“我把保险公司网站的密码告诉你，你帮我登录并申请理赔”之类的请求。包含密码的对话会被保存下来，日后其他人也有可能查看到该记录。

绝不可输入的内容 ②：居民身份证号

居民身份证号在韩国是每人独有的编号，终生几乎不会变更。密码一旦泄露尚可修改，但身份证号却极难更换。

韩国法律对居民身份证号的保护也极为严格。韩国《个人信息保护法》第24条之2严格限制了个人信息处理者（在业务活动中处理个人信息的机构、公司、团体等）可以处理居民身份证号的情形，仅限于法律或总统令等有具体要求或允许的情形、为迫切的生命、身体或财产利益而明确必需的情形等极少数情况。即便获准处理，也必须进行加密安全保管（第2款）；在互联网网站注册会员环节，必须提供无需居民身份证号即可完成注册的方法（第3款）。

虽然该法律规范的是公司和机构的法定义务，并未直接限制个人在对话框中输入何种内容，但其传达的信息显而易见：这是连机构都绝不可擅自轻率处理的重要敏感信息。我们根本没有任何理由主动将此类信息输入到 AI 对话框中。向 AI 咨询文件填写方法时，身份证号一栏只需填写“○○○○○○-○○○○○○○”予以留空或替代即可。

绝不可输入的内容 ③：账户与银行卡号及身份证件照片

以下内容同样不得输入对话框：

• 银行账户与银行卡号、银行卡背面的安全码、有效期限
• 身份证件照片（居民身份证、驾驶证、护照）
• 存折复印件、银行卡照片
• 拍摄的手机银行 App 界面截图（余额、交易明细）

这类信息与财产直接挂钩。一旦泄露，可能导致身份被盗用或财产遭受损失。若想让 AI 协助整理账本或分析支出，应将所有账号完全抹去，仅填写“餐饮费○○万韩元、交通费○○万韩元”等项目名称与具体金额进行咨询。

用红绿灯法则甄别

将可输入与不可输入的信息划分为红、黄、绿“红绿灯”三类，有助于快速做出判断。

请注意黄灯中列出的“病名与诊疗记录”。在韩国《个人信息保护法》中，健康信息属于被单独严格规制的敏感信息（第23条）。但这并不意味着完全不能提及健康问题。像“膝盖不好的70多岁老人”这样仅描述大致情况通常没有问题；但若同时包含诊断书原件、医院名称、就诊日期以及姓名，就会从黄灯急剧滑向红灯范围。

脱敏个人信息后再提问

将包含黄灯信息的问题安全转换的方法有四种：

试着这样做：脱敏重写保险理赔提问

[脱敏前 — 切勿发送]
我叫崔英姬（1961年生，身份证号 61XXXX-2XXXXXX），
10月3日在佳蓝骨科医院做了膝盖软骨手术。
我上传一下收据照片。付款用的是○○卡 1234-...，
保险公司的账号是 young61，密码是 ○○○○。请帮我申请理赔。

[脱敏后 — 这样发送]
一位60多岁的女性做了膝盖手术，准备申请实损医疗保险理赔。
通常需要准备哪些材料？请按先后顺序列出一般的办理流程。
若有不同保险公司可能存在差异的地方，请标注“请向保险公司确认”。

在脱敏后的提问中，姓名、出生年月日、居民身份证号、医院名称、日期、银行卡号、账号及密码全部被剔除。即便如此，这丝毫不影响崔英姬女士咨询其核心诉求，即所需的材料与流程。最后一行正是按照第 3 章所学的方法，要求标注各家保险公司可能不同的环节。至于实际的理赔申请，则由崔英姬女士本人在保险公司的官方 App 或柜台亲自办理。

上传照片与文档时

向 AI 上传照片进行提问非常便捷，但照片中蕴含的信息往往远多于文字。在上传之前，请务必先仔细查看照片。

上传前需要做三件事：

1. 必须用照片吗？ 若只需收据上的三笔金额，完全可以直接用文字输入数字。
2. 是否只保留了必要部分？ 可使用手机自带的图片编辑功能，裁掉无关紧要的部分。
3. 该遮盖的地方是否已遮挡？ 若不可避免地拍到了姓名或号码，应用编辑功能中的画笔进行涂抹遮挡。

他人的信息与照片

与保护自身信息同样重要的是对待他人的信息。在与 AI 交谈时透露家人或朋友的隐私，其普遍程度往往超出想象：

• 完整截取家庭群聊记录并提问：“帮我总结一下这个”
• 详细写下朋友的私事并请求：“朋友○○离婚了，帮我写一条安慰短信”
• 上传孙辈的面部照片并要求：“帮我转成绘画风格”
• 粘贴聚会成员名单（姓名、电话号码）并要求：“帮我按字母顺序排序”

这些信息的主体并非自己，而是当事人本人。当事人并不知道自己的故事会被存储在 AI 公司的服务器上，更未曾对此表示同意。因此，必须恪守以下原则：

1. 隐去真实姓名，仅描述概况。 仅凭“朋友遭遇了困难挫折”，就已经足够生成恰当的安慰短信。
2. 切勿上传群聊截图。 若确需归纳总结，应由自己手动摘抄必要部分，并彻底抹去人名。
3. 未经当事人（未成年人须经其父母）许可，严禁上传其面部照片。 尤其是未成年人的照片，更应格外谨慎。
4. 不得原样粘贴真实名单。 若仅想咨询整理排序的方法，可将姓名替换为“会员1”、“金○○”等虚构示例进行提问。实际的名册整理应借助手机备忘录或表格软件亲自处理，而非交由 AI。

对话记录：保留与删除

大多数 AI 应用都会以列表形式展示过往的对话，这就是对话记录。对话记录很便利，因为可以随时重温昨日获得的解答。然而，一旦记录中夹杂了个人信息，共用手机的人或登录该账号的其他人便能一览无遗。

对话记录固然可以删除，但删除并不意味着立刻从所有地方彻底消失。截至核实日，各家公司的官方说明如下：

• OpenAI： 帮助文档《Deleting and archiving chats in ChatGPT》中说明，已删除的对话会立即从账户界面中消失，并被安排在 30 天内从 OpenAI 系统中永久删除。但官方同时指出，若数据已完成去标识化（处理为无法识别特定个人）并与账户解绑，或出于安全及法律合规要求必须保留的情况除外。
• Google： 官方说明指出，“Gemini 应用”中的聊天内容可由用户随时手动删除，但已被人工审核员审查过的聊天内容（及相关数据）即便删除了活动记录也不会被一并删除。

因此，操作的先后顺序至关重要：首要原则是从一开始就不输入，事后删除只能作为退而求其次的补救措施。

训练设置：是否允许将我的对话用于 AI 改进

AI 公司可能会将用户的对话内容用于提升 AI 性能（这被称为模型改进或训练）。为了让用户自主决定，服务通常会提供专门的设置选项，本书将其统称为训练设置。截至核实日，官方说明如下：

Gemini 应用存在例外情况。Google 指出，即便关闭了保留活动记录，一旦用户提交了意见反馈，该意见及相关对话仍会被收集并用于维护和改进 Gemini 应用，且该意见会由人工审核员进行审核。此外官方还声明，即便关闭该设置，为了向用户提供回答以及保护 Google、用户和公众的安全，仍会通过包括人工审核在内的多种方式继续使用聊天内容。

随着应用的更新迭代，设置项的名称和位置可能会发生变化。因此，与其死记硬背具体的菜单路径，不如养成“查看自己所用的 AI 是否具有训练设置、当前处于何种状态”的良好习惯。若不清楚具体位置，可以在该服务的帮助文档中检索“数据”、“个人信息”、“训练”等关键词。

临时对话

部分服务额外提供了不保留记录的对话功能。截至核实日，官方说明如下：

• ChatGPT 的 Temporary Chat（临时聊天）： 不会出现在对话记录中，不会建立或修改记忆（Memory），也不会用于 OpenAI 的模型改进。但出于安全考量，最多可能会保留 30 天。若将临时聊天保存，则会转为常规对话并遵循账户的默认设置。
• Claude 的 Incognito 聊天： 即便在隐私设置中开启了 Model Improvement，对话也不会用于 Claude 的改进。
• Gemini 应用的临时聊天： 在账户中保留 72 小时，不会用于 Google AI 模型的训练。

临时对话非常适合临时咨询即毕的事项，或不希望留下记录的情况。但有一点必须牢记：临时对话同样会经过服务商的服务器，并会被短期留存。 绝不能因为使用的是临时对话，就认为可以输入红灯信息。

输入公司与学校资料前

虽然本课程不涉及办公专业级 AI 的操作，但日常生活中同样存在许多“不属于自己的资料”：

• 工作单位（含兼职、计时工岗位）的客户名册或内部文件
• 志愿服务团体、同好会、公寓业主大会的会员信息与会议资料
• 孙辈学校发来的家校联系函、同班同学名单、老师的联系方式

在将此类资料输入 AI 之前，必须核实两点：

1. 该机构是否存在 AI 使用规范？ 公司、学校或团体可能制定了“严禁将资料输入外部 AI”等相关规章。如果不清楚，应先向负责人询问确认。
2. 是否包含他人的信息？ 若其中包含会员名单、客户信息、同班同学姓名等，即属于黄灯或红灯范围。必须剔除后再输入，或坚决不予输入。

像家校联系函这类不含他人个人信息的常规通知，很适合用来请求 AI 提炼摘要，例如“请帮我总结这份通知中监护人需要做的事情”。不过，输入时最好将学校名称、班级名称以及教师姓名一并抹去。

在公用设备上退出登录

在图书馆、福利馆、居民中心（社区事务受理中心）的电脑，或在家庭共用的平板电脑上使用 AI 时，需格外提高警惕。若在登录状态下直接离开，下一位使用者就能直接看到完整的对话记录。而对话记录中很可能记录着向 AI 倾诉的烦恼、家庭私事乃至健康状况。

试着这样做：在公用电脑上安全使用

使用前与使用过程中：

1. 登录时若有“保持登录状态”、“自动登录”等复选框，切勿勾选。
2. 浏览器弹出“是否保存密码？”提示时，点击“不保存”。
3. 尽量使用临时对话功能，且从一开始就坚决不输入个人信息。

离开座位前必做的三件事：

4. 在账户菜单中点击退出登录。仅仅关闭浏览器窗口可能并未真正退出登录。
5. 重新打开 AI 网站，确认是否显示登录界面。若出现登录界面，则表明已成功退出。
6. 检查浏览器是否保存了自己的密码或自动登录凭据。若不慎保存，须在浏览器设置中将其彻底清除。

若是家庭共用的平板电脑，建议将自己的账户与家人的账户分离开来使用。

法律保护谁以及如何保护

韩国《个人信息保护法》主要对个人信息处理者，即在业务活动中为运作个人信息文件而处理个人信息的机构、公司、团体和个人施加法定义务（第2条第5款）。运营 AI 服务的企业在处理用户个人信息时，同样必须严格遵守该法。

同时，该法赋予了信息的所有者——信息主体法定权利。第4条规定，信息主体享有获悉自身个人信息处理相关信息的权利、确认是否处理并要求查阅的权利、要求中止处理、更正、删除与销毁的权利，以及依照迅速公正的程序获得损害救济的权利等。

本章所培养的习惯（不输入、脱敏遮挡、删除记录、核实设置），是在法律所赋予的权利之上，由我们自己额外系上的一道安全带。法律的存在并不意味着我们可以放松个人警惕，而个人的审慎小心也不会免除企业应负的法定义务。

深入阅读

碎片各自看似无害、拼凑起来就会暴露

前面我们已经了解到，当“70多岁、佳蓝公寓、退休校长”拼凑在一起时，就会暴露具体是谁。这种情况并不仅发生于单次提问之中。

• 周一的对话：“我70多岁了，膝盖不太好。”
• 周三的对话：“我住在佳蓝洞，请推荐附近的骨科医院。”
• 周五的对话：“校长退休后，有什么适合参加的志愿服务活动吗？”

单看每一条对话，都接近绿色。但在同一账号的对话记录中，这三条会同时保留下来。此外，部分服务还具备将对话内容记住（记忆）并在下次对话中加以调用的功能。OpenAI帮助文档之所以特别说明临时聊天“不会创建或更新记忆”，正是因为存在这项功能。记忆功能虽然便利，但这也意味着自己分散表达的零散片段会被汇聚到一处。

因此，建议偶尔浏览一下自己的对话记录与记忆功能中的内容。某些应用程序允许查看并删除AI所记住的内容。不妨在所用应用程序的帮助中心搜索“记忆”或“Memory”。

为什么仅“关闭训练”还不够

关闭训练设置固然让人安心，但训练设置只是多道防线中的一扇门而已。将训练设置能改变与不能改变的事项区分如下：

因此，训练设置虽然是一项值得确认的设置，但它绝非能让人随意输入红色信息的魔法按钮。最可靠的保护，依然是从一开始就不输入。

如果已经不慎输入

如果不慎输入了红色信息，请不要慌张，按以下步骤依次处理：

1. 删除该对话。 虽然无法彻底解决问题，但能降低他人在对话记录中看到的可能性。
2. 如果输入了密码，请立即修改。 若在其他地方也使用相同密码，应将那些密码一并修改。
3. 如果已将验证码告知他人，或账户、卡号疑似被用于诈骗， 请立即联系相应金融机构的客服中心。
4. 若因网络钓鱼导致个人信息泄露， 请遵循韩国金融监督院电信诈骗守护网站的应对指南。该指南介绍了在个人信息泄露时，如何在金融监督院个人信息泄露者事故预防系统（pd.fss.or.kr）进行登记，以及如何通过韩国信息通信振兴协会的防冒名办理服务（www.msafer.or.kr）查询本人名下是否被开通手机等应对方法。

工作场景

崔英姬女士的保险理赔准备

情景。 引言中的崔英姬女士听了儿子的劝阻，没有上传那三张照片。相反，她重新思考了该问什么、怎么问。

思考过程。 崔英姬女士想了解的是“申请保险理赔需要准备哪些材料、按什么顺序办理”。她将该问题所需的信息按照红绿灯进行了区分：姓名、居民登录号、卡号、保险公司账号及密码属于红色；医院名称、手术日期、诊断书属于黄色；“60多岁女性”、“膝盖手术”、“实损险”属于绿色。

弃用的备选方案。

• 照常上传照片，但只关闭训练设置。 即使关闭训练，照片仍会上传到服务器并保留在记录中，因此放弃。
• 在临时对话中上传照片。 临时对话也会经过服务器并保存一定期限，这不能成为输入红色信息的理由，因此放弃。
• 不使用AI，独自解决。 AI在梳理材料清单和流程顺序方面能提供很大帮助，因此放弃。

决定。 崔英姬女士仅使用绿色信息进行了提问（参考本章“清除个人信息后提问”中的遮蔽后提问）。AI为她梳理了通常所需的材料清单与申请顺序，并在各保险公司要求不同的部分标明了“向保险公司确认”。崔英姬女士拿着这份清单，在保险公司的官方App中直接进行了申请。收据照片只上传到了保险公司的官方App中，并未提供给AI。

朴正浩先生在福利馆的电脑

情景。 朴正浩先生正在准备下个月女儿婚礼上的主婚人致辞。由于家里没有电脑，他借用了福利馆信息化教室的电脑。他向AI倾诉了与女儿的回忆、女婿一家的故事，甚至包括妻子几年前去世的心事，并借此润色了致辞。打印出满意的致辞后，他心情愉快地回了家。

问题。 当天傍晚，在福利馆使用过同一台电脑的邻居打来电话：“大哥，AI界面还登录着您的账号呢。对话记录全都能看见，我赶紧把窗口关了。”原来朴正浩先生当时没有退出登录。

思考过程。 朴正浩先生意识到了两点：第一，关闭窗口与退出登录是两回事；第二，写致辞并不需要把妻子的事或女婿家的情况写得那么详细，“几年前妻子先走一步”这样简述一句情况就足够了。

弃用的备选方案。

• 既然邻居关了窗口就觉得没事而不了了之。 下一个人再次打开时登录状态可能会继续保持，因此放弃。
• 彻底注销AI账号。 此举反应过度，且今后仍打算继续使用AI，因此放弃。

决定。 朴正浩先生次日清晨前往福利馆，在那台电脑上退出了登录，并确认已退回至登录界面。回到家后，他用手机修改了账号密码，并删除了详细记录女婿家庭情况的对话。此后，他养成了在公共电脑上从一开始就减少个人倾诉、每次离开座位都务必退出登录的习惯。

易错点

1. “在自己手机上独自使用，所以只有我自己能看。” 对话会传输至运营公司服务器并予以存储。根据设置不同，对话可能会被用于服务改进，甚至由人工进行审查。
2. “只要隐去姓名就不是个人信息。” 年龄、街区、职业、经历的事汇集在一起，就能辨明是谁。必须综合考量拼凑在一起的各个碎片。
3. “既然关闭了训练设置，输入什么都无所谓。” 训练设置只改变是否用于模型改进。数据传输至服务器、保留在记录中、安全审查以及公共设备上的暴露风险，可能依然如故。
4. “临时对话不会在任何地方留下痕迹。” 临时对话同样要经过服务器，且根据服务的不同，会在一定期限内被保留。
5. “只要删除对话，就会立即从所有地方消失。” 各运营公司均说明，删除后在一定期限内可能仍有保留，或者已被审查过的对话可能会留存。
6. “家人的事就是我自己的事，可以随意写。” 家人也是独立的他人。应当化名并仅概述情况，使用人脸照片必须征得本人同意。
7. “窗口关了就等于退出了登录。” 即使关闭窗口，登录状态仍可能维持。在公共设备上务必点击退出登录并予以确认。
8. “填写材料需要居民登录号，所以也要告诉AI。” 向AI咨询材料填写方法时，只需将号码栏留空即可。真实的号码仅在官方办理窗口使用。

要点速览

查阅官方文档

• 韩国国家法令信息中心 — 《个人信息保护法》第2条：个人信息、信息主体、个人信息处理者的定义。
• 韩国国家法令信息中心 — 《个人信息保护法》第24条之2：限制处理居民登录号、加密存储、会员注册阶段的替代手段。
• 韩国国家法令信息中心 — 《个人信息保护法》第4条：信息主体的权利。
• OpenAI — Data controls in ChatGPT：“Improve the model for everyone”设置、Temporary Chat（临时聊天）。
• OpenAI — Deleting and archiving chats in ChatGPT：删除对话的方法、已删除对话何时被永久删除以及例外情形。
• Google — Gemini 应用隐私中心：活动记录保留、人工审查、保留72小时以及请勿输入机密数据的提示。
• Anthropic — Is my data used for model training?：Model Improvement设置、Incognito聊天、反馈与安全审查的例外情形。
• 韩国金融监督院电信诈骗防范网 — 遭遇电信诈骗时的应对方法：个人信息泄露时的应对措施。

自测

4-1. 请举出一个完全没有出现姓名却依然能认出是谁的句子示例，并写出在该句子中对哪些内容进行泛化或省略后可以变得安全。

4-2. 请将下列信息划分为红、黄、绿三类：（a）银行短信收到的验证码 （b）“60多岁，腰不好” （c）孙女的面部照片 （d）居民中心领取的常规通知内容 （e）银行卡背面照片 （f）朋友的姓名与电话号码

4-3. 请使用本章四种方法（省略、替换、泛化、截断）中合适的方法重写以下提问：“我是朴顺子（010-○○○○-○○○○），住在佳蓝洞15号的儿子金敏洙下周要搬家。请帮我写一条乔迁祝贺短信。”

4-4. 请写出关闭训练设置时会改变的一项内容，以及不会改变的两项内容。

4-5. 请写出一个适合使用临时对话的场景，以及一件即使在临时对话中也不该做的事情。

4-6. 请合上书本，凭记忆写出本章“在公共电脑上安全使用”的第4至6步。并用一句话补充说明为什么仅仅关闭浏览器窗口是不够的。

4-7. 请选择一个自己正在使用（或打算使用）的AI服务，写出确认其是否存在训练设置、设置位于何处以及当前状态的方法。如果目前还没有使用的服务，请写出将通过搜索什么来查找。

实操练习