第 5 章 识别AI诈骗与伪造信息及日常生活应用
学习目标
- 阐述什么是深度伪造(模仿声音与容貌的虚假内容),以及为什么仅凭视听难以分辨。
- 找出诈骗联络中的常见信号(紧急、保密、索要资金与金融信息、要求点击链接或安装App、陌生号码与即时通讯软件)。
- 收到可疑联络时,依序遵循挂断、通过已存号码核实、报警举报的流程。
- 说明家庭成员之间提前约定并使用核实问题及紧急联系方式的方法。
- 说明对虚假图片、虚假新闻、虚假评价起疑的要领,以及AI生成内容标识的含义与局限。
- 在摘要、翻译、写作等日常琐事中安全使用AI。
引言
夜里十一点,尹玉顺女士的手机响了。那是一个陌生号码。一接通,电话那头便传来了夹杂着哭泣的声音:“妈,是我……我出事了。妈,怎么办啊。”那千真万确是女儿的声音,连呼吸声都一模一样。紧接着,一名陌生男子接过了电话:“你女儿把我们的车撞坏了。如果现在马上转账500万韩元和解金,我们就不报警。要是敢挂电话,你女儿就会受伤。绝对不能告诉别人。”
尹玉顺女士的手颤抖起来。正要打开手机银行App的瞬间,她想起了去年春节和家人定下的约定:“只要一提到钱,无条件挂断,用存好的号码重新拨打;然后再问一个我们自己定好的问题。”尹玉顺女士说了句“请等一下,我去趟银行”,随即挂断了电话。接着,她拨打了手机里保存的女儿电话。女儿用睡意朦胧的声音接了电话:“妈,怎么了?我正睡觉呢。”
那通电话里的声音极有可能是用AI合成的假声音。如今,发布在社交平台上的视频或音频,都可能被用作模仿声音的素材。光凭耳朵听,越来越难以分辨真伪。因此,本章比起“识别假象的双眼”,更优先传授“即便遇到伪造也能防止受害的流程”。首先了解什么是深度伪造,掌握诈骗联络的共通信号、核实流程、家庭核实问题以及报案求助渠道;接着探讨虚假图片、虚假新闻、虚假评价以及AI生成内容标识;最后结合本书所学内容,以在日常琐事中安全使用AI的方法收尾。
核心概念
什么是深度伪造
深度伪造是指利用AI模仿人的容貌或声音制作的虚假图片、视频或音频。它是AI技术分支“深度学习”与意为伪造的“Fake”结合而成的词。仅模仿声音的伪造,有时也被专门称为深度伪音。
深度伪造通常以以下形式出现:
| 种类 | 示例 |
|---|---|
| 伪造声音 | 用子女或孙辈的声音说“出事了,快汇钱过来” |
| 伪造视频通话或视频 | 用家人的面孔拨打简短的视频通话,或发送看似受伤的视频 |
| 伪造名人视频 | 伪造知名人士或经济专家推荐投资产品的虚假广告 |
| 伪造图片 | 虚构并未发生的事故现场、凭空捏造的物品照片 |
制作深度伪造内容需要被模仿者的容貌或声音。这些素材通常来自公开渠道。韩国警察厅在发布有关AI模仿家人声音的钓鱼诈骗防范指南时叮嘱,在社交平台上发布包含声音的帖子时须格外注意;针对利用深度伪造制作的绑架子女虚假视频,也提示应避免将帖子设置为任何人均可查看的公开状态。
为什么仅凭视听难以分辨
过去,诈骗电话由于声音生硬或口音奇怪,往往容易被识破。然而现在,AI连当事人的语气和呼吸声都能模仿得惟妙惟肖。虚假视频也是如此。虽然常有人建议寻找面部边缘模糊、唇形对不上等破绽,但随着技术的进步,这类破绽正变得越来越少。更何况,深更半夜听到家人的哭声,任谁都无法保持冷静去仔细推敲。
因此,本书建议采取另一种思路:
- 不用耳和眼做判断。“声音听起来很真”不能作为真实的证据。
- 按流程进行核实。挂断、用已存号码重新拨打、提出约定好的问题。
- 即便真遇到紧急情况,该流程依然有效。如果确实可能发生了意外,应通过已存号码联系当事人或其他家人确认安全,同时拨打112报警。若是真事故,需要警察和急救人员的帮助;若是伪造骗局,该流程能守住资金。无论哪种情况,贸然向陌生人账户汇款绝非解决之道。
诈骗联络的五大信号
无论是否使用了AI,诈骗联络总会出现重复的信号。只要出现以下五种信号中的任何一种,就应立刻停下来。哪怕信号并不十分明显,只要觉得有些异常,也要停下来另行核实。
| 信号 | 诈骗分子话术示例 |
|---|---|
| 1. 制造紧迫感 | “现在立刻”、“今天之内不办的话”、“10分钟以内” |
| 2. 要求保密 | “千万不要告诉任何人”、“绝对不能挂电话” |
| 3. 索要资金或金融信息 | “汇出和解金”、“报出账号和卡号”、“告知验证码” |
| 4. 要求点击链接或安装App | “请点击此链接确认”、“请安装安全App” |
| 5. 来自陌生号码或即时通讯软件 | “妈,我手机坏了,用朋友手机联系你”、陌生号码发来的短信 |
在第4个信号中,通过短信发送链接诱导受害者进入钓鱼网站或安装恶意App的手法,专门被称为短信钓鱼。它是短信(SMS)与钓鱼(Phishing)结合而成的词。对于伪装成快递查询、红白喜事请柬、罚款缴纳通知等短信中的链接,切勿点击。
官方机构的指南也指出了同样的信号:
- 韩国金融监督院“电信诈骗防护网”指出,凡通过电话或网络索要账号、银行卡号、网银信息的,绝不能配合;以退税或保护账户为由诱导前往自动取款机(ATM)的,100%是电信诈骗。
- 韩国警察厅说明,自称检察官并要求不得向任何人透露、以案件侦查恐吓当事人的行为,是旨在制造恐惧并阻止受害者报警的诈骗手法。
- 韩国金融监督院提醒,即使对方事先掌握了本人的个人信息或金融交易信息再行接近,也必须核实电话、短信或即时通讯内容的真实性。知道姓名和住址并不代表对方就是真实的。
暂停、挂断、核实
这是收到可疑联络时应遵循的流程,请牢记先后顺序:
- 暂停。不转账汇款、不报出号码、不点击链接、不安装App。
- 挂断。只需说一句“我确认后再联系”即可。即使对方要求不许挂断,也要坚决挂断。
- 主动拨打已存号码。若对方自称家人,拨打本人手机中原本保存的号码;若自称机构,拨打官方网站上注明的代表热线。
- 提出约定的核实问题。如果家庭成员之间预先约定了核实问题,用该问题进行确认(见下一节)。
- 通知其他家人。切勿独自决断。其他家人可以协同核实当事人的安全状况。
- 报警举报。如果看似诈骗,应立即举报;若已发生转账,应立即联系金融机构与警方(见本章“报案与求助渠道”)。
韩国警察厅也指出,感到可疑时,先挂断电话并向当事人或身边熟人核实,是最迅速、最安全的防范方法。
务必使用已存号码进行核实
在第3步中,关键在于拨打哪一个号码。如果拨打对方告知的号码去“回电核实”,该号码很可能是诈骗分子的号码。短信中附带的号码也是如此。
韩国金融监督院提醒公众注意:主叫号码是可以被篡改的。这意味着,即便手机屏幕上显示的是银行或机关单位的号码,甚至是家人的号码,也不能仅凭此就轻信为真。因此,基本原则是不在来电中直接核实,而是由自己挂断后主动重新拨打。
| 拟核实对象 | 拨打号码 |
|---|---|
| 家人、朋友 | 本人手机中原本保存的号码 |
| 银行 | 银行卡背面或银行官方网站、官方App上注明的客服电话 |
| 警察、检察院、公共机构 | 官方网站上注明的代表热线,或112 |
| 快递、电商平台 | 本人平时使用的官方App或官方网站 |
注意
遇到这种情况请停下来。如果曾点击短信中的链接安装了某些内容,或是听从他人指引下载了App,手机中可能已存在恶意App。韩国法制处“简明生活法令信息”警示:若使用已安装恶意App的本人手机向金融机构、金融监督院、警方等拨打电话,诈骗分子可能会在中间拦截通话并转接至电信诈骗团伙;必要时应使用家人等熟人的电话向金融机构或金融监督院(1332)核实真伪。遇到此类情况,务必使用他人的电话进行核实与报警。
难以挂断电话时
面对“敢挂电话你女儿就会受伤”等恐吓时,往往令人因害怕而不敢挂断。韩国警察厅针对此类情况给出了如下指引:若因犯罪分子恐吓不准挂电话而难以报警,可向身边人员求助请其代为报警,或者在通话的同时发送短信至112报警,以核实子女的安全状况。韩国警察厅强调,不论是真绑架还是假借绑架之名的诈骗,都必须无条件报警。
平时提前做好准备,在危急时刻能发挥重要作用:
- 将家人的手机号码存入快捷拨号或收藏夹中。
- 韩国金融监督院提示,为应对假借绑架子女名义的电信诈骗,平时应提前留存子女朋友、老师、亲戚等的联系方式。因为当事子女未能接听电话时,必须有其他渠道确认其安全。
设定家庭核实问题
家庭成员之间预先设定的核实问题,是防范模仿声音与容貌诈骗的简单而有力的手段。诈骗分子即使能够模仿声音,也很难获知仅有家人之间才知晓的秘密约定。
良好的核实问题应具备以下条件:
| 条件 | 良好示例 | 不良示例 |
|---|---|---|
| 无法在社交平台或网络上查到 | “小时候我们家小狗最害怕的东西是什么?” | “妈妈的生日是哪天?”(可通过证件或社交平台查到) |
| 家人容易记住 | 共同经历过的事 | 刻意编造的复杂密码 |
| 可以简短回答 | 一两个词语 | 长句子 |
| 外人听了不知其意 | 仅自家人知晓的外号 | 地址或学校名称 |
设定方法如下:
- 趁节假日或家庭聚会等当面相聚的场合共同商定。如果在群聊或短信中商定,相关记录可能会泄露。
- 不要将问题与答案记录在手机或社交平台上。若确需记录,可写在纸上并妥善存放在安全位置。
- 同时约定“只要提到钱,无条件挂断并用已存号码重新拨打”的规则。该规则优先于核实问题。
- 大约每年温习重温一次,避免遗忘。
要点
核实问题不能替代“挂断后重新拨打”。诈骗分子仍有可能通过某些手段获知答案,因此应将核实问题与使用已存号码回电结合使用。
通过即时通讯软件冒充家人
除了电话,通过即时通讯软件冒充家人的情况也屡见不鲜。例如:“妈,我手机屏幕碎了,用朋友手机联系你。我有样东西急着付款,能把妈妈的银行卡照片和密码发给我一下吗?”诈骗分子甚至会将头像和昵称伪装得与家人一模一样。
此类信息同样具备前述五大信号:情况紧急(1)、陌生号码(5)、索要金融信息(3)。应按照韩国金融监督院的指导,务必核实即时通讯内容的真伪。通过聊天软件询问“你真的是某某吗?”,并不属于有效核实,因为诈骗分子只会顺口回答“嗯,是我”。必须拨打原本保存的号码,通过声音以及核实问题进行确认。若无法接通原号码,应向其他家人求证。
注意
遇到这种情况请停下来。自称家人的人如果索要银行卡照片、身份证照片、验证码、密码,或者要求点击从未见过的链接、安装陌生App,请当场停下来。家人之间最好提前约定:即便真是自家人,也绝不在即时通讯软件中索要此类信息。
虚假图片与视频
AI生成的图片和视频往往真假难辨、十分逼真。它可以凭空造出未曾发生的事故现场、捏造名人未曾说过的话,或是生成与实物不符的物品照片。“有图有真相”的观念如今已不再适用。
遇到虚假图片与视频时,比起画面本身,更应关注其来源:
- 最初是谁发布的?是官方机构、正规媒体、当事人官方认证账号,还是来源不明的转发帖?
- 其他可靠信源是否也进行了报道?若确为重大事件,通常会有多家媒体及官方机构同步报道。
- 它要求我做什么?如果要求汇款、投资、点击链接或催促尽快转发,则应高度警惕。
- 是否在强烈煽动情绪?越是令人极度震惊、恐惧或愤怒的视频,越要停下来三思。
特别是知名人士劝诱投资的视频,在深度伪造诈骗中屡见不鲜。正如第3章所述,只要出现“稳赚高收益”、“保本保息”、“机不可失立即行动”等字眼,无论视频中的面孔是谁,都必须怀疑其真实性。该知名人士是否真的发表过此类言论,应通过其本人的官方渠道或正规媒体报道予以核实。
虚假新闻与虚假评价
AI能够极其迅速、大批量地生成看似合理的文章,因此也被不法分子用于炮制虚假新闻与虚假评价。
怀疑虚假新闻的信号
- 形似正规报道,但没有媒体名称,或者媒体名称闻所未闻。
- 没有发布日期,或者把陈年旧事说成是最近发生的新闻。
- 使用“政府隐瞒的真相”、“无人敢说的内幕”等词句故弄玄虚。
- 声称是官方机构的通告,但该机构官方网站上并无相关发布记录。
- 恳请“尽快扩散”、“速速转发”。
怀疑虚假评价的信号
- 多条评价的句式反常地雷同。
- 短期内好评如潮水般集中涌现。
- 缺乏具体的使用体验,通篇充斥着“太棒了”、“人生必备好物”等空洞口号。
- 只有一边倒的溢美之词,毫无任何不足或遗憾之处。
第3章培养的核实习惯在此同样适用:观察是否为官方机构通报、信息发布于何时、能否在其他可靠来源得到交叉验证。在核实真伪之前,切勿盲目转发至群聊中。
AI生成内容标识
法律规定应当通过标识注明相关文本、图片或视频是否由AI生成。韩国《人工智能基本法》第31条对此作出了如下规定:
- 第1款: 人工智能经营者拟提供利用高影响人工智能或生成式人工智能的产品或服务时,须向用户事先告知该产品或服务基于相应人工智能运行的事实。
- 第2款: 人工智能经营者在提供生成式人工智能或利用其开发的产品与服务时,须标识该成果物由生成式人工智能生成的事实。
- 第3款: 人工智能经营者利用人工智能系统提供难以与现实区分的虚拟声音、图像或视频等成果物时,须以用户能够明确识别的方式告知或标识该成果物由人工智能系统生成的事实。对于艺术性、创造性的表现物,可采取不影响展示或欣赏的方式进行。
- 第4款: 告知与标识的具体方法、例外情形等由总统令规定。
此处所称人工智能经营者,是指从事与人工智能产业相关业务的法人、团体、个人、国家机关等,包括开发并提供人工智能的人工智能开发经营者(a目),或利用所提供的人工智能提供产品与服务的人工智能利用经营者(b目)(第2条第7项);用户则是指接受人工智能产品或服务的人(第2条第8项)。也就是说,该义务由AI服务的提供方承担。
在日常生活中理解这项法律的视角有两点:
| 场景 | 解读方式 |
|---|---|
| 存在“由AI生成”等标识 | 意味着这是AI制作的产物。切勿将其视为真实事件或真人的实际言论 |
| 不存在标识 | 并不意味着内容属实。 可能是违法诈骗分子所为、被他人抹除标识后传播,或是出自境外等法律管辖不及之处 |
注意
遇到这种情况请停下来。一旦产生“没有AI标识,所以是真实视频”的念头,请立刻停下来。诈骗分子绝不会遵守标识义务。有标识可作为参考,但没有标识绝不保证其真实性。判断依据始终应当来自信源渠道与核实流程。
报案与求助渠道
怀疑遭遇诈骗或已经遭受损失时的联系渠道如下。以下内容整理自截至核实日(2026年10月28日)的官方指南:
| 联系渠道 | 业务范围(基于官方指南) |
|---|---|
| 112(警方) | 钓鱼诈骗受害报案。紧急情况、假借绑架之名的恐吓一律无条件报警 |
| 1394(韩国警察厅电信网络金融诈骗综合应对团) | 电信诈骗受害咨询、涉诈电话号码及网站举报、协调关联机构处置。提供365天24小时全天候咨询 |
| 汇出资金的银行、收款账户所属银行的客服中心 | 受害报案及账户止付申请。亦可通过拨打112或1332协助转接 |
| 1332(韩国金融监督院) | 钓鱼诈骗咨询与求助。通话费由主叫方承担 |
| 118(韩国互联网振兴院) | 冒充金融机构的垃圾短信举报 |
如果已经完成转账汇款,请遵循韩国金融监督院“电信诈骗防护网”的“电信诈骗受害应对方法”。核心步骤如下:
- 立即致电汇出资金的银行或收款账户所属银行的客服中心,挂失申报并申请账户止付。止付是阻止资金从诈骗分子账户中流出的锁定措施。
- 若个人信息发生泄露或安装了恶意App,应采取手机恢复出厂设置、删除恶意App、在韩国金融监督院“个人信息泄露者事故预防系统”登记、通过金融结算院“账户信息综合管理服务”申请账户止付、通过韩国信息通信振兴协会“防身份冒用服务”查询本人名下是否被冒名开立手机等措施。
- 从警方处开具“事件事故事实确认书”等证明,前往已申请止付的银行营业网点以书面形式提交受害救济申请。若此前通过电话申请了止付,则须在申请之日起3个工作日内提交申请材料(韩国《电信诈骗受害返还法实施令》第3条第2款,韩国金融监督院指南表述为“申请日起3个工作日内”)。若逾期未交,银行将指定14天的期限通知催告提交材料;若在催告期内仍未提交,则视为未曾提出电话申请(同条第3款)。所需准备的文件请在前往办理前向银行或警察局咨询。
参考
联系渠道与处理流程可能会有所变动。建议将此表保存在手机中,但每年最好在韩国金融监督院“电信诈骗防护网”和韩国警察厅指南中核实一次最新内容。
日常生活应用 ①:摘要
现在,我们将结合本书所学内容,探讨如何在日常生活中使用AI。首先是摘要。对于公寓物业通知、家长通知书、冗长的须知等读起来费劲的文本,AI非常擅长将其提炼精简。
尝试这样做:从冗长通知中提取待办事项
- 删去通知中的姓名、地址、联系方式、客户编号等信息(第4章)。
- 粘贴通知内容并提出如下请求:
[发送的提问]
以下是我们公寓物业管理处的通知。
请按序号梳理出我需要做的事情,控制在三项以内。
日期、时间、金额请按通知原样转述,不要添加通知中未提及的内容。
(粘贴通知内容)
- 收到AI的摘要后,务必将日期、时间、金额与原文再次核对。AI在提炼摘要时可能会改动或遗漏数字。
日常生活应用 ②:翻译
在旅游地的菜单、外国产品的说明书、写给外国邻居的问候等需要翻译的场景下,AI也能提供极大的帮助。
使用翻译时的要领有三点:
- 告知使用场景。如说明“用于给餐厅店员看的句子”、“发给邻居的礼貌问候”等具体用途,AI便能以恰当的语气进行翻译。
- 进行反向核实。将翻译好的句子放入新的对话中,试着输入“请把这句话翻译成韩语”。如果与原本的意思相差很大,就重新翻译。
- 重要翻译交由人工处理。涉及看病就医、合同协议、公文证件等出现差错后果严重的翻译,应求助于专业翻译人员或使用相关机构的官方指南。
[发送的提问]
请帮我用日语写一段在日本旅行时在餐厅向店员出示的话。
“我对花生过敏。如果有含花生的食物,请告诉我。”
请使用礼貌语气,并在日语句子下方用韩语重新注明其含义。
我想确认意思是否准确。
如果是像过敏这样关乎身体健康的句子,除了对翻译结果进行反向核实之外,出发旅行前找懂该语言的人看一眼会更为稳妥。
日常生活应用 ③:写作
撰写祝贺、感谢、致歉、请求类的文本,是AI最擅长的事情之一。第2章学到的五格提问表在此同样适用。使用AI进行写作时,请牢记以下几点:
- 事实由自己提供。日期、地点、姓名、金额应由自己提供,或要求AI留出空白,以防AI凭空捏造。
- 心意由自己润色。AI生成的语句虽然通顺得体,但往往千篇一律、适用于任何人。添上一句只有自己知晓的回忆,才能变成真正属于自己的文字。
- 诚实撰写。在二手交易帖、评价、信访诉求中绝不掺入不实内容(第2章)。不用AI生成的图片将物品美化得超越实际状况。
- 发送之前通读。出声朗读一遍,检查是否存在AI擅自添加的荒唐姓名或不当表达。
日常生活五大安全守则
将全书内容凝练为五句话如下。这是在日常琐事中使用AI时降低风险的基本习惯:
- AI会编造答案。可用于写作与解释,但事实务必核实(第1章)。
- 如托付般具体提问,并不断调整追问。可说明原委,但隐去个人身份(第2章)。
- 数字、日期、姓名、地点须通过官方机构再次核对。健康、法律、金钱问题咨询专业人士(第3章)。
- 不输入红色级别信息。居民登录证号、密码、验证码、银行账号及卡号(第4章)。
- 紧急要钱应挂断,用已存号码核实。声音与容貌不足为凭(第5章)。
深入阅读
流程比检测技术更有力
我们经常听到这样的提问:“难道不能用AI来甄别AI制作的假信息吗?”虽然检测深度伪造(Deepfake)的技术也在不断研发,但制作技术与检测技术之间始终是一场你追我赶的较量。今天行之有效的检测方法,明天可能就失效了。更何况,在半夜接到电话时,我们根本无法当场运行检测程序。
相反,“挂断电话、用已存号码回拨、询问预设问题”这一流程,即使伪造模仿技术再高超,也不会轻易被攻破。因为即便诈骗分子能完美模仿女儿的声音,要想操控“由我亲自拨打已存号码后女儿接听并回答核实问题”这一全过程,难度要大得多。不过,这一流程也并非万无一失。正如前文所述,如果自己的手机中被安装了恶意应用,自己拨出的电话也可能被拦截,遇到这种情况时应借用他人的手机进行核实。因此,本章首先传授的是“流程”,而不是“识别虚假的眼光”。
这一原理就像银行办理大额转账时反复核对一样。即使银行职员对客户的面孔非常熟悉,涉及大额资金时也必须依照既定流程进行核查。人的眼睛和耳朵可能会被蒙骗,但健全严密的流程却不易受骗。
分享自己用AI制作的内容时
如今我们自己也可以用AI绘制画作、把孙辈的照片转换成漫画风格,或是制作祝福视频。这是令人愉快的事情。不过在将自己制作的内容与他人分享时,最好注意遵守以下几点:
- 注明由AI生成。 韩国《人工智能基本法》规定的标注意务针对的是提供AI服务的经营者。但个人若能顺便说明一句“这是用AI绘制的图片”,接收者就不会误以为是真实照片。尤其是对于难以与真实情况区分的照片或视频,更应如此。
- 不拿他人的面孔和声音恶作剧。 即使是出于娱乐制作的虚假视频,也可能给当事人造成巨大伤害;一旦扩散开来,还可能被用于诈骗或网络欺凌。正如第 4 章所述,未经许可不得擅自使用他人的照片。
- 缩小家庭照片的公开范围。 正如前面提到的韩国警察厅提示,公开的面部和声音可能会成为深度伪造的素材。家庭照片和视频最好设置为仅家人可见,这样更为安全。
工作场景
尹玉顺女士的深夜来电
情况。 引言中提到的尹玉顺女士接到了用女儿声音打来的电话,被索要500万韩元。
寻找信号。 这通电话中包含了全部五种信号:“马上、立刻”(紧急)、“不能告诉别人”(保密)、“和解金500万韩元”(金钱)、陌生号码(陌生号码)。虽然当时尚未提供链接或应用,但只要一旦准备转账,对方就会提供账号。
放弃的选项。
- 听声音确实是女儿,先把钱转过去。 声音不能作为证据,故放弃该选项。
- 询问对方:“真是我女儿吗?” 诈骗分子只会回答“是的”,而且通话时间越长,对方就会施加更多恐吓。故放弃该选项。
- 拨打对方提供的“警察电话”进行确认。 该号码可能是诈骗团伙同伙的电话,故放弃该选项。
- 为了独自解决,对谁也不说。 “要求保密”本身就是诈骗的信号,故放弃该选项。
决定。 尹玉顺女士挂断了电话,拨打了已存的女儿电话。女儿接听后,她提出了春节时定下的核实问题,女儿立即作出了回答。确认女儿平安无事后,尹玉顺女士也将此事告知了儿子。随后她与儿子一同拨打112报警,并向1394举报了来电号码。第二天,她在家庭群聊中留言:“昨晚接到了这种电话。大家再次牢记我们的约定吧。”女儿也将此前公开上传的唱歌视频权限修改为仅好友可见。
徐敬子女士群聊中的投资视频
情况。 第 2 章中出现的常春登山会总务徐敬子女士看到会员群聊中有人发了一段视频。视频中经常在电视上露面的经济专家说道:“现在加入该产品,三个月即可获得三倍本金,保证本金。招募会员仅限本周。”视频下方附有加入链接。已有两位会员回复了“谢谢提供好消息”。
寻找信号。 徐敬子女士想起了在第 3 章和第 5 章中学到的信号:“三倍本金”、“保证本金”(稳赚高收益)、“仅限本周”(紧急)、加入链接(链接)。视频中的面孔是名人并不能作为证据。
放弃的选项。
- 既然是名人亲自说的,那就相信。 面孔和声音都可以通过深度伪造进行模仿,故放弃该选项。
- 视频中没有“AI生成”标识,所以是真的。 没有标识并不代表就是真实的,故放弃该选项。
- 点击链接查看究竟是什么产品。 点击链接本身就可能带来风险,故放弃该选项。
- 不想扫大家的兴,假装没看见。 这可能导致会员遭受财产损失,故放弃该选项。
决定。 徐敬子女士检索了该经济专家的官方频道和相关新闻。并没有关于其推荐该产品的报道,相反,还有提醒警惕冒充该专家的虚假投资广告的公告。徐敬子女士在群聊中发布了这样一条消息:“各位,这个视频很可能是模仿名人面孔的诈骗广告。请不要点击链接,如果已经点击或转账,请立即联系银行。”随后,她单独致电发布视频的会员,说明了缘由并请求撤下视频。对于链接指向的网站,她向1394进行了举报。群聊通知文字是请AI协助润色的,提示要求是“措辞不让会员感到不悦,但表达要清晰明确”。警示内容与定性判断由徐敬子女士把关,AI协助调整了语气。
易错点
- “声音确实是女儿的,所以肯定是女儿。” 声音和面孔都可以通过AI进行模仿。不能单凭耳听眼见,而要通过流程来核实。
- “屏幕上显示的是银行电话,所以肯定是银行。” 主叫号码可以被伪造。应先挂断电话,由自己亲自拨打官方代表号码。
- “对方知道我的姓名和住址,所以肯定是正规机构。” 诈骗分子往往在提前掌握个人信息后发起接触。对方知晓这些信息并不能作为正规机构的证据。
- “在聊天软件里问‘真的是你吗?’进行了确认。” 诈骗分子只会顺口回答“嗯”。必须拨打已存号码通话进行确认。
- “没有AI标识,所以是真实视频。” 标注意务针对的是经营者,诈骗分子绝不会遵守。没有标识并不等于就是真实的。
- “既然是名人推荐的投资,那肯定安全。” 带有名人面孔的投资广告常被用于深度伪造诈骗。“稳赚高收益”、“保证本金”、“仅限当下”均为可疑信号。
- “钱都已经转出去了,太迟了,报警也没用。” 立即向金融机构申请止付可以减少损失。越快越好。
- “用AI总结或翻译的文章与原文完全一致。” 总结时可能会篡改或遗漏数字,翻译时意思可能会发生偏差。日期和金额务必与原文仔细核对,重要译文应进行反向核实。
要点速览
| 概念 | 一句话总结 | 牢记要点 |
|---|---|---|
| 深度伪造 | 用AI模仿面孔、声音的伪造物 | 社交平台上公开的视频、音频可能沦为素材 |
| 五种信号 | 紧急、保密、金钱与金融信息、链接与应用、陌生号码与通讯软件 | 只要出现其中任何一种就立即停下 |
| 核实流程 | 停下 → 挂断 → 拨打已存号码 → 提出核实问题 → 告知家人 → 报警 | 若可能面临紧急危险,在确认人身安全的同时拨打112报警 |
| 主叫号码 | 可以被伪造篡改 | 不要回拨来电号码核实,由自己亲自拨号 |
| 难以挂断时 | 拜托身边的人报警、通话中发送短信至112 | 即使是假借绑架的情况,也必须报警 |
| 家庭核实问题 | 社交平台上没有、容易记忆、回答简短 | 当面商定,不要书写记录 |
| 虚假照片、虚假新闻、虚假评价 | 看来源而非仅看画面 | 官方发布、日期、其他报道、对方要求做什么 |
| AI生成内容标注 | 韩国《人工智能基本法》第31条,经营者的义务 | 没有标识并不代表是真实的 |
| 报警与举报 | 112、1394、金融机构止付、1332、118 | 若通过电话申请了止付,须在当天起3个工作日内提交书面救济申请 |
| 日常应用 | 摘要、翻译、写作 | 剔除个人信息,数字与原文核对,事实由自己提供 |
查阅官方文档
- 韩国金融监督院电信诈骗守护者 — 遭遇电信诈骗时的应对方法:止付、个人信息泄露时的措施、救济申请期限。
- 韩国金融监督院电信诈骗守护者 — 防范要领:索要金融信息、诱导前往ATM机、伪造主叫号码、核对网站地址等十项防范要领。
- 韩国金融监督院电信诈骗守护者 — 遭遇诈骗时的主要联系方式:112、1332、118及金融机构客服中心电话。
- 韩国政策简报 — 电信网络金融诈骗综合应对团举报电话“1394”(韩国警察厅,2026. 2. 6.)与综合应对团成立6个月成效(韩国警察厅,2026. 4. 2.):1394的咨询、举报与联动措施,365天24小时全天候咨询,冒充检察官手法。
- 韩国法制处便民生活法令信息 — 电子金融犯罪防范要领:关于安装了恶意应用的手机所拨打电话可能被拦截的警示,以及使用其他电话进行核实的方法。
- 韩国政策简报 — 警惕模仿家人声音的AI钓鱼诈骗!:挂断并向当事人确认、警惕包含音频的公开发帖(韩国警察厅,2024. 5. 27.)。
- 韩国政策简报 — 警惕利用深度伪造制作“绑架子女”虚假视频的金融诈骗:难以挂断时的报警方法、减少公开发帖(韩国警察厅,2024. 11. 7.)。
- 韩国国家法令信息中心 — 韩国《人工智能基本法》第31条:AI使用的事前告知、生成物标识、难以与真实内容区分的结果之告知与标识。
自测
5-1. 请写出诈骗联系的全部五种信号。
5-2. 请按顺序写出“停下、挂断、核实”流程的六个步骤。
5-3. 请用一两句话说明,即使来电屏幕上显示的是银行官方客服电话,也不能通过该电话进行核实的原因。
5-4. 请写出两个不适合作为家庭核实问题的示例及原因。(请勿写出实际确定的问题与答案。)
5-5. 看到“未标明由AI生成的视频”时,请针对没有该标识这一事实,分别用一句话写出可知的信息与不可知的信息。
5-6. 当发现已经向诈骗账户转账时,请写出最先要做的一件事,以及随后要做的两件事。
5-7. 请求AI摘要长篇通知时,请分别写出发起请求前要做的一件事和收到结果后要做的一件事。
实操练习
练习
制定我们家庭的核实约定(60分钟,与家人共同完成)
- 确定家人齐聚的场合(当面碰面或视频通话)。
- 共同阅读本章的“五种信号”以及“停下、挂断、核实”流程。
- 全员同意“只要谈到钱,无论如何先挂断,并用保存的号码重新拨打”这一规则。
- 参考优质核实问题的条件,定下家庭核实问题与答案。问题和答案切勿记录在手机或群聊中。
- 确认每位家人的手机中是否正确保存了彼此的号码,并额外各存一个在联系不上时可协助核实的人员(朋友、工作单位、邻居等)的联系方式。
- 将报警举报联系电话(112、1394、1332、118、主要往来银行官方客服电话)保存在各自的手机中。
完成标准: 全体家庭成员均同意该规则,已确定核实问题(答案未在任何地方记录),各自的手机中已保存家人号码与报警举报联系电话。已在日历上记下完成实操的日期,并定好一年后再次商议的日期。
练习
安全尝试日常生活中的一项AI应用(40分钟)
- 在摘要、翻译、写作中选择一项(例如:物业管理处通知摘要、旅行常用句翻译、写感谢短信)。
- 从要输入的资料中找出第4章所述的红色与黄色信息,将其删除或遮蔽。
- 使用第2章的五格提问表撰写请求。要求日期、金额、姓名由自己填入或留空。
- 从收到的结果中找出第3章的八项下划线内容,与原文或官方信息进行核对。如果是翻译,则反向翻译以确认含义。
- 用自己的话将结果修改至少一行,以最终定稿。
完成标准: 遮蔽前后的资料、发送的请求、AI给出的结果、核实内容(正确与错误)、最终定稿均整理在同一页上。发送的请求中不含任何红色信息。