第5章 AI詐欺・偽物の見分けと生活での活用

学習目標

• ディープフェイク（声や顔を真似た偽物）とは何か、なぜ見聞きするだけで見分けることが難しいのかを説明する。
• 詐欺の連絡によくある兆候（切迫感、秘密の強要、金銭や金融情報の要求、リンク・アプリのインストールの誘導、見知らぬ番号やメッセンジャー）を見つける。
• 不審な連絡を受けたときに電話を切り、登録済みの番号に確認し、通報・相談する手順に順番に従う。
• 家族間で確認の質問と緊急連絡先をあらかじめ決めておき、活用する方法を説明する。
• 偽の写真・ニュース・レビューを疑うコツと、AI生成物表示の意味と限界を説明する。
• 要約・翻訳・文章作成といった日常生活のちょっとした作業にAIを安全に活用する。

はじめに

夜の11時、ユン・オクスンさんの携帯電話が鳴りました。見知らぬ番号からでした。出るとすぐに、泣きじゃくる声が聞こえてきました。「お母さん、私だよ…事故に遭っちゃった。お母さん、どうしよう。」紛れもない娘の声でした。息遣いまでそっくりでした。すぐに見知らぬ男が電話を代わりました。「娘さんがこちらの車を壊しました。今すぐ示談金500万ウォンを振り込めば、警察には通報しません。電話を切ったら娘さんはひどい目に遭いますよ。他の人に話してはいけません。」

ユン・オクスンさんの手が震えました。銀行アプリを開こうとした瞬間、この前の旧正月に家族と交わした約束が頭をよぎりました。「お金の話が出たら絶対に切り、登録済みの番号にかけ直すこと。そして、家族だけで決めた質問を一つすること。」ユン・オクスンさんは「少し待ってください、銀行に行ってみます」と言って電話を切りました。そして、携帯電話に登録されている娘の番号に電話をかけました。娘は寝ぼけた声で電話に出ました。「お母さん、どうしたの？寝てたんだけど。」

その声はAIで作られた偽物だった可能性が高いです。最近はSNSに投稿した動画や音声が、声を真似る材料として使われることがあります。耳で聞いて本物と偽物を見分けることは、ますます難しくなっています。そのため本章では、「偽物を見抜く目」よりも「偽物であっても被害を防ぐ手順」を先にお伝えします。まずディープフェイクとは何かを確認し、詐欺の連絡に共通する兆候や確認の手順、家族の確認質問、通報・相談窓口について学びます。続いて、偽の写真・ニュース・レビューやAI生成物の表示について取り上げ、最後に本書で学んだ内容を総動員して、日常生活のちょっとした作業にAIを安全に活用する方法で締めくくります。

重要な概念

ディープフェイクとは何か

ディープフェイクとは、AIで人の顔や声を真似て作成した偽の写真、動画、音声を指します。AI技術の一分野である「ディープラーニング（深層学習）」と、偽物を意味する「フェイク」を組み合わせた言葉です。声だけを真似たものは、特にディープボイスと呼ばれることもあります。

ディープフェイクは次のような形で現れます。

ディープフェイクを作成するには、真似る対象となる人物の顔や声が必要です。その材料は、大抵の場合、公開されている場所から入手されます。警察庁（韓国）は、AIで家族の声を真似たフィッシングについて注意喚起を行い、SNSに音声が含まれる投稿をアップロードする際は注意するよう呼びかけ、ディープフェイクで作られた子どもの誘拐の偽動画についても、誰もが見られる公開設定で投稿することを避けるよう案内しています。

なぜ見聞きするだけでは見分けることが難しいのか

以前は詐欺電話の声が不自然だったり訛りがおかしかったりして、気づくことができました。現在はその人の話し方や息遣いまで真似ることができます。偽の動画も同様です。顔の輪郭がぼやけていたり口の動きがずれていたりするなどの不自然な点を探すようアドバイスされることもありますが、技術が向上するにつれてそうした欠陥は減っていきます。その上、夜中に家族が泣いている声を聞かされれば、誰も冷静に判断することはできません。

そのため本書では、別のアプローチをお勧めします。

• 耳や目で判定しません。「声が本物のようだった」ということは証拠になりません。
• 手順を踏んで確認します。 電話を切り、登録済みの番号にかけ直し、決めておいた質問をします。
• 本当に緊急の事態であっても、この手順は役に立ちます。 本当に事故が起きた可能性があるなら、登録済みの番号で本人や他の家族に連絡して無事を確認することと、112番に通報することを同時に行います。本物の事故であれば警察や救急隊の助けが必要ですし、偽物であればこの手順がお金を守ってくれます。どちらにしても、見知らぬ人物の口座にまずお金を振り込むことは決して正しい対処法ではありません。

詐欺の連絡における5つの兆候

AIが使われているかどうかにかかわらず、詐欺の連絡には共通して繰り返される兆候があります。次の5つのうち1つでも当てはまるものがあれば、行動を止めます。兆候がはっきりしていなくても何かおかしいと感じたら、立ち止まって個別に確認します。

4番目の兆候のうち、SMS（ショートメッセージ）でリンクを送り、偽のウェブサイトにアクセスさせたり悪意のあるアプリ（不正アプリ）をインストールさせたりする手口を、特にスミッシングと呼びます。SMSとフィッシング（Phishing）を組み合わせた言葉です。宅配の配達状況確認、冠婚葬祭の知らせ、反則金の案内などを装ったSMS内のリンクは絶対に押してはいけません。

公的機関の案内でも同様の兆候が指摘されています。

• 金融監督院（韓国）のボイスフィッシング・チキミ（詐欺対策窓口）は、電話やインターネットで口座番号、カード番号、インターネットバンキングの情報を要求されても絶対に応じず、税金の還付や口座保護を名目に現金自動預払機（ATM）へ誘導されたら100％ボイスフィッシング（振り込め詐欺）であると案内しています。
• 警察庁は、検事を名乗りながら誰にも言わないように口止めし、捜査をちらつかせて脅すことは、恐怖心を植え付けて通報を防ごうとするフィッシングの手口であると説明しています。
• 金融監督院は、相手がこちらの個人情報や金融取引情報をあらかじめ知った上で接触してきたとしても、電話、SMS、メッセンジャーの内容の真偽を必ず確認するよう案内しています。氏名や住所を知っているからといって、本物であるとは限りません。

立ち止まり、切り、確認する

不審な連絡を受けたときに従うべき手順です。順番を覚えておいてください。

1. 立ち止まります。 お金を送ったり、番号を伝えたり、リンクを押したり、アプリをインストールしたりしてはいけません。
2. 切ります。「確認してからかけ直します」という一言で十分です。相手が切るなと言っても切ります。
3. 登録済みの番号に自分からかけます。 家族であれば自分の携帯電話にもともと登録されていた番号に、公的機関・企業であれば公式ウェブサイトに記載されている代表番号にかけます。
4. 決めておいた確認の質問をします。 家族間で事前に決めた質問があれば、それで確認します（次節参照）。
5. 他の家族にも知らせます。 一人で判断してはいけません。他の家族が本人の無事を一緒に確認できる場合もあります。
6. 通報・相談します。 詐欺と思われる場合は通報し、すでにお金を送ってしまった場合はすぐに金融機関と警察に連絡します（本章「通報・相談窓口」参照）。

警察庁も、不審に思ったときはいったん電話を切り、本人や周囲の知人に確認することが最も迅速かつ確実な予防策であると案内しています。

確認の電話は登録済みの番号へ

ステップ3で重要なのは、どの番号にかけるかです。相手から教えられた番号に「確認の電話」をかけてしまうと、その番号自体が詐欺犯の番号である可能性があります。SMSで送られてきた番号も同様です。

金融監督院は、発信者番号は偽装が可能である点に留意するよう案内しています。画面に銀行や公的機関の番号が表示されても、さらには家族の番号のように見えても、それだけで本物だと信じてはならないということです。そのため、かかってきた電話口で確認するのではなく、自分から電話を切り、自分から直接かけ直すことが原則となります。

電話を切りにくいとき

「電話を切ったら娘さんはひどい目に遭いますよ」といった脅迫を受けると、切るのが怖くなります。警察庁はこうした状況に備え、次のように案内しています。犯人が電話を切らせまいと脅迫して通報が難しい場合は、周囲の人に警察へ通報してもらうよう助けを求めるか、通話したままSMSで112番に通報して子どもの安全を確認する、ということです。警察庁は、実際の誘拐であれ誘拐を装った詐欺であれ、何があっても警察に通報しなければならないと強調しています。

普段からあらかじめ備えておくことで、いざというときに役立ちます。

• 家族の携帯電話番号を短縮ダイヤルやお気に入りに登録しておきます。
• 金融監督院は、子どもの誘拐を騙るボイスフィッシングに備えて、日頃から子どもの友人、学校の先生、親戚などの連絡先をあらかじめ把握しておくよう案内しています。本人が電話に出ない場合に、無事を確認できる別の手段を確保しておく必要があるためです。

家族の確認質問を決める

家族の間であらかじめ決めておいた確認の質問は、声や顔を真似た詐欺に対抗するシンプルで強力な方法です。詐欺犯は声を真似ることはできても、家族の間でしか知り得ない約束事まで知ることは困難だからです。

適切な確認質問の条件は次のとおりです。

決める際の手順は次のとおりです。

1. 祝日や家族の集まりなど、直接対面した場で決めます。グループチャットやSMSで決めると、その記録が漏洩する恐れがあります。
2. 質問と答えを携帯電話やSNSに書き残してはいけません。 どうしても書き留める必要がある場合は、紙にメモして安全な場所に保管します。
3. 「お金の話が出たら絶対に電話を切り、登録済みの番号にかけ直す」というルールも一緒に定めます。確認の質問よりも、このルールが最優先です。
4. 年に1回程度は話題に出し、忘れないようにします。

メッセンジャーで届く家族のなりすまし

電話ではなく、メッセンジャーアプリを通じて届く「なりすまし」も多発しています。「お母さん、スマホの画面が割れちゃって友達のスマホから連絡してるの。急いで決済したいものがあるから、お母さんのカードの写真と暗証番号を送ってくれない？」といった具合です。プロフィール画像や名前までも家族そっくりに偽装することもあります。

こうしたメッセージにも、先ほどの5つの兆候がそのまま当てはまります。焦らせており（1）、見知らぬ番号であり（5）、金融情報を要求しています（3）。金融監督院が案内しているとおり、メッセンジャーの内容の真偽は必ず確かめなければなりません。メッセンジャー上で「あなた本当に〇〇なの？」と尋ねることは確認になりません。詐欺犯は「うん、私だよ」と答えるだけだからです。もともと登録されていた番号に電話をかけ、実際の声や確認の質問を通じて確かめます。元の番号で連絡がつかない場合は、他の家族に確認を取ります。

偽の写真と動画

AIで生成された写真や動画は非常に精巧です。起きていない事故の現場、著名人が言ってもいない発言、実物とは異なる商品の写真などを簡単に作り出すことができます。「写真があるから本物だ」という考え方は、もはや通用しません。

偽の写真や動画を目にしたときは、画像や映像そのものよりも出所（情報源）に目を向けます。

1. 誰が最初に投稿したのか？ 公的機関、報道機関、本人の公式アカウントなのか、それとも出所不明の転送メッセージなのか。
2. 他の信頼できる媒体でも報道されているか？ 大きな事件であれば、複数の報道機関や公的機関が取り上げるはずです。
3. 自分に何をさせようとしているのか？ 送金しろ、投資しろ、リンクを押せ、早く拡散してくれ、と要求されているなら疑うべきです。
4. 感情を強く揺さぶってくるか？ 過度に驚かせたり、恐怖心を煽ったり、怒りをかき立てたりする映像であるほど、いったん立ち止まります。

特に著名人が投資を勧める動画は、ディープフェイク詐欺で頻繁に使われます。第3章で確認したとおり、「確実な高利回り」、「元本保証」、「今すぐ」といった言葉が出てきたら、その動画に映る顔が誰であろうと疑ってください。その著名人が本当にそのような発言をしたのかは、本人の公式チャンネルや報道機関のニュースで確認します。

偽ニュースと偽レビュー

AIはもっともらしい文章を非常に素早く、大量に生成することができます。そのため、偽ニュース（フェイクニュース）や偽のレビューを捏造する際にも悪用されます。

偽ニュースを疑うべき兆候

• 記事のような体裁をしているが報道機関名が記載されていない、または聞き覚えのない名前である。
• 日付が書かれていない、または過去の出来事を最近のことのように述べている。
• 「政府が隠蔽している」、「誰も語らない」といった言葉で秘密めかしている。
• 公的機関の発表だと主張しているのに、その機関の公式ウェブサイトには該当する発表が存在しない。
• 「急いで拡散してください」とお願いしている。

偽レビューを疑うべき兆候

• 複数のレビューの文章が異様なほど似通っている。
• 短期間に絶賛するレビューが一気に集中している。
• 具体的な使用体験が書かれておらず、「最高です」、「人生最高のアイテム」といった抽象的な賛辞ばかりが並んでいる。
• 良いことばかりが書かれており、惜しい点や不満な点が一つもない。

第3章で学んだ確認の習慣は、ここでもそのまま役立ちます。公的機関の発表であるか、いつ出された情報であるか、他の信頼できる情報源でも裏付けが取れるかを確認します。そして、確認が済むまではグループチャットなどで転送・拡散してはいけません。

AI生成コンテンツの表示

AIが作成した文章、画像、動画であるかを判別できるように表示を義務付ける法律があります。AI基本法第31条では、次のように定められています。

• 第1項： 人工知能事業者は、高影響人工知能や生成AIを利用した製品またはサービスを提供しようとする場合、それが該当する人工知能に基づいて運用されているという事実を利用者に対して事前に告知しなければなりません。
• 第2項： 人工知能事業者は、生成AIまたはこれを利用した製品・サービスを提供する場合、その出力（成果物）が生成AIによって生成されたという事実を表示しなければなりません。
• 第3項： 人工知能事業者は、人工知能システムを利用して実物と見分けがつきにくい仮想の音響、画像または動画などの生成物を提供する場合、それが人工知能システムによって生成されたという事実を利用者が明確に認識できる方式で告知または表示しなければなりません。芸術的・創作的な表現物である場合は、展示や享受を損なわない方式で行うことができます。
• 第4項： 告知および表示の方法や例外などは、大統領令で定めます。

ここで人工知能事業者とは、人工知能産業に関連する事業を営む法人、団体、個人、国家機関等であって、人工知能を開発して提供する人工知能開発事業者（イ目）、またはそのように提供された人工知能を利用して製品・サービスを提供する人工知能利用事業者（ロ目）に該当する者を指し（第2条第7号）、利用者とは人工知能製品やサービスの提供を受ける者を指します（第2条第8号）。すなわち、この義務はAIサービスを提供する側に課せられています。

この法律を日常生活において解釈・適用するポイントは2つあります。

通報・相談窓口

詐欺が疑われる場合や、すでに被害に遭ってしまった場合の連絡先です。確認日（2026年10月28日）時点の公式案内を整理しました。

すでにお金を送金してしまった場合は、金融監督院のボイスフィッシング・チキミが定める「ボイスフィッシング被害時の対処法」に従います。その核心は次のとおりです。

1. 送金した銀行、または入金された口座の銀行カスタマーセンターに直ちに電話し、被害届の提出と口座の支払停止を申請します。支払停止とは、詐欺犯の口座からお金が引き出せないよう凍結する措置です。
2. 個人情報が漏洩した場合や不正アプリをインストールしてしまった場合は、携帯電話の初期化や不正アプリの削除、金融監督院の個人情報露出者事故予防システムへの登録、金融決済院の口座情報統合管理サービスを通じた口座の支払停止、韓国情報通信振興協会の名義盗用防止サービスによる本人名義の携帯電話開設状況の確認といった措置をとります。
3. 警察から事件・事故事実確認書等の交付を受け、支払停止を申請した銀行の窓口に被害救済申請を書面で提出します。電話で支払停止を申請した場合は、申請した日から3営業日以内に申請書類を提出しなければなりません（電気通信詐欺被害返還法施行令第3条第2項、金融監督院の案内では「申請日より3営業日以内」）。この期間が経過すると、銀行が14日間の期限を定めて書類の提出を催告しますが、その期間内にも提出しなかった場合、電話による申請は取り消されたものとみなされます（同条第3項）。必要な書類については、訪問前に銀行や警察署にお問い合わせください。

生活での活用①：要約

ここからは、本書で学んだ内容を総動員して、AIを日常生活で役立てる方法を見ていきましょう。まずは要約です。マンション管理事務所からのお知らせ、学校の配布物、長文の案内文といった読みにくい文章を短くまとめてくれる作業は、AIが非常に得意とする分野です。

実践してみましょう：長い案内文からやるべきことだけを抽出する

1. 案内文から氏名、住所、連絡先、顧客番号のような情報を消去する（第4章）。
2. 案内文を貼り付け、次のように依頼する。

[送信する質問]
以下は私たちのマンションの管理事務所からのお知らせです。
私がすべきことだけを番号を付けて3つ以内で抽出してください。
日付、時間、金額はお知らせに書かれているとおりに転記し、お知らせにない内容は付け加えないでください。

（お知らせの内容を貼り付け）

3. AIによる要約を受け取った後、日付・時間・金額を原文ともう一度照合する。 要約の過程で数字が変わってしまったり、抜け落ちたりすることがある。

生活での活用②：翻訳

旅行先のメニュー表、外国製商品の取扱説明書、外国人の近隣住民に送る挨拶など、翻訳が必要な場面でもAIは大いに役立ちます。

翻訳を活用する際のコツは3つあります。

1. 状況を伝えます。「飲食店の店員に見せる文」、「近隣住民へ送る丁寧な挨拶」のように用途を伝えると、適切な口調で翻訳してくれます。
2. 逆向きに確認します。 翻訳された文を新しい対話に入力し、「この文を韓国語に訳して」と依頼してみます。元の意味と大きく異なっていれば、やり直します。
3. 重要な翻訳は人に任せます。 病院での診察、契約書、公的書類のように誤りがあると重大な問題につながる翻訳は、プロの通訳・翻訳、または該当機関の公式案内を利用します。

[送信する質問]
日本旅行中に飲食店で店員に見せる文を日本語で書いて。
「私はピーナッツアレルギーがあります。ピーナッツが入った料理があれば教えてください。」
丁寧な口調で書いて、日本語の文の下にその意味を韓国語で改めて書いて。
意味が合っているか確認したい。

アレルギーのように身体に関わる文章であれば、翻訳結果を逆向きに確認することに加えて、旅行前にその言語がわかる人に一度見せておくとより安心です。

生活での活用③：文章作成

お祝い、感謝、謝罪、お願いの文章を書くことは、AIが最も得意とする作業の一つです。第2章の5マス質問シートがここでもそのまま活用できます。文章作成にAIを活用する際は、次の点に留意してください。

• 事実は自分自身で入力します。 日付、場所、氏名、金額は、AIが捏造してしまわないよう自分で教えるか、空欄にしておくよう依頼します。
• 気持ちは自分の言葉に手直します。 AIが作成する文章は無難である反面、誰にでも当てはまる型通りの表現になりがちです。自分だけが知る思い出を1行書き加えることで、自分自身の文章になります。
• 正直に書きます。 フリマ（中古品取引）の出品文、レビュー、要望書・苦情文などに事実でない内容を盛り込んではいけません（第2章）。AIで加工・作成した写真を使って、商品を実物以上によく見せかけるようなことはやめましょう。
• 送信する前に声に出して読みます。 AIが紛れ込ませた的外れな名前や不自然な表現がないか、声に出して一度読んでみます。

日常生活における5つの安全ルール

本書全体の内容を5行に要約すると、次のようになります。日常生活のちょっとした作業にAIを活用する際、リスクを減らすための基本的な習慣です。

1. AIは嘘（作り話）を交えて答える。 文章作成や解説には活用し、事実は自分で確認する（第1章）。
2. 依頼するように具体的に質問し、修正して聞き直す。 状況は書くが、身元情報は除外する（第2章）。
3. 数字・日付・氏名・場所は公的機関で再確認する。 健康・法律・お金の相談は専門家へ（第3章）。
4. レッド（赤）情報は入力しない。 住民登録番号、暗証番号、認証番号、口座・クレジットカード番号（第4章）。
5. 急な金銭の要求は電話を切り、登録済みの番号に確認する。 声や顔は証拠にならない（第5章）。

さらに深く

探知技術よりも手順が強い

「AIで作られた偽物をAIで見分けることはできないのですか？」という質問をよく受けます。ディープフェイクを検出する技術も研究されていますが、作る技術と見つけ出す技術はいたちごっこの関係にあります。今日うまく検出できていた方法が、明日には通用しなくなることもあります。それに、真夜中にかかってきた電話を受けながら探知プログラムを実行することもできません。

一方、「電話を切り、登録された番号にかけ直し、決めておいた質問をする」という手順は、模倣する技術が向上しても簡単には崩れません。詐欺犯が私の娘の声を完璧に真似たとしても、私が登録された番号に直接かけた電話を娘が受けて確認の質問に答えるプロセスまで偽装するのははるかに困難だからです。ただし、この手順も完璧ではありません。前述のとおり、自分の携帯電話に不正アプリがインストールされていると、自分が発信する電話も横取りされる可能性があるため、そのようなときは他の人の電話機で確認します。そのため本章では、「偽物を見抜く目」よりも「手順」を先に教えました。

この原理は、銀行が大金を送金する際に何度も確認することと同じです。銀行の担当者が顧客の顔をよく知っていても、大金は決められた手順に沿って確認します。人間の目や耳は騙されることがあっても、適切に作られた手順は簡単には騙されません。

自分がAIで作ったものを共有するとき

今や自分でもAIで絵を描き、孫の写真をアニメ調に変え、お祝いの動画を作ることができます。楽しいことです。ただし、自分で作ったものを他の人と共有するときは、いくつかのルールを守るとよいでしょう。

• AIで作ったことを明示します。 AI基本法の表示義務はAIサービスを提供する事業者にあります。しかし個人であっても「AIで作った絵です」と一言添えれば、受け取る側が実際の写真だと誤解せずに済みます。特に本物と見分けがつきにくい写真や動画ならなおさらです。
• 他人の顔や声で悪ふざけをしません。 面白半分で作った偽の動画でも、当事者にとっては大きな傷となり得ますし、拡散されれば詐欺やいじめに悪用される恐れがあります。第4章で見たとおり、他人の写真は本人の許可なく使用しません。
• 家族写真は公開範囲を狭めます。 先ほど確認した警察庁の案内にあったように、公開された顔や声はディープフェイクの材料になり得ます。家族の写真や動画は家族間だけで見られるように公開する方が安全です。

実務の場面

ユン・オクスンさんの真夜中の電話

状況。 「はじめに」で登場したユン・オクスンさんは、娘の声でかかってきた電話で500万ウォンを要求されました。

サインの確認。 この電話には5つのサインがすべてありました。「今すぐ」（緊急）、「他の人に話してはいけない」（秘密）、「示談金500万ウォン」（金銭）、知らない番号（見知らぬ番号）。リンクやアプリはまだありませんでしたが、お金を送金した瞬間に口座番号を教えてきたはずです。

見送った選択肢。

• 娘の声に間違いないので、まずはお金を送る。 声は証拠にならないため見送りました。
• 相手に「本当に私の娘ですか？」と尋ねる。 詐欺犯は「そうだ」と言うだけで、通話が長引くほどさらに脅して恐怖をあおってきます。そのため見送りました。
• 相手が教えてくれた「警察の番号」に確認の電話をかける。 その番号が詐欺グループの一味の番号である可能性があるため見送りました。
• 一人で解決しようと誰にも話さない。 「秘密にしろ」という要求自体が詐欺のサインであるため見送りました。

決定。 ユン・オクスンさんは電話を切り、登録されていた娘の番号に電話をかけました。娘が出ると、旧正月に決めておいた確認の質問をし、娘はすぐに答えました。娘が無事であることを確認したあと、ユン・オクスンさんは息子にも知らせました。息子と一緒に112番に通報し、1394にかかってきた電話番号について情報提供を行いました。翌日、家族のグループチャットに「このような電話がかかってきた。私たちの約束をもう一度思い出そう」というメッセージを投稿しました。娘は全体公開にしていた歌の動画を友達のみ公開に変更しました。

ソ・ギョンジャさんのグループチャット投資動画

状況。 第2章に登場したヌルボム山岳会の総務、ソ・ギョンジャさんは、会員のグループチャットに1本の動画が投稿されたのを目にしました。テレビでよく見かける経済専門家が「今この商品に加入すれば、3か月で元本の3倍、元本保証。今週限りの会員募集」と語っている動画でした。動画の下には加入リンクが貼られていました。すでに会員2人が「良い情報をありがとうございます」と返信をつけていました。

サインの確認。 ソ・ギョンジャさんは第3章と第5章で学んだサインを思い出しました。「元本の3倍」、「元本保証」（確実な高収益）、「今週限り」（緊急）、「加入リンク」（リンク）。動画の中の顔が有名人であることは証拠になりません。

見送った選択肢。

• 有名人が直接話しているので信じる。 顔や声はディープフェイクで模倣できるため見送りました。
• 動画に「AI生成」の表示がないので本物だ。 表示がないからといって本物とは限らないため見送りました。
• リンクをクリックしてどのような商品か確認してみる。 リンクをクリックすること自体が危険である可能性があるため見送りました。
• わざわざ雰囲気を壊したくないので見て見ぬふりをする。 会員たちがお金を失う恐れがあるため見送りました。

決定。 ソ・ギョンジャさんはその経済専門家の公式チャンネルやニュースを検索しました。そのような商品を勧めたという報道はなく、むしろその人物を騙る投資広告に注意するよう呼びかける告知が出ていました。ソ・ギョンジャさんはグループチャットに次のように投稿しました。「皆さん、この動画は有名人の顔を模倣した詐欺広告の可能性が高いです。リンクはクリックしないでください。すでにクリックした方や送金してしまった方は、すぐに銀行に電話してください。」そして動画を投稿した会員に個別に電話して事情を説明し、動画を取り下げるようお願いしました。リンク先のサイトは1394に情報提供しました。グループチャットの告知文は、AIに「会員の気分を害さないよう、かつ明確に」と依頼して推敲しました。警告内容と判断はソ・ギョンジャさんが決め、AIは言い回しをサポートしました。

間違えやすいポイント

1. 「声が本物の娘だったから娘だ。」 声や顔はAIで模倣できます。見聞きした感覚ではなく、手順で確認します。
2. 「画面に銀行の番号が表示されたから銀行だ。」 発信番号は偽装（操作）できます。一度切り、公式代表番号に自分から直接かけます。
3. 「相手が私の名前と住所を知っているから本物の機関だ。」 詐欺犯は個人情報をあらかじめ把握した上で接触してくることもあります。知っていることは証拠になりません。
4. 「メッセンジャーで『本当にあなた？』と尋ねて確認した。」 詐欺犯は「うん」と答えるだけです。登録された番号に電話して確認します。
5. 「AI表示がないから本物の動画だ。」 表示義務は事業者にあり、詐欺犯は守りません。表示がないからといって本物だという意味ではありません。
6. 「有名人が推薦した投資だから安全だ。」 有名人を使った投資広告はディープフェイク詐欺で頻繁に使われます。「確実な高収益」、「元本保証」、「今だけ」は疑うべきサインです。
7. 「すでにお金を送ってしまったら手遅れだから、通報しても無駄だ。」 すぐに金融機関へ支払停止を申請すれば被害を軽減できます。早ければ早いほどよいです。
8. 「AIで要約または翻訳した文章は原文と同じだ。」 要約の過程で数字が変わったり抜け落ちたりすることがあり、翻訳は意味が変わってしまうことがあります。日付や金額は原文と照らし合わせ、重要な翻訳は逆方向から確認（逆翻訳）します。

ひと目でわかるまとめ

公式ドキュメントで確認する

• 金融監督院 ボイスフィッシングキーパー — ボイスフィッシング被害時の対処方法: 支払停止、個人情報流出時の措置、被害救済の申請期限。
• 金融監督院 ボイスフィッシングキーパー — 予防のポイント: 金融情報の要求、ATM（現金自動預払機）への誘導、発信番号の偽装、ウェブサイトのアドレス確認など10の予防心得。
• 金融監督院 ボイスフィッシングキーパー — フィッシング被害時の主な連絡先: 112、1332、118および金融機関のカスタマーセンター番号。
• 政策ブリーフィング — 電気通信金融詐欺統合対応団 通報番号「1394」（警察庁、2026. 2. 6.）および統合対応団発足6か月の成果（警察庁、2026. 4. 2.）: 1394の相談・情報提供・連携措置、365日24時間相談、検事を騙る手口。
• 法制処 わかりやすい生活法令情報 — 電子金融犯罪被害予防のポイント: 不正アプリがインストールされた電話機からかけた電話が傍受される恐れがあるという警告と、別の電話機で確認する方法。
• 政策ブリーフィング — 私の家族の声を真似るAIフィッシングにご注意ください！: 電話を切り当事者に確認すること、音声が含まれる投稿への注意（警察庁、2024. 5. 27.）。
• 政策ブリーフィング — ディープフェイクを悪用した「子どもの誘拐」偽動画金融詐欺に注意: 電話を切りにくい場合の通報方法、公開投稿を減らすこと（警察庁、2024. 11. 7.）。
• 国家法令情報センター — AI基本法第31条: AI使用の事前告知、生成物の表示、実物と区別がつきにくい生成結果の告知・表示。

セルフチェック

5-1. 詐欺の連絡における5つのサインをすべて書いてください。

5-2. 「立ち止まり、切り、確認する」手順を6つの段階の順序どおりに書いてください。

5-3. かかってきた電話の画面に銀行の代表番号が表示されていても、その電話で確認してはならない理由を1〜2文で書いてください。

5-4. 家族の確認用質問として使うのに適していない例を2つと、その理由を書いてください。（実際に決めた質問と答えは書かないでください。）

5-5. 「AIで作成されたという表示がない動画」を見たとき、この表示がないという事実からわかることとわからないことを1文ずつ書いてください。

5-6. すでに詐欺口座にお金を送金してしまったと気づいたとき、最初に行うこと1つと、その後に行うこと2つを書いてください。

5-7. AIに長い案内文の要約を依頼するとき、送信する前に行うこと1つと、受け取った後に行うこと1つを書いてください。

実習課題