第4章 責任ある利用とデータ

学習目標

• 主要AI企業の利用ポリシーに共通する禁止区分と、高リスク領域の人による確認・告知要件を説明する。
• 個人向け・企業向けプランの学習利用、保持、人による確認、管理者アクセスの違いと、管理者制御の役割を説明する。
• 機密情報を入力してよいか判断し、入力するなら識別可能性を下げて最小限にする。
• 資料内の隠れた指示の危険を知り、主張ごとに出典を確認して生成物を検証する。
• 著作権、偏り、AI利用の告知を外部公開前の確認項目として扱う。

はじめに

物流会社の企画チームのムンさんは、金曜の午後、取引先説明会の資料を急いで作っていました。会社承認のAIツールにログインするのが面倒で、携帯電話の個人用AIアプリに、契約条件と担当者の連絡先が入った表を貼り付けました。結果はすばらしく、発表もうまく終わりました。ところが翌週のセキュリティ研修で、同じ事例が「してはいけないこと」として紹介されました。成果物には何の問題もなかったので、ムンさんは納得がいきませんでした。

ムンさんの誤りは、AIを使ったことではありません。どの資料を、どの環境に、どれくらい入力するかを判断しなかったことです。個人アプリのデータ設定で会社の契約と同等の保護が得られるか、その資料に不要な個人情報が含まれていないか、その環境の会話を誰が見る可能性があるかを、問いかけていませんでした。事故は、成果物ができたときではなく、資料を貼り付けた瞬間にすでに起きていたのです。

この章は、その判断を扱います。まずAI各社の利用ポリシーに共通する禁止事項と、高リスク領域の条件を見て、データがどう保存・利用されるかを五つの軸に分けます。続いて機密情報の入力判断、個人情報の識別可能性、資料内の隠れた指示、出典確認と事実検証、著作権と偏りを順に扱います。AI活用能力のうち、責任ある取り組み（Diligence）に当たる章です。

重要な概念

利用ポリシーに共通する禁止区分

利用ポリシーは、AI企業が自社サービスで行ってはいけないことを定めた規則です。OpenAI、Anthropic、Googleは表現が異なっても、禁止事項の基本的な枠組みは似ています。

各社のポリシーは同じ文書ではありません。区分の名称、例外、追加条件が異なるため、利用するサービスの原文を直接確認する必要があります。OpenAIは、自社の規則が法的要件、職業上の義務、倫理的責任を代替しないことも明記しています。ポリシーが許しても、法律や社内規程が許すとは限りません。利用ポリシー、法律、社内規程は、別々に確認する三つの関門です。

高リスク領域：人の実質的な確認と告知

実務でよく直面するのは高リスクの意思決定です。三社の表現を並べると、共通原則が見えます。

三社に共通するのは、人による確認や監督を求めている点です。その中で、資格の要件とAI利用の告知まで明記しているのはAnthropicです。本書では、これらをまとめ、実務上の原則を二つ提案します。第一に、このような領域ではAIの結果は判断材料にすぎず、決定は有資格者が内容を直接確かめてから行います。結果を開いて確認することさえせず、承認ボタンを押すだけでは、確認したことにはなりません。試験で高い正答率が示されているからといって、この原則の適用が免除されるわけではありません。第二に、影響を受ける人に、AIを使ったことを知らせます。

AIであることを隠さない

Anthropicは、顧客と対話するチャットボットの場合、利用者に、人間ではなくAIと対話しているという事実を知らせる必要があると定めています。また、偽のレビューや、人間だと主張するボットを、禁止される事例に挙げています。Googleは、相手を欺く目的で、生成物を人間だけで作ったもののように出所を偽ることや、告知せずに実在の人物になりすますことを禁止しています。

韓国には、この原則を法律で定めた条文があります。「人工知能の発展と信頼基盤の造成等に関する基本法」（以下、AI基本法）第31条は、AI事業者が高影響AIまたは生成AIを利用した製品・サービスを提供する場合、その事実を利用者にあらかじめ知らせるよう定めています。また、成果物には生成AIによるものである旨を表示し、現実と区別しにくい仮想の音声・画像・動画には、利用者が明確に認識できるよう告知または表示を行うことも定めています。同法第2条第4号は、人の生命・身体の安全と基本権に重大な影響を及ぼし、または危険をもたらすおそれがあるAIシステムで、採用・融資審査のような判断など、法律が列挙する領域で活用されるものを、高影響AIと定義しています。

これはAI製品・サービスを提供する事業者の義務ですが、自社が顧客向けチャットボットやAI生成コンテンツを提供するなら、法務担当者と確認すべき条項です。相手がAIだと知っていれば違う行動を取ったはずの場面では、隠さないことが出発点です。

データの五つの軸

データの話で最も混同しやすいのは、複数の設定を一つにまとめて考えてしまうことです。実際には、少なくとも五つの軸が、それぞれ別に動いています。

一つの軸が安全だからといって、ほかの軸も安全とは限りません。「学習に使わない」というのは第一の軸への答えにすぎず、管理者が閲覧できるか、どれほどの期間保管されるかについては、何も説明していません。会話画面の外にある経路も、別に確認します。添付ファイルはプロジェクトに残り、フィードバックには会話全体が一緒に送られる場合があり、記憶機能に保存された情報は会話を削除しても残る可能性があります。共有リンクの公開範囲も、製品やプランごとに異なります（例：ChatGPT Businessのリンクは、同じワークスペースのメンバーだけが開けます）。

個人向けと企業向けプラン

個人向けプランは個人加入の無料・有料プラン、企業向けプランは組織が契約して構成員に提供するプランです。2026年10月20日に公式文書で確認した主な内容を示します。

GoogleはGeminiアプリの案内で、確認担当者に見られたくない機密情報を入力しないよう直接注意を促しています。

管理者による制御

管理者制御とは、組織の管理者がAIツールを組織単位で設定・監督する機能です。企業向けプランを選ぶ最も大きな理由がここにあります。公式ドキュメントにある代表的な制御は次のとおりです。

管理者制御は組織の資料を保護する仕組みであると同時に、管理者が構成員の会話を見られるという意味でもあります。「企業向けなので誰も見られない」は誤解です。学習に使われないことと、管理者が見られないことは別の軸です。

機密情報を入力してよいかの判断

AIに資料を入力する前には、情報の種類だけでなく、目的と環境も併せて考えます。次の四つの問いを、順番に問いかけます。

1. この情報は作業に必須か？ 要約に電話番号が不要なら除きます。
2. 会社承認の環境か？ 個人アカウントか組織アカウントかを確認します。
3. 範囲を減らせるか？ 必要な列、必要な期間だけ入れます。
4. 契約や社内規程が禁止していないか？ 顧客との秘密保持契約はAIツールにも適用されます。

信号機で分類すると判断が速くなります。

データ最小化とは、作業に不要な情報を入れない原則です。信号機は出発点にすぎず、黄や赤のときに誰に確認するか（個人情報担当者、セキュリティ担当者）を社内規則で決めておく必要があります。

識別可能性：名前を消すだけでは不十分

韓国の個人情報保護法第2条では、個人情報を、生存する個人に関する情報と定めています。氏名や住民登録番号のように個人を識別できる情報だけでなく、その情報だけでは識別できなくても、ほかの情報と容易に組み合わせて識別できる情報まで含みます。容易に組み合わせられるかどうかは、ほかの情報を入手できる可能性と、識別に必要な時間、費用、技術を合理的に考慮して判断します。

この定義が実務に伝えることは明確です。名前だけを消して部署、役職、入社年、地域を残せば、社内の人は誰なのかを容易に特定できます。自由記述中の「先月育児休業から戻った私は」のような文も手掛かりになります。

同法は特定の情報を別途扱います。思想・信念、労組・政党への加入、政治的見解、健康、性生活などの機微情報（第23条）、法令により個人を一意に区別するため付与した固有識別情報（第24条）、住民登録番号（第24条の2）は、原則として処理が制限されます。入力前に必ず担当者に相談してください。

仮名処理は、個人情報の一部を削除したり、別の値に置き換えたりすることで、追加の情報がなければ特定の個人を識別できないようにする処理です（第2条第1号の2）。仮名処理した情報（仮名情報）も、法律上は引き続き個人情報です。そのため、仮名処理をしたからといって、AIに自由に入力してよいわけではありません。実務で識別可能性を下げる方法は、次のとおりです。

韓国の個人情報保護委員会は、2025年8月に「生成型人工知能（AI）の開発・活用のための個人情報処理案内書」を公表しました。この案内書では、生成AIのライフサイクルを、目的の設定、戦略の策定、学習と開発、適用と管理の四つの段階に分け、段階ごとの安全措置を示しています。会社がAIサービスを自ら作ったり、導入したりするなら、併せて読んでおきたい資料です。

文書内の隠れた指示：プロンプトインジェクションの基礎

プロンプトインジェクションは、入力された文章が、モデルの動作を意図しない方向に変えてしまう脆弱性です。セキュリティ団体OWASPの生成AIリスク一覧（2025年版）は、これを第1のリスクとして挙げ、二つに分類しています。利用者が直接入力した内容によって動作が変わる直接インジェクションと、ウェブサイトやファイルといった外部資料に含まれていた文章によって動作が変わる間接インジェクションです。OWASPは、人には見えない文章でも、モデルが読み込めば影響を及ぼす可能性があると警告しています。画面には表示されないよう処理されたウェブページの文章や、画像に含まれる小さな文字も、モデルにとっては読み取れる入力です。

非開発者にとって特に重要なのは、間接インジェクションです。AIに外部のメール、ウェブページ、供給元の文書を読ませる機会が増えているためです。リスクの大きさは、AIが何をできるかに比例します。要約だけを行わせる場合でも、安全とは限りません。OWASPは、隠れた指示が含まれるウェブページを要約させたところ、モデルが外部のアドレスにつながる画像を出力に入れ、会話の内容が漏れた事例を挙げています。メールの送信やファイルの移動ができるAIであれば、被害の範囲はさらに広がります。OWASPが勧める対策のうち、利用者と管理者が理解しておくべきものは、次のとおりです。

1. 外部資料を区別して示します。 信頼できない資料であることを表示し、その影響を減らします（第2章の資料の区別）。
2. 最小権限にします。 作業に必要なアクセスだけを与えます。
3. 高リスクの行動は人が承認します。 送信、決済、削除の前に、人が確認する段階を設けます。
4. 異常な結果を報告します。 無関係な推奨や依頼が要約に混じれば担当者に知らせます。

出典確認と事実検証

AIの生成物を外部に出す前には、原文と照合します。有効な手順は次のとおりです。

1. 主張ごとに分けます。 事実の主張、数値、引用を一覧にします。
2. 各主張に根拠を付けさせます。 出典名と段落かページ番号を求めます。
3. 出典を自分で開きます。 出典が実在するか、その段落が本当にその主張を裏付けているか、日付・対象・条件が同じかを確認します。
4. 数字は再計算します。 比率と合計を原資料で計算し直します。
5. 根拠を見つけられなかった主張は、除くか「要確認」と表示します。

出典が存在することと、その主張を裏付けていることは別です。 実在する記事を引用していても、その記事の内容は別の年の統計かもしれませんし、ほかの記事を再引用した二次資料かもしれません。可能であれば、原資料（統計の原表、法令の原文、企業の公式発表）までさかのぼります。

検証に見えても検証ではないものもあります。同じモデルに「合っている？」と尋ねること、文章が滑らかなので信じること、別の人のAI生成物と結論が同じなので信じることは、いずれも外部の根拠ではありません。

著作権と出典表示は別の問い

AIの生成物を外部で使う際は、著作権の問題を別途確認します。出典を記しても利用許諾を得たことにはならず、AIで書き直しても元の表現の権利問題が消えるわけではありません。確認すべき問いは三つです。

1. 入力資料を使う権利があるか？ 他人の原稿、有料報告書の再加工も元資料の利用条件に従います。
2. 結果に他人の表現が含まれないか？ 特定作品や文句に酷似するなら使用前に確認します。
3. 成果物を自社のものとして保護できるか？ 韓国の著作権法第2条は著作物を「人間の思想または感情を表現した創作物」と定義します。放送通信委員会の政策案内も、AIの自動生成物は現行法の保護対象ではなく、人が創作的表現を加えた部分だけが保護されうると説明します。その可否と範囲は個別判断です。

AI企業の規約には、成果物の権利を利用者に譲渡すると書かれていることがよくあります。OpenAIも、企業向けサービスでは、法律が許す範囲で顧客が出力を所有すると明記しています。ただし、これは企業と利用者の間の約束にすぎません。成果物が法律上の保護を受けることや、他者の権利を侵害しないことを保証するものではありません。ロゴ、商標、出版物のように、長く使い、多額の費用がかかる成果物は、使用前に法務の確認を受けてください。韓国著作権委員会がまとめている、4種類のAI・著作権案内書も参考にできます。

偏りと固定観念の確認

モデルは学習資料に含まれる社会の偏りを反映します。職業を特定の性別に結び付けたり、特定の地域や年齢を一定のイメージで描いたりすることがあります。内部の下書きでは小さく見えても、求人、広告、顧客案内など外部向けの成果物では、差別や評判の問題につながります。

偏りの点検は、事実検証と同じ機会に行います。外部に公開する前に、次のことを確認してください。人を描写した箇所で、性別、年齢、障害、出自の構成が実際の対象と合っているか、特定の集団を一般化する表現がないか、人についての評価や点数付けに使う結果なら、集団によって結果が一方に偏っていないか、ということです。偏りが見られたら、指示に望む構成を明記し、結果を人が選んで修正します。

さらに深く

「学習に使わない」を最後まで読む

データ方針の文書で最も目立つのは、たいてい「顧客データを学習に使いません」という一文です。そこで読むのをやめると、四点を見落とします。

1. 適用対象：どのプラン、どの製品に適用する記述かを確認します。同じ企業でも、個人向けと企業向けで異なることがよくあります。
2. デフォルト設定と例外：「原則として」という言葉の後には、例外があります。明示的に共有に同意した場合や、フィードバックを送信した場合には、学習に使われる可能性があるという但し書きが、よく見られます。
3. 別の軸：学習とは別に、保持期間、安全目的の保管、人による確認、管理者アクセスがどうなるかを探します。
4. 接続された経路：添付ファイル、接続アプリ、記憶機能、共有リンクが同じ規則に従うかを確認します。

方針の文書は頻繁に変わります。社内案内にデータ方針を転記するときは、原文リンクと確認日を併記し、定期的に確認し直してください。

事故発生から最初の30分

機密性の高い資料を誤った環境に入力したと気づいたとき、最も悪い対応は、隠したり、記録をむやみに消したりすることです。隠せば会社が対応するための時間を失い、消せばどの情報が外部に渡ったかを把握する手掛かりを失います。初動の対応には順序があります。

1. 止めます。 追加入力、共有、エージェント実行を停止します。
2. 範囲を記録します。 何を、いつ、どのアカウントとサービスに入れたかを書きます。
3. 報告します。 社内手順に従い、セキュリティまたは個人情報担当者に事実を知らせます。個人情報漏えいに当たる場合、会社は韓国の個人情報保護法第34条により本人への通知と届出を遅滞なく行う必要があるため、報告が遅いほど会社の義務履行も遅れます。
4. 指示に従って整理します。 共有解除、会話と保存メモリの削除は、担当者の案内に従います。自分の画面で消しても、サービス提供者側に保存されたデータが即座に消去されるとは限りません。
5. 再発を防ぎます。 承認ツールを使いやすくし、入力前確認を補強します。

実務の場面

しっかり物産の営業管理チームによる取引先評価報告書

産業用部品の販売会社「しっかり物産」の営業管理チームのチャン課長は、四半期の取引先評価報告書を準備します。資料は、取引先担当者の連絡先が入った契約管理台帳と、前四半期の納品実績です。

チャン課長はまず信号機で資料を分けました。納品実績は内部資料なので黄、担当者の連絡先と契約単価は赤です。会社が許可した業務用AI環境が別にあるため、個人アカウントは使わないことにしました。次に最小化を行いました。評価に必要なのは取引先名、納期遵守率、不良率だけなので、連絡先列を消したコピーを作って入力しました。契約単価は評価基準にないため、最初から入れませんでした。

報告書の下書きを受け取ると、チャン課長は「各取引先の評価文の横に、根拠となる実績表の行番号を書け」と改めて依頼しました。ある取引先の不良率が実際より低く書かれていましたが、行番号をたどると他社の値が混じっていました。この文を直し、根拠の行が見つからない「業界平均と比べて」という文は、出典がないため削除しました。

最後に、取引縮小などの重大な決定に使われうる報告書であることを考え、評価点は参考資料にとどめ、最終判断はチーム長会議で人が行うと冒頭に記しました。AIを使った箇所も併記しました。

きちんと施工の見積チームでの個人アカウントへの貼り付け

内装施工会社「きちんと施工」の見積チームの新人ホンさんは、帰宅時の地下鉄で、顧客向けの見積説明メールを整えるため、個人携帯の無料AIアプリに見積内容を貼り付けました。顧客名、自宅住所、連絡先、工事金額が含まれていました。翌朝、セキュリティルールを読み返して、自分の誤りに気づきました。

ホンさんが最初に思い付いたのは、アプリでその会話を削除し、誰にも言わないという方法でした。しかし、削除操作だけでサービス提供者側に保存されたデータが即座に消去されるとは限りません。また、隠せば会社が顧客に対して必要な措置を取る機会を失うと判断し、この方法はやめました。次に思い付いたのは、アプリのモデル改善設定をオフにする方法です。ただし、その設定が変えるのは学習への利用という一つの軸だけです。すでに入力した資料の保存や外部への開示を取り消せるわけではないため、それだけでは不十分でした。

ホンさんは削除前に、入力範囲（顧客1人の見積全文）、時刻、アプリ名、アカウント種類を記録し、上司と個人情報担当者に知らせました。担当者は公式ヘルプでデータ設定と保持方針を確認してから、会話削除とフィードバック未送信の確認を案内し、社内記録を残しました。これを機に、承認済みツールを携帯でも使えるようにし、AIで見積を扱う際は顧客情報欄を除いた様式を使うことにしました。事故を減らしたのは処罰ではなく、速やかな報告と使いやすい承認ツールでした。

間違えやすいポイント

1. 「学習をオフにすれば、企業向けと同じになる。」 学習の設定は、五つの軸のうち一つにすぎません。保持、人による確認、管理者による制御、契約上の保護は、それぞれ別の話です。
2. 「一時チャットは、どこにも残らない。」 一時チャットも、安全のために決められた期間は保管される可能性があります。ChatGPTは最大30日間、Geminiアプリは72時間と案内しています。
3. 「名前だけ消せば、匿名になる。」 ほかの情報と容易に組み合わせて識別できるのであれば、引き続き個人情報です。連絡先、住所、役職、自由記述に含まれる手掛かりも併せて確認します。
4. 「精度が高ければ、自動的に決定してもよい。」 高リスクの領域では、精度に関係なく、有資格者による実質的な検討が必要です。例外は、ポリシーが明記した限られた場合だけです。
5. 「企業向けなら、管理者も見られない。」 企業向けプランでは、学習に使わないことが基本ですが、組織の管理者はポリシーに従って会話にアクセスできる場合があります。
6. 「要約させるだけなら、隠れた指示は関係ない。」 歪められた要約も被害であり、AIが行動する権限を持っていれば、リスクはさらに大きくなります。外部資料は区別して示し、権限は最小限にします。
7. 「出典のリンクが開けば、検証済みだ。」 出典が実在していても、その段落が主張を裏付けていない可能性があります。主張ごとに照合します。
8. 「規約上、成果物の権利が付与されるとされているため、商標に使っても安全だ。」 規約の権利に関する条項は、保護や非侵害を保証するものではありません。長く使う成果物は、法務の確認を受けます。

ひと目でわかるまとめ

• 共通の禁止区分は違法・暴力、子どもの安全、プライバシー侵害、詐欺・欺瞞、セキュリティ侵害、人の確認のない高リスク判断です。ポリシー、法律、社内規程を別々に確認します。
• 高リスク領域では有資格者が内容を見て判断し、影響を受ける人にAI利用を知らせます。
• 顧客向けのチャットボットはAIであることを明らかにします。偽のレビューや出所の偽装は禁止です。AI基本法第31条は、事業者による告知・表示の義務を定めています。
• データは、学習への利用、保持、人による確認、管理者のアクセス、削除に分けて考えます。一つの軸が安全だからといって、ほかの軸も安全とは限りません。
• 個人アカウントで学習をオフにすることは、企業向けの保護の代わりにはなりません。学習をオフにした後でも、フィードバックは使われる可能性があります。
• 入力前の四つの問い：必ず必要な情報か、承認された環境か、範囲を減らせるか、契約や規程で禁止されていないか。
• 個人情報には他情報と容易に組み合わせて識別できるものも含みます。除去、置換、集約、架空資料で識別可能性を下げます。
• 外部資料に含まれる隠れた指示には、区別の表示、最小限の権限、高リスクの行動の承認によって備えます。
• 主張ごとに出典を開き、段落を照合し、再計算し、根拠がなければ削除か「要確認」にします。第1章のグラウンディングもこれの代替ではありません。
• 著作権は出典表示とは別で、公開前には偏りも確認します。

公式ドキュメントで確認する

• OpenAI — Usage policies：禁止区分、人による検討なしに機微な領域の決定を自動化することの禁止。
• Anthropic — Usage Policy：高リスクの利用における人の検討と告知、チャットボットがAIであることの告知。
• Google — Generative AI Prohibited Use Policy：高リスク自動判断の制限、出所偽装の禁止。
• OpenAI — Data controls in ChatGPT / Enterprise privacy：個人向けの学習設定、一時チャット、フィードバック、企業向けでの学習への不使用と管理者のアクセス。
• Anthropic — Is my data used for model training?：個人向けClaudeの学習利用とIncognitoチャット。
• Google — Gemini Apps Privacy Hub：人による確認と保持期間。
• OWASP — LLM01:2025 Prompt Injection：直接・間接インジェクションと対策。

セルフチェック

4-1. 三社の利用ポリシーに共通して含まれる、禁止区分を三つ書いてください。

4-2. AIサービスによるデータの取り扱いを検討するとき、互いに独立して動く五つの軸を書いてください。

4-3. 次の資料を、緑・黄・赤に分類してください。会社のホームページに掲載された求人、次の四半期に発売予定の製品の未公開価格表、従業員の健康診断結果の一覧。

4-4. チーム別の年次有給休暇の利用状況表から、名前の列だけを削除し、部署、役職、入社年の列は残しました。この表が引き続き個人情報である可能性がある理由を、韓国の個人情報保護法の個人情報の定義に基づいて説明してください。

4-5. 個人アカウントでモデル改善への利用をオフにしているにもかかわらず、会話が学習に使われる可能性を生じさせる利用者の行動を一つ書き、その行動が例外になる理由を説明してください。

4-6. AIが作成した市場分析のメモには、実在する記事へのリンクが出典として付いています。リンクが開くという事実だけでは検証が終わらないケースを、二つ書いてください。

4-7. 従業員30人の会社の「AI利用ルール」を5行で設計してください。承認ツール、入力禁止情報、検証、高リスク判断、事故報告を含めてください。

実習課題