第1章 AIはどう答えるのか
学習目標
- 生成AIが答えを「探して持ってくる」のではなく「作って」生み出すという点を、日常の例えで説明します。
- 検索と生成AIの違いを述べ、状況に適した方を選びます。
- もっともらしいものの間違っている答え(ハルシネーション)が生じる理由と、疑うべきサインを説明します。
- AIが学習した時点以降の情報に弱い理由と、同じ質問でも答えが変わる理由を説明します。
- AIの答えをそのまま信じてはならない状況を見極め、AIに任せることと自分で直接行うことを切り分けます。
はじめに
チョン・マルスンさんは67歳です。孫娘がスマートフォンにAIチャットボットアプリを入れてくれ、「おばあちゃん、気になることがあったらここに聞いてみてね」と言いました。チョン・マルスンさんは初めてこのように尋ねました。「ヘッサル内科は土曜日に何時までやっていますか?」AIはためらうことなく答えました。「ヘッサル内科は土曜日の午前9時から午後1時まで診療しています。」口調があまりにもはきはきしていて理路整然としていたため、疑う気すら起きませんでした。
土曜日の朝、医院のドアは閉まっていました。ドアには「今年から土曜日は休診」という案内文が貼られていました。AIは「よくわかりません」とは言いませんでした。間違った答えを、正しい答えとまったく同じ口調で返しただけでした。
ところが翌週、チョン・マルスンさんは同じAIに、同窓生の古希(70歳)を祝うメッセージを書いてほしいと頼みました。今度は本当に気に入る文章が出てきました。同じAIが、あるときは人を無駄足にさせ、あるときは大いに役立ちました。何が違ったのでしょうか。
本章ではその違いを説明します。まず、生成AIとは何で、どのように答えを作り出すのかを見ていきます。続いて、検索と何が違うのか、なぜもっともらしく間違えるのか、なぜ最近の出来事に弱いのか、なぜ尋ねるたびに答えが変わるのかを順に取り上げます。最後に、AIが得意なことと苦手なことを整理し、AIに任せることと自分が直接行うことを切り分ける方法を練習します。本章の内容は、以降のすべての章で再び使われます。
重要な概念
生成AIとは何か
AI(人工知能)は、人間のように理解し、判断し、創り出すことをコンピュータに行わせる技術を幅広く指す言葉です。そのうち生成AIは、文章、画像、音声、動画などを新しく作り出すAIです。「生成」とは「新しく生み出す」という意味です。
韓国の法律でも生成AIを定義しています。AI基本法(韓国)第2条第5号では、生成AIを「入力されたデータの構造と特性を模倣し、文章、音声、画像、動画、その他の多様な成果物を生成する人工知能システム」と定めています。難しい表現を分かりやすく解きほぐすと次のようになります。たくさんの資料を見てその資料の形や特徴を真似し、似たような形の新しい成果物を作るという意味です。
本書で頻繁に使う用語をあらかじめ整理しておきます。
| 用語 | 意味 |
|---|---|
| チャットボット | 文章や音声で質問と回答をやり取りするプログラム。「チャット(対話)」と「ロボット」を組み合わせた言葉 |
| 対話型AI | 人間との対話を通じて機能するAI。本書ではチャットボットと同じ意味で使用 |
| 対話画面 | 質問を入力し、答えを読む画面 |
| プロンプト | AIに送る質問や依頼。本書では分かりやすく「質問」または「依頼」と呼ぶ |
| 答え | AIから送られてきた文章。「応答」とも呼ぶ |
生成AIは今や様々な場所に入り込んでいます。個別にダウンロードするAIチャットボットアプリもあれば、検索画面の最上部にAIが作成した要約が表示されたり、メッセンジャーや文書作成ソフトの中にAIボタンが追加されたりもしています。見た目は異なっていても、内部で動作する仕組みは似ています。本章ではその共通の仕組みを扱います。
AIは次の言葉をつなげて書く方式で答える
スマートフォンでメッセージを作成する際、キーボードの上に予測変換(おすすめ単語)が表示されるのを見たことがあるでしょう。「今日の夜に」と入力すると、「何」、「一緒に」、「時間」といった言葉が表示されます。スマートフォンがこれまで多くの文章を見て、「この言葉の後にはこのような言葉がよく続く」ということを身につけたからです。
生成AIは、この予測機能を途方もなく大規模かつ精緻に発展させたものだと考えると理解しやすいでしょう。AIは膨大な文章を読みながら、「このような言葉の後にはこのような言葉が自然である」という感覚を身につけました。このプロセスを学習と呼びます。そして私たちが質問を送ると、その質問の後に続く最も自然な言葉を一つひとつ(ひとかけらずつ)つなぎ合わせて答えを作り出します。
ここで重要な点が1つあります。AIが言葉を選ぶ基準は「自然かどうか」であって、「事実かどうか」ではないということです。自然な言葉と正しい言葉が重なることも多いですが、自然だからといって正しいという保証はありません。どのくらい頻繁に当たるかは、質問の種類、AIの種類、検索などのツールを併用しているかどうかによって異なります。両者が食い違う例を見てみましょう。「ヘッサル内科は土曜日の午前9時から」という文は、医院の案内文において非常にありふれた形式であるため自然です。その医院が実際にそのように診療しているかどうかは別の問題です。
| 街の医院の受付スタッフ | 生成AI | |
|---|---|---|
| 答えの根拠 | 今日の医院の実際のスケジュール | 多くの文章から身につけた言葉の流れ |
| 分からないとき | 「確認してお知らせします」 | もっともらしい答えを作り出すことがある |
| 変更された予定 | すぐに反映 | 学習した後に変更された事項は知らない場合がある |
| 得意なこと | 事実確認 | 文章作成、説明、要約、推敲 |
要点
AIは記憶の中の資料を取り出してくる金庫ではなく、学習した文章力でその場で文章を書き上げる物書きのような存在です。この一文を覚えておけば、本章の残りの部分も容易に理解できます。
検索と生成AIの違い
インターネット検索は図書館の司書と似ています。「紅葉祭りの日程」を尋ねると、その内容が記載されたWebサイトの一覧を持ってきてくれます。どのWebサイトからの情報かが分かり、そのWebサイトを直接開いて見ることができます。その代わり、複数の検索結果を自分で読んで選ばなければなりません。
生成AIは、話の上手な近所の人と似ています。尋ねるとすぐに整理された文章で答えてくれます。読みやすくてスピーディです。しかし、その話がどこから来たのかを別途教えてくれない限り、出典を知ることはできません。
| 比較 | 検索 | 生成AI |
|---|---|---|
| 結果の形式 | Webサイトの一覧 | 整理された文章 |
| 出典 | Webサイトのアドレスが表示される | 別途明示されない限り分からない |
| 最新情報 | Webサイトが更新されれば連動して変わる | 学習した時点以降の情報には弱い |
| 間違うとき | 誤ったWebサイトを選んでしまうことがある | 存在しない内容をもっともらしく作り出すことがある |
| 適した用途 | 営業時間、日付、価格、住所の検索 | 文章作成、平易な言葉への言い換え、要約、アイデア出し |
そのため、「今週の土曜日に病院が開いているか」のように今日の事実を知る必要がある質問には、検索や病院の公式案内の方が適しています。「病院に予約の変更をお願いするメッセージを丁寧に書いてほしい」のように文章を作成する作業は、生成AIが得意とするところです。
検索を併用するAI
最近は、この2つを組み合わせたサービスも増えています。質問を受けるとAIがインターネットを検索した上で、見つかった内容をまとめて回答し、出典のリンクを添付してくれる方式です。このような回答は出典が見えるため、格段に安心感があります。
それでもリンクが付いているからといって、それで終わりではありません。その出典に直接アクセスして確認する必要があります。出典の内容とAIがまとめた文章が異なっている場合もありますし、出典そのものが古い記事である可能性もあります。OpenAIのヘルプ「Does ChatGPT tell the truth?」でも、正確性が重要な場合は検索などのツールを使い、リンクを直接訪問して出典を確認することを推奨しています。このとき、リンクを直接クリックするよりも、その機関の公式Webサイトを自分で検索してアクセスし、同じ文書を確認する方法の方がより安全です。第3章で詳しく練習します。
参考
出典リンクは「確認を始める場所」であって、「確認が完了したという太鼓判」ではありません。第3章でリンクを開く方法と、リンク先の内容が答えと一致しているかを見極める方法を練習します。
もっともらしいが間違った答え:ハルシネーション
AIが事実ではない内容を事実であるかのように語る現象をハルシネーションと呼びます。もともとは「幻覚が見える」という意味の英単語です。日本語では「幻覚」とも呼ばれます。
AI企業各社もこの問題を隠していません。OpenAIはヘルプページにおいて、ChatGPTが誤った回答や誤解を招く回答を生成することがあると明記し、その例として誤った定義・日付・事実、そして捏造された引用文、研究、参考文献、存在しない出典を挙げています。GoogleもGeminiアプリの個人情報保護ハブにおいて、Geminiアプリが時として不正確または不快感を与える情報(人物に関する情報を含む)を生成する可能性があると案内しています。
日常生活でよく目にするハルシネーションには、次のようなパターンがあります。
| パターン | 例 |
|---|---|
| 存在しないものを捏造する | 実在しない飲食店の名前、実在しない本のタイトル、実在しない給付金の名称 |
| 実在するものを誤って伝える | 実在する店舗なのに電話番号や営業時間が間違っている |
| 混ぜこぜにしてしまう | 2人の人物のエピソードをあたかも1人のことのように語る |
| 出典をでっち上げる | 存在もしない記事や公的機関の発表を根拠として挙げる |
| 古い情報を今も通用するかのように語る | すでに変更された料金や制度を、現在もそうであるかのように語る |
なぜこのようなことが起きるのでしょうか。先ほど見たように、AIは「自然に続く次の言葉」を選ぶからです。医院の案内文は通常、「平日〇時、土曜日〇時」といった形式をとっています。AIはその形式を非常によく知っています。特定の医院の実際の診療時間を知らない場合でも、その形式に合致する文章を作り出すことができてしまいます。知らない空欄をもっともらしい言葉で埋めているようなものなのです。
自信に満ちた口調は正解の証拠ではない
人間は話し方(口調)で相手を判断します。ためらわずにはきはきと話されると、よく知っている人だと感じてしまいます。AIの答えは常に滑らかで丁寧であり、自信に満ちて聞こえます。そのため、より簡単に信じてしまいがちです。
しかし、AIの口調は答えが正しいかどうかとは関係がありません。OpenAIのヘルプでも、モデルが誤った回答に対しても高い自信を示すことがあると記されています。チョン・マルスンさんが受け取った「午前9時から午後1時まで」という回答も、極めて自信ありげに聞こえたはずです。
むしろ、以下のような特徴は確認すべきポイントを知らせるサインだと捉えてください。
- 時間、金額、電話番号のように正確な数字が含まれている。
- 人名、店舗名、機関名のような固有の名称が含まれている。
- 「〇〇の研究によると」、「〇〇機関の発表によれば」のように根拠を挙げている。
- 「必ず」、「100%」、「確実に」といった断定的な表現が含まれている。
具体的であればあるほど役立つように見えますが、同時に間違っていた場合の被害が大きい部分でもあります。具体的な箇所ほど、もう一度確認するようにしましょう。
AIの知識には日付がある
AIはある時点までの文章を見て学習します。それ以降に起きた出来事は学習していません。この時点を学習時点または知識の基準日と呼びます。
数年前に印刷された街頭の地図を思い浮かべてみてください。地図に載っている大通りや山は今もそのままです。しかし、その間に新しくできた店、閉店した店、変更されたバスの路線は地図に載っていません。古い地図を見て道を探すと、大まかな方向は合っていても最後の路地で迷ってしまうことがあります。AIも同じです。
特に以下の情報は頻繁に変わります。AIが教えてくれた内容がこのような種類であれば、今日時点の基準で改めて確認します。
- 店舗や医院の営業時間、休業日
- バス・電車の時刻表や運賃
- 商品の価格、公共料金、手数料
- 給付金や公的制度の対象者、申請期間
- イベントや祭りの日程
- 電話番号、住所、担当部署
- 誰がどの役職に就いているか
AIは最近の出来事を尋ねられても、「それは私が学習した後のことなので分かりません」と言わないことがあります。古い地図を見ながら「この道を行ってください」と自信満々に言うようなものです。そのため、「最近」、「今年」、「今月」、「近頃」といった言葉が入った質問への答えは、常に日付を確認するようにしましょう。
同じ質問でも答えが変わる理由
同じ質問を2回すると、答えが少しずつ異なって返ってきます。初めて使う人は「故障したのかな?」と驚くこともあります。故障ではありません。AIは答えを保存しておいて取り出しているのではなく、尋ねられるたびに新しく組み立てている(作っている)からです。同じ昔話でも、おばあちゃんが語るたびに表現が少しずつ変わるのと似ています。自然に続く言葉の候補が複数ある場合、その中から1つを選ぶのですが、その選択が毎回少しずつ異なるのです。
この性質は、使い道によってメリットにもなれば警告サインにもなります。
| 状況 | 答えが変わることの意味 |
|---|---|
| お祝いメッセージ、プレゼントのアイデア、命名 | メリット。何度も尋ねて気に入ったものを選べばよい |
| 日付、金額、規則などの事実 | 警告。尋ねるたびに事実が異なるなら、少なくともどちらか一方は間違っている |
ここで、逆方向の思い込みにも注意しなければなりません。何度も尋ねて毎回同じ答えが出たからといって、正しい答えを意味するわけではありません。同じAIは同じ過ちを繰り返す可能性があります。答えが食い違えば「確認せよ」というサインであり、答えが同じであっても事実確認は別途行わなければなりません。
AIが得意なこと
AIは言葉や文章を扱う作業を得意としています。日常生活で役立つ例をいくつか挙げると、以下のようになります。
| 得意なこと | 日常生活における例 |
|---|---|
| 文章の最初の草案作成 | 古希のお祝いメッセージ、近所の人への感謝の挨拶、フリマアプリの出品文 |
| 文章の推敲 | 自分で書いたメッセージをより丁寧に、より短く、より親しみやすく |
| 難しい言葉を分かりやすく解説 | 案内文の中の難しい用語、孫の教科書に出てくる概念 |
| 長文の要約 | 長い案内文やお知らせから、やるべきことだけを抽出 |
| 翻訳の下書き | 旅行先の飲食店で使うフレーズ、外国人の隣人に送る挨拶 |
| アイデア出し | 孫の誕生日プレゼントの候補、1週間の献立メニュー、集まりの名称 |
| 練習相手 | 外国語の会話練習、面接や発表の練習 |
| 整理とリスト作成 | 旅行の持ち物リスト、引っ越しのToDoリスト |
共通点にお気づきでしょうか。そのほとんどが、成果物が良いかどうかを自分自身で読んで判断できる作業です。お祝いメッセージが気に入るかどうかは、読んでみれば分かります。このような作業は、AIが間違えたとしても自分で気づいて修正できるため安全です。
AIが苦手なこと・注意すべきこと
逆に、以下のような作業はAIに任せると危険であるか、少なくとも必ず確認が必要です。
| 注意すべき作業 | 理由 |
|---|---|
| 今日の事実確認(営業時間、時刻表、価格) | 学習した時点以降に変更されている可能性があり、捏造することもある |
| 自分の身近な地域の詳細情報 | 書かれた文章の絶対数が少なく、間違えやすい |
| 正確な計算や大きな数字 | 数字をもっともらしく並べて間違えることがある |
| 自分の体に合った診断や投薬 | 自分を診察したわけではなく、責任を負えない |
| 個別の事案に応じた法的判断 | 個々の事情によって結論が異なる |
| お金や投資の決定 | 失敗した場合に取り返しがつかない |
| 人の本当の気持ちの確認 | 家族が本当にそう言ったのかは、本人に聞いてみなければ分からない |
これは、AIがこのような質問に対してまったく役に立たないという意味ではありません。病院に行く前に「お医者さんに何をお尋ねすればよいでしょうか?」と質問リストを作成する際には、AIが大いに役立ちます。ただし、最終的な判断を下すのはAIではなく、その事柄に責任を持つ専門家や関係機関です。
AIの答えをそのまま信じてはならない状況の見極め方
AIの回答を受け取ったときは、次の6つのチェック質問をご自身に問いかけてみてください。1つでも「はい」があれば、その答えをそのまま使わずに確認を行います。
- お金のやり取りが発生するか? 送金、決済、投資、払い戻し、料金。
- 身体や健康に関するものか? 症状、薬、服用量、運動の強度。
- 法律や書類、期限に関するものか? 申請資格、締切日、契約、届け出。
- 日付・時間・場所・数字・電話番号が含まれているか?
- 他の人に伝えるものか? 家族のグループチャット、集まりのお知らせ、孫の宿題。
- 取り返しのつかないことか? 一度送金すれば終わりの振り込み、一度広まれば取り返しのつかない噂話。
注意
このようなときは立ち止まってください。 AIの答えに従ってお金を送金したり、薬を変えたり、書類に署名しようとしたりする瞬間であれば、手を止めてください。この3つはAIの答えだけで判断してはいけません。必ず銀行、医師・薬剤師、該当する関係機関にまず確認してください。
AIに任せることと自分で行うことの切り分け
1つのタスクの中にも、AIに任せる部分と自分がやるべき部分が混ざり合っています。作業を細かく分解し、3つの区分に整理すると判断が容易になります。
| 区分 | 基準 | 例 |
|---|---|---|
| AIに任せる | 結果を読んでその場ですぐに判断でき、間違っていても被害が小さい | 文章の草案、アイデア出し、平易な言葉への言い換え |
| AIがサポートし、自分が確認する | 非常に有用だが事実が混ざっている | 旅行の日程表、長文の案内文の要約、持ち物リスト |
| 自分が直接行う | お金・健康・法律が関わるか、取り返しがつかない | 送金、薬の変更、署名、家族への事実確認 |
このように実践してみましょう:家族旅行の準備を3つの区分に切り分ける
- やるべきことをすべて書き出す。日程の作成、宿泊先の選定、持ち物リストの作成、家族のグループチャット用案内文の作成、飲食店の検索、電車の切符の購入。
- AIに日程の草案、宿泊先を選ぶ際の着眼点、持ち物リスト、グループチャット用案内文の草案をまとめて依頼する。出発日や家を空ける期間は記載しない(第2章「情報を打ち明けすぎない」)。
[送信する質問]
70代の両親と海辺の街へ短い家族旅行に行こうと考えています。
高齢で長い距離を歩くのが難しいため、以下の4つの手助けをお願いします。
1. 休憩時間を十分に設けた1日の日程の草案(時系列順)
2. 宿泊先を選ぶ際に確認すべき点5つ
3. 高齢の両親と一緒に行く旅行の持ち物リスト
4. 家族のグループチャットに投稿する短い案内文
飲食店・宿泊先の名前、営業時間、日程、集合場所は含めず、
「昼食(飲食店は別途探す)」、[日程]、[集合場所]のように空欄にしておいてください。
[AIの回答例]
1. 1日の日程の草案
- 午前:電車で移動、駅の周辺で少し休憩
- 昼食:(飲食店は別途探す)
- 午後:海辺を散歩30分 → カフェで休憩 → 近くの展望台(エレベーターの有無を確認)
- 夕食:(飲食店は別途探す)、早めの休息
2. 宿泊先を選ぶ際に確認すべき点
- エレベーターがあるか、部屋までに階段があるか
- 駅や停留所から徒歩でどのくらいかかるか
...
3. 持ち物
- 普段飲んでいる薬、薄手の上着、履き慣れた靴、スマートフォンの充電器
...
4. グループチャットへの案内
[日程]に両親を連れて海辺へ旅行に行きます。
[集合場所]で会いましょう。歩くスケジュールは短めに設定しました。
- ステップ1で書き出したやるべきことを、1つずつ3つの区分に分ける。
| やるべきこと | 区分 | 理由 |
|---|---|---|
| グループチャット用案内文の作成 | AIに任せる | 文章は読んでその場ですぐに判断できる。[日程]と[集合場所]は自分で埋める |
| 日程の作成 | AIがサポートし、自分が確認する | 休憩時間の配分はそのまま使うが、移動時間や展望台のエレベーターの有無は事実に関わるため確認する |
| 宿泊先の選定 | AIがサポートし、自分が確認する | AIが提示した基準をもとに自分で探し、エレベーターや階段の有無は宿泊先に直接問い合わせる |
| 持ち物リストの作成 | AIがサポートし、自分が確認する | リストは有用だが、両親が服用している薬や当日の天気は自分で追加して確認する |
| 飲食店の検索 | AIがサポートし、自分が確認する | 候補を尋ねることはできるが、営業しているかどうかや営業時間は店舗に確認する |
| 電車の切符の購入、宿泊予約の決済 | 自分が直接行う | 金銭のやり取りが発生し、間違えた場合に取り消すのが面倒である |
- 「確認する」区分に入っている項目は、公式Webサイトや電話で確認する(第3章)。
この質問において注目すべきポイントがあります。「飲食店・宿泊先の名前、営業時間、日程、集合場所は空欄にしておいてほしい」という依頼です。AIが捏造しやすい部分をはじめから空欄にさせておけば、確認すべき箇所が一目で分かります。第2章では、このような質問の工夫についてさらに学びます。
さらに深く
AIはなぜ「わからない」となかなか言わないのか
人はわからないとき、「わかりません」と言います。AIがそう言わない理由は、前述の動作の仕組みにあります。AIの役目は、質問のあとに続く自然な言葉を繋げて書くことです。「ヘッサル内科の土曜日の診療時間は?」という質問のあとに自然と続く言葉は、「わかりません」よりも「土曜日は午前9時から…」であることのほうが多いのです。世の中の病院の案内文のほとんどがそのようになっているからです。
もちろん、AIが「その情報は確認できません」と正直に答えることもあります。しかし、常にそうであるとは限りません。そのため、質問する際に「確かでない場合は、わからないと言ってください」と付け加えることが役に立ちます(第2章)。ただし、このように付け加えても、間違った答えが完全になくなるわけではありません。確認は依然として自分自身の役目です。
ここでもう一つ知っておくべき点があります。AIに「本当に確かですか?」と聞き直すと、AIは答えを変えてしまうこともあります。最初の答えが合っていたのに変えてしまう場合も、間違っていたのに最後まで言い張る場合もあります。自分が疑うような口調で尋ねると、その疑いに合わせて答えを変える傾向もあります。そのため、AIに聞き直すことは確認にはなりません。確認は、AIの外にある信頼できる場所で行います。
まるで人のように感じられる対話について
AIと対話していると、人と話しているように感じられることがよくあります。優しく相づちを打ってくれたり、辛いと言えば慰めの言葉をかけてくれたりします。夜遅くに一人でいるとき、話し相手になってくれることもあります。このような経験は、それ自体が慰めになることもあります。
ただし、いくつかの点は明確にしておきます。
- AIの優しい言葉も、前述の「自然な次の言葉」です。自分を心から心配してくれる人の言葉とは異なります。
- AIは通常、こちらの言葉に相づちを打つほうへと傾きます。そのため、自分の考えが間違っているときでも正してくれないことがあります。重要な決定をAIとばかり相談していると、自分の考えを映し出す鏡ばかり見ていることになってしまいます。
- お金、健康、家族関係のような重要な決定は、信頼できる人とも必ず話し合います。
- 心がとても辛いときは、AIよりも家族、友人、専門の相談機関をまず頼ります。
AIは優れた道具であり、ときには良い話し相手にもなります。しかし、人の代わりにはなりません。
写真や声でも質問できる
多くのAIサービスは、文字だけでなく写真や声でも質問を受け付けています。薬袋を撮影して「この文字は何と書いてありますか?」と尋ねたり、外国の飲食店のメニューを撮影して翻訳を頼んだりすることができます。声で尋ねれば文字で書かなくてもよいので便利です。
この場合も同じ原理が適用されます。AIは写真の中の文字を読み間違えることがあり、かすんでいたり小さな文字であったりするほどその傾向が強くなります。数字を一つ読み間違えただけでも、意味が大きく変わってしまうことがあります。薬袋の服用量のような重要な内容は、写真をAIに読み取らせてみたとしても原本を直接確認し、判断に迷ったら薬剤師に尋ねます。また、写真には意図しない情報(氏名、住所、バーコード)が一緒に写り込みやすくなります。薬袋を撮影するときは、氏名、住民登録番号(記載されている場合)、病名コードのように、自分を特定させたり健康状態が明らかになったりする部分を紙や指で隠して撮影するか、撮影後にその部分を切り取ってください。詳しい方法は第4章「写真や文書をアップロードするとき」で扱います。
実務の場面
チョン・マルスンさんの紅葉旅行のバスの時間
状況。 病院での一件を経験した後、チョン・マルスンさんはAIを一切使わないようにしようかと考えました。そうしたなか、地域の敬老堂の友人たちと秋の紅葉旅行を計画することになりました。幹事を務めるチョン・マルスンさんは、AIに「ガラム市外バスターミナルからタンプン山へ行く始発は何時?」と尋ねました。AIは「午前6時40分です」と答えました。
思考のプロセス。 チョン・マルスンさんは、今回は本章で学んだ6つの確認の問いを思い浮かべました。時間が含まれている(4番)。友人たちに伝える情報である(5番)。始発を逃すと日程がすべて狂ってしまう(6番)。3つが「はい」でした。
捨てた選択肢。
- AIの答えをそのままグループチャットに投稿する。 病院のときと同じ過ちになりかねないため、見送りました。
- AIに「本当?」と聞き直す。 AIは同じ答えを繰り返すか、別の時間を言う可能性があります。どちらにしても確認にはならないため、見送りました。
- AIを一切使わない。 時刻表の確認にはAIは適していませんが、お知らせのメッセージ文を作成する際には大いに役立つことがわかっているため、見送りました。
決定。 始発の時間はバスターミナルの公式ウェブサイトで直接調べました。実際の始発は7時10分でした。そのあと、AIにこのように頼みました。「敬老堂の友人たちに送る紅葉旅行の案内メッセージを書いて。集まる場所はガラム市外バスターミナルの切符売り場前、集合時間は午前6時50分、始発は7時10分。1行を短く区切って、わかりやすい言葉で」。AIは文字の大きさを変更することはできないため、行を短く区切って読みやすくしてほしいと頼んだのです。文字の大きさは、受け取った側がスマートフォンの設定で大きくします。時間は確認した事実を自分が入れ、文章はAIに整えてもらうようにしたのです。チョン・マルスンさんは、これこそがAIを使う正しい方向性であると知りました。
ハン・ボクトンさんと孫の「地域の人物」の宿題
状況。 ハン・ボクトンさんは、小学校4年生の孫の宿題を手伝うことにしました。宿題は「私たちが暮らす地域で生まれた昔の人物を1人調べて5行で書くこと」でした。孫がAIに尋ねたところ、その人物が生まれた年、成し遂げたこと、残した本のタイトルまでスラスラと出てきました。孫はそれをそのままノートに書き写そうとしました。
思考のプロセス。 ハン・ボクトンさんは、回答に年号や本のタイトルのような具体的な事実が多く含まれている点が気にかかりました。宿題は先生やクラスメイトに見せるものなので、他の人に伝えることでもあります。
捨てた選択肢。
- AIの答えをそのまま丸写しする。 事実が正しいかわかりませんし、孫が自分で学ぶという宿題の意味も失われてしまいます。
- AIは間違っているから使うなと言う。 孫が理解しにくい昔の言葉をわかりやすく解説してもらうにはAIが役立つため、見送りました。
決定。 2人は市役所のウェブサイトの「地域の人物」紹介と教科書を一緒に調べてみました。生まれた年はAIの答えと同じでしたが、本のタイトルの1つはその人物ではなく別の人が書いた本でした。孫は確認した事実をもとに5行を自分で書きました。そして、紹介文に出てきた難しい言葉2つについては、AIに「小学校4年生にもわかるように説明して」と頼んで理解しました。祖父と孫は「事実は調べて確認し、理解はAIに手伝ってもらう」というルールをノートの最初のページに書き留めておきました。
参考
学校によって、宿題にAIを使ってよいかどうかのルールが異なる場合があります。宿題にAIを使う前に、先生からの案内をあらかじめ確認してください。
間違えやすいポイント
- 「AIはインターネットで検索して答えてくれる。」 基本的にAIは、学習した言葉の流れに基づいて回答を作り出します。検索機能が備わったサービスもありますが、その場合でもリンクを開いて確認する必要があります。探して持ってくるものだと信じ込んでいると、確認を怠ってしまいます。
- 「口調に自信があり丁寧であれば正しい回答だ。」 AIは間違った回答でも同じ口調で行います。口調は正確性の証拠にはなりません。
- 「具体的な数字まで言ってくれるので信用できる。」 数字や名前は、AIがもっともらしく作り出しやすい部分です。具体的であればあるほど確認すべき箇所です。
- 「何度も質問して同じ回答が出たので事実だ。」 同じAIは同じ間違いを繰り返す可能性があります。繰り返しは確認の代わりにはなりません。
- 「『本当?』と聞き返してAIが合っていると答えたので確認したことになる。」 AIに聞き返すことは、同じ人に2度尋ねることと同じです。確認はAIの外で行います。
- 「AIは最新情報をすべて知っている。」 AIが学習した時点以降の出来事は知らなかったり、間違って答えたりすることがあります。「最近」、「今年」といった質問は特に日付を確認します。
- 「AIが一度間違えたから全く役に立たない。」 事実確認には弱くても、文章作成、平易な言葉での説明、アイデア出しには強みがあります。作業を切り分けて任せればよいのです。
ひと目でわかるまとめ
| 概念 | 1行定義 | 覚えること |
|---|---|---|
| 生成AI | 膨大なデータのパターンを模倣して、新たな文章・画像・音声を作るAI | 検索して持ってくるのではなく、作り出して回答する |
| 次の言葉の書き継ぎ | 自然な言葉をひとまとまりずつつなぎ合わせて回答を作る方式 | 基準は「自然さ」であり「事実」ではない |
| 検索 | 情報があるウェブサイトの一覧を取得する | 今日の事実確認に適している |
| ハルシネーション | 事実でないことを事実のように話す | 存在しない店・本・出典を作り出すことがある |
| 自信のある口調 | AIの回答は常に滑らかである | 正解の証拠ではない |
| 学習時点 | AIが学習したデータの基準時点 | それ以降に変更された時間・料金・制度には弱い |
| 変化する回答 | 質問するたびに新しく作る | 文章作成では長所、事実関係では警告。同じであっても確認する |
| そのまま信じてはいけない状況 | お金・健康・法律・数字・伝達・取り消しが困難 | 1つでも該当すれば確認する |
| 3つの欄への分類 | AIに任せる / AIが手伝い自分が確認する / 自分で直接行う | 送金・薬・署名は自分で直接行う |
公式ドキュメントで確認する
- OpenAI — Does ChatGPT tell the truth?:AIが誤った事実や作り出した出典を提示することがあり、間違った回答であっても自信を見せることがあるという説明。「最終的な出典ではなく、最初のドラフトとして使用すること」という推奨。
- Google — Geminiアプリ プライバシーハブ:Geminiアプリが不正確な情報を生成することがあるという案内。
- 国家法令情報センター — AI基本法 第2条:生成AI、AI事業者、利用者の法的定義。
- 国家法令情報センター — 人工知能発展および信頼基盤造成等に関する基本法(AI基本法):法律の全体と施行日。
セルフチェック
1-1. 携帯電話のキーボードの予測変換機能を例に挙げて、生成AIが回答を作成する仕組みを2〜3文で説明してください。
1-2. 次の5つの作業を「検索や公式案内が適している作業」と「生成AIが適している作業」に分類してください。(ア) 近所の図書館の今月の休館日を調べる (イ) ご近所に送る引っ越し餅の挨拶メッセージを書く (ウ) 市外バスの運賃を調べる (エ) 長いマンションのお知らせ文を3行に要約する (オ) 友人の集まりの名前の候補を5つもらう
1-3. AIの回答において「さらに疑って確認すべき兆候」を3つ書いてください。
1-4. 同じ質問を3回したところ、3回とも同じ日付が返ってきました。この結果から分かることと分からないことを1文ずつ書いてください。
1-5. 自分が最近やろうとしていること(例:キムチ漬け、引っ越し、名節の準備)を1つ選び、やるべきことを5つ以上書き出した上で、「AIに任せる / AIが手伝い自分が確認する / 自分で直接行う」の3つの欄に分類してください。
1-6. AIが「私が学習したデータの基準では…」と言わなかったとしても、回答にある情報がいつの時点のものかを必ず確認しなければならない質問の種類を3つ書いてください。
実習課題
実習
AIの回答と公式情報の照合(30分)
- 回答を直接確認できる質問を2つ選ぶ。1つはあまり変わらないもの(例:自分の市・郡庁の代表住所)、もう1つは頻繁に変わるもの(例:近くの公共図書館の今月の休館日)とする。
- AIチャットボットに2つの質問をそれぞれ尋ね、回答をノートにそのまま書き留める。
- 同じ質問を新しい会話でもう一度尋ね、回答が変わったかどうかを記録する。新しい会話は、アプリ画面の上部やメニューにある「新しいチャット」、「新しい会話」ボタン、または「+」や鉛筆マークのボタンで開く(第2章で詳しく扱う)。
- 該当機関の公式サイトで正解を探し、横に書き留める。
- 正解、不正解、一部正解で記録する。
完了基準: 質問2つについて「AIの回答(2回) / 公式情報 / 正しかったか」が1つの表に整理されており、頻繁に変わる情報において結果がどうであったかを学習時点と結び付けて1〜2文で説明できます。
実習
3つの欄への分類練習(40分)
- 家族の行事を1つ(誕生日の集まり、法事、名節のお膳立て、家族旅行)選ぶ。
- やるべきことを8つ以上書き出す。
- 各作業を3つの欄(AIに任せる / AIが手伝い自分が確認する / 自分で直接行う)に分類して書き、横に理由を1行ずつ書く。
- 「AIに任せる」の欄から1つを選び、実際にAIに依頼してみる。
- 「AIが手伝い自分が確認する」の欄から1つを選び、AIに依頼した後、確認が必要な部分に下線を引く。
完了基準: 3つの欄の表が完成しており、「自分で直接行う」欄にお金・健康・法律・取り消しが困難な事柄があれば、すべてその欄に入っています。AIから実際に得られた成果物2つと、そのうち下線を引いた確認箇所が一緒に残されています。