第1章 AI適用の判断
学習目標
- 課題ごとに、ルール・照会、検索、分類モデル、生成モデル、ワークフロー、エージェントの中から適切な解決策を選択し、その理由を説明します。
- AIが適している問題とそうでない問題を区別し、AIが不要な要求を企画の初期段階で選別します。
- データ条件(記録、期待される出力、代表性、外部送信の可否)とコスト条件(効果に対する開発・評価・運用コスト)を考慮し、着手するかどうかを判断します。
- AI基本法における高影響領域や生成AIの義務、個人情報保護法(韓国)における自動化された決定条項が企画に及ぼす影響を判断します。
- 判断の根拠を1枚の「AI適用判断メモ」として残します。
はじめに
ある会議室で、次のような会話が交わされていると想像してみてください。「競合他社がAI相談を導入したそうです。うちも今四半期に一つ入れましょう」「どこに入れますか?」「うーん、とりあえず問い合わせのあたりで」。この会話では、問いが逆立ちしています。解決策(AI)が先に決まっており、問題を後から探しているのです。このようにして始まった機能は、大抵の場合、次の二つのいずれかの結末を迎えます。ルール数行で済むはずの処理を割高で不安定なものにしてしまうか、AIが本当に必要な領域にはデータが存在せず手も足も出なくなるかのどちらかです。
AI適用の判断とは、「AIをどう使うか」ではなく、「この問題にAIが必要なのか、必要であるならばどのような形態が最も単純なのか」を問うことです。Anthropicはエージェント設計ガイドラインにおいて、可能な限り最も単純な解決策を見つけ、必要な場合にのみ複雑さを高めるべきだと述べており、それはエージェントシステムをそもそも作らないことである可能性もあると指摘しています。企画者が最初に行うべき仕事は、この「単純さの感覚」を守り抜くことです。
本章では、まず解決策のはしごを立て、はしごの各段がどのような場合に適しているかを見ていきます。次に、AIが得意な問題とそうでない問題をGoogle PAIRガイドの分類に基づいて整理し、データとコストという現実的な条件を加味します。最後に、法律が企画に関わってくるポイント、すなわち高影響領域と自動化された決定を扱い、これらすべての判断を1枚のメモに残す方法を習得します。
重要な概念
AI適用の判断とは何か
AI適用の判断とは、ひとつの業務課題に対して3つの事柄を決める作業です。第1に、自動化や補助が必要か。第2に、必要であるならば、どのような解決策が最も単純に目的を達成できるか。第3に、その解決策を今構築するための条件(データ、コスト、法的要件)が揃っているか。3つのうち1つでも「いいえ」であれば、AI機能には着手しないか、あるいは形態を変更します。
例えるなら、AI適用の判断は病院における診療の順序と同じです。医師は症状を聞いた途端に手術を勧めることはありません。まず原因を確認し、薬で対応できるかを見極め、それでも治らない場合に、より重い処置を選択します。AIも同様です。ルールで対応できる処理に生成モデルを使うのは、風邪に手術を勧めるようなものです。
解決策のはしご
AI機能の解決策は、軽量なものから重量級のものまで、はしごのように順序立てることができます。上に行くほど実現できることは広がりますが、結果のばらつきやコスト、検証すべき事項も同時に増加します。
| 段 | 解決策 | 適した問題 | 代償 |
|---|---|---|---|
| 1 | ルール・照会 | 入力とルールが決まっており結果が一つに定まる処理(計算、条件分岐、データベース照会) | ルール外の入力を処理できない |
| 2 | 検索 | 決められた文書から原文を探して提示する処理 | 複数の文書を統合したり分かりやすく書き直したりできない |
| 3 | 分類・予測モデル | 入力を所定のカテゴリに分類したり数値を予測したりする処理 | 学習・評価データが必要であり、一定の割合で誤りが発生する |
| 4 | 生成モデル(LLM)呼び出し | 自然言語を理解し、新しい文章を作成する必要がある処理 | 事実無根の回答(ハルシネーション)、形式エラー、コストと遅延 |
| 5 | ワークフロー | 複数のLLM呼び出しとツールを事前に決めた順序で連携させる処理 | ステップごとに失敗のポイントが生じる |
| 6 | エージェント | 必要なステップ数を事前に予測できないオープンな問題 | コストの増加、エラーの蓄積、広範な権限 |
Anthropicは、ワークフローを「LLMとツールがあらかじめ決められたコードパスに従って構築されたシステム」、エージェントを「LLM自身がプロセスとツールの使用を決定するシステム」として区分しています。エージェントは、ステップ数を予測することが困難または不可能なオープンな問題に使用し、自律性の代償としてコスト増加やエラー蓄積の可能性を受け入れなければならないと説明しています。そのため、サンドボックスでの十分なテストと適切なガードレールを推奨しています。
要点
はしごは下から上へと登ります。下の段で目的を達成できるのであれば、上の段は選びません。上の段を選ぶ際には、「なぜ下の段では駄目なのか」を1文で説明できなければなりません。
ルールと照会が勝るケース
結果が入力とルールによって完全に定まる処理は、ルールと照会を用いるのが最も正確で、安価かつ高速です。配送料の計算、会員ランク別の割引、残高ポイントの照会、締切日の計算などがこれに当たります。ユーザーが自然言語で質問してきたとしても結論は変わりません。質問の表現が数通りに定まっているならば、意図分類のみを軽量に行い、回答はシステムの値をそのまま提示すればよいのです。
ここでよくある誤解が、「質問が自然言語なのだから、回答もモデルが作成すべきだ」というものです。モデルが数値を文章へと変換した瞬間、数値を誤って転記するリスクが生じます。正解がシステム内に存在する処理に生成プロセスを組み込んでも、得られるものはなく検証すべき事項が増えるだけです。Google PAIRガイドでも、予測可能性を維持すべき処理を、AIが適していない可能性が高い類型として挙げています。
検索が勝るケース
決められた文書から原文を探して提示することで目的が完結するならば、検索が適しています。特に、ユーザーが原文を直接読んで判断しなければならず、言い換えた文章を根拠として認めない業務(法務、監査、規程解釈の最終確認など)においては、生成プロセスは何の価値も付加しません。むしろ、要約が原文と微妙に異なってしまうリスクが生じるだけです。
逆に、複数の文書に散らばった内容をまとめ、分かりやすく解説する必要がある場合は、検索だけでは不十分です。この場合は、検索で根拠となる段落を見つけ出し、その段落に紐付けて生成を行う構成(検索拡張生成:RAG)を使用します。Claudeのドキュメントでは、長文の文書を扱う際、直接引用をまず抽出して根拠とし、主張ごとに引用で検証させるようにすれば、事実無根の回答(ハルシネーション)を削減できると説明されています。
| 要求 | 検索のみ | 検索 + 根拠に紐付いた生成 |
|---|---|---|
| 原文のまま確認する必要がある | 適切 | 過剰 |
| 複数の箇所をまとめて解説する必要がある | 不十分 | 適切 |
| 規程の該当条項の原文を探して提示すればよい | 適切 | 過剰 |
モデルが必要な問題
Google PAIRガイドは、AIのほうが適している可能性が高い処理として8項目を挙げています。企画業務で最も頻繁に遭遇するのは、ユーザーごとに異なるコンテンツを推薦する処理、将来の出来事を予測する処理、自然言語を理解する処理、発生頻度が低く時間の経過とともに変化する事象を検知する処理の4つです。残りの4つは、パーソナライズによって体験が向上する処理、あるカテゴリーの対象全体を一括して認識する処理、特定分野におけるエージェント・ボット体験、予測可能な画面よりも動的なコンテンツのほうが効率的な処理です。共通しているのは、ルールによってすべてのケースを事前に書き出すことができないという点です。自由形式の問い合わせを類型別に分類する処理、顧客の次回購入時期を予測する処理、手口が絶えず変化する不正取引を検知する処理などがこれに該当します。
このような処理に対してルールのみに固執すると、ルールが際限なく増え続け、新たな事例が現れるたびに対応が後手に回ってしまいます。かといって、モデルが正解を保証してくれるわけでもありません。「モデルが必要な問題である」という判断は、「ルールでは対応できない」という意味であって、「モデルを使えば解決する」という意味ではないのです。そのため、次の段、すなわちデータと評価の条件を必ず精査します。
モデルが必要であるという結論が出た場合は、はしごの3段目(分類・予測モデル)と4段目(生成モデル)のどちらを選択すべきかも決定します。
| 条件 | 分類・予測モデル側 | 生成モデル側 |
|---|---|---|
| 出力 | 所定のカテゴリまたは単一の数値 | 文章、要約、説明のように新しく作成すべき結果 |
| 正解ラベル付きの過去ログ | 十分にある | 少ない、または存在しない |
| 遅延と件あたりのコスト | 極めて高速かつ低コストである必要がある | 品質基準を満たす範囲内で許容できる |
| 入力 | 形式と範囲が安定的である | 自由記述であり表現が多岐にわたる |
所定のカテゴリに分類する処理であっても、正解ラベル付きの記録が少なかったり表現が多様であったりする場合は、生成モデルに分類を任せるほうが素早く着手できます。どちらを選ぶにせよ、評価セットを用いて基準をクリアしているか確認しなければならない点は同じです。
AIが適していない問題
同ガイドでは、AIが適していない可能性が高い処理についても6項目を挙げています。予測可能性を維持すべき処理、静的または限定的な情報を提供する処理、致命的な(コストの大きい)エラーを最小化すべき処理、完全な透明性が必要な処理、迅速かつ低コストで構築することが最も重要な処理、人々が価値を感じて自ら行いたいと望んでいる作業の自動化です。
このうち、致命的なエラーと完全な透明性は、企画者が特に見落としやすいポイントです。一度のエラーによる代償が極めて大きく、取り返しのつかない判断(例えば写真1枚から物理的な安全性を判定するような処理)は、精度が高くてもAIに任せないという決定が正しい場合があります。結果に至るプロセスをステップごとに漏れなく提示しなければならない処理(税額計算の根拠や、規程を適用した順序のように、監査や異議申し立ての際に1行ずつ精査しなければならない決定)も同様です。確率に基づいて回答を生成するモデルは、その回答が導き出されたプロセスをルールのように完全に再現して示すことが困難です。そのため、このような処理はルールに基づいて構築し、AIは説明を支援する補助的な役割に留めます。NIST AI RMFでは、システムが意図した目的を達成しているか、開発やデプロイを進めるべきかを判断することをリスク管理の一環と位置付けています。「作らない」こともまた、正当な企画の結論なのです。
自動化と補助
AI機能は、人間の仕事を代行する自動化と、人間の仕事を支援する補助(augmentation)に分けることができます。PAIRガイドでは、人々が避けたい仕事を完全になくしてくれる場合には自動化が好まれ、役割におけるリスクが大きい場合には人々がコントロール権を握りたがる、あるいは握るべきであると説明されています。
企画者は、2つの問いによって両者を切り分けます。「ユーザーはこの仕事を自ら行いたいと思っているか」、そして「結果に対する責任は誰が負うのか」。反復的で退屈であり、間違えても容易に修正できる仕事には自動化が適しており、判断に責任が伴い、ユーザーが結果を理解しなければならない仕事には補助が適しています。金銭の支払いを約束する顧客対応のように取り返しのつかない結果をもたらす処理では、AIが下書きを作成し、人間が承認するという補助形態が一般的な解決策となります。
ワークフローとエージェントを選択する基準
LLMが必要であるという結論が出たとしても、その形態には多様な選択肢があります。1回の呼び出しで完了するのか、決められたステップを順次実行するのか(プロンプトチェイニング)、入力を分類して別の処理へと振り分けるのか(ルーティング)、生成と評価を交互に行うのか(評価者-最適化者)、それとも自律的にステップを決定しなければならないのか(エージェント)。
| 問い | 「はい」の場合 |
|---|---|
| 1回の呼び出しで目的を達成できるか | 単一呼び出し |
| ステップが事前に決まっているか | ワークフロー(チェイニング、ルーティングなど) |
| 入力を正確に分類して別の処理へと振り分けることができるか | ルーティング |
| 評価基準が明確であり、反復的な改善が測定可能な価値をもたらすか | 評価者-最適化者 |
| 必要なステップ数を予測できないか | エージェント(コスト・エラー蓄積・権限の検討が必須) |
Anthropicはルーティングについて、入力を分類して専門化された後続タスクへと送る方式であると説明しており、分類がLLMまたは従来の分類モデルによって正確に処理できる場合に適しているとしています。評価者-最適化者は、明確な評価基準が存在し、反復的な改善が測定可能な価値をもたらす場合に使用すべきだと述べています。
データ条件
モデルが必要な問題であっても、データがなければ構築することはできませんし、構築したとしても確認することができません。企画者が確認すべきデータ条件は次の4点です。
- 記録が存在するか。 予測しようとする事象がシステム内に残っているか。注文のやり取りが個人のメッセンジャー上でのみ行われ、日時が記録されていないのであれば、注文時期の予測に着手することはできません。
- 期待される出力が存在するか。 何が正しい答えであるかを示す正解や、人間の判断記録が存在するか。なければ評価セットを作成できません。
- 代表性があるか。 保有しているデータが実際のユーザーや入力を代表しているか。PAIRガイドでは、データが実際に利用する人々の多様性とコンテキストを反映していなければならないと強調しています。
- 利用してもよいか。 そのデータを外部のモデルプロバイダーに送信してもよいか。個人情報や契約上の秘密が含まれている場合は、プロバイダーの処理条件(保存期間、学習に利用するか否かなど)を契約書面で確認し、必要に応じて送信前にマスキングします。
記録がない場合はデータを蓄積する業務手順の策定から着手し、記録はあるものの期待される出力がない場合はサンプルに期待される出力を付与する作業から進めます。
コスト条件
AI機能のコストは、モデル呼び出し料金だけにとどまりません。開発、評価セットの構築、セキュリティ・法務レビュー、運用モニタリング、失敗対応の人員、モデル切り替えへの対応まで含まれます。効果は通常、「削減される時間 × 単価」や「増加する売上」として算出します。
簡単な試算から始めてみてください。年間500件、1件あたり4分の業務を完全に自動化したとしても、削減される時間は年間で約33時間です。逆に、1日5,000件、1件あたり2分の業務を半分だけ自動化した場合でも、1日で約83時間になります。処理量が少ない業務は、どれほど優れたシステムを作ったとしてもコストを回収することが困難です。
呼び出しコストそのものも設計によって削減できます。Claudeのドキュメントによれば、即時応答を必要としない大量のタスクはMessage Batches APIで非同期処理することができ、大半は1時間以内に完了してコストを50%削減できます。ただし、24時間以内に処理されなければ期限切れとなるため、締め切りがあるタスクには余裕を持たせます。リアルタイム性が必要かどうかを問うことが、コスト判断における最初の問いです。
高影響領域への該当有無
AI基本法では、人の生命、身体の安全および基本権に重大な影響を及ぼす、または危険をもたらすおそれがある人工知能システムのうち、定められた領域で活用されるものを高影響人工知能と定義しています(第2条第4号)。企画者が押さえておくべき領域は次のとおりです。
| 目 | 領域(要約) |
|---|---|
| イ〜ホ | エネルギー供給、飲料水の生産、保健医療の提供、医療機器・デジタル医療機器、原子力施設 |
| ヘ | 犯罪捜査や逮捕のための生体認識情報の分析・活用 |
| ト | 採用、融資審査など個人の権利・義務関係に重大な影響を及ぼす判断または評価 |
| チ | 交通手段・交通施設・交通体系の主要な作動と運行 |
| リ | 公共サービスの提供に必要な資格確認・決定、費用徴収など国家機関等の意思決定 |
| ヌ | 幼児・初等・中等教育における児童・生徒の評価 |
| ル | その他、大統領令で定める領域 |
人工知能事業者は、製品やサービスを提供する際、その人工知能が高影響に該当するかどうかを事前に検討しなければならず、必要に応じて科学技術情報通信部長官に確認を要請することができます(第33条)。確認の要請は「行うことができる」と定められた裁量的な手続きです。高影響に該当する場合は、リスク管理方案、技術的に可能な範囲での説明方案、利用者保護方案、人間による管理・監督、措置内容を確認できる文書の作成および保管などを履行しなければなりません(第34条第1項)。また、事前に人の基本権に及ぼす影響を評価するよう努めなければならないとする、高影響人工知能影響評価の条項(第35条第1項)もあります。
高影響に該当しない場合であっても、法律が関与してくるポイントがあります。高影響または生成AIを利用した製品・サービスを提供するには、その事実を利用者に事前に告知しなければならず(第31条第1項)、生成AIの生成物には生成AIが作成したという事実を表示しなければなりません(第31조제2항)。さらに、実物と区別がつきにくい仮想の音声・画像・映像については、利用者が明確に認識できるように告知または表示しなければなりません(第31条第3項)。
注意
「人間が最終決定を下すのだから高影響ではない」という推論は危険です。法律では、高影響人工知能を該当領域において「活用される」システムとして定義しています。AIによる評価が融資や資格の決定に反映される限り事前検討を免れることはできず、人間による管理・監督はむしろ高影響事業者が講ずべき措置のひとつなのです。
自動化された決定と個人情報保護法
AI基本法とは別に、個人情報保護法(韓国)第37条の2では、完全に自動化されたシステムによって個人情報を処理して行われる決定(自動化された決定)を扱っています。「行政基本法(韓国)」第20条に基づく行政庁の自動的処分は、本条の自動化された決定から除外されます。この条文には「人工知能技術を適用したシステムを含む」と記載されており、AIではないルールエンジンの自動決定にも適用される可能性があります。
決定が自己の権利または義務に重大な影響を及ぼす場合、情報主体はその決定を拒否する権利を有しますが、同意・法律・契約の履行等に基づく決定である場合、拒否権は制限されます(第1項)。一方で、決定に対する説明等を要求する権利(第2項)とそれに伴う処理者の措置義務(第3項)、決定の基準と手順、個人情報が処理される方式を容易に確認できるように公開する義務(第4項)は、「重大な影響」という条件なしに自動化された決定全般に適用されます。施行令では、重大な影響がない決定に対しては、説明をより簡素に行うことができると定めています。
施行令はこの内容を具体化しています。説明等の要求は、決定の基準および処理過程に対する説明、ならびに情報主体が個人情報の追加といった意見を提出し、その意見を決定に反映できるかどうか検討することを求める要求に分かれます(施行令第44条の2)。処理者は、正当な理由がない限り、決定の結果、使用された主要な個人情報の類型、主要な基準、処理手順を盛り込んだ簡潔かつ有意義な説明を提供するか、意見の反映有無を検討して通知しなければなりません。拒否の場合には、その決定を適用しないか、または人的介入によって再処理を行い、これらの措置は原則として要求を受けた日から30日以内に行わなければなりません(施行令第44条の3)。公開すべき項目も施行令第44条の4に定められています。
企画者への教訓はシンプルです。「AIの代わりにルールで作れば規制を回避できる」という考えは誤りである可能性があります。人間の実質的な検討なしに個人情報を用いて決定を自動的に下す設計であるならば(行政庁の自動적処分は除く)、技術が何であれ、基準の公開、説明および検討要求の受付、担当者による処理手順を併せて企画し、権利に大きな影響を与える決定である場合には拒否要求への対応まで組み込みます。
AIが不要な要求を選別する問い
AI課題の候補が上がってきたら、次の5つの問いを順番に投げかけます。1〜4番はAIを使うかどうかを、5番は使う場合にどのような形態で使うかを決定します。手前の問いで引っかかった場合は先へは進まず、引っかかった段階での結論を判断メモにそのまま記入します。
| 問い | 「はい/いいえ」に応じた結論 |
|---|---|
| 1. 結果が入力とルールによって完全に定まるか? | はい → 形態変更(ルール・照会で構築する) |
| 2. 決められた文書を原文のまま提示すれば完了するか? | はい → 形態変更(検索で構築する) |
| 3. 処理量と効果が開発・評価・運用コストを上回るか? | いいえ → 保留(現行方式を維持)。すでに利用している汎用ツールで別途作成するものがほとんどない場合は例外 |
| 4. 記録と期待される出力が存在するか? | いいえ → データを先行(データ整備を先行) |
| 5. エラーが取り返しのつかない甚大な被害につながるか? | はい → 着手(補助形態)、人間の介入によってもリスクを低減できない場合は構築しない / いいえ → 着手(自動化)。ただし、ユーザー自身が直接コントロールしたい作業であれば補助形態 |
結論は、これら6つのうちのいずれかになります。着手(自動化)、着手(補助形態)、形態変更(ルール・検索)、データ先行、保留(現行方式を維持)、構築しない。選別から除外された課題であっても破棄せず、ネクストアクションと担当者を明記して記録に残します。
AI適用判断メモ
判断は必ず文章に残します。後から「なぜこの機能をAIで構築したのか」「なぜその時構築しなかったのか」を説明できるようにしておく必要があり、法的な事前検討の根拠としても用いられます。1枚で十分です。
[AI適用判断メモ]
課題: (1文)
現在の処理方式と処理量: (月○件、1件あたり○分、エラー率○%)
解決策のはしご: (選択した段) / 下の段では不可能な理由: (1文)
データ条件: 記録(あり/なし) ・ 期待される出力(あり/なし) ・ 代表性 ・ 外部送信の可否
コスト条件: 予想される効果 vs 開発・評価・運用コスト
法的検討: 高影響への該当有無(第2条第4号○目検討結果)、生成AIの告知・表示、自動化された決定への該当有無
結論: 着手(自動化) / 着手(補助形態) / 形態変更(ルール・検索) / データ先行 / 保留(現行方式維持) / 構築しない
ネクストアクションと担当者:
さらに深く
「モデルが良くなったらやろう」という判断の罠
AI課題を保留し、「モデルの性能がこの仕事を完全に任せられる水準になったら改めて検討しよう」とするケースが多々あります。この判断が正しいのは、次の2つの場合のみです。エラーが取り返しのつかない甚大な被害につながるにもかかわらず人間の介入によってもリスクを低減できないとき、そして現在のモデルで評価してみた結果、基準を大幅に下回るときです。
それ以外の場合、この判断は2つの点を見落としています。第1に、ルールによって今すぐ構築できる仕事をAIの課題だと誤って分類している可能性があります。第2に、「完全に任せられる水準」でなくても、人間の介入と組み合わせれば今すぐにでも価値を生み出せます。エラーを取り消せる分類であれば、確信度の低い案件のみを人間に引き渡す方法で、今日からでも開始できます。保留を決定する際は、何が変われば再検討するのか(評価スコア、コスト、データ)を数値で書き留めておいてください。
人間が決定すればリスクは消えるのか
人間が最終決定する仕組みは、リスクを減らしはしますが、なくすわけではありません。1日に数千件を数秒ずつ確認してAIの推薦をそのまま承認しているなら、形式上は人間の決定であっても実質は自動化です。この問題は第4章で詳しく扱いますが、適用の判断段階でも2点を確認しておく必要があります。レビュー担当者が結果を変更する権限と判断根拠を持つことになるか、そしてレビュー可能な処理量であるかです。
法的にもこの区別は重要です。個人情報保護法(韓国)における「自動化された決定」は「完全に」自動化された決定を対象としているため、実質的な人間によるレビューがあれば適用範囲が変わる可能性があります。一方、AI基本法の高影響の定義は領域と活用を基準としているため、人間がレビューするとしても事前検討の義務は残ります。同じ「人間の決定」が、2つの法律で異なって機能します。
コスト比較で抜け落ちやすい項目
AI機能のコストを見積書の開発費と月々の呼び出し料金だけで計算すると、ほぼ必ず過小評価してしまいます。抜け落ちやすい項目は次のとおりです。
| 項目 | なぜ抜け落ちやすいのか |
|---|---|
| 評価セットの構築と更新 | 開発が終わった後の作業とみなされ、見積もりに含まれない |
| 人間によるレビューの人員 | 確信度の低い案件を引き渡した瞬間に発生する運用コストである |
| 失敗処理コスト | 誤った案内によって生じる相談・補償コストが機能の外側で発生する |
| モデル交代への対応 | プロバイダーのモデル廃止スケジュールに合わせた再評価が定期的に発生する |
| 法務・セキュリティの検討 | 告知・表示、個人情報処理条件の確認が企画段階から必要である |
Claudeのドキュメントでは、公開モデルの廃止を少なくとも60日前に通知し、廃止日を過ぎたモデルに送信されたリクエストは失敗すると明記されています。AI機能は作って終わりの資産ではなく、継続して手入れをすべきサービスであるという点をコストに算入してください。
実務の場面
海路海運の船積み書類確認
海運会社「海路海運」のオペレーションチームは、毎日400件の船積み書類を受け取り、貨物重量、コンテナ番号、危険物表示が予約情報と一致しているかを確認しています。チーム長は「AIが書類を読み取ってすべて確認してくれたらいいのに」と依頼しました。
企画担当者は課題を細分化しました。書類は定型様式の電子文書が70%、スキャンした紙が30%でした。電子文書の値はフィールドとしてそのまま読み取れるため、予約情報との照合はルール比較で十分でした。スキャン文書は文字を読み取ってフィールドを見つけ出さなければならず、モデルが必要でした。
最初に出た案は、「エージェントが書類を読み取り、不一致を見つけ、船社に訂正依頼のメールまで送信する」というものでした。企画担当者はこの案を却下しました。訂正依頼は外部に出ていくアクションであるため誤って送信すると取り消しが難しく、手順が決まっている仕事をエージェントに任せる理由もなかったからです。「モデルの性能が良くなるまで保留」という案も却下しました。70%は今日ルールで構築することができたからです。
最終的な決定は次のとおりです。電子文書はルールの照合により自動処理します。スキャン文書はモデルがフィールドを抽出するものの出力形式を固定し、過去3か月間のスキャン文書300件に従業員が確認した正解を付与して評価セットを作成したうえで、着手するかどうかを決めます。危険物表示はエラーによる被害が大きいため、不一致が生じた場合は常に人間が確認します。訂正依頼メールは人間が送信します。法的検討欄には、この機能がAI基本法第2条第4号ア目(交通手段・交通施設・交通体系の主要な作動と運用)に該当するかどうかを検討した結果と根拠を記載しました。書類の照合は運航や交通体系の作動を直接制御しない内部確認業務であるという判断であり、曖昧な部分は法務チームの確認項目として残しました。判断メモには、「危険物表示の項目は精度に関係なく人間が確認」という文章も残されました。
夜明けのパン工房の新メニュー紹介文
製菓フランチャイズ「夜明けのパン工房」のマーケティングチームは、毎月新メニューの紹介文の候補をAIから出力させて使いたいと考えていました。同時に営業チームは、「加盟店別の翌月の発注量をAIで予測してほしい」と要請しました。
紹介文の課題は事実の主張がほとんどなく、人間が選んで推敲し、処理量も月に数十件でした。処理量が少ないとコストを回収しにくいという原則に反するように見えますが、この課題は個別にシステムを構築せず、すでに契約済みの汎用AIツールで候補を受け取る作業であったため、開発・運用コストがほとんどかからず、人間が都度選択するため個別の評価体系も必要ありませんでした。企画担当者は、この課題を生成モデルの単一呼び出しで十分な補助機能であると判断しました。ただし、原材料やアレルギー表記のように事実が入る文章は商品情報からそのまま取得するようルールを追加し、生成型人工知能の生成物に対する表示義務(第31条第2項)が人間が修正した広告文にも適用されるかどうかは法務チームの検討項目としてメモに残しました。
発注予測はAIが得意とする類型でしたが、データの条件でつまずきました。加盟店の発注は電話とSMS(ショートメッセージ)で受け付けていたため、本社のシステムには月末の合計しか残っていませんでした。企画担当者は「AI予測への着手」を保留し、「加盟店発注アプリの導入による日付・品目・数量の記録」を先行課題として挙げました。営業チームは落胆しましたが、3か月後に記録が蓄積されると、予測の課題は評価セットとともに再び浮上しました。却下した選択肢は、「合計データでひとまずモデルを作ってみよう」というものでした。月末の合計からでは、次の注文時期を学習することができないからです。
間違えやすいポイント
- 「自然言語で質問されたのだからLLMが答えるべきだ。」 質問の形式と回答の性質は異なります。回答がシステム内の値であれば照会が適切であり、生成は数値を誤って転記するリスクを増大させるだけです。
- 「エージェントが最も発展した形態なのだから最も優れている。」 エージェントはステップ数を予測できないオープンな問題のためのものです。手順が決まっている仕事に使うと、コストとエラーの累積が増加するだけです。
- 「モデルが必要な問題であればすぐに開発してもよい。」 記録と期待される出力がなければ、作成したとしても検証できません。データの条件こそが着手の条件です。
- 「小さな業務であっても自動化すれば利益になる。」 処理量が少なければ、開発・評価・運用のコストを回収できません。まずは年間の削減時間を計算してください。
- 「人間が最終決定するなら高影響ではない。」 高影響は領域と活用によって定義されます。人間による管理・監督は高影響における義務であって、免除事由ではありません。
- 「AIではなくルールで構築すれば法的な心配はない。」 個人情報保護法(韓国)の自動化された決定に関する条項は、AIではない完全自動化システムにも適用され得ます。
- 「高影響に該当するか判断する際、長官の確認を受けるまで企画を中断する。」 確認要請は、自ら事前検討を行った後でも該当するかどうかが真に曖昧な場合に利用できる正当な手続きです。しかし、融資審査のように条文に明記された領域であり判断が明確であるにもかかわらず、回答を待つばかりで企画を中断するのは、事前検討の義務を先送りすることにほかなりません。
ひと目でわかるまとめ
| 判断 | 核心となる問い | 結論の例 |
|---|---|---|
| 解決策 | より下位の手段で目的を達成できるか | 計算はルール、原文確認は検索、統合は根拠に基づく生成 |
| 適合性 | パーソナライズ・予測・自然言語・変動する事象か、それとも予測可能性・静的情報・損失の大きいエラーか | 損失の大きいエラーは補助形態、または作成しない |
| 形態 | 手順が決まっているか | 決まっていればワークフロー、オープンであればエージェント |
| データ | 記録・期待される出力・代表性・外部送信 | なければデータを先行 |
| コスト | 処理量 × 効果 vs 総コスト | 少なければ現状の方式を維持、リアルタイムが不要なら一括処理 |
| 法律 | 高影響領域か、生成型か、完全自動決定か | 第33・34条の措置、第31条の告知・表示、第37条の2の説明・再処理 |
| 記録 | 判断を説明できるか | AI適用判断メモ |
公式ドキュメントで確認する
- Anthropic — Building effective agents: 最も単純な解決策の原則、ワークフローとエージェントの区別、ルーティングと評価者-最適化者(Evaluator-Optimizer)。
- Google PAIR Guidebook — User Needs + Defining Success: AIのほうが適しているタスクとそうでないタスク、自動化と補助。
- Google PAIR Guidebook — Data Collection + Evaluation: ユーザーのニーズからデータのニーズへ、代表性とテストセット。
- Claude Docs — Batch processing: 一括処理(バッチ処理)のコストと処理時間、期限切れの条件。
- NIST AI RMF — Core: MAP 3.1(利益の検討)、MANAGE 1.1(進行可否の判断)。
- 国家法令情報センター — AI基本法第2条: 高影響人工知能および生成型人工知能の定義。同法第31・33・34・35条も併せてお読みください。
- 国家法令情報センター — 個人情報保護法(韓国)第37조의2: 自動化された決定に対する情報主体の権利。同法施行令第44条の2〜第44条の4が要求方法、措置、公開項目を定めています。
セルフチェック
1-1. 解決策のはしごにおいてエージェントが適している問題の条件を1文で記述し、その代償のうち2つを挙げてください。
1-2. Google PAIRガイドが「AIの方が優れていない可能性が高い」とみなしているタスクを4つ以上挙げてください。
1-3. 図書館の座席予約アプリで「空席数を対話型で案内する機能」が提案されました。空席数は予約システムにリアルタイムで存在しています。どのような解決策が適切であり、なぜ生成モデルは適していないのかを説明してください。
1-4. 顧客の次回訪問時期を予測する機能を作成しようとしていますが、訪問記録は現場の紙の名簿にしかありません。企画者が最初に行うべきことは何かを答えてください。
1-5. AI基本法において高影響人工知能に該当する場合、事業者が講じるべき措置を3つ以上挙げてください。
1-6. 「決定拒否権が契約によって制限される場合、自動化された決定に関する条項は気にしなくてよい」という主張の問題点を、個人情報保護法(韓国)第37条の2に基づいて説明してください。
1-7. (設計)現在担当しているサービスからAI候補課題を1つ選び、本章の5つの絞り込み質問に順に回答した上で、結論を1行で記述してください。
実習課題
実習
実習 1-A. 候補課題5つをはしごに載せる(40分)
- 現在のサービスにおいて、「AIでできたらよい」という要望を5つ集める。
- 課題ごとに現在の処理方式、月間処理量、1件あたりの所要時間、エラーの結果を記述する。
- 解決策のはしごから段を選び、「下の段では対応できない理由」を1文で記述する。
- 5つの絞り込み質問を適用し、6つの結論(着手(自動化)、着手(補助形態)、形態変更、データ先行、保留、作らない)の中から1つを割り当てる。
完了基準: 5つの課題すべてにはしごの段、1文の理由、結論が記載されており、少なくとも1つは「AIではない」として除外されたか、除外されなかった理由が記載されていること。
実習
実習 1-B. AI適用判断メモを書く(50分)
- 実習 1-Aで「着手」と結論づけられた課題を1つ選ぶ。
- 本章のメモ様式に記入する。法的検討欄には、AI基本法第2条第4号のどの目に該当するか(または該当しない理由)、第31条の告知・表示対象であるか、個人情報保護法(韓国)第37条の2の完全自動決定であるかをそれぞれ記述する。
- 費用欄には、年間節約時間と評価・運用費用の項目を併せて記述する。
完了基準: メモ1枚に結論と次のアクション、担当者が記載されており、法的検討の3項目がすべて「該当/非該当+根拠条文」で記入されていること。