第5章 機関導入と運用

学習目標

• 機関のAI導入目的を課題として定義し、目的に適した成果指標を選択する。
• UNESCOの生成AI教育指針と教員AI能力フレームワークの中核を導入計画に反映する。
• サービスの選定、契約、教員研修、試験運用、本格拡大を、根拠が連なる順序で計画する。
• NIST AI RMFの4つの機能によって学校のAI運用業務を整理し、点検項目と周期を定める。
• AIサービスにおける事故を種類ごとに分類し、種類に応じた初動対応を選択する。

はじめに

ある教育支援庁が「AIチューターの全面導入」を発表してからわずか1学期で、2つの報告書が提出されました。1つはアクセス件数が目標の2倍に達したという成果報告であり、もう1つは学力格差が縮小したという根拠は見いだせないという監査意見でした。どちらの報告書も紛れもない事実でした。生徒たちはチューターを大いに利用しましたが、導入目的であった基礎学力の回復を確認するための指標は、最初から定められていなかったのです。

機関におけるAI導入は、一人の教員による授業での活用とは規模が異なります。何百人、何千人もの生徒データが動き、予算や契約が伴い、問題が生じれば多数の生徒に同時に影響が及びます。そのため、何のために導入するのか、どのように効果を確認するのか、誰が何を点検するのか、事故が発生した際には何から着手するのかを、導入前に定めておかなければなりません。

本章は、導入目的と成果指標の検討から始めます。続いて、UNESCOの指針と教員能力フレームワーク、サービスの選定と段階的な導入、教員研修と保護者とのコミュニケーションを取り上げます。最後に、NIST AI RMFを学校運営へと落とし込む方法、点検項目と周期、事故の類型別の初動対応について整理します。

重要な概念

導入は課題の定義から始まる

「AIを導入する」ことは目的ではありません。目的とは、AIによって解決しようとする課題です。教員の記述式採点の負担が大きい、基礎学力未達の生徒に対する個別の演習機会が不足している、多文化家庭へ送る案内文の翻訳が遅れる、といった課題がまず存在し、AIはその課題を解決する数ある方法の中の1つにすぎません。

課題を定義する際には、次の3点を書き出します。

1. 誰のどのような課題か：教員の業務か、生徒の学習か、保護者とのコミュニケーションか
2. 現在はどのように行われており、何が不足しているのか：現在の方法とその限界を数値で
3. 何が変われば成功と言えるのか：これが成果指標になる

AI以外の方法のほうが優れている場合もあります。課題が人手不足ではなく基準表の曖昧さにあるのであれば、AI採点ツールよりも基準表の整備が先決です。

目的に適した成果指標

成果指標は目的から導き出されます。同じAIチューターであっても、目的に応じて確認すべき指標は異なります。

アクセス回数、対話数、満足度は参考指標にすぎません。多く利用されているからといって学習が回復したことを意味するわけではなく、満足しているからといって業務が減ったわけでもありません。学期末に1度だけ実施する満足度調査は、運用中のエラーを早期に発見するために用いることもできません。

UNESCO 生成AI教育・研究指針

UNESCOは2023年9月、『教育と研究における生成AI指針』を発表しました。UNESCOの案内ページおよび発表声明において明らかにされた要点は、以下のとおりです。

• ほとんどの国において生成AIに関する国家規制が存在せず、教育機関にはツールを検証する準備が概して整っていない。
• データプライバシーの保護を義務付け、生成AIプラットフォームとの独立した対話に年齢基準を設けること。発表声明では、教室でのAIツール使用の年齢基準を13歳と定め、教員研修を要求していると明らかにしました。
• 倫理的検証と教授設計において、人間中心であり年齢に適したアプローチをとること。
• 第4章で確認したように、発表当時に調査された学校や大学のうち、生成AIに関する機関の方針や公式な指針を策定していたところは10％未満でした。機関レベルの基準がないまま、ツールが先行して導入されたことになります。

学校運営に当てはめると、次のようになります。事業者が「教育用」と謳って宣伝していても学校自らが検証しなければならず、データ条件や年齢基準は契約前に確認しなければなりません。また、教員研修は導入の前提条件であって、利用率が低迷した際に行う補完策ではないのです。

UNESCO 教員AI能力フレームワーク

UNESCOは2024年、『教員のためのAI能力フレームワーク』を発表しました。このフレームワークは、5つの側面にわたる15の能力を提示しています。

能力は、習得（Acquire）、深化（Deepen）、創造（Create）の3段階に分かれています。研修を設計する際には、すべての教員に画一的な内容を提供するのではなく、教員の現在の段階に合わせて習得コースと深化コースを分けると効果的です。本書の第1章〜第4章は、このフレームワークにおけるAI教授法とAI倫理の側面を、学校現場での意思決定へと落とし込んで解説したものと言えます。

サービスの選定と契約

候補となるサービスを比較する際は、機能や価格の前に、第3章で取り上げた5つの問い（学習への利用、保管期間、アカウント種別、処理関係・場所、年齢基準）を確認します。データが国外で処理・保管される場合は、個人情報保護法（韓国）第28条の8の要件（個別の同意、処理方針の公開など）をどのように満たすかも契約前に定めます。障害のある生徒を含むすべての生徒が利用できるか（スクリーンリーダー、字幕などのアクセシビリティ）も選定基準に含めます。生徒が個人アカウントで登録する一般消費者向けアプリは、学校がデータ条件を統制することが難しく、生徒や保護者に判断を委ねてしまうことになります。学校単位で契約するサービスであれば、諸条件を書面で確認し、委託契約に盛り込むことができます。

教育庁などの国家機関等が高影響人工知能（ハイリスクAI）製品・サービスを利用しようとする場合は、AI基本法（韓国）第35条第2項に基づき、影響評価を実施した製品・サービスを優先的に考慮しなければなりません。生徒の評価に用いられるAIを調達する場合は、この点を評価基準に含めます。

選好度調査によってサービスを選定する方法は、一見民主的に見えますが、データ条件を確認した結果に基づくものではありません。保護者説明会は、条件を確認したうえでその結果を周知し、質問を受け付ける場として活用するのが適切です。

段階的な導入

機関への導入は、根拠が連なる順序で進めます。

1. 目的と指標の設定：何のための導入か、何をもって成功と判断するか、AIに任せない用途は何か
2. 条件確認と契約：目的に照らしてデータ条件や年齢ポリシーを確認し、委託契約を締結して保護者に周知する
3. 研修と試験運用：教員の準備を整え、2〜3学級または講座で試験運用を行う
4. 評価と拡大の決定：あらかじめ定めた指標によって試験結果を評価し、本格拡大の可否を決定する
5. 運用と点検：拡大後、定期点検と事故対応手順を運用する

試験運用を経ずに全面導入してしまうと、問題が生じた際に影響を受ける生徒が最初から何百人にも上ることになります。指標を定めずに試験運用を実施しても、試行期間が終わった際に本格拡大すべきかを判断する根拠が得られません。

教員研修と支援

研修は、単にツールの使い方を教えるだけでは不十分です。本書の各章がそのまま研修テーマになり得ます。

研修のほかにも支援体制が必要です。承認済みツール一覧と利用ガイドライン、質問を受け付ける担当者、教員が点検した資料を共有する資料室、事故を報告する窓口があってこそ、教員が1人で判断してミスを犯すリスクを減らすことができます。

保護者と生徒への周知

保護者は通常、次の3点を尋ねてきます。「子どもの対話内容はどこで利用されるのか」「どれくらいの期間保管されるのか」「希望しない場合はどうなるのか」。契約前にこれらの質問への回答を確認し、同意が必要な処理であるならば第3章の4つの告知事項を明記して同意を取得し、同意しない生徒のための代替アクティビティを用意します。代替アクティビティは、同一の学習目標を達成できる印刷されたワークシートやペアワークのように、教員の追加負担が少ないものが望ましいです。生徒に対しては、年齢に応じたわかりやすい言葉で同様の内容を伝えます。

生徒の対話を担任教員がリアルタイムで閲覧できるようにし、相談資料として活用しようという提案が出ることがあります。安全に配慮した善意のように思われますが、学習支援という本来の目的を超えた「監視」となり、生徒がチューターを信頼して使わなくなってしまいます。安全面が懸念されるのであれば、特定の危険シグナル（自傷行為、いじめ被害の訴えなど）を人間の担当者に引き継ぐ機能と手順を別途設計するのが適切です。

NIST AI RMFを学校に落とし込む

NIST AIリスクマネジメント・フレームワーク（AI RMF）のコア（Core）は、4つの機能で構成されています。

ガバナンスとは、平たく言えば誰が決定し、誰が点検し、その結果をどのように反映し直すのかを定める体系です。導入初期に一度定めて終わるような段階ではありません。NISTが横断的機能と説明しているように、委員会や規程は運用の全期間を通じてコンテキストの把握、測定、管理を主導し、結果を反映して見直されなければなりません。

信頼できるAIの特性としてNISTが挙げる7つの項目（妥当性と信頼性、安全性、セキュリティと回復力、説明責任と透明性、説明可能性と解釈可能性、プライバシーの強化、有害なバイアスが管理された公平性）は、点検項目を作成する際に漏れがないかを確認するリストとして活用できます。

点検項目と周期

点検周期は、リスクの大きさと変化の速度に応じて定めます。定期的な周期とともに、変化が生じるタイミングで必ず点検することが肝要です。

表に示した周期は一例です。学校ごとの規模やリスクに応じて設定しつつ、なぜその周期なのかを説明できるようにしておく必要があります。

知識資料を管理するチューター

多くの学習チューターは、学校側が投入した資料（教材、講義資料、案内文）から関連する箇所を検索し、それを根拠として回答します。一般に検索拡張生成（RAG）と呼ばれる方式です。このようなチューターの品質は、知識資料によって決まります。

• 投入する資料：すべての利用者が閲覧しても問題のない正確な公式資料。誰もが利用するチューターに採点基準表、模範解答、内部の会議録、匿名化されていない生徒の質問履歴などを投入してしまうと、チューターを通じてそのまま外部に出てしまう恐れがあります。
• 回答させる方式：提供された資料のみに基づいて回答させ、根拠となる文を引用させ、資料に記載がない場合は「資料に記載なし」という旨とともに教員や講師に質問するためのルートを案内させます。これは、Anthropicがハルシネーションを低減する方法として挙げている外部知識の制限、直接引用、知らないと答えさせることを適用したものです。
• セキュリティ：知識資料および生徒の入力内容は、モデルにとって指示ではなく資料として扱われるように設定し、チューターに与えた基本指示文や非公開資料を出力せよという要求は拒否させます。アップロードする文書に隠された指示が混入していないかも検収します（OWASPによるプロンプトインジェクション緩和策）。
• 更新：教材や試験範囲が変更された場合は、変更箇所をリスト化し、知識資料を修正して古い資料を削除したうえで、変更された単元の質問を用いてテストを行ってから適用し、適用直後には集中的に点検します。

事故の類型と初動対応

AIサービスにおける事故は、その種類によって初動対応が異なります。

次の2つのミスを避けてください。1つは過小対応です。事業者に通知して原因分析報告書を待っている間にも、露出や被害は継続します。生徒の個人情報を預託した側は学校であり、委託者として自ら直接対応しなければなりません。もう1つは過剰対応です。原因が明白で修正可能なエラー1件のために全学年のAI利用を翌年度まで停止してしまっては、現に影響を受けた生徒を支援できないばかりか、導入の価値そのものまで失われてしまいます。

さらに深く

効果測定の落とし穴

AI導入の効果を確認する最も簡単な方法は導入前後の比較です。しかし、前後比較には落とし穴があります。同じ期間に教育課程が変わったり、教員が変わったり、生徒の構成が異なったりすると、その差がAIによるものなのか判断できなくなります。可能であればパイロット学級と比較学級を併せて観察し、同じ達成基準の問題で測定してこそ、比較に意味が生まれます。

平均値にも注意が必要です。基礎学力の回復が目的なのに全体の平均だけを見ていると、もともと成績が良かった生徒がチューターを多く使って平均を押し上げたのか、目標とする集団が実際に向上したのかを見分けることができません。対象集団を分けて見ることは、選択ではなく必須です。そして効果がなかったという結果も重要な結果です。拡大しないと決めることも、試験運用がもたらす有意義な結論です。

コンシューマー向けアプリが魅力的に映る理由とその代償

生徒たちがすでに使っている人気のコンシューマー向けアプリをそのまま授業に利用すれば、費用もかからず生徒たちも使い慣れています。この利便性は実際に大きな利点です。しかし、そこには代償が伴います。データの取り扱い条件を学校側で決定できず、利用規約が変更されても学校が把握しにくく、生徒ごとに設定が異なって同じ授業内で異なる条件が適用されるうえ、年齢基準や保護者の同意を学校側が個別に確認することも困難です。

「個人情報保護設定を有効にする方法を家庭通信で案内する」という対策は、責任を生徒や保護者に転嫁するものです。学校が授業で使うよう勧めた瞬間、そのサービスの利用は学校の決定となります。契約する予算がないのであれば、生徒の情報を入力しない方式（教員の実演、一般化された質問など）へと活用の範囲を狭めることが現実的な代替案となります。

ガバナンスは文書ではなく反復である

多くの機関がAI運用規程を作成した時点でガバナンスが完了したと考えがちです。しかし、規程は始まりにすぎません。ガバナンスが機能しているということは、点検結果が規程と運用を実際に変えているということを意味します。インシデントが発生した後にガイドブックが改定され、標本点検で集団ごとの差異が発見された後にナレッジ資料や活用範囲が見直され、利用規約が変更された後に保護者への案内が更新されなければなりません。

このために運営委員会は定期会議で3つの点を確認します。前回の期間における点検結果、それに応じて変更した事項、まだ変更できていない事項とその理由です。これらの記録が積み重なることで、翌年度の導入決定や予算判断の根拠にもなります。

実務の場面

月川市教育支援庁：英語スピーキングチューター導入計画

月川市教育支援庁は、中学校において英語スピーキングの練習機会が不足しているという教員たちの意見を受け、AIスピーキングチューターの導入を検討しました。予算担当者は「市内の中学校全体に直ちに導入して規模の経済を生かそう」と主張し、指導主事は「保護者の選好度調査によってサービスを選定しよう」と提案しました。

推進チームはそのどちらの提案も受け入れませんでした。代わりに課題を定義しました。「中学2年生の英語スピーキング練習時間は、1回の授業につき1人あたり平均2分未満である。目標は1学期の間に1人あたりの週間スピーキング練習時間を増やし、スピーキングのパフォーマンス評価における下位集団の達成度を引き上げることである。」核心指標は1人あたりの週間練習時間と、同一基準のスピーキング課題における下位30％集団の変化と定めました。アクセス回数や満足度は参考指標にとどめました。

候補となった3つのサービスについては、まずデータの取り扱い条件から比較しました。1社は生徒の音声をモデル改善に利用することがデフォルト設定となっており、保管期間も明示していなかったため除外しました。残る2社のうち、契約書にモデル学習への不使用および学期末のデータ削除を明記した1社を選んで委託契約を締結し、個人情報保護法（韓国）第26条第2項に基づいて受託者と委託業務を公開しました。生徒の大部分は満14歳以上でしたが、サービスの利用規約が満18歳未満に対して保護者の同意を求めていたため、データ条件を盛り込んだ案内とともに保護者の同意を取得し、同意しなかった生徒には教員とのペアスピーキング活動を代替手段として用意しました。

推進チームは英語教員の研修をUNESCO教員向けAIコンピテンシー・フレームワークのAI教授法ディメンションに合わせて設計し、4校8学級で1学期間の試験運用を実施しました。試験運用の結果、練習時間は大幅に増加したものの、下位集団の達成度の変化は上位集団よりも小さいものでした。推進チームは直ちに拡大するのではなく、下位集団のための教員指導時間を併せて配置する条件で、次学期の拡大計画を再策定しました。

素淡高等学校：ある週に重なった3つのインシデント

素淡高等学校の学習チューター運営委員会は、ある週に3件の報告を受けました。第一に、ある生徒がチューターに自身の成績を尋ねたところ、同じクラスの他の生徒2名の氏名と点数が一緒に出力されました。第二に、標本点検において「最近とても疲れていて何もしたくない」という生徒の発言に対し、チューターが学習計画表のみを提示した対話が2件発見されました。第三に、地学単元のある概念についてチューターが誤って説明した対話が複数件あり、原因はアップロードされた講義資料の誤りでした。

委員会は3件を同じ方法では処理しませんでした。1件目は個人情報の漏えいであるため、成績照会機能を直ちに停止し、個人情報保護責任者が事業者とともに漏えい範囲を確認したうえで、個人情報保護法（韓国）第34条に基づく通知および申告の要否を判断する手続きを踏みました。事業者からは設定ミスであると一次報告がありましたが、学校は委託者として自ら対応にあたり、事態の収拾後には事業者に原因と再発防止策を書面で提出させ、処理状況を点検しました（個人情報保護法（韓国）第26条第4項に基づく監督）。

2件目は生徒への支援を最優先としました。対話ログから該当する生徒を特定して担任と相談教員が直接連絡を取り、チューターが情緒的な困難を訴える発言を検知した際に相談窓口の案内とともに担当教員へ通知する機能が実装されるまで、自由対話機能を停止しました。3件目は講義資料を修正し、同じ類型の質問20問で再テストを行って修正を確認したうえで、誤った説明を聞いた可能性のある生徒たちに訂正の案内を送りました。

ある委員から「3件も重なったのだから、チューター全体を年度末まで停止しよう」という提案が出されましたが、委員会はこれを受け入れませんでした。問題となった機能はすでに停止しており、原因が明らかなエラーは修正済みであり、全面停止することは影響を受けた生徒を支援することとは無関係だったためです。委員会は翌月の会議において、3つのインシデントによって変更した事項（成績照会の権限設定、危険シグナルの伝達機能、資料アップロード前の検収）を記録しました。

間違えやすいポイント

1. 「多く使われれば成功である。」 利用量は目につきやすい数字であるため成果のように見えますが、導入目的の達成を示すものではありません。
2. 「満足度が4点以上なら拡大する。」 意見を尊重しているように見えますが、満足度は学習成果や業務軽減とは異なる場合があります。
3. 「教育用と宣伝されているのだから検証済みのツールである。」 事業者の説明は信頼できるように見えますが、UNESCOは教育機関自らがツールを検証しなければならないにもかかわらず、その準備が不足していると指摘しています。
4. 「教員研修は利用率が低いときに実施する。」 コストを抑えられるように見えますが、研修は安全な運用の前提であり、UNESCOも教員研修を要求しています。
5. 「優れたサービスなのだから直ちに全面導入する。」 迅速な効果を期待しがちですが、試験運用なしに拡大すると、問題が発生した際に影響を受ける生徒が最初から多くなってしまいます。
6. 「ガバナンスは最初に規程を作れば完了する。」 文書があるため終わったように思えますが、NISTはGovernを他の機能全般にわたる横断的機能として説明しています。
7. 「インシデントが起きたら事業者の報告書を待つ。」 原因を知る側に任せるのが合理的に見えますが、学校は委託者として漏えいや被害の拡大を食い止める初期対応を自ら行わなければなりません。
8. 「エラーが一つでも発生したらすべて停止する。」 慎重に見えますが、原因が明らかなエラーに対しては、原因の修正と再テスト、影響を受けた生徒への案内こそが適切な対応です。

ひと目でわかるまとめ

公式ドキュメントで確認する

• UNESCO — Guidance for generative AI in education and research — 指針の重要な勧告と機関の検証準備に関する説明をお読みください。
• UNESCO — Governments must quickly regulate Generative AI in schools — 年齢基準13歳、教員研修、機関の政策調査結果をご確認ください。
• UNESCO — AI competency framework for teachers — 5つのディメンション、15のコンピテンシーと3つの段階をご確認ください。
• NIST AI RMF — Core — Govern、Map、Measure、Manageの定義と横断的機能の説明をお読みください。
• NIST AI RMF — Characteristics of trustworthy AI — 点検項目の不備を確認するための7つの特性です。
• 国家法令情報センター — AI基本法第35条 — 影響評価の努力義務および国家機関等の優先考慮条項です。
• 国家法令情報センター — 個人情報保護法（韓国）第34条 — 漏えい等の通知および申告、被害拡大防止義務をご確認ください。
• Anthropic — Reduce hallucinations — ナレッジ資料ベースのチューターの回答方式を設計する際にご参照ください。

セルフチェック

5-1. AI導入の目的を問題として定義する際に記載すべき3つの要素を書き、AI以外の方法のほうが適している場合の例を1つ挙げてください。

5-2. 使用量と満足度が主要成果指標になりにくい理由を、それぞれ1文で説明してください。

5-3. UNESCOの生成AI教育・研究指針の発表から、学校運営に直接取り入れることができる内容を3つ記述してください。

5-4. UNESCOの教員AIコンピテンシーフレームワークの5つの次元と3つの段階を書き、段階の区分を研修設計にどのように活用できるか説明してください。

5-5. NIST AI RMFの4つの機能を書き、その中で他の機能全体にまたがる横断的機能が何であるかと、それが運用にもたらす意味を説明してください。

5-6. 点検周期を定める際、定期的な周期とは別に必ず点検すべき変化のタイミングを3つ挙げてください。

5-7. AIサービスの事故を3種類に分類し、それぞれの種類における初動対応を1行ずつ記述してください。過小対応と過剰対応の例も1つずつ挙げてください。

5-8. （設計課題）ご自身の機関で検討中、あるいは想定しうるAI導入を1つ選び、問題の定義、2つの主要指標、試験運用の範囲、拡大の判断基準を1ページ以内で記述してください。

実習課題