第2章 評価・面接と自動化された決定

学習目標

  • 個人情報保護法(韓国)における「自動化された決定」を定義し、完全に自動化された決定と人が実質的に検討した決定を区別します。
  • 拒否権、説明・検討要求権、基準・手続きの公開義務の要件と例外を区別し、採用選考ごとに必要な手続きを選択します。
  • 応募者の拒否・説明・検討要求を期限内に処理する手続きを設計します。
  • AI面接・評価ツールの妥当性と説明可能性を確認する質問を作成し、障害のある応募者に正当な配慮を提供します。
  • AI基本法における高影響領域(採用)と事業者の責務を説明し、ベンダーに確認すべき事項を選定します。
  • 人による検討が形式にとどまらないよう、検討方法を設計します。

はじめに

ある公開採用において、AI適性検査が下位40%を自動的に不合格にしたとしましょう。翌日、不合格となった応募者からメールが届きます。「なぜ不合格になったのか教えてください」。人事チームは3つの回答を前に頭を悩ませます。モデルは営業秘密であるため答えられないという回答、「総合的に判断した」という定型文、そして結果と基準を個別に整理した説明。どれが正しいでしょうか。そして、同じ会社の中途採用選考のように、人が原本(書類全文)をすべて読んだ上で決定した場合であれば、答えは変わるでしょうか。

本章の核心は、「AIが関与した」と「AIが決定した」を区別することです。個人情報保護法(韓国)は、完全に自動化されたシステムが下した決定に対して、情報主体に特別な権利を認めています。人が実質的に判断した決定であればその権利の対象外となり得ますが、その代わりに人の判断が真に実質的なものであるかが新たな問いとなります。

まず、自動化された決定の定義と判断要素、3つの権利と例外を整理します。続いて、公開および要求処理の手続き、優れた説明の条件を扱います。次に、AI面接・評価ツールの妥当性、説明可能性、アクセシビリティを確認し、AI基本法が採用を高影響領域と定めた意味を考察します。最後に、人による検討を実質的なものにする設計を取り上げます。

重要な概念

自動化された決定の定義

個人情報保護法(韓国)第37条の2第1項は、自動化された決定を「完全に自動化されたシステム(人工知能技術を適用したシステムを含む)により個人情報を処理して行われる決定」と定めています。「行政基本法(韓国)」第20条に基づく行政庁の自動的処分は除外されます。

この定義は、3つの成立要素と1つの適用除外として読み解きます。① 完全に自動化されたシステムであること。人工知能システムを「含む」だけであり、それに限定されないため、ルールベースのプログラムであっても完全に自動化されていれば対象となります。② 個人情報を処理すること。③ 決定であること。単なる情報提供や推薦(レコメンド)とは異なり、情報主体に対する判断が下されなければなりません。そして適用除外として、行政庁の自動的処分はここから除外されます。

採用における代表的な例は、人の検討なしにスコア下位の応募者に不合格を確定させる機能です。反対に、AIが応募書類を要約し、担当者が原本を読んで合否を決めるのであれば、決定を下したのは人です。

完全自動化と人が検討した決定の境界

境界は常に明確であるとは限りません。担当者が画面の「一括承認」ボタンを押すだけなら、人が決定したと言えるでしょうか。個人情報保護委員会(韓国)の告示「自動化された決定に対する個人情報取扱事業者の措置基準」第6条第1項は、自動化された決定への該当性を判断する際、以下の事項をすべて考慮するよう定めています。

  1. 正当な権限を持つ人の実質的かつ有意義な介入なしに、完全に自動化されたシステムによって決定が行われたか
  2. システムが当該情報主体の個人情報を分析・加工するなど、個別的な処理過程を経て有意義な情報を抽出しているか
  3. 個人情報取扱事業者が下した決定として、情報主体の権利または義務に影響を及ぼすか
  4. その決定が権利または義務に影響を及ぼす最終的な決定であるか
  5. システムの個人情報処理と決定の間に実質的な関連性があるか
  6. 他の法律に特別な規定があるか

実務において最も重要なのは第1の要素です。ボタンを押す人がいるという事実だけでは不十分であり、その人に結果を変更する権限があり、実際に検討を行っているかが鍵となります。

採用の場面 判断の方向性
スコア下位40%を人の検討なしに不合格確定 完全に自動化された決定に該当する可能性が高い
AIの要約を参考にしつつも担当者がすべての原本を読んで決定、閲覧ログが残る 人が決定したとみなす余地が大きい。ただし運用の統制が必要である
担当者がAI推薦リストを開かずに一括承認 人の介入が形式的であるため、自動化された決定とみなされるリスクが高い
AIスコアは総合点の一部(例:30%)であり、人が残りを評価して合否を決定 人が決定する構造とみなす余地が大きい。AIスコアの妥当性と集団別の結果は別途点検する
基準線付近の応募者のみを人が再確認し、残りの下位層は自動不合格 人の検討なしに不合格となる応募者にとっては自動化された決定である
AIが面接日程を応募者の都合のつく時間に合わせて割り当て 評価の決定ではなく日程の処理に近い。権利・義務に及ぼす影響を別途検討する

3つの権利と例外

第37条の2が付与する権利と義務は、3つに分けて読み解くことで正確に理解できます。

権利・義務 条項 発生条件 例外
拒否権 第1項 自動化された決定が自身の権利・義務に重大な影響を及ぼすとき 決定が第15条第1項第1号(同意)・第2号(法律の規定・法令上の義務)・第4号(契約の締結・履行)に従って行われる場合
説明・検討要求権 第2項 個人情報取扱事業者が自動化された決定を行った場合 ただし書の例外なし(正当な事由があれば拒絶可能、第3項)
基準・手続きの公開義務 第4項 自動化された決定を行う個人情報取扱事業者 なし

最も間違えやすいポイントは、例外が拒否権にのみ適用されるという点です。応募者がAI評価や自動不合格まで含めた処理に同意した場合、拒否権は例外扱いとなりますが、説明・検討を要求する権利や会社の公開義務はそのまま残ります。「同意を得たのだから何の手続きも必要ない」という判断は誤りです。個人情報保護委員会は、この例外について、自動化された決定が行われる事実を同意・契約などによって明確に事前に周知していたか、または法律に明確な規定がある場合と説明しています(2024年9月26日報道資料)。応募の段階に第4号(契約締結の過程)が該当するかどうかには争いが生じ得るため、同意書に自動化された決定の事実と範囲を明記しておくことが安全です。

個人情報取扱事業者は、情報主体が拒否したり説明などを要求したりした場合、正当な事由がない限り、自動化された決定を適用しないことや、人的介入による再処理・説明など必要な措置を講じなければなりません(第3項)。

重大な影響の判断

拒否権は「重大な影響」がある場合に生じます。委員会告示第6条第2項は、以下を総合的に考慮するよう定めています。人の生命・身体の安全に関連する権利・義務であるか、権利が剥奪されるかまたは行使が不可能になるか、通常受け入れられる限度を超える義務が生じるか、権利・義務に持続的な制限が生じるか、影響を受ける前の状態への回復または影響を回避する可能性があるか。

採用の不合格は、その会社における該当の採用機会を失わせる決定であるため、重大な影響の有無を慎重に検討すべき代表的な場面です。ただし、結論は事実関係によって異なるため、会社は選考ごとにこれら5つの要素に対する判断を書面で残しておくことが望ましいです。重大な影響がない自動化された決定に対する説明要求であれば、施行令第44条の3第2項ただし書および告示第4条第3項に基づき、あらかじめ公開した事項の中から主要な個人情報の類型と決定の関係、考慮事項および処理手続きを選んで簡潔に通知することができます。

事前に公開すべき事項

第37条の2第4項は、自動化された決定の基準と手続き、個人情報が処理される方式を、情報主体が容易に確認できるよう公開することを義務づけています。施行令第44条の4第1項は、インターネットのホームページなどで公開すべき事項を定めています。

  1. 自動化された決定が行われるという事実とその目的、対象となる情報主体の範囲
  2. 自動化された決定に使用される主要な個人情報の類型と自動化された決定との関係
  3. 自動化された決定の過程における考慮事項と主要な個人情報が処理される手続き
  4. センシティブ情報や14歳未満の児童の個人情報を処理する場合、その目的と具体的な項目
  5. 情報主体が拒否・説明等要求を行えるという事実と、その方法・手続き

公開にあたっては標準化・体系化された用語を用い、動画・イラスト・図表などの視覚的な方法を活用することができます(第2項)。公開とは、ソースコードや学習データの原本を開示せよという意味ではありません。応募者が「何によって、どのように判断されるのか」を理解できる水準であれば足ります。採用サイトの選考案内ページにこれら5項目を1画面で整理することが、実務の出発点となります。

要求を受けた際の処理手続き

情報主体の要求は、個人情報取扱事業者が設けて公開した方法および手続きに従って行われます(施行令第44条の2)。要求の類型ごとに講ずべき措置が異なります。

要求 講ずべき措置 根拠
拒否 自動化された決定を適用しない、または人的介入により再処理して結果を通知 施行令第44条の3第1項、告示第3条
説明 結果、主要な個人情報の類型、その類型が決定に及ぼした影響などの主要な基準、処理手続きを盛り込んだ簡潔で有意義な説明 施行令第44条の3第2項、告示第4条
検討 情報主体が提出した意見(個人情報の追加・訂正など)を決定に反映できるか検討し、反映の可否と結果を通知 施行令第44条の2第2項、第44条の3第3項、告示第5条

期限。 要求を受けた日から30日以内に書面等の方法により措置を講じなければなりません。30日以内に処理することが困難な正当な事由がある場合は、その事由を通知し、2回に限りそれぞれ30日の範囲で延長することができます(施行令第44条の3第5項、告示第8条第1項)。

拒絶。 他人の生命・身体・財産などを不当に侵害するおそれがあるなど、正当な事由により要求を拒絶する際は、その事由を遅滞なく書面等の方法により通知しなければならず(施行令第44条の3第4項)、告示第8条第2項は拒絶事由および異議申立ての方法・手続きを、正当な事由がない限り要求を受けた日から10日以内に通知するよう定めています。正当な事由は、情報主体の不利益と取扱事業者・第三者の利益を比較衡量して個別に判断します(告示第7条第1項)。

処理手続きを実務の流れに沿って記載すると、次のようになります。

  1. あらかじめ公開した方法で寄せられた要求であるか、要請者が本人であるかを確認します。
  2. 要求の種類(拒否、説明、検討、またはこれらの組み合わせ)を分類し、処理期限を記録します。
  3. 当該応募者に対する決定内容(結果、使用された主要な個人情報の類型と影響、処理手続き)を整理するか、提出された意見を反映できるか検討します。
  4. 説明文や検討結果を作成し、責任者が検討します。拒絶する事由がある場合は、拒絶通知の期限を別途管理します。
  5. 期限内に書面等の方法で送付し、処理記録を残して次回の点検に反映させます。

優れた説明の条件

施行令は「簡潔で有意義な説明」を要求し、告示は情報主体にとって有意義な情報を選んで理解しやすい方式で提供するよう定めています。2つの悪い極端な例があります。1つは、「AIが多様な要素を総合的に判断しました」といった定型文です。個別の結果と基準が示されていないため、説明になっていません。もう1つは、モデルの重み(ウェイト)や数百個の特徴量をそのまま提示することです。情報は多いものの、意味がありません。

要素 悪い説明 優れた説明
結果 「誠に残念ながら採用を見送らせていただくこととなりました」 「適性検査の結果、下位40%の区分に入ったため、書類選考の次の選考に進めませんでした」
主要な個人情報の類型 なし 「設問の回答時間と正答率、状況判断問題における選択」
影響と基準 「総合的判断」 「状況判断領域のスコアが全体スコアに最も大きく影響し、この領域では下位20%の区分でした」
手続き なし 「検査 → 自動採点 → 下位40%の自動不合格 → 結果通知。追加の意見がある場合は、この手続きにより検討を要求できます」

営業秘密や検査設問のセキュリティは、ソースコード、重み、設問の原文を公開しない理由となり、説明の深度を調整する根拠にもなり得ます。しかし、これを理由に個別説明全体を拒絶するには、告示第7条が定めるとおり情報主体の不利益と取扱事業者の利益を個別に比較衡量しなければならず、拒絶する場合はその事由と異議申立ての方法を通知しなければなりません。すべての要請に対して一律の定型文で回答することは、この比較を行っていないことにほかなりません。

AI面接・評価ツールの妥当性

採用評価に使用するスコアは、そのスコアが職務成果と関連しているという客観的な証拠がなければなりません。自主的に用いられるリスク管理フレームワークであるNIST AI RMFは、妥当性確認(validation)を「特定の意図された用途や適用の要求事項が満たされていることを客観的証拠の提示を通じて確認すること」(ISO 9000:2015の引用)と定義し、信頼できるAIの第1の特性として「Valid and Reliable」を挙げています。CoreのMEASURE 2.5は、展開するAIシステムが妥当かつ信頼できるものであることを示すよう求めています。

妥当性はツールの固有属性ではなく、どの職務および応募者層に対して確認されたものかという問題です。海外の大卒新卒事務職を対象とした研究結果は、国内の中途採用の整備士にそのまま当てはめることはできません。ベンダーから資料を受け取る際は、3つの点を確認します。何との関連性が示されているか(実際の成果なのか、他の試験スコアなのか)。どのような職務および応募者層であったか。サンプルは何名で、集団別の結果はどうであったか。自社のデータがある場合は、自社の職務で再確認します。選抜ツールの妥当性は、一般に職務内容との対応(内容妥当性)、実際の成果との関連(基準関連妥当性)、測定しようとする特性を実際に測定しているか(構成概念妥当性)に分けて捉えられます。

妥当性が確認されたスコアであっても、集団別の結果は別途確認する必要があります(第5章)。特に、表情や声の震えのように外見に現れるシグナルから「ストレス耐性」「情緒安定性」「親切度」といった内面的特性を推定する機能は、その根拠を厳格に吟味しなければなりません。このような感情・内面推定機能は科学的根拠が乏しい場合が多いため、職務や応募者層に合致した検証資料がない限り、導入しないことを既定方針(デフォルト)としてください。根拠の乏しい数値であるほど、人の判断まで引きずり込んでしまいます。重みを下げたり「参考としてのみ」提示したりすることは解決策になりません。決定に影響を与える限り、妥当性の問題は残ったままです。応募者の同意も、スコアの妥当性を生み出してくれるわけではありません。容姿に関連するシグナルをスコアに反映させると、職務に必要のない容貌の条件を評価に組み込む結果になりかねないという点(男女雇用平等法(韓国)第7条第2項)も併せて検討します。

説明可能性と解釈可能性

NIST AI RMFは、説明可能性(explainability)をAIシステムの動作基底メカニズムに関する表現、解釈可能性(interpretability)を設計目的の文脈において出力が持つ意味として区別しています。また、責任追及性(アカウンタビリティ)は透明性を前提とすると述べています。

採用担当者に必要なのは、主に解釈可能性です。「このスコアはこの応募者について何を意味しているのか」に答えられて初めて、応募者に説明することができます。導入前にベンダーに対し、「このスコアを1名の応募者に説明するとしたらどのような文章になるか」を実際の例として作成するよう求めてみてください。その文章を作成できないツールは、法律が求める説明に対応することが困難です。

アクセシビリティと正当な配慮

AI面接は、音声、映像、時間制限といった形式を強制することが少なくありません。障害者差別禁止法(韓国)は、正当な事由なく障害者に対する正当な配慮の提供を拒むことを差別とみなし(第4条第1項第3号)、使用者が募集・採用において障害者を差別することを禁じています(第10条第1項)。正当な配慮とは、障害者が障害のない人と同等に同一の活動に参加できるよう、障害の類型や程度、特性などを考慮した便宜施設・設備・道具・サービスなど、人的・物的な手段および措置を指します(第4条第2項)。

聴覚障害のある応募者が音声面接に代わる別の方式を希望し、音声によるコミュニケーションがその職務の必須要件でない場合は、同一の資質・能力を問う書面回答や手話通訳面接を提供し、他の応募者と同じ評価基準表(ルーブリック)で採点するのが原則です。音声の特徴を読み取るアルゴリズムは代替方式には使用できないため、代替方式に応じた採点手続き(例:訓練を受けた評価者によるルーブリック採点)をあらかじめ定めておきます。過度な負担や著しく困難な事情、特定の職務遂行の性質上不可避である場合は、正当な事由となり得ます(第4条第3項)。導入契約の段階でベンダーがどのような代替方式に対応しているかを確認しておけば、選考の進行中に慌てずに済みます。

AI基本法における高影響領域と採用

AI基本法第2条第4号は、人の生命、身体の安全および基本権に重大な影響を及ぼすか、または危険をもたらすおそれがあるAIシステムであって、列挙された領域で活用されるものを高影響人工知能と定めています。同号サ目は、「採用、融資審査など個人の権利・義務関係に重大な影響を及ぼす判断または評価」です。領域に該当することと、重大な影響または危険のおそれがあることの、2つの要件を併せて判断します。同じ採用業務であっても、面接日程の調整は判断・評価ではないため、この規定とは距離があります。

この法律上の義務は、人工知能事業者に課されています。同法は、人工知能を開発して提供する開発事業者と、開発事業者が提供した人工知能を利用して人工知能製品・サービスを提供する利用事業者を事業者と定め(第2条第7号)、製品・サービスの提供を受ける者を利用者(第8号)、それによって生命・身体の安全・基本権に重大な影響を受ける者を影響を受ける者(第9号)と定めています。採用評価サービスを顧客企業に販売するHRソリューション企業は事業者に当たります。自社の採用にそのサービスを利用する会社がどの地位に該当するかは、何を誰に提供するかによって判断が分かれ得るため、導入時に法務レビューによって整理しておく必要があります。

条項 事業者の義務 採用AIにおける意味
第31条 高影響・生成AIベースの製品・サービスであることを利用者に事前告知 施行令第23条は契約書・約款への記載、画面表示などの方法と、内部業務用途などの例外を規定
第33条 提供前に高影響該当性を事前検討、必要に応じて科学技術情報通信部長官に確認要請 施行令第25条:長官は30日以内に回答(1回延長可能)
第34条 リスク管理策、説明策、利用者保護策、人による管理・監督、文書の作成・保管など 施行令第27条:主要内容と管理・監督者の氏名・連絡先の掲示、根拠文書の5年間保管
第35条 基本権影響評価の努力 国家機関等は影響評価を実施した製品を優先的に考慮

採用担当者にとって実務上重要なのは、ベンダー確認チェックリストです。このツールが高影響に該当するか否かを検討したか、第34条の説明策および人による管理・監督策がどのようなものか、管理・監督者の連絡先がどこに掲示されているかを契約前に確認してください。施行令第27条第4項は、利用事業者が開発事業者に対して責務の履行に必要な資料を要請できるようにし、開発事業者はこれに協力するよう努めるものと定めています。

参考

AI基本法上の義務と個人情報保護法(韓国)第37条の2の義務は、それぞれ異なる法律に基づく義務です。一方を遵守したからといって、他方が満たされるわけではありません。個人情報取扱事業者として自動化された決定を行う会社は、公開および説明要求の処理義務を別途負うことになります。

人による有意義な検討の設計

人が最終決定するという形式は、それ自体では何も保証しません。画面の最上部にAIスコアが表示されていれば、検討者の判断はその数値に引きずられます。自動化されたシステムの出力を過度に信じて従ってしまう傾向を自動化バイアス、最初に見せられた数値に判断が縛られる傾向を**アンカリング効果(基準点効果)**と呼び、これらは同時に現れやすいものです。NIST AI RMFは、人とAIの役割および責任を区分するポリシー(GOVERN 3.2)と、運用者の習熟度管理(MAP 3.4)を推奨しています。

シグナル 意味 設計上の対応
原本の閲覧率が低い スコアと要約だけを見て判断している 原本の閲覧ログを残し、サンプリング点検を実施
AIと異なる判断を下す割合が極めて低い 検討が単なる承認手続きと化している スコアを隠した状態で先に評価させ、その後に比較
1件あたりの検討時間が極めて短い 実質的な検討が不可能な業務量である 人員・スケジュールの再試算、検討範囲の調整
AIの根拠に原本にない内容が混入している 要約・根拠における事実誤認 根拠ごとに原本の該当箇所を紐付け、照合した上で決定
検討者がAIの結果を変更する権限が不明確である 形式的な介入にとどまっている 変更権限および変更事由の記録手続きを明記

参考

採用・配置に用いるAI評価制度を新たに導入することは、労働者参加法(韓国)第20条第1項の協議事項(第2号 労働者の採用・配置および教育訓練、第5号 人事・労務管理の制度改善、第9号 新機械・新技術の導入)に関連する可能性があります。労使協議会が設置されている事業場であれば、導入スケジュールに協議を組み込んでください(第4章)。

どの対応策を選択するかは、状況や条件によって決まります。原本をすべて読む時間があるならば、スコアを隠した状態で先に評価させる方法が最も強力です。時間がない場合は、提示された根拠を原本と照合させる方法が現実的です。スコア自体が検証されていないのであれば、AIを応募資格要件の確認のような客観的な業務にのみ利用し、内容の評価は人が担当するようにします。

さらに深く

同意は何を解決し、何を解決できないのか

同意は強力ですが、限定的なツールです。第37条の2第1項ただし書に基づき、同意による自動化された決定は拒否権の例外となります。しかし、同意が解決できないことが3点あります。説明・検討要求権と公開義務は残ります。同意は、スコアが職務に関連しているという根拠にはなりません。そして、同意しなかった応募者に不利益を与えれば、事実上の強制になります。同意の有無によって評価方式が分かれると、同じ基準で比較するという公平性も揺らぎます。

もう1点注意すべき点があります。拒否権の例外が適用されるには、決定が同意に「基づいて」行われなければなりません。応募書類の収集・利用に対する同意と、AIによる自動評価・不合格判定に対する同意は同じではない可能性があるため、同意書に自動化された決定が行われるという事実と範囲を明確に記載しておかなければなりません。

採用代行と自動化された決定の責任

書類選考を採用代行会社に委託し、代行会社が自社のAIで自動的に不合格にする場合、誰が説明するのでしょうか。個人情報保護法(韓国)第26条は委託者が受託者を教育・監督することとし、第26条第8項は受託者に対しても第37条の2などを準用しています。委託者と受託者の双方が責任を免れられないという意味です。委託文書に公開の主体、要求の受付窓口、処理期限、説明文の検討責任をあらかじめ定めておかなければ、2社が互いに先送りにしている間に30日の期限が過ぎてしまいます。代行会社が受領した応募書類を自社の人材データベースに登録して他の顧客企業への推薦に利用する場合、それは委託ではなく第三者提供になります(第3章)。

自動化の度合いを変えれば義務も変わる

同じツールであっても、使い方によって法的性質が異なります。下位40%の自動不合格を下位20%に減らしても、不合格となる人にとっては依然として自動化された決定です。逆に、不合格の対象者を人がすべて読み直して決定するように変更すれば自動化された決定には該当しない可能性がありますが、その分だけ検討の人員と時間が必要になります。運用中に基準ラインや検討方式を変更することは、法的義務の範囲を変更することになるため、変更承認手続き(第5章)を経る必要があり、公開した基準・手続きも合わせて改訂しなければなりません。

実務の場面

椿製薬のAI適性検査導入

製薬企業「椿製薬」は、研究支援職の公募採用(応募者約4,000人)にオンラインAI適性検査を導入し、下位35%を自動的に不合格にしようとしました。人事チームはまず、自動化された決定の判断表を作成しました。人の検討なしに不合格が確定するため完全に自動化された決定であり、採用の機会を失わせるため重大な影響があると判断しました。処理の根拠は、応募段階でAI検査と自動不合格まで含めて取得した同意でした。

この判断から3点が整理されました。拒否権は同意に基づく決定であるため条文上の例外となり、拒否に伴う再審査手続きは法的に必須ではありません。しかし、説明・検討の要求手続きと公開は必ず整えます。そして、公開事項の5項目を採用サイトの選考案内に1画面でまとめます。ただし、受験するには同意せざるを得ない構造であるため、その同意が実質的な選択であったかについて争いが生じる可能性があると考え、法が要求していなくても結果に異議を申し立てた応募者については人が見直すルートを自主的に設けました。

見送った選択肢もありました。「すべての応募者に個人のスコアを知らせれば説明義務を果たしたことになる」という提案は、結果や主要な基準、手続きを盛り込んだ説明ではないため見送りました。「要求が来たらその時に手続きを作ろう」という提案は、公開義務と30日の期限を考慮するとリスクが高いため見送りました。最後に人事チームは、検討要求に備えて「資格取得見込み → 取得完了」のように応募締め切り後に変更された情報をどの基準日として扱うかを募集要項の段階であらかじめ定めて告知しました。検討要求に対する義務は、反映できるかを検討して結果を通知することであり、実際に反映するかどうかは、あらかじめ公開した基準や他の応募者との公平性に基づいて決定されるためです。

すなつぶゲームズのAIビデオ面接

ゲーム企業「すなつぶゲームズ」は、カスタマーサポート職の採用にAIビデオ面接を利用することにしました。ベンダーのツールには、質問別の回答評価のほかに、表情から「共感能力」をスコア化する機能がありました。人事チームが検証資料を求めたところ、ベンダーは顧客企業の満足度調査と導入事例を送ってきました。人事チームは、これが共感スコアとカスタマーサポートの実績に関連がある根拠にはならないと判断し、その機能をオフにしました。質問別の回答評価は、自社の相談品質評価データと比較する試行検証を経た上で利用することにしました。

選考の途中で、聴覚障がいのある応募者から書面での回答によって面接を受けたいという要望がありました。カスタマーサポート職の主な業務はチャットやメール対応であり、音声によるコミュニケーションは必須要件ではありませんでした。人事チームは同じ質問を書面で提示し、回答時間などの条件を代替方式に合わせて定めた上で、訓練を受けた評価者2名が同一の採点基準表で個別に評価しました。「AI面接に応じられない場合は該当項目を0点として処理する」という内部の草案は、障がいを理由に排除する結果となるため破棄しました。契約書には、ベンダーが提供する代替方式、高影響該当性の検討結果、管理・監督者の連絡先を確認する条項を追加しました。

間違えやすいポイント

  • 「同意を得たので説明する必要はない」 同意に基づく決定は拒否権の例外にすぎません。説明・検討要求権と公開義務は残ります。
  • 「人が最終ボタンを押すため自動化された決定ではない」 結果を変更する権限と実質的な検討がなければ、形式的な介入にすぎません。告示では実質的かつ意味のある介入があったかどうかをまず確認します。
  • 「AIが少しでも関与したため、すべての応募者に拒否権を保障しなければならない」 人が原文を読んで決定した選考であれば、自動化された決定ではない可能性があります。過剰な適用は、AIが決定したかのように案内してしまう別の誤りを生みます。
  • 「営業秘密であるため説明できない」 ソースコードは非公開にできたとしても、結果・主要な基準・手続きを盛り込んだ個人別の説明は行わなければなりません。
  • 「スコアの重み付けを下げれば検証されていない機能を使ってもよい」 決定に影響を与える限り、妥当性の問題は残ったままです。
  • 「ベンダーの研究があるため妥当性は確認されている」 対象となる職務や応募者層が異なる場合は、自社データで再確認しなければなりません。
  • 「AI面接に応じられない応募者は不合格にする」 職務の必須要件でない限り、正当な便宜を提供しなければなりません。
  • 「AI基本法の義務を守れば個人情報保護法(韓国)の義務も解決される」 それぞれ異なる法律の義務です。

ひと目でわかるまとめ

質問 覚えておくべき回答
自動化された決定 完全に自動化されたシステム(AIを含む)により個人情報を処理して行われる決定。行政庁の自動的処分を除く
境界判断の第1要素 正当な権限を持つ人による実質的かつ意味のある介入があったか(委員会告示第6条)
拒否権 重大な影響がある場合。同意・法令・契約に基づく決定は例外
説明・検討要求権、公開義務 例外なく残る
公開事項 事実・目的・対象、主要な個人情報と決定の関係、考慮事項・手続き、センシティブ情報・児童の情報、要求方法(施行令第44条の4)
処理期限 30日。理由を通知して2回まで各30日延長可能。拒否は理由を遅滞なく通知し(施行令)、正当な理由がない限り10日以内に理由と異議申立て方法を通知(告示)
妥当性 職務実績との関連性を客観的証拠により、同一の職務・応募者層で確認
アクセシビリティ 正当な便宜提供の拒否も差別。同一の能力を同一の基準で評価
高影響(採用) AI基本法第2条第4号ト目。事業者の事前検討(第33条)と責務(第34条)

公式ドキュメントで確認する

セルフチェック

2-1. 個人情報保護法(韓国)が定める「自動化された決定」の3つの成立要素と適用除外を書き、ルールベースのプログラムがこの定義に当てはまり得る理由を説明してください。

2-2. 拒否権、説明・検討要求権、公開義務のうち、処理の根拠(同意・法令・契約)に応じた例外が適用されるものはどれかを書き、残りの2つが残る理由を説明してください。

2-3. 委員会告示が自動化された決定への該当性を判断する際に考慮すべきとした要素のうち、実務において最も重要なものを1つ書き、それが形式的な承認ボタンとどのように関連しているかを説明してください。

2-4. 説明要求に対する措置期限と延長ルール、そして要求を拒絶する際の通知ルールを整理してください。

2-5. ベンダーが評価ツールの妥当性研究を提出した際、その研究をそのまま受け入れる前に投げかけるべき3つの質問を書いてください。

2-6. AI基本法において開発事業者、利用事業者、利用者、影響を受ける者がそれぞれ何であるかを1行ずつ書き、採用評価サービスを販売するHRソリューション企業はどこに該当するかを書いてください。

2-7. (設計)検討者がAIのスコアにほぼそのまま従ってしまう問題が確認されました。検討時間が十分にある場合と不足している場合に分けてそれぞれ適した検討方式を設計し、その方式に効果があるかを確認する指標を2つ書いてください。

実習課題

実習

自動化された決定の判断表と公開案内文の作成(50分)

  1. 会社の採用選考(または架空の選考)を段階ごとに列挙し、段階ごとにAIが行うことと人間が行うことを書く。
  2. 段階ごとに委員会告示第6条第1項の判断要素に従って自動化された決定への該当性を判断し、該当する場合は重大な影響の有無と処理の根拠を書く。
  3. 自動化された決定に該当する段階について、施行令第44条の4の5つの公開事項を応募者向け案内文の1画面分の分量で書く。

完了基準: すべての段階に判断と理由があり、案内文が5つの事項をすべてわかりやすい言葉で盛り込んでいる。

実習

説明要求の処理手順書と説明文の見本の作成(40分)

  1. 要求の受付から記録までの5段階の処理手順を、担当者と期限が分かるように表で書く。
  2. 架空の不合格となった応募者1名に対し、結果、主な個人情報の類型、影響と基準、手順を盛り込んだ説明文の見本を書く。
  3. 同じ応募者が新たな資格証を提出して検討を要求した場合の返信見本を個別に書く。

完了基準: 手順書に30日の期限・延長・拒絶通知が含まれており、2つの見本が定型文なしで個人別の内容を盛り込んでいる。