AI感情認識は表情、音声、生体信号から興味や集中を推測しますが、企業研修の妥当な成果指標ではありません。EU規制、科学的限界、偏りと監視の危険を整理し、行動、職務証拠、自己報告、人の対話で学習エンゲージメントを測る代案を示します。導入・中止の判断に使えます。

AI感情認識で学習エンゲージメントを測ってはいけない理由

オンライン研修の画面に「集中74％、興味61％、不安18％」と出れば、客観的な学習分析に見える。講師は退屈している人を早く見つけ、研修部門はコースを比較し、経営へ投資を説明できると期待する。しかしカメラとマイクが捉えた表情、声、視線は、本人の内面や学習を直接示さない。 AI感情認識は、生体データに基づいて自然人の感情や意図を識別・推測するAIシステムを指す。EU AI Actの定義は幸福、悲しみ、怒り、驚き、興奮、満足などを例示し、医療・安全のための痛みや疲労と、単に見える表情・動作の検出を区別する。ただし笑顔、しかめ面、声量を使って感情を推測すれば、再び感情認識の問題になる。

企業研修の結論は明確である。学習エンゲージメントを感情点へ変えてはならない。法的対象かどうかとは別に、測りたい概念との妥当性が弱く、文化、障害、職場環境の違いを態度へ誤変換し、質問と失敗を萎縮させる。代案は生体信号を増やすことではなく、遂行、選択、質問、職場転移、自己報告、人との対話を目的別に組み合わせることである。

質問1　表情と視線は学習への集中を示さないのか

表情と視線は観察できる信号だが、学習エンゲージメントは一つの顔状態ではない。難問を深く考える人は画面から目を外し、笑っている人も内容を理解していない場合がある。カメラを切る理由は顧客情報、帯域、障害、育児・介護、勤務場所かもしれない。この差を関心不足に変えれば、測定誤差が人の評価になる。エンゲージメントには行動、認知、感情、社会的な側面が重なる。一側面の弱い代理値を全体へ広げない。顔や声から推測した感情を学習成果へ結び付けるなら、その方法が実際の職務と対象集団で妥当、信頼、公平である証拠が要る。一般的な精度や華やかなデモは証拠にならない。

表情分類が正しくても「学んだ」とは言えない。カメラ前の集中らしい姿と、一か月後の現場判断は別の結果である。人材育成が知りたいのは映像中の感情ではなく、安全、品質、問題解決、顧客対応、協働の改善である。最終成果から遠い信号を精密に測っても、精密な錯覚になり得る。測定されることで行動も変わる。表情と声が評価されると知れば、分からないと質問するより「集中した顔」を演じる。不確実さを隠し、画面外の資料を見ず、失敗を避ける。ダッシュボードは整っても学習は浅くなる。

質問2　EUでは職場の感情認識が禁止されるのか

EU AI Act Article 5(1)(f)は、職場と教育機関の領域で自然人の感情を推測するAIの市場投入、運用、利用を禁止し、医療または安全目的を例外とする。禁止慣行とAIリテラシー義務は2025年2月2日から適用された。EU外の全研修へ同じ法的結論が自動適用されるわけではなく、組織、対象者、供給者、処理場所ごとに管轄の専門家が範囲を確認する必要がある。

ECガイドは職場・教育機関での感情推測の禁止と医療・安全の例外を説明する。この図は日本・韓国企業の個別法的判断を代替しない。

欧州委員会の2026年教育者ガイドは境界を具体例で示す。個人が教育機関外で任意に使うオンライン語学アプリと、教育機関が必須利用させる場合を分ける。視線位置だけを確認するオンライン試験と、不安・興奮を併せて推測する機能も区別する。教育機関が興味・注意を推測する利用は禁止例である。一方、ロールプレイの学習で結果が評価・認証へ影響しない限定利用は異なる扱いが示される。入学試験、オンライン講義中の会話把握へ感情推測を加える場合、教員と学習者双方を対象にする場合も禁止例に含まれる。

企業が「学校ではない」と即断するのは危険である。EU規則本文はworkplaceを別に含む。ECガイドは全水準の教育・訓練、職業教育、継続教育まで扱う。日本や韓国の本社がEU従業員へ提供し、EU内の供給者・処理が関わる場合は具体的な適用を確認する。法的適用を待たなくても組織の禁止線は引ける。労働関係の力の差、生体情報、科学的限界、差別、萎縮は地域を問わない。グローバル共通線として、感情推測を関心、成果、態度の判断へ使わず、医療・安全の例外は独立した専門審査と狭い目的へ限定する。

質問3　単純な表情検出や視線追跡なら問題ないのか

製品名ではなく機能を見る。「参加分析」「注意信号」「ウェルビーイング」「対話品質」と呼んでも、顔、声、動きから興味、不安、満足、退屈、意図を推測すれば感情認識の論点が生じる。営業用の言い換えは科学的・法的性質を変えない。カメラ接続や発言順を数える機能と、感情を推測する機能は分けられる。しかし頭の向き、瞬き、話速、抑揚を合わせて「集中」「自信」「抵抗」を点数化すれば、観察を越えて内面を主張する。供給者から入力信号、出力ラベル、学習データ、推論方法、利用目的を項目別に受け取る。

視線追跡も自動的に安全ではない。不正監視、アクセシビリティ、個人情報、高影響評価には別の危険がある。EC例が視線位置と感情推測を区別しても、前者が無審査で許容されるという意味ではない。目的、比例性、代替、情報、人の確認を別に評価する。機能を本当に切れるかを試す。感情モジュールを無効にしても顔特徴量や音声感情APIが収集されないか、画面、出力、ログ、バックアップから派生値が消えるかを見る。設定画面のスイッチだけを信じない。

質問4　人が最終判断すれば使えるのか

人の確認は重要だが、全ての利用を正当化しない。禁止慣行なら最後に人が承認しても禁止が消えない。科学的に妥当でない信号も、管理職が一度見たから妥当にはならない。むしろ数字が最初の印象を固定する自動化バイアスを生む。「参考値」も影響経路で判断する。講師が質問相手を選び、上司が勤勉さを考え、研修部門がコースを縮小すれば、参考情報は決定を変える。個人・部署評価、認証、配置、報酬、懲戒へ流れない技術・運用上の境界が必要である。

人の役割は点数の解釈ではなく、利用を拒否し、元信号を見ずに本人と話せる権限を持つことだ。上司は感情点を根拠に説明を迫らない。学習者はカメラ・音声分析を断っても、代替コースと同じ学習機会を受ける。確認者間の一致と修正も記録する。複数講師が同じ場面を違って解釈するならAI点を正答にできない。人による修正が続く場合、利用者を再教育するだけでなくラベル、モデル、研修、目的を停止・変更する。

質問5　狭い補助機能なら高リスク分類を外れるのか

ECガイドのTable 2は、高リスク領域でも意思決定へ実質的な影響を与えない狭い手続作業、完了した人の活動の改善、人の判断後のパターン検出、評価の準備作業などを説明する。これはArticle 6の高リスク分類の文脈であり、Article 5の禁止慣行とは区別すると明記される。

限定的なファイル処理や人の活動補助という条件は、禁止された感情推測の迂回路ではない。実際の出力と影響を別に判断する。

企業研修では文書分類、重複検出、人が書いた文章の表現改善、人の評価後の異常表示と、感情推測を混ぜない。一製品に両方あっても機能別に承認し、感情モジュールを契約、設定、権限から除外する。「決定しない」という説明も実機で確かめる。感情点が推薦、講師通知、部署画面、危険順位、報告へ入れば意思決定に影響する。管理者の画面、APIの転送先、CSVの二次利用まで追う。

供給者の自己分類をそのまま受け入れない。利用者が機能を組み合わせれば目的と影響が変わる。社内実例、現地語、障害支援、力関係を含めて確認し、法的分類は管轄の専門家へ確かめる。

質問6　精度90％という説明を信じてよいのか

何を正解としたかを問う。映像へ人が付けた「関心」「退屈」「不安」のラベルは本人の内面を直接測らない。評価者間の一致、自己報告・状況・職務成果との関係、学習時の参加者と言語・文化・障害条件が同じかを確認する。 EU AI ActのRecital 44は、感情の識別・推測システムの科学的基礎へ深刻な懸念があると述べる。感情表現は文化、状況、同じ個人の中でも大きく変わり、限られた信頼性、特異性、一般化可能性が主な弱点である。職場・教育の力の不均衡と結び付くと、差別的で不利な扱いにつながり得る。

精度は集団、ラベル、環境ごとに分ける。実験室と現場、標準語と方言、高性能カメラと低帯域、眼鏡、マスク、照明、神経多様性、障害で結果は変わる。平均が高くても特定条件で誤った「低関与」が多ければ使えない。時間による変化もある。モデル更新、端末、映像圧縮、背景、マイクが変われば出力は動く。固定標本と実条件で再試験し、版と学習データが不明なら検証可能性不足として記録する。

最後に追加価値を問う。感情点がなくても短い遂行課題、質問、自己評価、講師対話で支援できるなら、侵襲的な信号を加える必要を供給者と利用部門が証明すべきである。小さな便宜は大きな監視リスクを正当化しない。

質問7　誰に誤分類と萎縮が集中するのか

表情、視線、声は文化と個人で違う。目を合わせない、話速が遅い、表情の動きが少ない理由を無関心へ変えると、文化、障害、神経多様性、年齢、言語の集団へ不利になる。育児・介護、共有空間、通信の差も本人の態度ではない。

導入前に集団別の偏りを試し、排除、固定観念、不公平を発見したら、人が介入して結果まで修復する必要がある。

合理的配慮が必要な人へカメラ・音声分析を初期要件にしない。スクリーンリーダー、字幕、通訳、追加時間、カメラ不使用が推薦や修了に不利にならないようにする。代替を選んだ人を「データ不足」として低く扱わない。集団別誤りを検証するとき、個人をさらに露出させない。必要な属性は別承認と最低人数の下で限定利用し、管理者へ個人一覧を渡さない。誤りが大きければ本人の表情を訓練するのでなく、機能を止め、課題、データ、モデル、環境を直す。

萎縮も測る。分析導入後、質問、失敗試行、同僚との対話、カメラ拒否、異議、中断がどう変わったかを見る。「集中点」が上がっても、分からないと言えないなら研修品質は下がっている。

質問8　エンゲージメントを何で測り直すのか

目的を先に選ぶ。参加、理解、職場適用、支援対象の発見では証拠が違う。一つのエンゲージメント点で全てへ答えない。参加は出席より意味のある行動で見る。分岐事例で理由を説明したか、実習を再試行したか、同僚の助言を反映したか、支援を求めたかを確認する。ただしクリックと滞在を勤勉さの点数へ変えない。

理解は短い想起、事例判断、誤り探し、自分の言葉での説明で見る。AIが答えを代行しないよう、口頭説明、変形課題、根拠提示を組み合わせる。個人順位より、どの誤概念が繰り返すかを集団で見て研修を直す。転移は現場行動と結果で見る。安全手順、手戻り、顧客への約束、上司観察、品質標本を研修前の基準線と比べる。他の政策、業務量、道具変更の影響を分け、研修だけの因果と誇張しない。

感情的経験が必要なら、短く任意の自己報告と人の対話を使う。「難し過ぎる」「支援が要る」「対話が不快」と本人が表現でき、無回答でも不利益を受けないようにする。自己報告を査定へ渡さず支援と改善に限定する。講師には点数でなく質問を渡す。どこで止まり、どの例が必要で、誰と解き、職場では何が違うかを聞く。人の対話は非効率ではなく、失われた文脈を回復する測定方法である。

質問9　契約済みの機能をどう止めるのか

新しい収集と点数転送を止める。映像・音声、特徴量、感情ラベル、推薦、ダッシュボード、HRIS連携の来歴を作る。設定を切った後もAPI、ログ、バックアップへ値が残らないか確認する。過去点が修了、講師判断、部署報告、人事記録に影響したかを調べる。影響した本人へ利用事実、調査範囲、暫定措置、異議、訂正予定を知らせる。感情点を除く独立証拠で再評価し、不利益が残る全システムまで直す。

原映像、音声、特徴量、派生ラベル、供給者と再委託先の複製を削除する。法的保存は隔離し、アクセス、目的、終了日を限定する。削除証明とモデル学習への利用を確認し、戻せない場合は残余リスクと再発防止を記録する。代替測定へ替えたら基準線を作り直す。過去の「集中74％」と新しい遂行指標を連結しない。短い課題、転移、自己報告、講師対話が何を測るかを説明し、初めから比較可能な期間を取る。

原因を担当者の機能選択で閉じない。調達質問、承認、最小化、管理権限、KPI、契約を変える。「注意」「自信」「ウェルビーイング」の名称で似た機能が他製品にないかを確認する。

質問10　供給者と審査会へ何を要求するのか

製品名でなくシステム境界を問う。どの生体・行動信号を入力し、どの感情、意図、状態を出力するか、誰のラベルで学習し、どの国、言語、障害条件で試したかを受け取る。原情報、特徴量、派生点の保存、学習利用、再委託、削除も確認する。目的と影響経路を実演させる。点が推薦、通知、評価、出力へ入るか、人は根拠を見て拒否、訂正、停止できるか、本人は分析を断って代替を選べるかを画面とAPIで見る。「参考情報」という口頭説明だけで済ませない。

試験には無表情、視線移動、カメラ停止、騒音、マスク、眼鏡、方言、非母語話者、支援技術、低帯域を含める。正解感情を恣意的に付けず、業務遂行と自己報告・対話を別証拠として扱う。分類性能より誤った不利益と萎縮を探す。審査には人材育成、現場、個人情報、情報セキュリティ、労務、法務、アクセシビリティ、従業員代表が参加する。医療・安全例外を主張する場合は、独立した専門審査、狭い目的、必要性、比例性、代替を求める。

使わない決定の理由も残す。規制範囲、科学的妥当性、差別、監視、代替費用と効果を分ける。供給者が名称を変更し、更新した時に同じ審査を再開する条件を書く。

質問11　日本と韓国の人材育成はどこへ禁止線を引くのか

EUの線が日本・韓国の全事例へそのまま適用されるとは書かない。各国の個人情報、生体情報、労働、差別、監視、同意、越境移転は管轄の専門家へ確認する。ただしグローバル企業の運用線は法の最低限より明確にできる。日本では採用、OJT、職能資格、リスキリング、DX人材育成へ「適性・意欲の客観化」という名で感情点が入る可能性がある。稟議には入力、推論ラベル、目的、委託先、本人説明、異議申立て、削除、停止を記し、上司が感情点で面談対象を選ばないようにする。

韓国ではオンライン研修、コールセンターのコーチング、採用連動研修、安全研修で顔・音声分析がLMS・HRISへ接続され得る。興味、誠実さ、自信を点数化せず、生体信号を配置、昇格、懲戒へ使わない。必須研修にはカメラなしの代替と同じ修了機会を置く。共通方針には「表情、音声、視線から感情、意図、興味、関与を推測し、個人・部署を評価しない」と書く。製品名ではなく機能で定義する。医療・安全目的は別承認、必要性・比例性、専門監督、短い保存、目的外利用禁止を要求する。

禁止だけを通知しない。遂行課題、変形事例、現場観察、任意の自己報告、講師対話、匿名の研修改善意見を代わりに示す。管理職には表情解釈でなく、観察できる行動を見て質問する訓練を行う。

質問12　危険は研修部門の中だけで終わるのか

感情点は研修画面から人事、業績、採用、健康、安全へ広がり得る。「既にある情報」を理由に目的が増える。顔・声の特徴量が漏えいし別の識別技術と結合すると、パスワードのように変更できない。世界経済フォーラムの2026年報告にある世界リスクのネットワークは、AI技術の悪影響が偽情報、サイバー不安、オンライン被害、人権侵食、不平等と結び付くと示す。感情認識の効果を検証した図ではないが、教育機能を情報・権利・安全の生態系で見る警告になる。

AI感情認識 — WEFのAI技術による悪影響と世界リスクの関係 Figure 6

WEF Figure 6は世界のリスク認識を結ぶ図であり、感情認識の因果効果や企業研修成果の証拠ではない。

事故対応には研修担当だけでなく、個人情報漏えい、差別的利用、誤った人事判断、セキュリティ連携、供給者変更の各責任者を置く。機能を止め、手作業の研修へ戻す権限も現場に必要である。経営へは「関与を測れない」という空白でなく、より良い証拠体系を示す。研修中の遂行、職場転移、質問、安全・品質結果、講師確認、任意の自己報告を分けて出す。異なる指標を一つの感情点へ合算しない。

AI感情認識の問題は、技術がまだ不正確なことだけではない。顔と声から内面を断定し、力の差がある関係で学習・人事判断へ使う目的そのものが弱い。モデルが改善しても、妥当性、必要性、比例性、選択権の問いは残る。企業研修が守るべきものは、人を読み取るシステムではなく、人が安全に話し、試し、間違えられる環境である。学習エンゲージメントはカメラが読む表情でなく、本人が理由を説明し、支援を求め、職場で行動を変える過程から確かめる。その方が測定の意味を本人へ説明でき、誤りがあっても人との対話で見直せる。数字の見栄えより、学び直せる関係を残すことが重要である。

質問13　一枚の社内方針には何を書くのか

最初に適用範囲を書く。会社が提供、要求、管理する採用、オンボーディング、必須研修、OJT、コーチング、職能資格、リスキリング、DX人材育成で、顔、声、視線、姿勢、生体信号から感情、意図、興味、集中、誠実さ、自信を推測しないと定める。製品名が変わっても適用できるよう、入力と出力の機能で定義する。次に結果の利用禁止を示す。個人・部署の修了、点数、推薦、配置、昇格、報酬、懲戒、講師評価、研修予算を感情点で決定・補助しない。「最後は人が決める」という例外を置かない。画面に見えなくても、API、ログ、出力を通じて別システムへ移る場合を含める。

医療・安全目的の審査は一般研修の承認線から分ける。専門責任者が、目的の必要性、侵襲性の低い代案、対象、期間、性能、誤分類の害、人の監督、保存・削除を確認する。安全という名称でウェルビーイング、生産性、態度分析へ広げない。法的範囲と従業員説明は管轄の専門家へ確認する。本人の権利と代替も明記する。カメラ・音声分析の有無を知らせ、拒否しても同じ学習機会と修了経路を提供する。本人はどの原情報と派生値があるかを確認し、誤りを訂正し、人へ異議を申し立て、目的終了後に削除を求められるようにする。

最後に代替測定と事故対応を書く。遂行課題、職場転移、観察できる行動、任意の自己報告、講師対話を目的別の証拠として使う。禁止機能を発見したら収集・転送を止め、影響結果を調査・訂正し、供給者の複製まで削除する。違反を報告した人へ不利益を与えない。方針を配布するだけでは足りない。管理職、講師、調達、情報システムが同じ事例で、許可された観察と禁止される内面推測を区別する練習を行う。「発言回数を数える」「不安を推測する」「本人が支援を求める」という三つを比べ、迷った時の相談先と一時停止権を確認する。

質問14　停止後に何を監査すれば再発を防げるのか

製品一覧より情報の流れを監査する。オンライン会議、LMS、コーチング、採用、通話分析、安全、ウェルビーイングの道具で、顔、音声、視線の特徴量と「注意・感情・自信」のラベルを探す。購入部門が違っても同じAPI、モデル、再委託先を使っていないかを見る。「使っていない」という回答は設定、ログ、契約で確かめる。 KPIと管理職の行動も対象にする。修了率、カメラ使用率、部署の関与点、自動コーチング数が目標に入ると、現場が機能を再び有効にする誘因になる。代わりに遂行品質、支援要請、職場転移、誤りの復旧、異議の処理、代替経路の同等性を見る。利用率の低さを抵抗と評価しない。

隠れた利用を報告できる安全な経路を置く。個人契約や部署用サービスで感情分析を発見しても、処罰を恐れず報告できるようにする。報告後は個人の注意不足だけでなく、承認済みツール、指針、技術的遮断がなぜ働かなかったかを調べる。危険信号を隠す自動化目標を修正する。供給者の更新を定期的に照合する。新しいダッシュボード、プラグイン、会議要約、音声コーチに感情ラベルが追加され得る。リリースノートだけでなく固定アカウント、管理画面、APIスキーマで試す。通知のない機能を見つけたら連携を止め、契約上の変更、停止、削除手順を動かす。

監査を「違反なし」で閉じない。発見までの時間、影響人数、訂正完了率、削除時間、代替研修の品質、信頼回復を記録する。同じ類型が繰り返すなら研修を増やすだけでなく、調達、権限、KPI、契約を変える。使わないと決めた機能と理由も、次の担当者が再現できる形で残す。四半期ごとに従業員と講師の声を確認する。監視されている感覚、カメラを断る困難、質問の萎縮、上司からの圧力がないかを匿名・任意で聞く。回答そのものを個人評価へ使わず、制度と代替経路を直す材料にする。数字が少なくても具体的な不利益が一件あれば影響範囲を調べる。

監査結果は法務だけの保管庫へ閉じない。研修責任者には許可・禁止機能と代替手順を、管理職には利用してはいけない点数と本人への説明を、調達には次回の失格条件を渡す。個人情報を除いた事例を職務別研修へ戻し、発見、停止、訂正、削除までを演習する。経営層には導入件数より、危険機能を早く見つけて影響を戻せたかを報告する。