AI 감정 인식은 표정·음성·생체 신호에서 흥미와 몰입을 추론하지만 기업교육의 타당한 성과지표가 아닙니다. EU 규제, 과학적 한계, 편향·감시 위험을 짚고 행동·업무 증거·자기보고·인간 대화로 학습 몰입을 측정하는 대안을 제시합니다.

AI 감정 인식으로 학습 몰입을 측정하지 말아야 하는 이유

화상교육 화면에 “집중 74%, 흥미 61%, 불안 18%”가 표시되면 객관적인 학습분석처럼 보인다. 강사는 누가 지루한지 빠르게 찾고, HRD는 과정별 몰입을 비교하며, 관리자는 교육투자를 수치로 설명할 수 있다고 기대한다. 문제는 카메라와 마이크가 포착한 표정·목소리·시선이 사람의 내면과 학습을 직접 보여주지 않는다는 데 있다. AI 감정 인식은 생체정보를 바탕으로 자연인의 감정이나 의도를 식별·추론하려는 AI 시스템을 뜻한다. EU AI Act의 정의에서는 행복, 슬픔, 분노, 놀람, 흥분, 만족 같은 감정·의도를 예로 들며, 의료·안전을 위한 통증·피로 같은 신체상태와 단순한 표정·동작 감지는 구별한다. 다만 미소·찡그림·목소리 크기를 이용해 감정을 추론하면 다시 감정 인식의 문제로 들어온다.

기업교육의 결론은 분명하다. 학습 몰입을 감정점수로 만들지 말아야 한다. 규제 대상인지와 별개로, 이 점수는 측정하려는 개념과의 타당성이 약하고, 문화·장애·업무환경에 따른 차이를 개인의 태도로 오인하며, 질문과 실수를 위축시킬 수 있다. 대안은 더 많은 생체신호가 아니라 수행, 선택, 질문, 전이, 자기보고, 사람의 대화를 목적에 맞게 조합하는 것이다.

질문 1. 표정과 시선은 학습 몰입을 보여주지 않는가

표정과 시선은 관찰 가능한 신호지만, 학습 몰입은 하나의 얼굴 상태가 아니다. 어려운 문제를 깊이 생각하는 사람은 화면을 보지 않을 수 있고, 미소 짓는 사람도 내용을 이해하지 못할 수 있다. 카메라를 끈 직원은 고객정보 보호, 대역폭, 장애, 돌봄, 근무장소 때문에 그랬을 수 있다. 이 차이를 몰입 부족으로 바꾸면 측정오류가 사람평가가 된다. 몰입에는 행동, 인지, 정서, 사회적 차원이 섞여 있다. 한 차원의 약한 대리변수를 전체 개념으로 쓰지 않는다. 특히 얼굴·목소리에서 추론한 정서를 학습성과로 연결하려면 측정도구가 실제 직무와 집단에서 타당하고 신뢰로우며 공정하다는 증거가 필요하다. 공급자의 일반 정확도나 데모는 그 증거가 아니다.

표정이 맞게 분류됐다고 해도 “학습했다”는 결론은 나오지 않는다. 카메라 앞에서 집중한 모습과 한 달 뒤 현장에서 올바르게 판단한 행동은 다른 결과다. HRD가 원하는 것은 영상 속 감정이 아니라 안전, 품질, 문제해결, 고객응대, 협업의 개선이다. 최종 결과와 거리가 먼 신호를 정밀하게 재는 것은 정밀한 착각이 될 수 있다. 측정이 행동을 바꾸는 효과도 본다. 학습자가 표정과 목소리가 평가된다고 알면 자연스러운 질문보다 “집중한 표정”을 연기한다. 불확실성을 드러내지 않고, 카메라 밖의 메모·자료를 덜 보며, 실수를 숨긴다. 데이터는 좋아 보이지만 학습은 얕아진다.

질문 2. EU에서는 기업교육의 감정 인식이 금지되는가

EU AI Act Article 5(1)(f)는 직장과 교육기관 영역에서 자연인의 감정을 추론하는 AI 시스템의 시장출시·서비스 제공·사용을 금지하고, 의료 또는 안전 목적은 예외로 둔다. 금지 관행과 AI 리터러시 의무는 2025년 2월 2일부터 적용됐다. EU 밖의 모든 기업교육에 자동으로 같은 법적 결론이 생긴다는 뜻은 아니며, 조직·대상·공급자·처리 위치에 따른 적용범위는 관할 전문가가 확인해야 한다.

EC 가이드는 직장·교육기관의 감정 추론 금지와 의료·안전 예외를 설명한다. 이 도표는 한국·일본 기업의 개별 법률판정을 대신하지 않는다.

EC의 2026년 교육자 가이드는 경계를 실제 장면으로 설명한다. 개인이 교육기관 밖에서 선택해 쓰는 온라인 언어 앱의 감정 인식과, 교육기관이 필수로 쓰게 하는 경우를 다르게 본다. 시선 위치만 확인하는 온라인 시험 도구와, 불안·흥분 같은 감정을 함께 추론하는 기능도 구분한다. 교육기관이 흥미와 주의를 추론하는 이용은 금지 사례다. 역할연기 학습에서 결과가 평가·인증에 영향을 주지 않는 경우의 제한적 이용은 다르게 설명한다. 입학시험, 온라인 강의 중 대화 포착에 감정 추론을 더하는 경우, 교사와 학습자 모두를 대상으로 하는 경우도 금지 사례에 포함한다.

기업이 “우리 과정은 학교가 아니다”라고 단정하면 위험하다. EU 규정 본문은 workplace를 별도로 포함하며, EC 교육 가이드는 모든 수준의 교육·훈련기관과 직업교육·계속교육까지 교육 맥락을 넓게 설명한다. 한국·일본 본사가 EU 직원에게 제공하거나 EU 공급자·처리가 연결될 때는 구체적 적용을 확인한다. 법적 적용을 기다려야만 중단할 필요는 없다. 근로관계의 권력불균형, 생체정보, 과학적 한계, 차별과 위축이라는 설계 위험은 지역과 무관하게 존재한다. 글로벌 공통선으로 몰입·성과·태도 판단에 감정추론을 쓰지 않고, 의료·안전 예외는 별도의 전문 검토와 좁은 목적에 한정하는 편이 안전하다.

질문 3. 단순 표정 감지나 시선 추적이면 괜찮은가

이름보다 기능을 본다. “참여 분석”, “주의 신호”, “웰빙 인사이트”, “대화 품질”이라고 불러도 얼굴·음성·움직임에서 흥미, 불안, 만족, 지루함, 의도를 추론하면 감정 인식의 쟁점이 생긴다. 판매자료의 용어가 법적·과학적 성격을 바꾸지 않는다. 단순히 카메라 연결상태나 발언 차례를 세는 기능과 감정을 추론하는 기능은 구분할 수 있다. 그러나 고개 방향, 눈 깜박임, 말의 속도, 억양을 결합해 “집중”, “자신감”, “저항” 점수를 만들면 관찰을 넘어 내면상태를 주장한다. 공급자에게 입력신호, 출력라벨, 학습데이터, 추론논리, 이용목적을 항목별로 받는다.

시선 추적도 자동으로 안전하거나 타당하지 않다. 부정행위 감시, 접근성, 개인정보, 고위험 평가에 다른 위험이 있다. EC 사례가 시선 위치만 보는 것과 감정 추론을 구분한다고 해서 전자가 아무 규제·윤리 검토 없이 허용된다는 뜻은 아니다. 목적, 비례성, 대안, 데이터, 인간검토를 별도로 확인한다. 기능을 끌 수 있는지도 시험한다. 감정 모듈을 비활성화해도 얼굴 특징값이나 음성 감정 API가 계속 수집되는지, 대시보드와 내보내기에서 파생점수가 사라지는지 본다. 라이선스 화면의 토글만 믿지 않고 네트워크, 로그, 데이터 사전, 삭제 결과로 확인한다.

질문 4. 사람이 최종 판단하면 사용할 수 있는가

인간 검토는 중요한 통제지만 모든 이용을 정당화하지 않는다. 금지된 관행이라면 사람이 마지막에 승인한다는 이유로 금지가 사라지지 않는다. 과학적으로 타당하지 않은 신호도 관리자가 한 번 본다고 타당해지지 않는다. 오히려 숫자가 사람의 첫 판단을 고정하는 자동화 편향을 만들 수 있다. “참고용” 점수도 실제 영향경로를 본다. 강사가 누구에게 질문할지, 관리자가 누가 성실한지, HR이 어떤 과정을 줄일지 결정하면 참고정보가 행동을 바꾼다. 학습자에게 불이익이 없다고 주장하려면 점수를 개인·팀 평가, 인증, 배치, 보상, 징계에 넘기지 않는 기술·운영 경계가 있어야 한다.

사람의 역할은 점수를 해석하는 것이 아니라 필요하면 사용을 거부하고 원신호 없이 대화할 권한을 갖는 것이다. 관리자는 감정점수를 근거로 직원에게 해명을 요구하지 않는다. 학습자는 카메라·마이크 분석을 거부해도 대체과정과 동일한 학습기회를 받아야 한다. 검토자의 일치도와 수정도 기록한다. 여러 강사가 같은 장면을 다르게 해석한다면 AI점수를 정답처럼 둘 수 없다. 사람 수정이 반복되면 개인을 더 훈련시키는 대신, 라벨 정의·모델·과정·이용목적을 중단하거나 바꾼다.

질문 5. 좁은 보조기능이면 고위험 분류를 피할 수 있는가

EC 가이드의 Table 2는 고위험 영역에서도 의사결정에 실질적 영향을 주지 않는 좁은 절차 작업, 완료된 인간 활동의 결과 개선, 사람의 기존 판단 뒤 패턴 탐지, 평가 준비 작업 같은 조건을 설명한다. 이는 Article 6의 고위험 분류 맥락이며, Article 5의 금지 관행과 구별해야 한다고 명시한다.

AI 감정 인식 — EC의 의사결정에 실질적 영향을 주지 않는 조건 Table 2

좁은 파일처리나 인간 활동의 보조 조건은 금지된 감정 추론의 우회로가 아니다. 실제 출력과 영향경로를 따로 판단한다.

기업교육에서 문서 분류, 중복 탐지, 사람이 쓴 문장의 어조 개선, 인간평가 뒤 이상 패턴 표시 같은 좁은 기능과 감정추론을 섞지 않는다. 한 제품에 둘 다 있어도 기능별로 승인하고, 감정 모듈은 계약·설정·권한에서 제외한다. “결정하지 않는다”는 설명도 검증한다. 감정점수가 추천, 강사 알림, 팀 대시보드, 위험순위, 보고서에 들어가면 의사결정에 영향을 줄 수 있다. 관리자에게 어떤 화면이 보이고, API로 어디에 전송되며, 내보낸 CSV가 어떤 HR 절차에 쓰이는지 끝까지 따라간다.

공급자 분류를 조직이 그대로 받아들이지 않는다. 이용자가 기능을 조합하면 원래 목적과 영향이 바뀐다. 내부 실제 사례, 현지 언어, 장애지원 조건, 권력관계를 포함해 검토하고, 법률판정은 관할 전문가가 확인한다.

질문 6. 정확도 90%라는 공급자 주장을 믿을 수 있는가

무엇을 정답으로 삼았는지부터 묻는다. 사람이 얼굴영상에 붙인 “관심”, “지루함”, “불안” 라벨은 그 사람의 내면을 직접 측정한 것이 아니다. 평가자들이 동의했는지, 자기보고·상황·업무성과와 어떤 관계가 있는지, 학습자료와 실제 직원의 언어·문화·장애가 같은지 확인한다. EU AI Act의 Recital 44는 감정 식별·추론 시스템의 과학적 근거에 심각한 우려가 있다고 설명한다. 감정표현은 문화와 상황에 따라, 같은 개인 안에서도 크게 다르며, 제한된 신뢰성·특이성·일반화 가능성이 핵심 약점으로 제시된다. 직장·교육의 권력불균형과 결합하면 차별적·불리한 대우로 이어질 수 있다는 판단이다.

정확도는 집단·라벨·환경별로 나눠야 한다. 밝은 실험실과 현장, 표준어와 방언, 고성능 카메라와 저대역폭, 안경·마스크·조명, 신경다양성·장애에서 성능이 달라질 수 있다. 평균값이 높아도 특정 집단에서 거짓 “비몰입”이 많으면 사용할 수 없다. 시간에 따른 변화도 본다. 모델 업데이트, 카메라, 화상회의 압축, 사무실 배경, 마이크가 바뀌면 결과가 달라진다. 고정 표본과 실제 조건에서 재시험하고, 공급자가 버전과 학습데이터를 공개하지 않으면 검증가능성이 부족한 위험으로 기록한다.

가장 중요한 질문은 예측력이 아니라 의사결정 가치다. 감정점수가 없어도 짧은 수행과제, 질문, 자기평가, 강사 대화로 지원할 수 있다면 침습적 신호의 추가가치를 증명해야 한다. 작은 편의가 큰 감시 위험을 정당화하지 않는다.

질문 7. 누구에게 더 큰 오분류와 위축이 생기는가

표정·시선·목소리는 문화와 개인에 따라 다르다. 눈맞춤을 피하는 이유, 말이 느린 이유, 얼굴 움직임이 적은 이유를 무관심으로 해석하면 특정 문화·장애·신경다양성·연령·언어집단에 불리하다. 원격근무의 돌봄, 공유공간, 대역폭 차이도 개인의 태도가 아니다.

도입 전 집단별 편향을 시험하고, 배제·고정관념·불공정이 발견되면 사람이 개입하고 복구할 절차가 필요하다.

합리적 편의가 필요한 직원에게 카메라·음성 분석을 기본 요구하지 않는다. 화면읽기, 자막, 통역, 추가시간, 카메라 비사용이 추천이나 수료에 불리하지 않아야 한다. 대체경로 이용자를 “데이터 부족” 집단으로 낮게 평가하지 않는다. 집단별 오류를 검증할 때 개인을 더 노출하지 않는다. 필요한 속성은 별도 승인과 최소 인원 아래 제한적으로 분석하고, 운영관리자에게 개인목록을 주지 않는다. 오류가 크면 직원 행동을 교정하는 것이 아니라 기능을 중단하고 과제·데이터·모델·환경을 수정한다.

위축효과도 측정한다. 카메라 분석 뒤 질문수, 실패 시도, 동료토론, 카메라 거부, 이의제기, 교육 중도이탈이 어떻게 변했는지 본다. “집중점수”가 올라도 학습자가 안전하게 모른다고 말하지 못하면 교육 품질은 나빠졌다.

질문 8. 몰입을 무엇으로 대신 측정해야 하는가

먼저 목적을 고른다. 과정 참여를 알고 싶은지, 이해를 알고 싶은지, 현장 적용을 알고 싶은지, 지원이 필요한 사람을 찾는지에 따라 증거가 다르다. 한 개의 몰입점수로 모든 질문에 답하려 하지 않는다. 참여는 출석보다 의미 있는 행동으로 본다. 선택형 분기에서 이유를 설명했는지, 실습을 다시 시도했는지, 동료 피드백을 반영했는지, 도움을 요청했는지를 과정 안에서 확인한다. 단, 클릭 수와 체류시간을 성실성 점수로 만들지 않는다.

이해는 짧은 회상, 사례판단, 오류 찾기, 자신의 말로 설명하기로 본다. AI가 답을 대신 만들지 않도록 구두 설명, 변형 과제, 근거 제시를 조합한다. 개인별 점수보다 어떤 오개념이 반복되는지 집단으로 보고 교육을 고친다. 전이는 현장행동과 결과로 본다. 안전 절차 준수, 재작업, 고객 약속, 관리자 관찰, 품질표본을 교육 전 기준선과 비교한다. 다른 정책·업무량·도구 변화가 결과에 미친 영향을 분리하고, 교육만의 인과효과로 과장하지 않는다.

정서적 경험이 중요하다면 짧고 자발적인 자기보고와 사람의 대화를 쓴다. “지금 과제가 너무 어렵다”, “지원이 필요하다”, “대화가 불편하다”를 본인이 표현하게 하고, 응답하지 않아도 불이익을 주지 않는다. 자기보고를 인사평가로 넘기지 않고 지원과 과정개선에 한정한다. 강사는 숫자 대신 질문을 받는다. 어느 단계에서 막혔는가, 어떤 예가 필요한가, 동료와 풀 것인가, 현업에서 무엇이 다를 것인가를 묻는다. 사람의 대화는 비효율이 아니라 맥락을 회복하는 측정도구다.

질문 9. 이미 계약한 감정 인식 기능은 어떻게 중단하는가

먼저 새로운 수집과 점수 전송을 멈춘다. 카메라·마이크의 원신호, 특징값, 감정라벨, 추천, 대시보드, HRIS 연결이 어디에 있는지 데이터 계보를 만든다. 기능 토글 뒤에도 API·로그·백업에 값이 남는지 확인한다. 과거 점수가 수료, 강사판단, 팀보고, 인사기록에 영향을 줬는지 조사한다. 영향을 받은 사람에게 이용 사실, 확인 중인 범위, 임시조치, 이의제기, 정정 일정을 알린다. 감정점수를 제거한 독립 증거로 재평가하고, 불리한 결과가 이어진 시스템까지 정정한다.

원영상, 음성, 특징값, 파생라벨, 공급자·하위처리자 사본을 삭제한다. 법적 보존이 필요한 경우 격리하고 접근·목적·종료일을 제한한다. 공급자에게 삭제증명과 모델 학습 이용 여부를 받는다. 학습에 이미 반영돼 되돌릴 수 없다면 남는 위험과 재발방지를 기록한다. 대체측정으로 바꾼 뒤 기준선을 다시 잡는다. 과거의 “몰입 74%”와 새 수행지표를 이어 붙이지 않는다. 짧은 과제, 전이, 자기보고, 강사대화가 각자 무엇을 측정하는지 설명하고, 처음부터 비교 가능한 기간을 확보한다.

사고 원인을 개인의 기능 선택으로 닫지 않는다. 조달질문, 승인선, 데이터 최소화, 관리자 권한, KPI, 공급자 계약을 바꾼다. 유사한 “주의·자신감·웰빙” 기능이 다른 제품에 숨어 있는지 전수 확인한다.

질문 10. 공급자와 내부위원회에 어떤 증거를 요구할 것인가

공급자에게 제품명보다 시스템 경계를 묻는다. 어떤 생체·행동 신호를 입력하고, 어떤 감정·의도·상태를 출력하며, 누구의 라벨로 학습했고, 어느 국가·언어·장애조건에서 시험했는지 받는다. 원자료·특징값·파생점수의 저장, 학습 재사용, 하위처리자, 삭제도 답하게 한다. 목적과 영향경로를 시연시킨다. 점수가 추천·알림·평가·내보내기에 들어가는지, 사람은 근거를 보고 거부·정정·중단할 수 있는지, 학습자는 기능을 거절하고 대안을 선택할 수 있는지 실제 화면과 API로 확인한다. “참고용”이라는 설명만 받지 않는다.

검증자료에는 무표정, 시선이동, 카메라 꺼짐, 소음, 마스크, 안경, 방언, 비원어민, 보조기술, 저대역폭을 포함한다. 정답 감정을 임의로 붙이지 않고, 업무수행과 자기보고·대화를 별개 증거로 본다. 모델의 감정분류 성능보다 거짓 불이익과 위축을 찾는다. 내부위원회에는 HRD, 현업, 개인정보, 보안, 노무, 법무, 접근성, 직원대표가 참여한다. 각자가 승인·거부할 범위를 정하고, 의료·안전 예외를 주장하는 경우 독립적인 전문 검토와 좁은 목적·비례성·대안을 요구한다.

결정 기록에는 사용하지 않기로 한 이유도 남긴다. 규제 적용, 과학적 타당성, 차별, 감시, 대안의 비용과 효과를 구분한다. 공급자가 기능명을 바꾸거나 업데이트했을 때 같은 검토를 다시 열 조건을 적는다.

질문 11. 한국과 일본의 HRD는 어디에 금지선을 그어야 하는가

EU의 금지선이 한국과 일본의 모든 상황에 그대로 적용된다고 쓰지 않는다. 각국의 개인정보, 생체정보, 노동관계, 차별, 감시, 동의, 국외이전 규정을 관할 전문가가 확인해야 한다. 다만 글로벌 HRD 운영선은 법의 최저선보다 명확하게 둘 수 있다. 한국에서는 화상교육, 콜센터 코칭, 채용연계 교육, 안전교육에서 얼굴·음성 분석이 LMS·HRIS와 연결될 수 있다. 개인의 흥미·성실·자신감 점수를 만들지 않고, 생체신호를 성과·배치·승진·징계에 쓰지 않는 금지선을 둔다. 필수교육에서는 카메라 비사용 대안과 동일한 수료기회를 제공한다.

일본에서는 採用, OJT, 職能資格, リスキリング, DX人材育成 과정에서 “적성·의욕의 객관화”라는 이름으로 감정점수가 들어갈 수 있다. 稟議에는 입력, 추론라벨, 이용목적, 委託先, 본인설명, 異議申立て, 삭제, 중단을 쓰고, 상사가 감정점수로 면담대상을 고르지 못하게 한다. 양국 공통정책에는 “표정·음성·시선에서 감정·의도·흥미·몰입을 추론해 개인이나 팀을 평가하지 않는다”는 문장을 넣는다. 제품명이 아니라 기능으로 정의한다. 의료·안전 목적은 별도 승인, 필요성·비례성, 전문감독, 짧은 보존, 목적 외 이용 금지를 요구한다.

현장에는 금지만 공지하지 않는다. 어떤 증거로 학습을 지원할지 알려준다. 수행과제, 변형사례, 현장관찰, 자기보고, 강사대화, 익명 과정피드백을 제공한다. 관리자에게는 표정 해석 대신 행동을 관찰하고 질문하는 훈련을 한다.

질문 12. 위험은 교육팀 안에서 끝나는가

감정점수는 교육 대시보드에서 시작해 인사·성과·채용·건강·보안으로 번질 수 있다. 처음에는 개인화를 위한 신호였더라도 “이미 있는 데이터”라는 이유로 목적이 확대된다. 얼굴·음성 특징값이 유출되거나 다른 식별기술과 결합되면 비밀번호처럼 바꾸기 어렵다. 세계경제포럼의 2026년 교육 준비도 보고서에 실린 글로벌 위험망은 AI의 부정적 결과가 허위정보, 사이버 불안, 온라인 피해, 인권 침식, 불평등 같은 위험과 연결된다고 보여준다. 감정 인식의 효과를 검증한 도표는 아니지만, 교육도구를 단일 기능이 아닌 더 넓은 정보·권리·보안 생태계에서 봐야 한다는 경고로 읽을 수 있다.

AI 감정 인식 — WEF의 AI 기술 부정적 결과와 글로벌 위험 연결망 Figure 6

WEF Figure 6은 글로벌 위험 인식의 관계도다. 감정 인식의 인과효과나 기업교육 성과를 보여주는 증거로 쓰지 않는다.

따라서 사고 대응에는 교육운영자만 참여하지 않는다. 개인정보 유출, 차별적 이용, 잘못된 인사결정, 보안 연결, 공급자 변경을 각각 맡을 부서와 통지시간을 정한다. 기능을 끄고 수동과정으로 전환할 권한도 교육현장에 있어야 한다. 경영진에게는 “몰입을 측정하지 못한다”는 공백보다 더 나은 증거체계를 제시한다. 과정 중 수행, 현장 전이, 학습자 질문, 안전·품질 결과, 강사 확인, 자발적 자기보고를 따로 보여준다. 서로 다른 지표를 한 개의 감정점수로 합치지 않는다.

AI 감정 인식의 문제는 기술이 아직 덜 정확하다는 데만 있지 않다. 얼굴과 목소리로 사람의 내면을 단정하고, 권력관계 안에서 그 추론을 학습·인사결정에 쓰려는 목적 자체가 취약하다. 모델이 개선되더라도 타당성, 필요성, 비례성, 선택권이라는 질문은 남는다. 기업교육이 지켜야 할 기준은 사람을 더 잘 읽는 시스템이 아니라, 사람이 안전하게 말하고 시도하고 틀릴 수 있는 학습환경이다. 몰입은 카메라가 읽는 표정이 아니라, 학습자가 이유를 설명하고 도움을 요청하며 현장에서 다르게 행동하는 과정에서 확인해야 한다.

질문 13. 한 장의 사내정책에는 무엇을 써야 하는가

첫 문장은 범위다. 회사가 제공·요구·관리하는 채용, 온보딩, 필수교육, OJT, 코칭, 자격, 리스킬링에서 얼굴, 음성, 시선, 자세, 생체신호로 감정·의도·흥미·집중·성실·자신감을 추론하지 않는다고 쓴다. 제품명이 바뀌어도 적용되도록 입력과 출력의 기능으로 정의한다. 다음에는 금지되는 결과 이용을 적는다. 개인·팀의 수료, 점수, 추천, 배치, 승진, 보상, 징계, 강사평가, 교육예산을 감정점수로 결정하거나 보조하지 않는다. “최종판단은 사람”이라는 예외를 두지 않는다. 화면에 보이지 않더라도 API·로그·내보내기로 결과가 이동하는 것도 포함한다.

의료·안전 목적을 검토할 절차는 일반교육 승인선과 분리한다. 전문 책임자가 목적의 필요성, 덜 침습적인 대안, 대상·기간, 성능, 오분류 피해, 사람 감독, 저장·삭제를 승인한다. 안전이라는 이름으로 웰빙·생산성·태도 분석까지 넓히지 않는다. 법적 적용과 근로자 설명은 관할 전문가가 확인한다. 학습자의 권리와 대안을 명확히 한다. 카메라·마이크 분석 여부를 알리고, 거부해도 같은 학습기회와 수료경로를 제공한다. 본인은 어떤 데이터와 파생값이 있는지 확인하고, 오류를 정정하며, 사람에게 이의를 제기하고, 목적이 끝나면 삭제를 요구할 수 있어야 한다.

마지막에는 대체측정과 사고대응을 넣는다. 수행과제, 업무전이, 관찰 가능한 행동, 자발적 자기보고, 강사대화를 목적별 증거로 쓴다. 금지기능을 발견하면 수집·전송을 멈추고 영향결과를 조사·정정하며 공급자 사본까지 삭제한다. 정책 위반을 보고한 사람에게 불이익을 주지 않는다.

질문 14. 중단 뒤 무엇을 감사해야 다시 생기지 않는가

제품 목록보다 데이터 흐름을 감사한다. 화상회의, LMS, 코칭, 채용, 콜분석, 보안, 웰빙 도구에서 얼굴·음성·시선 특징값과 “주의·감정·자신감” 라벨을 검색한다. 구매부서가 달라도 같은 API나 하위처리자를 쓰는지 확인한다. 사용하지 않는다는 답변은 설정·로그·계약으로 검증한다. KPI와 관리자 행동도 본다. 교육완료율, 카메라 사용률, 팀 몰입점수, 자동 코칭 수가 목표에 들어가면 현장이 기능을 다시 켤 유인이 생긴다. 대신 수행품질, 도움요청, 현장전이, 오류복구, 이의제기 처리, 대체경로의 동등성을 본다. 낮은 이용률을 저항으로 해석하지 않는다.

그림자 이용을 찾을 안전한 신고경로를 둔다. 직원이 개인계정이나 부서용 도구에서 감정분석을 발견해도 처벌 걱정 없이 보고할 수 있어야 한다. 신고 후에는 개인의 주의 부족보다 왜 승인도구·지침·기술차단이 작동하지 않았는지를 조사한다. 위험 신호를 숨기게 만드는 자동화 목표를 고친다. 공급자 업데이트를 정기적으로 대조한다. 새 대시보드, 플러그인, 회의요약, 음성코칭에 감정라벨이 추가될 수 있다. 릴리스노트만 보지 않고 고정 계정과 API 스키마로 시험한다. 미통지 기능이 발견되면 연결을 차단하고 계약상 변경·중단·삭제 절차를 실행한다.

감사는 “위반 없음”으로 끝나지 않는다. 발견까지 걸린 시간, 영향을 받은 사람, 정정 완료율, 삭제시간, 대체수업의 품질, 직원의 신뢰 회복을 기록한다. 같은 유형이 반복되면 교육만 늘리지 말고 조달·권한·KPI·계약을 바꾼다. 사용하지 않기로 한 기능과 그 이유도 다음 담당자가 재현할 수 있게 남긴다.