한 회사가 사내 AI 코치의 품질을 높이기 위해 학습자의 질문, 초안, 수정이력, 피드백 반응을 모델 개선에 쓰려고 한다. 화면 A에는 긴 개인정보 처리방침 링크와 서비스 개선에 동의합니다라는 체크박스가 있다. 체크하지 않으면 다음 버튼이 활성화되지 않는다. 화면 B에서는 필수 학습기록과 선택적 AI 개선 데이터를 구분한다. 실제 사용 항목·목적·보존기간·열람자·철회 방법·비동의 대안은 첫 화면에 제시한다. 모델 개선 참여는 기본적으로 꺼져 있고 학습은 그대로 계속할 수 있다.
두 화면에서 동의율만 비교하면 A가 성공할 가능성이 높다. 그러나 A의 높은 숫자는 직원이 내용을 읽고 자발적으로 선택했다는 증거가 아니다. 교육 기회를 잃을까 봐 눌렀는지, 기본 흐름을 지나쳤는지, AI 학습과 과정 운영을 구분했는지 알 수 없다. 더 큰 문제는 동의 요청 자체가 직원의 행동을 바꿀 수 있다는 점이다. 데이터가 AI를 학습시킨다는 사실을 이해한 사람은 평소와 다르게 질문하고 답할 수 있다. 그렇다면 수집된 로그는 단순한 ‘원래 행동’이 아니다.
AI 학습데이터 동의는 직원이 남긴 학습·업무행동을 AI의 학습, 평가, 튜닝 또는 개선에 재사용할지 선택하도록 설명하고 통제하는 운영 설계다. 핵심은 체크박스의 존재가 아니다. 운영 범위에는 어떤 데이터가 어느 단계에 쓰이는지, 거절해도 무엇을 할 수 있는지, 나중에 어떻게 철회하는지, 동의를 인지한 행동이 데이터 품질을 어떻게 바꾸는지까지 포함된다.
통념 1: 동의함을 눌렀다면 평소 행동을 수집한 것이다
2026년 6월 ACM FAccT에 발표된 Opting In? Information About AI Training Affects Human Behavior는 이 통념을 정면으로 흔든다. 연구진은 두 실험에서 참가자에게 금전 배분 제안을 수락하거나 거절하는 최후통첩 게임을 하게 했다. 일부는 자신의 행동이 미래 참가자를 위한 AI 학습에 쓰인다는 정보를 받았다. 일부는 받지 않았다.
실험 1은 AI 학습에 옵트인할 수 있는지와, 자신의 데이터가 AI를 어떻게 학습시키는지 설명을 읽을 선택권이 있는지를 나눴다. 초록에 따르면 대부분은 AI 학습에 옵트인했지만 대부분은 설명을 읽지 않았다. 정확한 비율은 공개 초록에 없으므로 임의로 숫자를 붙일 수 없다. 중요한 차이는 그다음에 나타났다. 옵트인했지만 설명을 읽지 않은 사람은 AI 학습 사실을 몰랐던 사람과 비슷하게 행동했다. 설명을 읽은 사람은 불공정한 제안을 더 많이 거절했다.
Treiman·Ho·Kool, FAccT 2026 공식 초록. 두 실험은 최후통첩 게임을 사용했으며 기업 LMS나 직원 생산성을 시험한 연구가 아니다. 초록에 없는 표본수·효과크기·동의율은 추정하지 않았다.
이 결과를 “설명을 읽으면 더 공정해진다”고 확대하면 안 된다. 최후통첩 게임의 거절 행동을 직장에서의 진실성이나 교육성과로 바꿀 수도 없다. 다만 AI 학습에 쓰인다는 정보를 실제로 읽은 집단과 읽지 않은 집단의 행동이 체계적으로 달라질 수 있다는 결론은 분명하다. 직원 로그를 모델에 넣는 조직이라면 동의 상태만 저장해서는 데이터의 생성 조건을 설명할 수 없다.
예를 들어 영업 시뮬레이션에서 직원이 고객에게 할 말을 자유롭게 연습한다고 하자. 이 대화가 AI 코치 개선에 쓰인다는 설명을 읽은 뒤에는 민감한 실패사례를 덜 말하고 모범답안처럼 응답할 수 있다. 상담 품질은 좋아 보이지만 실제 현장의 난점은 사라진다. 반대로 조직이 원하는 공정한 행동을 AI에 학습시키려고 더 엄격한 판단을 할 수도 있다. 어느 쪽이든 수집 데이터는 고지 이전의 기준선과 같지 않다.
통념 2: 상세 문구를 길게 쓰면 더 신중한 동의가 된다
실험 2는 짧은 설명과 상세 설명을 비교했다. 공개 초록에서는 두 조건의 읽는 시간과 행동 변화가 비슷했다고 보고한다. 이 결과는 긴 설명이 무의미하다는 뜻이 아니다. 짧게 쓰라는 법칙도 아니다. 글자 수를 늘리는 것만으로 실제 관여가 생기지 않는다는 뜻에 가깝다.
직원 동의 화면에는 법률 문구가 길수록 안전하다는 유인이 있다. 모든 예외를 한 화면에 넣는다. 자세한 내용은 링크 뒤에 숨긴다. 담당자는 고지할 항목을 모두 적었다고 안심한다. 직원은 다음 업무를 시작하기 위해 스크롤을 끝까지 내린다. 이때 조직이 측정하는 것은 이해가 아니라 버튼 통과다.
좋은 설명은 짧거나 긴 설명이 아니라, 직원이 자신의 선택 결과를 판단할 수 있는 설명이다. 첫 화면은 다음 여섯 질문에 답한다.
- 어떤 학습·업무 데이터가 필수로 생기는가.
- 그중 어떤 항목을 AI 학습이나 개선에 추가로 쓰는가.
- 누가 원문과 파생정보를 열람하는가.
- 거절해도 같은 학습·지원 기회를 이용할 수 있는가.
- 언제까지 보관하고 철회하면 어디까지 멈추거나 지우는가.
- 질문·수정·이의제기를 어디에 요청하는가.
세부 법률문서와 데이터 사전은 다음 계층에서 제공한다. 첫 화면이 모든 위험을 설명할 수는 없다. 그래도 핵심 선택을 링크 뒤에 숨겨서는 안 된다. 직원이 AI 코치 이용과 내 대화를 다음 모델 개선에 제공을 같은 동의로 오해하지 않게 기능을 분리한다.
통념 3: 명확히 고지하면 유효한 동의까지 끝난다
고지와 동의는 같은 말이 아니다. 2026년 7월 20일 공개된 European Commission의 EU AI Act Article 50 확정 가이드라인은 특정 AI 시스템의 투명성 의무를 설명한다. 물리 PDF 46쪽의 paragraph 141은 해당 정보를 명확하고 구별 가능한 방식으로, 늦어도 첫 상호작용이나 노출 시점에 제공하고 접근성 요구를 충족해야 한다고 적는다.
European Commission, Article 50 가이드라인 물리 PDF 46쪽(인쇄면 45). 이는 특정 AI 시스템의 투명성 의무에 관한 문단이지 직원 행동로그를 모델 학습에 쓰기 위한 일반 동의 규칙이 아니다. 명확한 고지를 유효한 동의나 적법 근거로 바꾸어 읽지 않는다.
이 원칙은 직원에게 설명을 제때 보여 주는 최소선으로 참고할 수 있다. 그러나 첫 화면에서 AI 사용 사실을 밝혔다고 해서 행동로그의 재학습 동의가 자동으로 생기지는 않는다. 개인정보 처리의 적법 근거, 근로관계에서 선택이 실제로 자유로운지, 필수 교육과 추가 데이터 제공이 결합됐는지, 철회 후 무엇을 되돌릴 수 있는지는 별도 문제다.
따라서 HRD는 화면에 법무 검토 완료 배지를 붙이는 데서 멈추지 않는다. 필수 과정에 참여하려면 AI 학습데이터 제공까지 동의해야 하는 구조인지 시험한다. 관리자에게 비동의자 명단이 보이는지, 비동의가 추천·배치·평가에서 불이익으로 이어지는지 확인한다. 한국·일본·EU 등 각 관할의 개인정보·노무 판단은 해당 전문가가 맡는다. 직원이 실제로 거절할 수 있는 운영 조건은 교육팀도 함께 증명한다.
화면 A의 높은 동의율은 왜 위험 신호가 될 수 있는가
동의율이 지나치게 높으면 문구가 명확해서일 수도 있다. 동시에 거부가 어렵거나 선택이 눈에 띄지 않아서일 수도 있다. 숫자 하나만으로 둘을 구분할 수 없다.
| 화면 요소 | 화면 A: 통과 중심 | 화면 B: 선택 중심 | 운영자가 확인할 증거 |
|---|---|---|---|
| 기본값 | 동의함이 선택됨 |
선택하지 않은 상태 | 기본값별 선택 변화 |
| 목적 | 서비스 개선 한 줄 |
과정 운영·개인 지원·모델 개선 분리 | 목적별 동의·철회 |
| 데이터 | 포괄적 이용정보 |
질문·초안·피드백·평가·파생값 구분 | 실제 수집항목 대조 |
| 거절 | 다음 단계 차단 | 동등한 비AI·비학습 대안 제공 | 비동의자의 접근 성공 |
| 설명 | 긴 문서 링크 | 첫 화면 핵심 + 세부정보 계층 | 열람·이해 확인 |
| 철회 | 문의메일만 표시 | 설정에서 철회, 처리범위 안내 | 중단·삭제 완료시간 |
| 관리자 노출 | 동의 여부 표시 | 운영에 필요한 최소 상태만 | 불이익·차별 모니터링 |
화면 B의 목표는 동의율을 낮추는 것이 아니다. 직원의 선택이 실제 데이터 흐름과 일치하게 만드는 것이다. 그 결과 동의율이 내려갈 수도 있고 올라갈 수도 있다. 성공 여부는 숫자가 어느 방향으로 움직였는지로 판단하지 않는다. 설명을 읽고 이해한 사람이 자신의 의사대로 선택했는지 본다. 거절한 직원이 학습을 이어 갔는지, 철회가 실제 시스템에서 작동했는지도 확인한다.
화면 A/B 시험도 클릭 최적화 실험처럼 운영하지 않는다. 더 많은 동의를 얻은 문구를 승자로 정하면 다크패턴을 보상할 수 있다. 두 버전 모두 같은 정보와 선택권을 제공한 상태에서 이해, 거절 가능성, 오류, 문의, 철회, 학습 접근성을 비교한다. 색상이나 버튼 위치가 거부를 흐리지 않는지 직원대표와 접근성 검토자가 함께 확인한다.
동의는 하나의 예·아니오가 아니라 세 지점에서 갈라진다
2026년 4월 공개된 Hutiri 외 연구진의 Yes, But Not Always. Generative AI Needs Nuanced Opt-in은 창작물과 권리자 통제를 다룬다. 이 논문은 동의를 생성형 AI 생애주기의 학습, 추론, 유통으로 나눈다. 학습 시점의 한 번의 옵트인만으로 이후 사용과 결과물 공유까지 통제하기 어렵다고 본다.
Hutiri et al., 2026, Figure 1. 창작물·지식재산권에 관한 개념 논문이며 직원 개인정보 동의의 법적 요건을 제시한 자료가 아니다. 여기서는 AI 생애주기별 선택을 분리하는 설계 힌트로만 사용한다.
기업교육에 그대로 옮기지는 않되, 데이터 흐름을 세 지점으로 나누는 질문은 유용하다.
- 수집·과정 운영: 출석, 제출, 피드백처럼 학습 제공에 필요한 기록은 무엇인가.
- AI 추론·개인 지원: 현재 세션에서 맞춤 피드백을 만들기 위해 어떤 입력을 처리하는가.
- AI 학습·확산: 질문과 수정이력을 다음 모델·평가루브릭·팀 지식에 재사용하거나 외부 공급자에게 제공하는가.
직원은 현재 세션에서 AI 피드백을 받는 데 동의하면서도 자신의 대화를 향후 모델 학습에는 제공하지 않을 수 있다. 모델 개선에는 동의하지만 익명 사례집이나 다른 법인의 교육에는 원하지 않을 수 있다. 반대로 원문은 제공하지 않되 사람이 검토한 오류유형 통계에는 참여할 수 있다. 하나의 체크박스에 이 선택을 묶으면 직원도 운영자도 무엇을 허용받았는지 알기 어렵다.
철회 버튼 뒤의 데이터 계보가 실제 선택권을 만든다
철회가 가능한 화면만으로 철회가 작동하는 것은 아니다. 질문 원문을 주 시스템에서 지워도 검색색인, 데이터웨어하우스, 분석도구, 공급자 지원티켓, 모델 평가셋, 백업에 남을 수 있다. 이미 모델 학습에 반영된 데이터를 개별적으로 되돌리기 어려운 경우도 있다.
동의 항목마다 다음 경로를 미리 적는다.
수집 화면 → LMS/LXP → AI 코치 → 분석 저장소 → 사람 검토 → 모델 개선셋 → 공급자·하위처리자 → 보존·삭제
각 지점에는 데이터 항목, 목적, 책임자, 위치, 보존기간, 철회 시 조치, 기술적 한계를 붙인다. 철회 후 앞으로의 학습 이용 중단, 아직 학습셋에 들어가지 않은 사본 삭제, 보고서·프로파일 정정, 백업 순환 삭제, 이미 학습된 모델에 대한 가능한 조치를 구분해 직원에게 알린다. 할 수 없는 일을 모두 삭제됩니다라고 약속하지 않는다.
테스트 계정으로 철회 리허설을 한다. 대화, 첨부파일, 점수, 피드백, 임베딩, 파생라벨이 어디에 남는지 확인한다. 공급자가 처리 완료를 통보한 뒤 내부 분석과 관리자 화면에서도 사라졌는지 표본 검증한다. 법적 보존이 필요한 기록은 학습용 원문과 분리해 이용을 차단하고 종료일을 붙인다.
철회율이 높다고 실패로 취급하면 담당자는 철회 버튼을 숨기게 된다. 철회 이유는 설계 개선 자료다. 목적이 불분명했는지, 관리자의 열람이 걱정됐는지, 모델 학습이 예상보다 넓었는지, 질문 원문이 너무 민감했는지 분류한다. 동의를 유지시키는 설득보다 불필요한 이용을 줄이는 데 먼저 쓴다.
동의 집단만으로 학습시키면 데이터의 빈 공간이 커진다
자발적 동의는 반드시 존중한다. 동시에 동의한 사람의 데이터가 전체 직원을 대표한다고 가정해서도 안 된다. AI에 익숙한 사람, 조직을 신뢰하는 사람, 실패사례를 덜 민감하게 느끼는 사람이 더 많이 참여할 수 있다. 비동의자는 특정 직무, 고용형태, 지역, 언어, 장애지원 필요와 연결될 수도 있다. 동의율을 올린다고 선택편향이 사라지지는 않는다.
데이터셋에는 최소한 다음 생성 조건을 붙인다.
- 동의 화면과 문구의 버전
- AI 학습 사실의 고지 시점
- 핵심 설명의 열람 여부와 이해 확인
- 동의·비동의·철회 상태와 변경시점
- 수집 당시의 과정·과제·직무 맥락
- 수집 목적과 모델·평가셋 버전
- 포함·제외 규칙과 알려진 대표성 한계
이 정보는 직원을 평가하는 새 프로파일이 아니다. 모델 개발자와 HRD가 데이터의 한계를 설명하기 위한 계보다. 개인별 설명을 읽지 않은 사람 라벨을 관리자에게 보여 주지 않는다. 분석에는 필요한 최소 범주만 쓰고 통계도 집단 수준으로 제한한다. 작은 집단이 식별되지 않게 한다.
비동의자의 원문을 몰래 사용해 대표성을 보완해서는 안 된다. 대신 합성·공개 데이터, 동의를 받은 별도 평가패널, 현업 전문가의 시나리오, 사람 검토로 빈 공간을 시험한다. 모델을 전체 직원에게 배포하기 전에 동의 데이터로 잘 포착되지 않은 언어·직무·접근성 조건에서 오류가 커지는지 별도 검증한다. 대표성 부족은 동의를 약화할 이유가 아니라 모델의 이용범위를 좁힐 이유다.
LMS·LXP에는 동의 증명보다 선택 상태의 분리를 구현한다
플랫폼은 동의일시 한 필드만 남기기 쉽다. 감사에는 편하지만 실제 운영에는 부족하다. 적어도 목적별 상태를 분리한다.
| 상태 필드 | 가능한 값 | 운영 의미 |
|---|---|---|
| 과정 운영 기록 | 필수·해당 없음 | 출석·수료처럼 서비스 제공에 필요한 범위 |
| 현재 AI 피드백 처리 | 허용·비AI 경로 | 세션 안 개인화와 대체경로 |
| 향후 모델 개선 | 미선택·동의·철회 | 원문·파생값의 재학습 가능 범위 |
| 사람 품질검토 | 미선택·동의·철회 | 담당자의 원문 열람 가능 여부 |
| 집단 통계 | 포함·제외 | 재식별 위험을 낮춘 운영분석 범위 |
| 외부 공급자·국외 처리 | 해당·비해당·제한 | 계약·처리지역·하위처리자 연결 |
각 상태에는 문구 버전, 표시 언어, 선택시각, 변경시각, 유효기간, 출처 화면, 적용 데이터셋을 붙인다. 동의 문구가 바뀌거나 목적·공급자·모델이 달라지면 기존 동의를 자동 확장하지 않는다. 어떤 변경이 재설명·재선택을 요구하는지 개인정보 담당자와 사전에 정한다.
접근권한도 분리한다. 강사는 과제 피드백에 필요한 내용을 보되 모델 학습 동의 여부를 알 필요가 없을 수 있다. 관리자는 수료지원에 필요한 상태를 보되 질문 원문과 동의 거부 이유를 보면 안 된다. 모델 개발자는 허용된 데이터셋과 계보를 보되 인사정보를 연결하지 않는다. HRD 운영자는 집단별 접근성과 철회 처리시간을 보되 비동의자를 성과관리 목록으로 만들지 않는다.
수집률 대신 여덟 개의 동의 품질 신호를 본다
첫 번째는 설명 도달률이다. 핵심 정보가 첫 선택 전에 실제로 표시됐는지 본다. 두 번째는 설명 관여율이다. 상세 링크 클릭만이 아니라 핵심 항목을 열어 확인했는지 측정하되, 읽는 시간을 개인 성실성 점수로 사용하지 않는다. 세 번째는 이해 오류율이다. 직원이 과정 이용과 모델 개선, 필수기록과 선택데이터를 혼동하는지 짧은 질문과 문의 내용으로 확인한다.
네 번째는 비동의 학습 접근 성공률이다. 거절한 사람이 같은 과정과 사람 지원, 비AI 대안을 실제로 이용했는지 본다. 다섯 번째는 철회 완료시간이다. 화면 변경부터 분석·공급자·보고서 반영까지 걸린 시간을 측정한다. 여섯 번째는 목적 외 이용 발견 건수다. 허용 범위를 벗어난 연결·내보내기·사람 열람을 탐지한다.
일곱 번째는 데이터 구성 차이다. 설명 열람·동의 상태에 따라 과제 유형, 응답분포, 오류유형이 얼마나 달라지는지 집단 수준으로 살핀다. 차이가 있다고 사람의 능력이나 태도를 평가하지 않는다. 모델이 특정 생성 조건에 과적합됐는지 확인한다. 여덟 번째는 불이익 신호다. 비동의·철회 집단의 교육 접근, 관리자 피드백, 배치·평가 결과가 부당하게 달라지는지 감시한다.
이 여덟 신호를 하나의 동의 품질 점수로 합치지 않는다. 높은 설명 관여율과 긴 철회시간이 동시에 나타날 수 있다. 비동의 접근은 좋아도 목적 외 이용이 한 건 발생할 수 있다. 충돌은 그대로 경영진에게 보여 준다. 어느 하나라도 되돌리기 어려운 피해와 연결되면 확대를 멈춘다.
한국과 일본 사업장은 ‘자발성’을 화면 밖에서 증명한다
한국 기업의 필수 법정교육이나 승진·직무자격 과정에서 AI 학습데이터 동의를 받으면 직원은 거절이 가능하다고 느끼기 어렵다. 체크박스에 선택이라고 써도 과정 진입이 막히거나 관리자에게 거절 상태가 보이면 자발성은 약해진다. 필수 학습 제공과 추가 모델 개선 참여를 분리한다. 비동의자에게 동등한 콘텐츠·강사 질문·평가 기회를 제공한다. HRD, 개인정보보호, 정보보안, 노무가 목적과 권한을 따로 승인한다.
일본 사업장에서는 OJT 기록, 자기신고, 상사면담, 직능자격 자료가 장기 인재육성과 연결되는 경우가 많다. AI改善への協力이라는 포괄 문구로 이 기록을 한꺼번에 넘기지 않는다. 稟議에는 데이터 항목, 이용목적, 委託先, 보존·철회, 비동의 대안, 상사 열람범위를 넣는다. 직원이 일본어로 읽을 때 현재 코칭을 위한 처리와 향후 AI 학습을 분명히 구분할 수 있어야 한다.
양국 공통 플랫폼을 쓴다면 본사 한 언어의 동의문을 기계번역해 끝내지 않는다. 데이터 이름, 부정문, 예외, 철회 한계, 책임주체를 언어별로 대조한다. 데스크톱에서는 보이지만 모바일 현장기기에서는 접힌 정보가 없는지 확인한다. 장애가 있는 직원도 같은 선택에 접근할 수 있어야 한다. 현지 직원대표·노사협의가 필요한 범위는 도입 전에 확인한다. 문제 제기를 AI 거부감으로 취급하지 않는다.
첫 30일에는 동의율이 아니라 한 과정의 선택 흐름을 고친다
첫 주에는 AI 기능이 있는 과정 하나를 고른다. 학습자가 남기는 질문, 답안, 초안, 클릭, 피드백, 점수, 파생라벨을 목록화한다. 과정 제공, 개인 피드백, 품질검토, 모델 개선, 집단 통계로 목적을 나눈다. 공급자와 하위처리자, 처리지역, 보존기간을 연결한다.
둘째 주에는 화면 A를 해체한다. 필수와 선택을 분리한다. 첫 화면에 목적·데이터·열람자·보존·철회·비동의 대안을 쓴다. 법률문서는 다음 계층으로 연결한다. 모바일·키보드·스크린리더에서 거절과 동의가 같은 수준으로 보이는지 확인한다. 직원 다섯 명에게 문구를 읽고 무엇을 거절해도 학습할 수 있는가를 자신의 말로 설명하게 한다.
셋째 주에는 테스트 계정으로 동의·비동의·철회 세 경로를 끝까지 실행한다. LMS, AI 코치, 분석, 관리자 화면, 공급자 사본에서 상태가 일치하는지 본다. 비동의 계정으로도 과정·평가·질문이 가능한지 확인한다. 철회 뒤 새 데이터 유입이 멈추고 기존 사본이 정해진 절차대로 처리되는지 기록한다.
넷째 주에는 제한된 파일럿을 연다. 동의율을 목표로 두지 않는다. 설명 도달, 이해 오류, 비동의 접근, 철회시간, 문의, 데이터 구성 차이를 본다. 설명을 읽은 집단과 읽지 않은 집단의 행동이 다르면 숨기지 않고 데이터셋 문서에 남긴다. 해결되지 않은 목적 외 이용이나 불이익 신호가 있으면 확대를 중단한다.
AI 학습데이터 동의는 더 많은 예를 확보하기 위한 장치가 아니다. 직원이 자신의 학습 흔적이 어디까지 이동하는지 이해하고 거절해도 학습을 이어 가며 나중에 선택을 바꿀 수 있게 하는 데 목적이 있다. 이런 조건을 갖추면 HRD는 동의율이라는 편한 숫자 대신 데이터가 만들어진 맥락과 신뢰를 함께 관리할 수 있다.
함께 읽을 글
출처
- Lauren S. Treiman, Chien-Ju Ho, Wouter Kool, Opting In? Information About AI Training Affects Human Behavior, ACM FAccT 2026 (2026-06-25)
- Wiebke Hutiri et al., Yes, But Not Always. Generative AI Needs Nuanced Opt-in (2026-04-10)
- European Commission, Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act (2026-07-20)