한 직원이 사내 AI 정책 퀴즈에서 100점을 받았다. 고객정보 입력 금지, AI 답변 검증, 사람의 최종 책임 문항을 모두 맞혔다. 이틀 뒤 그는 회사가 승인한 챗봇에 고객사의 미공개 제안서를 올린다. 승인된 도구라 괜찮다고 생각했다. 출처 없는 시장 수치도 그럴듯해 제안서에 넣었다. 팀장은 마지막에 문장을 읽고 승인했으므로 사람 검토도 끝났다고 봤다.
규정을 몰라서가 아니라 세 문장을 한 장면에 적용하지 못한 사고다. 도구 사용 승인과 데이터 반입 승인, 문장을 읽음과 근거 검증, 상사가 봄과 권한자의 책임 승인을 구분하지 못했다. 정책만 다시 읽히면 같은 장면에서 또 틀릴 수 있다.
AI 정책 교육은 생성형 AI 가이드라인을 암기하는 과정이 아니다. 입력·출력·고지·승인·예외의 경계에서 행동을 고르고 이유와 증거를 설명하는 판단 훈련이다. 높은 퀴즈 점수보다 위험 신호 앞에서 멈춰 허용 범위를 확인하고 필요한 사람에게 이관한 뒤 근거를 남기는 행동이 중요하다.
질문 1. 승인된 챗봇이면 고객 파일을 넣어도 되는가
정답은 도구 이름만으로 결정할 수 없다. 다음 네 조건을 함께 봐야 한다.
- 파일의 정보등급과 계약상 사용 제한은 무엇인가.
- 챗봇이 데이터를 어디에서 처리하고 얼마나 보관하는가.
- 입력 내용이 모델 학습, 품질검토, 로그 분석에 재사용되는가.
- 해당 업무와 사용자에게 그 데이터 처리 권한이 있는가.
시나리오는 한 가지 단서만으로 풀리지 않게 만든다. 승인된 기업용 AI이고 학습 재사용은 꺼져 있어도 고객 계약에는 외부 처리 금지 조항이 있을 수 있다. 반대로 공개형 도구로 공개된 보도자료를 교정하는 일은 허용될 수 있다. 교육생은 승인 도구이므로 허용이나 외부 AI이므로 전부 금지 대신 데이터와 목적·계약·설정을 함께 판정한다.
첫 사례의 선택지는 네 갈래면 충분하다.
- 그대로 업로드한다.
- 이름만 지우고 업로드한다.
- 필요한 정보만 별도 승인된 환경에서 처리한다.
- 사용을 멈추고 데이터 책임자에게 확인한다.
네 번째 선택지를 무조건 정답으로 만들지 않는다. 매번 이관하면 업무가 멈추고 책임자가 병목이 된다. 교육생은 스스로 결정할 확인항목과 반드시 이관할 불확실성을 설명한다. 이름을 지워도 거래조건·프로젝트명·희귀한 사건으로 고객을 다시 알아볼 수 있다는 점도 다룬다.
질문 2. 그럴듯한 AI 출력은 어디까지 확인해야 하는가
“AI 답변은 검증한다”는 문장은 너무 넓다. 실제 업무에서는 출력의 용도와 실패 비용에 따라 검증 깊이가 달라진다. 내부 아이디어 목록, 고객에게 보내는 가격표, 안전 절차, 채용 후보 평가, 규제 보고서가 같은 검토를 받을 수는 없다.
두 번째 사례에는 출처가 붙은 시장 요약이 나온다. 링크 하나는 없다. 하나는 제목과 달리 본문 수치가 틀린다. 나머지 하나는 오래됐다. 문법 오류가 아니라 삭제할 주장, 원문에서 재확인할 주장, 초안을 폐기할 조건을 고르게 한다.
검증은 최소 네 층으로 나눈다.
| 검증 층 | 묻는 질문 | 남길 증거 |
|---|---|---|
| 출처 존재 | 링크·문서·저자가 실제로 존재하는가 | 원본 URL·문서 버전 |
| 주장 일치 | 원문이 출력의 수치와 결론을 실제로 뒷받침하는가 | 해당 페이지·문단 |
| 시점·범위 | 기준일, 국가, 표본, 제품 버전이 업무와 맞는가 | 적용 범위 메모 |
| 사용 적합성 | 틀렸을 때의 피해와 최종 승인권자는 누구인가 | 수정·중단·승인 기록 |
검토 표시를 클릭한 사실은 증거가 아니다. 근거가 필요한 주장과 그렇지 않은 표현을 나눈다. 확인한 원문 위치와 바꾼 내용도 남긴다. 저위험 초안에는 표본검토로 충분할 수 있다. 고객 가격·안전·고용·법률 판단은 사람이 문장만 훑는 수준으로 끝낼 수 없다.
정책을 읽히는 것만으로 부족하다는 공식 신호
European Commission의 AI literacy Q&A는 많은 경우 AI 시스템의 사용 지침에만 기대거나 직원에게 읽으라고 하는 방식이 효과적이지 않고 충분하지 않을 수 있다고 설명한다. 대상 집단의 지식 수준과 시스템의 맥락·목적에 맞춘 훈련과 안내가 필요하다는 취지다.
European Commission AI literacy Q&A의 해당 문답을 2026년 7월 23일 직접 열어 캡처했다. 이 문답은 시나리오 훈련의 효과를 비교한 실험이 아니며, 이후 채택된 Digital Omnibus on AI의 발효 여부와 현행 의무는 별도로 확인해야 한다.
법적 상태는 날짜를 붙여 읽어야 한다. EUR-Lex 절차 기록상 Digital Omnibus on AI는 2026년 6월 29일 이사회에서 채택되고 7월 8일 서명됐다. 채택문은 Article 4를 특정 개인의 AI 리터러시 수준을 보장하는 의무가 아니라, 제공자와 배포자가 직원 등의 AI 리터러시 발전을 지원하는 조치를 취하는 의무로 바꾼다. 관보 게재 사흘 뒤 발효한다는 조항도 있다. 7월 23일에는 절차 화면과 최종 채택문을 확인했지만, 조직별 적용은 관보 게재와 발효된 통합본을 법무가 다시 확인해야 한다.
이 변화도 교육을 퀴즈로 바꿔야 한다는 뜻이 아니다. 채택문에는 기술지식·경험·교육훈련, 사용 맥락, 영향을 받는 사람을 고려하라는 구조가 남아 있다. 실무적으로는 얼마나 많이 읽혔는가보다 어떤 맥락에서 어떤 판단을 지원했는가가 더 중요하다.
질문 3. AI를 썼다는 사실은 언제 누구에게 밝혀야 하는가
세 번째 사례는 마케팅팀이 AI로 고객 안내문과 이미지를 만든 장면이다. 내부 초안에는 표시가 없다. 법무 검토본에는 생성 경로가 기록돼 있다. 외부 게시 화면에는 별도 표기가 없다. 교육생에게 “모든 AI 콘텐츠에 표시한다”와 “사람이 검토했으니 표시하지 않는다” 중 하나를 고르게 하면 현실을 가르칠 수 없다.
판정에는 적어도 다음을 넣는다.
- 콘텐츠가 내부 작업물인지 외부에 노출되는지
- 텍스트·이미지·음성·영상 중 무엇인지
- 사람이 AI와 상호작용 중이라는 사실을 알 필요가 있는지
- 합성 또는 조작된 내용이 실제 사건·사람으로 오인될 위험이 있는지
- 법령, 업계 규칙, 플랫폼 정책, 고객 계약이 무엇을 요구하는지
- 표시가 필요한 경우 언제, 어디에, 어떤 문구로 제공할지
교육생은 게시 여부만 답하지 않는다. 초안 생성 기록, 사람 검토, 외부 표시, 문의·정정 경로를 분리해 결정한다. 모든 내부 실험에 외부용 표기를 붙일 필요는 없다. 다만 내부 기록을 남기지 않으면 나중에 외부 공개 여부와 책임자를 재구성하기 어렵다. 반대로 생성 과정이 기록돼 있다고 해서 이용자에게 필요한 표시가 자동으로 끝나는 것도 아니다.
이 사례는 별도의 AI 투명성 고지 훈련과 연결하되 범위를 넓히지 않는다. 정확한 법적 의무는 콘텐츠 유형과 관할에 따라 달라진다. 여기서 가르치는 공통 행동은 표시 필요성을 분류하고 근거를 확인한 뒤 공개 전에 책임자에게 이관하는 법이다.
질문 4. 사람이 마지막에 보면 승인 책임이 충족되는가
네 번째 사례는 AI가 채용 후보자의 자기소개서와 면접 메모를 요약하고 우선순위를 제안하는 장면이다. 팀장은 AI가 만든 순위표를 보고 위에서부터 면접 대상을 확정한다. 화면에는 사람이 최종 결정합니다라는 문구가 있다. 그러나 팀장은 어떤 변수가 순위에 반영됐는지, 누락된 정보가 무엇인지, 이의제기 절차가 있는지 모른다.
사람이 과정 끝에 존재한다는 사실과 인간 감독이 작동한다는 사실은 다르다. 승인자는 다음 권한과 정보를 가져야 한다.
- AI 제안을 거부하거나 되돌릴 수 있는 권한
- 근거·입력·제외 규칙·알려진 한계를 볼 수 있는 정보
- 민감정보와 대리변수 사용을 중단할 수 있는 통제
- 다른 사람에게 재검토를 요청할 수 있는 시간과 채널
- 결정 대상자가 정정·이의제기를 할 수 있는 절차
가장 위험한 답은 AI가 결정했다가 아니라 내가 화면을 봤으니 내가 결정했다일 수 있다. 교육생은 무엇을 확인해야 자신의 승인인지 제시한다. 채용·승진·평가·대출·안전처럼 영향이 큰 결정은 기능 교육만으로 배포하지 않는다. 업무 소유자, HR, 법무·컴플라이언스, 보안·개인정보, 필요 시 노사 관계자가 승인 구조와 중단선을 정한다.
질문 5. 정책에 답이 없는 새 기능을 만나면 무엇을 해야 하는가
다섯 번째 사례는 더 어렵다. 직원이 쓰던 AI 도구에 에이전트 기능이 추가돼 메일을 보내고 CRM을 수정할 수 있게 됐다. 기존 정책에는 생성형 AI의 입력과 출력만 있다. 외부 행동을 대신 실행하는 기능은 없다. 직원은 정책상 금지되지 않았으니 시험해도 된다고 생각한다.
정책의 공백은 허용이 아니다. 그렇다고 모든 새 기능을 무기한 금지하면 현업은 비공식 경로를 만든다. 교육생이 연습할 행동은 중단–분류–제한 시험–승인–기록이다.
- 외부 발송, 금전, 데이터 변경, 권한 부여처럼 되돌리기 어려운 행동을 먼저 멈춘다.
- 에이전트가 접근하는 시스템·데이터·도구와 실행 권한을 목록화한다.
- 읽기 전용, 테스트 계정, 미리보기, 승인 전 실행 금지, 수신자 제한, 취소·복구를 설정한다.
- 기능 소유자와 보안·법무·업무 책임자가 허용 범위를 승인한다.
- 새 위험과 예외 결정을 정책·시나리오·로그에 반영한다.
이 사례에 영구 정답은 없다. 모델·기능·계약·데이터·업무 권한이 바뀌면 답도 바뀐다. 시나리오에는 기준일, 정책 버전, 도구 버전, 허용 환경, 이관 담당자를 붙인다. 오래된 정답의 반복 배포가 오답보다 위험할 수 있다.
기업이 원하는 AI 교육 주제는 이미 ‘경계 판단’에 가깝다
UK Department for Science, Innovation and Technology와 Ipsos는 2026년 고용주 조사에서 향후 AI 교육에 관심이 있는 영국 고용주 344곳을 분석했다. 이 중 87%가 AI 사용 중 정보의 안전·개인정보 보호를, 86%가 AI와의 의사소통과 AI를 이용한 문제해결을 원했다. 위험·위협 이해는 84%, AI 출력의 공유·사용과 정확성·신뢰성 판단은 각각 81%였다.
UK DSIT·Ipsos, Figure 5.8. 향후 AI 교육에 관심이 있다고 답한 고용주 344곳의 복수 주제 선호다. 영국 전체 고용주의 요구 순위나 시나리오 교육의 효과를 검증한 결과가 아니다.
이 수치는 프롬프트 작성법만 가르치면 된다는 편성에 제동을 건다. 학습은 안전한 입력, 출력의 정확성 판단, 결과를 공유할 수 있는 범위 결정까지 함께 다룬다. 다만 Figure 5.8은 원하는 교육 주제를 물은 조사다. 다섯 경계사례나 채점 루브릭이 성과를 높였다는 실험 근거로 쓰지 않는다.
정답률 대신 판단 과정을 채점하는 여섯 칸
정책 퀴즈는 문장 인식에는 유용하다. 하지만 경계사례에서는 답을 고른 이유와 다음 행동을 함께 봐야 한다. 각 사례를 여섯 요소로 채점한다.
| 채점 요소 | 0점 | 1점 | 2점 |
|---|---|---|---|
| 위험 신호 발견 | 핵심 위험을 놓침 | 일부만 발견 | 데이터·출력·권한 위험을 구분 |
| 허용 범위 확인 | 도구명·직급만 봄 | 정책 조항만 확인 | 데이터·목적·계약·설정까지 확인 |
| 행동 선택 | 그대로 진행 | 중단 또는 수정만 선택 | 수정·대안·중단을 위험도에 맞게 선택 |
| 근거 설명 | 느낌·관행 | 일반 원칙 | 원문·설정·업무 맥락으로 설명 |
| 이관 판단 | 무조건 진행·무조건 이관 | 담당자는 맞지만 질문이 불명확 | 필요한 질문과 결정권자를 특정 |
| 기록·회복 | 기록 없음 | 결과만 기록 | 근거·버전·수정·복구 경로를 기록 |
합계 12점을 인사평가에 쓰지 않는다. 위험한 행동을 고른 뒤 다른 항목 점수로 보충해서도 안 된다. 고객 원문 업로드, 출처 없는 고위험 주장 사용, 권한 밖 자동 실행은 별도 중단 기준으로 둔다. 점수는 추가 실습과 지원 배정에만 쓰고 징계나 잠재력 평가로 자동 전송하지 않는다.
모범답안은 하나의 문장이 아니라 의사결정 경로다. 교육생이 다른 안전한 대안을 제시할 수도 있다. 채점자는 결론이 아니라 확인한 조건, 남은 불확실성, 선택한 통제와 책임자를 본다.
시나리오 한 편은 여덟 개 필드로 관리한다
정책 문서를 사례로 바꾸려면 콘텐츠 저작이 아니라 운영 자산 관리가 필요하다. 각 시나리오에 다음을 붙인다.
- 업무 장면: 누가 어떤 산출물을 만들고 있는가.
- 결정 지점: 지금 무엇을 선택해야 하는가.
- 숨은 단서: 계약, 정보등급, 모델 설정, 대상자 영향은 무엇인가.
- 선택지: 안전·불완전·위험 선택이 왜 그럴듯한가.
- 판정 기준: 정책·법무·보안·업무 기준의 원문 위치는 어디인가.
- 피드백: 오답 설명보다 다음에 확인할 행동은 무엇인가.
- 이관·회복: 누구에게 무엇을 묻고, 잘못 실행했을 때 어떻게 되돌리는가.
- 유효기간: 정책·도구·계약 변화 시 언제 폐기하거나 갱신하는가.
쉬운 사례는 위험 신호가 분명하고 필요한 정보가 모두 보인다. 중간 사례는 허용된 도구와 금지된 데이터처럼 규칙이 충돌한다. 어려운 사례에서는 부족한 정보를 추가 질문으로 채운다. 교육생이 처음부터 모든 단서를 받으면 실제 업무의 불확실성을 연습할 수 없다.
피드백도 즉시 정답 공개로 끝내지 않는다. 먼저 선택 이유를 쓰고 필요한 정책 조항이나 설정 화면을 찾게 한다. 동료 또는 관리자는 놓친 단서를 묻는다. 마지막에는 비슷하지만 다른 사례를 제시해 문구 암기와 판단 원리의 전이를 구분한다.
관련성을 모르고 시간이 없다는 장벽은 짧은 현업 사례로 줄인다
같은 영국 조사에서 전체 고용주 801곳이 꼽은 AI 업스킬링 장벽은 사업에 어떤 교육이 관련 있는지 모르겠다 50%, 시간 부족 47%, 비용 41% 순이었다. 관련 교육의 부족과 직원 관심 부족은 각각 32%, 교육 접근 부족은 28%였다. 복수응답이므로 합계는 100%가 아니다.
UK DSIT·Ipsos, Figure 5.11. 2024년 3월 19일~6월 7일 조사한 영국 고용주 801곳의 응답이며, 2026년 한국·일본 기업의 현재 비율이나 시나리오 훈련의 인과효과가 아니다.
이 장벽에 2시간짜리 전사 강의를 더하면 관련성과 시간 문제가 남는다. 대신 실제 업무 회의에 8~12분짜리 사례를 넣는다. 영업은 고객자료 입력, 마케팅은 외부 표시, HR은 사람 의사결정, 개발은 코드·데이터 출처, 관리자는 승인·이관을 다룬다. 공통 원칙은 같아도 장면과 증거는 직무별로 달라야 한다.
다만 짧다고 자동으로 좋은 교육은 아니다. 맥락을 너무 줄이면 쉬운 보안 퀴즈가 된다. 판단 3분–근거 확인 3분–동료 반론 3분–피드백 3분처럼 행동을 남긴다. 월 한 번의 긴 과정 대신 정책이나 도구가 바뀔 때 짧은 사례를 추가하고 분기마다 누적 사례를 섞어 재판정한다.
LMS와 OJT는 같은 판단 기록을 이어 받아야 한다
LMS에서는 개인학습으로 첫 판단과 근거를 받는다. 정답만 저장하지 말고 선택한 행동, 확인한 조항, 이관 대상, 확신도, 재시도 결과를 남긴다. 단, 자유서술에 고객명·실제 개인정보·비밀정보를 쓰지 않게 가상 데이터와 입력 제한을 둔다.
OJT에서는 팀장이 같은 사례를 실제 업무 절차와 연결한다. “우리 팀에서는 누구에게 묻는가”, “승인 화면은 어디에 있는가”, “중단 뒤 고객 일정은 어떻게 지키는가”를 확인한다. 팀장은 정책을 임의 해석하는 최종 법률가가 아니다. 경계가 불명확하면 정책 소유자에게 질문을 보내고 답을 시나리오 저장소에 반영한다.
운영 루프는 다음과 같다.
사건·변경 탐지 → 사례 초안 → 업무·보안·법무 검토 → LMS 판단 → 팀 디브리핑 → 현업 표본관찰 → 정책·사례 갱신
과정 수료와 현업 배포 사이에 승인 게이트를 둔다. 저위험 도구는 사례 통과와 관리자 확인으로 충분할 수 있다. 고객정보, 인사결정, 안전, 금전, 외부 자동실행은 샌드박스 실습, 기능별 승인, 제한 권한, 사람 검토를 추가한다.
수료율 대신 봐야 할 일곱 개의 운영 신호
첫째는 위험 통과율이다. 위험한 선택을 그대로 진행한 비율을 사례별로 본다. 평균 정답률이 높아도 치명 사례의 통과율이 높으면 배포하지 않는다.
둘째는 적정 이관율이다. 이관이 필요한 사례를 놓친 비율과, 스스로 해결할 수 있는 사례를 모두 이관한 비율을 함께 본다. 셋째는 근거 완전성이다. 정책 조항뿐 아니라 데이터·목적·계약·설정·영향을 필요한 만큼 확인했는지 본다.
넷째는 반복 오류율이다. 피드백 뒤 변형 사례에서 같은 판단 오류가 다시 나타나는지 측정한다. 다섯째는 현업 확인 소요시간이다. 직원이 실제 업무에서 허용 범위와 승인자를 찾는 데 걸리는 시간을 본다.
여섯째는 사건–사례 갱신시간이다. 새 도구, 정책 변경, 사고, 고객 계약 변화가 교육 시나리오에 반영되기까지의 기간이다. 일곱째는 집단별 접근 격차다. 직무, 언어, 고용형태, 근무장소, 장애지원 조건에 따라 위험 통과율과 이관시간이 다르지 않은지 본다.
일곱 신호를 하나의 AI 준수 점수로 합치지 않는다. 이관은 정확해도 근거 확인이 느릴 수 있다. 정답률은 높지만 특정 언어판에서 치명 오답이 늘 수도 있다. 충돌을 그대로 보여 줘야 콘텐츠, 시스템 권한, 관리자 지원 중 무엇을 고칠지 알 수 있다.
한국 기업은 정책 배포일보다 사례 소유자를 먼저 정한다
첫 주에는 현재 AI 정책의 금지·허용 문장을 복사하지 말고 최근 3개월의 질문, 예외 승인, 보안 문의, 품질 오류를 모은다. 실제 고객정보는 제거하고 입력, 출력, 고지, 승인, 새 기능·예외 다섯 범주로 분류한다.
둘째 주에는 각 범주에서 한 사례씩 만든다. 업무 담당자는 현실성을, 보안·개인정보는 데이터와 권한을, 법무·컴플라이언스는 적용 기준과 표현을, HRD는 선택지·피드백·접근성을 검토한다. 답이 없는 사례는 억지 정답을 만들지 않고 정책 결정 과제로 올린다.
셋째 주에는 AI 사용이 잦은 한 팀에서 시험한다. 정답률보다 위험 통과, 질문 품질, 이관 병목, 소요시간을 본다. 팀장이 모범답안을 설명하는 데 그치지 않고 실제 승인 경로를 화면에서 찾게 한다.
넷째 주에는 틀린 사람보다 틀리게 만든 조건을 고친다. 정책 용어가 모호했는지, 승인자가 없었는지, 시스템 기본값이 위험했는지, 시간 압박이 우회를 만들었는지 구분한다. 교육으로 해결할 수 없는 권한·설정·절차 문제는 시스템 소유자에게 넘긴다.
AI 정책 교육의 성패는 직원이 규정을 외웠는지가 아니다. 애매한 업무 장면에서 안전하게 멈춘 뒤 필요한 증거를 찾고 권한 있는 사람에게 질문하며 결정의 흔적을 남기는지가 기준이다. 정책은 읽는 문서로 완성되지 않는다. 조직이 반복해서 판단하고 사고와 변화에 맞춰 갱신하는 연습 체계가 될 때 비로소 현장에서 작동한다.
함께 읽을 글
- 컴플라이언스 교육은 수료가 아니라 행동 리스크를 줄이는 훈련이어야 한다
- AI 리터러시 교육의 기준: 한 번의 특강보다 반복 훈련이 성과를 만든다
- AI 시대 기업교육의 성패는 강의 수가 아니라 성과-학습 루프에 달려 있다
출처
- European Commission AI Office, AI Literacy – Questions & Answers, 2025-11-19 최종 업데이트, 2026-07-23 확인.
- European Parliament and Council, Digital Omnibus on AI, PE-CONS 30/1/26 REV 1, 2026-07-08 서명본.
- EUR-Lex, Procedure 2025/0359/COD, 2026-07-23 확인.
- UK Department for Science, Innovation and Technology·Ipsos, AI Skills for Life and Work: Employer survey findings, 2026-01-28.