AI 투명성 고지는 모든 AI 사용에 같은 문구를 붙이는 일이 아닙니다. 한국 AI기본법과 EU AI Act의 주체·대상·예외를 나누고, 고객 챗봇·딥페이크 교육영상·공익 텍스트·감정인식 도구를 판정하는 시나리오 훈련법을 제시합니다.

AI 투명성 고지 훈련: ‘AI를 썼다’고 언제 어떻게 밝혀야 하는가

오전 8시 40분에는 고객 챗봇, 10시에는 대표의 얼굴·목소리를 합성한 교육영상, 오후 3시에는 표정과 음성으로 감정을 읽는 학습도구가 검토선에 오른다. 그사이 생성형 AI가 초안을 쓰고 담당자가 맞춤법만 고친 안전 공지도 들어온다.

모두 AI를 썼지만 답은 다르다. 직접 대화인지, 회사가 사업자인지 도구 이용자인지, 딥페이크·공익 텍스트·감정인식인지, 실질적인 인간 검토와 편집책임이 있는지에 따라 판단이 갈리고 한국과 EU의 구조도 다르다.

AI 투명성 고지는 AI와 상호작용하거나 AI가 만든·바꾼 결과에 노출된다는 사실을 관할·역할·콘텐츠·시점에 맞춰 알리는 운영행동이다. 누가 무엇을 누구에게 언제 어떻게 알릴지 판정하고, 잘못된 표시를 고칠 수 있어야 한다.

이 글은 기업교육과 내부 운영을 위한 해설이다. 개별 제품·서비스의 적용 여부는 최신 법령과 관할 법무 검토로 확정해야 한다.

같은 아침의 네 요청은 서로 다른 AI 투명성 고지를 요구한다

한국에서는 AI기본법 제31조가 2026년 1월 22일부터 시행 중이다. 고영향 또는 생성형 AI 기반 제품·서비스의 사전고지, 생성형 AI 결과물의 표시, 실제와 구분하기 어려운 가상 음향·이미지·영상 등의 명확한 고지·표시를 규정한다. 2026년 7월 21일 시행된 시행령 제23조는 약관·계약서·화면·현장 게시 등의 사전고지 방식과 사람 또는 기계가 읽을 수 있는 표시, 접근성, 일부 예외를 구체화한다.

과학기술정보통신부는 2026년 1월 가이드라인 발표 때 최소 1년의 계도기간 동안 사실조사와 과태료 부과를 유예한다고 밝혔다. 법은 이미 시행됐다. 조직은 대상 서비스·결과물을 분류하고 고지 동선을 시험해야 한다.

EU AI Act Article 50은 2026년 8월 2일부터 적용된다. 7월 20일 확정 가이드라인은 직접 상호작용 AI, 생성·조작 콘텐츠의 기계표시, 감정인식·생체분류, 딥페이크·일정한 공익 텍스트를 구분한다. 의무는 누적될 수 있고 제공자와 배포자의 책임도 다르다. 8월 2일 이전 시스템의 제한적 유예는 Article 50(2)의 기계표시·탐지에만 해당한다.

교육에서는 두 질문을 분리한다.

법적으로 필요한 고지·표시인가? 관할, 주체, 시스템·결과물, 노출 대상과 예외를 판정한다.
법적 의무와 별개로 회사가 선택한 추가 투명성인가? 고객 신뢰, 계약, 플랫폼 정책, 브랜드 기준을 적용한다.

같은 필드에 적으면 자율 정책을 법으로 과장하거나 법적 의무를 선택 사항처럼 만든다.

첫 갈림길은 ‘AI를 썼나’가 아니라 누가 누구에게 무엇을 제공하느냐다

한국의 과학기술정보통신부 가이드라인은 이용자에게 AI 제품·서비스를 직접 제공하는 인공지능사업자와 AI를 업무·창작 도구로 쓰는 이용자를 구분한다. 한국 이용자에게 서비스를 제공하는 해외 사업자도 전자에 포함될 수 있다. 반대로 일반 회사가 외부 생성형 AI로 문서 초안을 만들었다는 사실만으로 그 회사가 곧바로 같은 의미의 AI 사업자가 되는 것은 아니다.

EU의 제공자는 AI 시스템을 개발하거나 개발시켜 자기 이름·상표로 시장에 내놓거나 서비스에 투입하는 주체이고, 배포자는 자기 권한 아래 이를 사용하는 주체다. 자체 챗봇을 자기 이름으로 운영하면서 결과도 외부에 배포하면 역할이 겹칠 수 있다.

판정표에는 조직의 역할, 국내·EU·내외부 접점, 직접 상호작용·합성 콘텐츠·감정·생체·딥페이크·공익 텍스트 중 해당 유형, 승인자와 상향 경로를 남긴다. 새 장면을 먼저 보는 콘텐츠 제작자·고객센터·LMS·홍보 담당자는 법률 결론 대신 역할 변화 신호와 자료를 법무·컴플라이언스에 넘긴다.

AI 투명성 고지 — EU AI Act Article 50의 직접 상호작용 AI와 합성 콘텐츠 제공자 의무 표

European Commission 확정 가이드라인 물리 PDF 4쪽(인쇄면 3). Article 50(1)의 직접 상호작용 AI와 Article 50(2)의 합성 콘텐츠 기계표시를 제공자 의무로 구분하고 주요 예외를 함께 제시한다. 원문 영어는 번역하거나 덧씌우지 않았다.

고객 챗봇은 첫 대화에서 정체를 숨기지 않아야 한다

고객 챗봇에서는 AI 시스템, 양방향 교환, 직접 소통, 자연인이라는 EU의 네 누적 조건부터 확인한다. 백엔드 추천이나 기계 간 통신과 구분하기 위해서다.

조건에 해당하면 고지는 첫 상호작용부터 명확하고 구별 가능해야 한다. 약관 한쪽, 고객이 열어야 하는 URL, 사람이 볼 수 없는 메타데이터만으로는 EU의 직접 상호작용 고지를 대신하기 어렵다. assistant 같은 모호한 이름이나 여러 기능을 묶어 이 사이트는 AI를 사용합니다라고 적는 것도 어느 응답이 AI인지 충분히 알려 주지 못한다. AI임이 명백하다는 예외 역시 제한적으로 해석한다.

운영 예시는 지금부터 AI 상담 도우미와 대화합니다. 주문 조회와 반품 절차를 돕고, 계약 변경·분쟁은 상담원에게 연결합니다처럼 정체·역할·한계·이관을 잇는다. 대화창에는 AI 표지와 사람 연결 버튼을 유지한다. 훈련에서는 첫 노출 위치, 음성 시작 알림, 접근성, 위험 시 재알림까지 화면에 배치하게 한다.

한국에서도 생성형 AI 기반 제품·서비스를 제공하는 AI 사업자는 사전고지를 판단한다. 시행령상 약관·계약서·화면 표시가 가능해도 고객이 알아차리는지는 별도 UX 문제다. 관할별 요구를 나누고 더 명확한 공통 동선을 설계한다.

생성 결과의 기계표시와 사람이 보는 고지는 같은 일이 아니다

워터마크가 있으니 고지가 끝났다는 판단은 가장 흔한 오류다. EU Article 50(2)의 기계 판독 표시와 Article 50(4)의 사람이 알아볼 수 있는 공개는 목적과 책임주체가 다르다. 전자는 제공자가 합성 콘텐츠의 인공적 출처를 탐지할 수 있도록 시스템을 설계하는 문제다. 후자는 배포자가 딥페이크나 일정한 공익 텍스트를 본 사람에게 늦어도 첫 노출 때 명확히 알리는 문제다.

한국 시행령도 두 층을 구분해 읽어야 한다. 생성 결과물은 사람이 인식할 수 있게 표시하거나 기계가 판독할 수 있게 표시할 수 있다. 다만 기계 판독 방식을 쓰면 생성형 AI로 만든 결과라는 사실을 문구·음성 등으로 1회 이상 안내해야 한다. 실제와 구분하기 어려운 가상 음향·이미지·영상은 이용자가 명확하게 인식할 수 있는 방식이 요구된다.

따라서 직원이 결과물을 내려받아 LMS, 홈페이지, SNS, 이메일, 협력사 포털로 옮길 때는 세 가지를 확인해야 한다.

원래 시스템의 메타데이터·자격증명·워터마크가 파일 변환 뒤에도 남는가.
사람이 첫 노출 때 볼 수 있는 고지가 필요한 유형인가.
유통 과정에서 표지가 잘리거나 음성이 제거됐을 때 누가 복구하는가.

기계표시는 제작 이력 검증의 기반이지만 내용의 진실이나 법적 충분성을 자동 판정하지 않는다. AI 학습콘텐츠 출처검증 글이 이력·서명을 다룬다면, 여기서는 결과물이 사용 장면에 들어왔을 때의 고지 행동을 다룬다.

대표의 합성 목소리 교육영상은 ‘내부용’ 한마디로 끝나지 않는다

대표의 얼굴·목소리를 실제처럼 합성한 영상은 딥페이크 후보다. EU는 기존 인물·대상·장소·사건과의 유사성, 대상의 존재 가능성, 진짜로 오인할 가능성과 배포 맥락·대상자의 기대를 함께 본다.

사내 교육이므로 아무 표시도 없다는 결론은 위험하다. EU 행동강령은 내부 전문훈련에서 딥페이크를 사용할 때도 노출 전 이용화면, 물리 공간 또는 적절한 매체에 명확하게 알리는 배치 예시를 제시한다. 영상 시작 전에 대표의 음성과 영상은 AI로 생성·조작되었습니다라고 보여 주고, 학습자가 다시 재생해도 확인할 수 있는 표지를 두는 방식이다.

한국에서는 먼저 회사가 AI 제품·서비스를 직접 제공하는 인공지능사업자인지, 외부 AI를 창작 도구로 쓰는 이용자인지 판정해야 한다. 시행령에는 인공지능사업자의 내부 업무 전용 사용에 대한 예외가 있지만, 이를 모든 내부 콘텐츠의 무표시 면허로 넓히면 안 된다. 영상이 고객·채용후보자·협력사로 공유되는 순간 노출범위가 바뀔 수 있고, 초상·음성·개인정보·노동관계·계약 문제는 표시와 별개다.

훈련카드에서는 실제 대표와 명백한 애니메이션, 전용 LMS와 채용 페이지·SNS, 첫 화면과 설명란 끝, 동의·승인 기록, 표지가 빠진 재업로드의 중지·수정 책임을 바꾼다. 답안에는 표시/무표시뿐 아니라 근거, 노출 위치, 권리, 재배포 통제가 들어가야 한다.

AI 투명성 고지 — 감정인식·생체분류와 딥페이크·공익 텍스트의 EU 배포자 의무 표

European Commission 확정 가이드라인 물리 PDF 5쪽(인쇄면 4). Article 50(3)의 감정인식·생체분류와 Article 50(4)의 딥페이크·공익 텍스트를 배포자 의무로 구분하고, 첫 노출·접근성·의무 누적을 설명한다.

공지문은 AI 작성 여부보다 공익성·실질검토·편집책임으로 갈린다

생성형 AI가 초안을 쓴 모든 텍스트가 EU Article 50(4)의 같은 공개 의무를 갖는 것은 아니다. 확정 Q&A는 세 조건을 함께 본다. 텍스트가 공개됐는가, 대중에게 정보를 제공하려는가, 공익 사안에 관한 것인가다. 정치·공공행정·사법·기본권·공공안전·보건·환경·소비자 안전뿐 아니라 공론의 대상이 되는 경제·금융·과학·문화 발전도 예시에 포함된다.

안전·공중보건 공지, 공공서비스 설명, 공론과 관련된 지속가능성 발표는 후보지만 제목이 아니라 공개 목적·독자·내용으로 판단한다.

인간 검토 예외도 사람이 한번 읽었다는 체크박스가 아니다. 관련 지식과 전문적 판단을 가진 사람이 내용의 실질을 의도적으로 검토하고, 승인·수정·거절 권한을 가진 편집주체가 통제하며, 자연인 또는 법인이 최종 편집책임을 져야 한다. 맞춤법과 문법만 고치거나 다른 AI가 검토하고 사람이 형식 승인한 정도는 충분하지 않다. 검토 뒤 AI가 내용을 실질적으로 다시 바꿨다면 승인선을 다시 거쳐야 한다.

훈련 답안에는 공개 대상·목적·공론 관련성, 사실·출처·논리·위험문구를 검토한 사람과 전문성, 수정·거절 권한, 최종본 잠금 시점, 편집책임자와 연락 경로를 적는다. 자동 번역 후 게시처럼 승인 뒤 바뀌었다면 실질 변경 여부와 재검토도 남긴다.

한국의 AI기본법은 EU의 공익 텍스트·인간 편집책임 예외와 같은 구조가 아니다. 한국에서 일반 회사가 생성형 AI를 글쓰기 도구로 쓴 장면과 AI 사업자가 생성 결과물을 제공하는 장면을 먼저 구분해야 한다. 다국적 게시 절차에서는 한국법, EU법, 회사 추가정책을 별도 열로 두어 어느 기준으로 표시했는지 남기는 편이 낫다.

감정인식이 붙은 학습도구는 콘텐츠보다 노출 자체를 먼저 다룬다

학습자의 표정과 음성을 읽어 집중·불안·흥미를 추정한다는 도구는 생성 콘텐츠 표시와 다른 분기다. EU Article 50(3)은 감정인식 또는 생체분류 시스템에 노출된 자연인에게 시스템이 작동한다는 사실을 알리도록 한다. 실시간뿐 아니라 사후 처리도 범위에 들어갈 수 있다.

그러나 알렸으니 사용할 수 있다는 결론은 성립하지 않는다. 투명성 고지는 사용의 적법성, 정확성, 필요성, 개인정보 처리근거, 직장·교육 맥락의 별도 제한을 대신하지 않는다. 특히 직원교육에서 감정 추론은 과학적 타당성과 감시 위험, 다른 AI Act 조항의 금지·제한 가능성을 먼저 법무·개인정보·노사·교육 책임자에게 상향해야 한다.

모범행동은 고지문부터 쓰는 것이 아니다.

구매·시범 운영을 잠시 멈춘다.
도구가 실제로 추론하는 데이터·속성·목적을 확인한다.
적용 관할과 금지·고위험·개인정보·노동 규정을 검토한다.
사용할 수 있다고 확정된 뒤에야 노출 전 고지, 접근성, 이의제기·대안 참여를 설계한다.

고지는 AI 감정 인식과 학습 몰입 측정 글에서 보듯 위험한 사용을 합법화하지 않는다. 사용할 수 있는 시스템에서 판단권을 보장하는 한 층이다.

분기표는 여섯 질문과 한 번의 중단권한으로 설계한다

직원에게 법조문 전체를 암기시키는 대신, 실제 업무 화면과 문서에서 여섯 질문을 순서대로 답하게 한다.

관할: 한국 이용자, EU 시장·자연인·결과물, 다른 국가, 계약·플랫폼 규칙 중 무엇이 연결되는가.
역할: 인공지능사업자, 제공자, 배포자, 단순 도구 이용자 가운데 조직은 무엇이며 역할이 겹치는가.
접점: 직접 대화, 생성·조작 결과, 감정·생체 시스템, 백엔드 처리 중 무엇인가.
노출: 내부인가 외부인가, 특정 이용자인가 대중인가, 서비스 안인가 다운로드·공유되는가, 첫 노출은 어디인가.
검토와 책임: 인간이 내용의 실질을 검토했는가, 승인·거절 권한과 편집책임자가 있는가, 승인 뒤 AI가 다시 바꿨는가.
표현과 복구: 사전고지·사람 표시·기계표시 중 무엇이 필요한가, 접근 가능한가, 표지가 빠지면 누가 언제 고치는가.

마지막에는 판단 불가 버튼을 둔다. 새 시스템, 모호한 관할, 실제 인물 합성, 감정·생체 추론, 공익 텍스트, 취약한 이용자는 필요한 정보·임시 중단 범위와 함께 법무·컴플라이언스에 올린다.

분기표의 출력은 단순한 예·아니오가 아니다.

EU 자연인 대상 고객 챗봇 / 회사는 제공자 후보 / Article 50(1) 검토 / 첫 대화와 음성 시작에서 명확히 고지 / 접근성 확인 / 법무 승인자 OOO / 2026-07-30 재시험

이 정도라야 승인자가 추론과 버전 차이를 확인할 수 있다.

설명 20분보다 판정·문구·배치·수정 60분이 낫다

AI 리터러시 Q&A는 사용설명서만 읽게 해서는 충분하지 않을 수 있다고 본다. 행동강령 Measure 2.2도 고지 상황, 업무흐름, 편집책임, 창작물, 접근성, 누락·오류 수정절차를 훈련 또는 지침에서 다루도록 권한다. 법이 단일 과정·횟수를 정했다는 뜻은 아니다.

80분 파일럿 예시는 다음과 같다.

10분 — 경계 세우기: 한국의 AI 사업자·도구 이용자와 EU의 제공자·배포자를 구분한다.
15분 — 근거 찾기: 법문·가이드라인에서 적용 문장과 예외를 직접 찾는다.
30분 — 여섯 장면 판정: 고객 챗봇, 내부 요약도구, 대표 합성영상, 공익 공지, 제품 이미지, 감정인식 학습도구를 팀별로 판정한다.
15분 — 고지 만들기: 문구, 첫 노출 위치, 접근성, 사람 이관, 기계표시 보존을 한 화면에 설계한다.
10분 — 오류 복구: 표지가 잘린 영상과 승인 뒤 AI가 바꾼 공지를 발견한 뒤 중지·수정·재배포 절차를 실행한다.

직무별로 홍보는 공익 텍스트·편집책임, L&D는 합성 강사·학습자 노출, 고객센터는 직접 대화·사람 이관, 개발·제품은 역할·기계표시, 구매는 공급자 계약·업데이트 통지를 깊게 다룬다.

AI 투명성 고지 훈련 — 법적 상황·업무흐름·편집책임·접근성·오류 수정을 다루는 EU 행동강령 Measure 2.2

European Commission 행동강령 물리·인쇄면 34쪽. Measure 2.2는 직원·외부 계약자의 역할과 지식에 맞춰 고지 상황, 업무흐름, 편집책임, 창작물, 접근성, 잘못된 표지의 수정절차를 다루도록 권한다. 행동강령 가입은 자발적이며 Article 50 의무 자체와 구분된다.

좋은 평가는 정답률보다 근거와 수정 행동을 본다

평가는 문구 기억보다 역할 분류의 근거, 지역·사람·채널·첫 노출의 완성도, 접근 가능한 표시 위치, 실질 검토 증거, 모호한 장면의 중단·상향, 누락 뒤 중지·수정·재배포 시간, 채널·공급자·파일변환별 재발을 본다. 전부 즉답하거나 빨리 고친 것만 높게 평가하면 경계와 원인을 놓친다.

학습기록과 준수기록도 나눈다. 연습 오답은 혼동되는 규칙·화면을 찾는 데이터이고, 실제 외부 누락은 별도 사건으로 관리한다. 공급자 계약, 파일 변환, 승인선, UI 배치 같은 재발 원인도 남긴다.

교육 대시보드에는 수강 완료율보다 다음 변화가 더 중요하다.

근거 없는 즉답이 줄었는가.
판단 불가일 때 필요한 정보를 모아 상향하는 비율이 높아졌는가.
첫 노출 위치와 접근성 누락이 줄었는가.
인간 검토와 편집책임을 구체적으로 기록하는가.
오류표지를 발견한 뒤 수정·회수·재배포가 실제로 작동하는가.

한국 기업은 법적 최소선과 자율 고지를 같은 문장으로 섞지 않는다

운영 화면에는 네 기준선을 분리한다. 한국 법적 의무는 국내 법무·제품, EU Article 50 법적 의무는 EU 법무·현지 책임자, 계약·플랫폼 요구는 영업·구매·채널, 회사 자율 정책은 AI 거버넌스·브랜드가 결정한다.

이렇게 분리하면 “법에는 없으니 숨긴다”와 “회사 권고를 어기면 불법이다”라는 두 과장을 피할 수 있다. 예를 들어 일반 회사가 AI로 내부 초안을 만들었다면 한국 AI기본법상 직접 제공 사업자의 표시 의무와는 다른 장면일 수 있다. 그래도 중요한 인사결정 문서, 고객 약속, 대표 메시지에는 회사가 더 높은 인간 검토와 자율 고지를 요구할 수 있다.

L&D는 시나리오·수행평가, 법무는 해석·변경, 제품·콘텐츠는 첫 노출·파일표시를 맡는다. 개인정보·보안·노무·브랜드는 규정 충돌을 보고, 감사는 표본 장면에서 고지와 복구가 작동하는지 확인한다.

규칙이 바뀌면 분기표의 관할·날짜·근거 링크와 정답을 갱신하고 영향받는 역할만 재훈련한다. 법과 시스템 변경을 같은 흐름에 넣어야 1년에 한 번 듣는 과정과 현장이 분리되지 않는다.

고지의 목적은 면책 문구가 아니라 사용자가 신뢰를 조정하게 하는 데 있다

좋은 AI 고지는 상대가 사람과 AI를 구분하고 신뢰 수준을 조정하며, 사람의 검토나 이의를 요청하게 하는 정보다. 짧아도 AI라는 사실, 무엇을 하는지, 한계, 사람에게 넘기는 법을 잇는다.

기업교육의 결론도 같다. 전 직원에게 법조문을 길게 설명하는 것보다, 자기 업무의 장면을 관할–역할–접점–노출–검토–표현으로 판정하고 모호하면 멈춰 상향하는 훈련이 낫다. AI 투명성 고지 역량은 라벨을 붙이는 기술이 아니라, 사람의 신뢰와 조직의 책임을 실제 접점에서 조정하는 판단력이다.