目錄
이 글의 정보는 2026년 8월을 기준으로 합니다. 유럽연합의 실제 집행 방식, 기술 표준과 회원국별 감독 체계는 앞으로도 변경될 수 있습니다.
2026년 8월 2일부터 EU AI Act 제50조가 본격적으로 적용됩니다. 사람과 직접 상호작용하는 AI 시스템은 자신이 AI라는 사실을 밝혀야 하며, 생성형 AI의 출력물에는 기계가 인식할 수 있는 표시를 포함해야 합니다. 감정 인식, 생체정보 분류, 딥페이크 콘텐츠를 사용하거나 실질적인 인간 검토 없이 공익 관련 문서를 공개하는 경우에도 일반 사용자에게 별도의 고지가 필요할 수 있습니다.
앞으로 변화가 가장 쉽게 드러날 분야는 기업 고객센터, 음성 상담 전화, AI 가상 인물, 광고와 소셜미디어 콘텐츠입니다. 기존에는 서비스 뒤에서 AI가 처리하고 있는지 판단하기 어려웠던 경우에도 첫 상호작용이나 콘텐츠 노출 시점에 명확한 안내를 제공해야 합니다.
표시가 늘어나면서 또 하나의 문제도 등장합니다. 바로 「고지 피로（disclosure fatigue）」입니다. 모든 웹사이트, 고객센터와 소셜미디어 콘텐츠에 AI 라벨이 표시되면, 이러한 안내도 Cookie 동의 창처럼 결국 사용자가 닫거나 건너뛰는 요소로 전락하지 않을까요? 아래에서는 제50조의 적용 범위, 예외, 유예기간과 일반 사용자 및 중소기업이 주의해야 할 사항을 정리합니다.
EU AI Act 제50조는 언제부터 적용될까? 2026년 8월 2일부터 시행
EU AI Act는 2024년 8월 1일 발효되었지만, 각 규정은 단계적으로 적용됩니다. 제50조의 투명성 의무는 2026년 8월 2일부터 시행되며, EU AI Office, 각 회원국의 관할 기관과 특정 상황에서는 유럽데이터보호감독기구가 감독을 담당합니다.
제50조는 책임 주체를 「제공자（provider）」와 「배포자（deployer）」로 구분합니다. 제공자는 일반적으로 AI 시스템을 개발하거나 자신의 이름으로 해당 시스템을 EU 시장에 출시하는 기업입니다. 배포자는 AI를 실제 웹사이트, 고객센터, 미디어, 마케팅 또는 기타 전문 활동에 사용하는 조직입니다.
하나의 기업이 동시에 두 역할을 맡을 수도 있습니다. 자체적으로 고객센터 챗봇을 개발해 다른 기업에 제공한다면 제공자에 해당할 수 있습니다. 반면 제3자의 생성형 AI를 자사 웹사이트 고객센터에 연결해 사용하는 경우에는 배포자에 더 가깝습니다.
EU AI Act 제50조는 어떤 상황을 규제할까?
제50조는 크게 네 가지 투명성 상황을 다룹니다. 모든 관련 안내는 명확하고 쉽게 알아볼 수 있어야 하며, 늦어도 첫 상호작용 또는 콘텐츠를 처음 접하는 시점에 제공되어야 합니다.
사람과 직접 양방향으로 소통하는 AI 시스템은 상대방에게 AI와 상호작용하고 있다는 사실을 알려야 합니다. 기업 고객센터, 음성 상담 전화, 가상 비서와 일부 AI 에이전트가 이 규정의 적용 대상이 될 수 있습니다. 당시의 상황에서 일반인이 상대방이 AI라는 사실을 명백하게 알 수 있다면 별도 안내가 필요하지 않을 수 있습니다. 다만 EU 지침은 이 예외를 엄격하게 판단하도록 요구합니다. 기업이 단순히 「사용자라면 당연히 AI라는 것을 알 수 있다」고 판단하는 것만으로 고지를 생략해서는 안 됩니다.
텍스트, 이미지, 음성 또는 영상을 생성하거나 조작할 수 있는 AI 시스템은 원칙적으로 출력물에 기계 판독 가능한 표시를 포함해야 합니다. 이를 통해 탐지 도구가 콘텐츠가 AI로 생성 또는 수정되었는지 식별할 수 있어야 합니다. 이 의무는 주로 AI 시스템 제공자가 부담하며, 모든 콘텐츠에 사람이 볼 수 있는 워터마크를 넣어야 한다는 의미는 아닙니다. 기계 판독 가능한 표시는 기술적 식별을 위한 것이며, 일반 사용자가 볼 수 있는 문구나 아이콘은 별도의 고지 의무에 해당합니다. AI가 맞춤법 수정, 서식 정리나 기타 표준적인 편집만 수행하고 입력 정보나 원래 의미를 실질적으로 변경하지 않았다면 이러한 표시를 추가하지 않아도 될 수 있습니다.
감정 인식 또는 생체정보 분류 시스템을 사용하는 배포자는 분석 대상자에게 해당 사실을 알려야 합니다. 예를 들어 고객센터에서 AI로 통화자의 감정을 분석하거나 카메라와 음성 정보를 이용해 감정 상태를 판단하는 경우 안내가 필요할 수 있습니다. 이 의무는 실시간 분석뿐 아니라 사후 분석에도 적용될 수 있습니다. 고지 의무가 있다고 해서 해당 시스템을 반드시 합법적으로 사용할 수 있다는 뜻은 아닙니다. 직장이나 교육기관에서의 일부 감정 인식 활용은 EU AI Act의 다른 조항에 따라 금지되거나 제한될 수 있습니다.
AI로 생성 또는 수정한 이미지, 음성이나 영상이 실제로 존재하거나 존재할 가능성이 있거나 과거에 존재했던 사람, 사물, 장소, 조직 또는 사건을 모방해 일반인이 실제 콘텐츠로 오인할 가능성이 있다면 딥페이크에 해당할 수 있습니다. 배포자는 일반인이 콘텐츠를 처음 접할 때 AI로 생성 또는 조작되었다는 사실을 명확하게 알려야 합니다. 파일 내부에 기계 판독 가능한 표시만 숨겨 놓는 것으로는 충분하지 않으며, 눈으로 보거나 귀로 들을 수 있는 안내도 제공해야 합니다. AI로 생성 또는 수정된 텍스트가 공익 관련 정보를 대중에게 전달하기 위해 공개되고, 실질적인 인간 검토나 편집 통제를 거치지 않았다면 이 역시 명확하게 고지해야 합니다. 공익 사항에는 정치와 민주적 절차, 사법 및 법 집행, 공공 안전, 공중보건, 환경 보호, 소비자 안전, 금융, 과학과 문화 등 사회적 논의가 포함될 수 있습니다.
EU AI Act 시행 일정: 입법부터 투명성 지침까지
유럽연합 집행위원회는 2025년 11월 AI 생성 콘텐츠 투명성 실천규범 제정 절차를 시작했습니다. 기업, 시민단체와 기술 전문가가 참여한 뒤 2026년 6월 10일 최종본을 발표했습니다.
2026년 7월 20일에는 제50조 시행 지침과 AI 콘텐츠 표시 아이콘을 발표해 제공자, 배포자, 딥페이크 콘텐츠와 공익 관련 텍스트를 어떻게 판단해야 하는지 설명했습니다.
2026년 8월 2일 이전에 이미 시장에 출시된 생성형 AI 시스템은 제50조 제2항의 기계 판독 가능한 표시 및 탐지 가능성 의무에 한해 2026년 12월 2일까지 준수 시점을 연기할 수 있습니다.
챗봇 고지, 감정 인식 안내, 딥페이크 표시와 공익 관련 텍스트 공개에는 동일한 전면적 유예기간이 적용되지 않습니다.
2026년 8월 2일 이전에 생성된 콘텐츠에도 소급해 표시를 추가할 의무는 없습니다. 다만 EU는 실행 가능한 경우 배포자가 자발적으로 관련 정보를 공개할 것을 권장합니다.
AI 고지 피로란 무엇일까? 표시가 많다고 효과적인 것은 아니다
「고지 피로」는 EU AI Act에 규정된 법률 용어가 아니라, 제50조 적용 이후 나타날 수 있는 사용자 경험상의 문제입니다.
고객센터, 광고, 영상, 소셜미디어 게시물과 음성 서비스에 모두 AI 안내가 나타나면 일반 사용자는 이를 빠르게 닫거나 건너뛰는 데 익숙해질 수 있습니다. WIRED는 이러한 상황을 GDPR 시행 이후 대량으로 등장한 Cookie 동의 창에 비유했습니다. 안내는 계속 존재하지만 실제로 읽는 사람은 점점 줄어들 수 있다는 것입니다.
문제는 표시의 수뿐만 아니라 서로 다른 위험 수준에 동일한 안내가 사용되는지 여부입니다. 문장의 맞춤법을 수정하는 것, AI 고객센터가 환불 문의에 답하는 것과 AI로 정치인의 가짜 영상을 만드는 것은 위험도가 분명히 다릅니다.
세 가지 경우에 모두 같은 크기와 같은 문구의 AI 아이콘만 표시한다면 사용자는 콘텐츠가 정확히 어떤 처리를 거쳤는지 알기 어렵습니다. 시간이 지나면 라벨 자체가 인터페이스의 일부처럼 느껴져 더 이상 경고 기능을 하지 못할 수도 있습니다.
보다 합리적인 방식은 첫 번째 안내를 간단하고 명확하게 제공하는 것입니다. 예를 들어 「현재 AI 고객센터와 대화하고 있습니다」 또는 「영상의 일부 내용이 AI로 수정되었습니다」라고 표시할 수 있습니다. 사용자가 더 자세한 정보를 원하는 경우 두 번째 단계에서 사용 기술, 수정 범위와 책임 조직을 설명하는 방식이 적절합니다.
EU AI 표시 아이콘과 Code of Practice는 어떻게 사용할까?
EU는 현재 세 가지 AI 콘텐츠 아이콘을 제공합니다.
기본 AI 아이콘
AI로 완전히 생성됨
일부가 AI로 수정됨
각 아이콘은 검은색, 흰색과 흑백 반투명 등 여러 시각적 버전으로 제공됩니다. 아이콘은 무료로 사용할 수 있으며, 유럽연합 집행위원회나 AI Office의 이름을 별도로 표시할 필요도 없습니다.
이 아이콘이 의무적으로 사용해야 하는 유일한 형식은 아닙니다. 제50조의 고지 의무 자체는 법적 효력을 가지지만, 기업은 EU 아이콘을 사용하거나 똑같이 명확하고 쉽게 알아볼 수 있으며 접근성 요건을 충족하는 다른 표시를 설계할 수 있습니다.
EU 아이콘은 원칙적으로 일반 사용자가 콘텐츠를 처음 접하는 시점에 볼 수 있어야 하며, 다른 인터페이스 요소에 가려져서는 안 됩니다. 콘텐츠를 다운로드하거나 전달한 뒤에도 표시가 가능한 한 유지되어야 합니다.
아이콘과 함께 사용하는 문구는 일반인이 이해할 수 있는 표현이어야 하며, 기술적 약어나 모호한 용어만 표시해서는 안 됩니다.
AI 생성 콘텐츠 투명성 실천규범은 자발적으로 참여하는 준수 도구입니다. 서명 기업은 규범에 포함된 표시, 탐지와 고지 조치를 바탕으로 제50조 제2항, 제4항과 제5항의 요건을 충족했다는 근거를 구축할 수 있습니다.
규범에 참여하지 않은 기업도 자체 대안을 설계할 수 있지만, 해당 방식이 동등한 효과를 가진다는 점을 입증해야 합니다. 단순히 규범에 서명하거나 EU 아이콘을 표시했다고 해서 모든 법적 요건을 자동으로 충족하는 것은 아닙니다.
어떤 AI 콘텐츠는 반드시 표시하지 않아도 될까?
제50조는 AI를 사용한 모든 콘텐츠에 동일한 라벨을 붙이도록 요구하지 않습니다. 다만 각 예외는 서로 다른 의무에 적용됩니다.
AI가 맞춤법 수정, 서식 정리 또는 기타 표준적인 편집만 지원하고 입력 정보와 원래 의미를 실질적으로 변경하지 않았다면, 제공자는 출력물에 기계 판독 가능한 표시를 추가하지 않아도 될 수 있습니다. AI로 오탈자를 검사하는 것과 AI에게 글 전체를 다시 작성하도록 요청하는 것은 법적으로 같은 상황이 아닙니다. 글의 길이가 얼마나 달라졌는지만으로 판단하는 것도 적절하지 않습니다. 원래의 정보, 관점과 의미가 실질적으로 변경되었는지를 함께 확인해야 합니다.
AI로 생성된 공익 관련 텍스트라도 실질적인 인간 검토나 편집 통제를 거쳤고, 자연인 또는 법인이 최종 편집 책임을 부담한다면 별도로 AI 생성 표시를 하지 않아도 될 수 있습니다.
인간 검토는 맞춤법, 문법이나 서식을 확인하는 수준에 그쳐서는 안 됩니다. 담당자는 주제에 관한 관련 지식을 갖추고 사실, 논증과 정보 출처를 확인할 수 있어야 하며, 콘텐츠를 수정하거나 반려하거나 공개를 거부할 권한도 있어야 합니다.
따라서 블로그나 미디어가 AI의 도움을 받아 글을 작성한다고 해서 모든 글에 자동으로 라벨을 붙여야 하는 것은 아닙니다. 콘텐츠가 공익 사항을 다루더라도 관련 지식을 갖춘 사람이 실질적으로 검토하고, 명확한 개인 또는 조직이 편집 책임을 부담한다면 예외가 적용될 수 있습니다.
딥페이크 콘텐츠가 명백하게 예술, 창작, 풍자, 허구 또는 이와 유사한 작품에 해당하는 경우에도 AI로 생성 또는 수정되었다는 사실은 밝혀야 합니다. 다만 작품의 전시와 감상을 방해하지 않는 방식으로 안내할 수 있습니다. 이는 고지 방식이 완화되는 것이지 고지 의무 자체가 완전히 면제되는 것은 아닙니다.
중소기업은 EU AI Act 제50조를 어떻게 준수해야 할까?
중소기업이 모든 AI 콘텐츠에 같은 아이콘을 일괄적으로 붙일 필요는 없습니다. 먼저 기업이 AI를 어떤 방식으로 사용하는지 확인한 뒤, 역할과 콘텐츠 유형에 따라 의무를 판단하는 것이 현실적입니다.
1단계: 기업이 제공자인지 배포자인지 확인하기
자체 AI 제품을 개발하거나 회사 이름으로 AI 시스템을 EU 시장에 출시한다면 제공자에 해당할 수 있습니다.
ChatGPT, Claude, Gemini 또는 기타 제3자 도구를 이용해 고객센터 콘텐츠, 이미지, 영상과 글을 제작한다면 일반적으로 배포자에 더 가깝습니다.
같은 회사라도 서비스에 따라 지위가 달라질 수 있으므로 기업 전체를 한 번만 분류해서는 안 됩니다.
2단계: 일반 사용자가 접하게 되는 AI 활용 상황 점검하기
우선적으로 확인해야 할 상황은 다음과 같습니다.
웹사이트 고객센터와 음성 고객센터
AI 가상 인물 또는 디지털 휴먼
감정 인식과 생체정보 분류
AI로 생성 또는 수정한 이미지, 음성과 영상
정치, 공공 안전, 건강, 금융 또는 기타 공익 사항을 다루는 텍스트
대외적으로 공개되는 광고, 소셜미디어와 마케팅 콘텐츠
각 상황에는 서로 다른 고지 방식이 필요합니다. 웹사이트 하단에 「당사는 AI를 사용할 수 있습니다」라는 문구만 표시하는 것으로 모든 의무를 충족하기는 어렵습니다.
3단계: 기술적 표시와 사용자가 볼 수 있는 안내 구분하기
기계 판독 가능한 표시는 시스템과 탐지 도구가 AI 콘텐츠를 식별하도록 하는 것입니다. 명확한 라벨은 일반 사용자가 콘텐츠가 AI로 생성 또는 수정되었다는 사실을 알 수 있도록 하는 것입니다.
기업은 둘 중 하나만 완료한 뒤 다른 의무까지 처리했다고 판단해서는 안 됩니다. 특히 딥페이크 콘텐츠에서는 파일에 숨겨진 기술적 표시에만 의존할 수 없습니다.
4단계: 인간 검토와 공개 기록 보관하기
기업은 어떤 AI 시스템을 사용했는지, 누가 콘텐츠를 검토했는지, 검토 범위에는 어떤 항목이 포함되었는지, 담당자에게 수정 또는 공개 거부 권한이 있었는지를 기록해야 합니다.
공익 관련 텍스트가 인간 검토를 거쳤다고 주장하면서 단순히 「검토 완료」 체크 표시 하나만 남기는 것으로는 충분하지 않습니다.
검토 절차에서는 최소한 사실을 어떻게 확인했는지, 정보 출처를 어떻게 검토했는지, 최종 편집 책임을 누가 부담하는지를 설명할 수 있어야 합니다.
5단계: 표시 위치와 접근성 설계 확인하기
안내는 첫 상호작용 또는 콘텐츠가 처음 노출되는 시점에 나타나야 합니다. 이용약관, 웹사이트 하단이나 여러 번 클릭해야 확인할 수 있는 위치에 숨겨서는 안 됩니다.
아이콘 옆의 문구는 AI가 무엇을 했는지 직접적으로 설명해야 합니다. 예시는 다음과 같습니다.
현재 AI 고객센터와 대화하고 있습니다
이미지가 AI로 완전히 생성되었습니다
영상의 일부 화면이 AI로 수정되었습니다
이 글은 AI로 생성되었으며 인간의 편집 검토를 거치지 않았습니다
기업이 EU 사용자를 대상으로 서비스를 제공한다면 회사가 EU 역외에 있더라도 EU AI Act가 해당 서비스에 적용되는지 추가로 확인해야 합니다.
EU AI Act 제50조를 위반하면 얼마의 과징금을 받을까?
제50조는 주로 각 회원국의 시장감독기관이 집행합니다. 범용 AI 모델 제공자가 직접 제공하는 일부 AI 시스템이나 초대형 온라인 플랫폼 또는 검색엔진에 통합된 특정 시스템은 AI Office가 감독할 수 있습니다.
관련 의무를 위반한 기업은 최대 1,500만 유로 또는 직전 회계연도 전 세계 매출액의 3%에 해당하는 행정 과징금을 부과받을 수 있습니다.
실제 제재 수준은 기업 규모, 위반 내용과 비례성 원칙 등을 고려해 결정됩니다. 중소기업과 소형·중형 시가총액 기업에는 이에 상응하는 고려가 적용될 수 있습니다.
EU AI Act 제50조가 가져오는 변화는 이미지 모서리에 AI 아이콘 하나를 추가하는 데 그치지 않습니다. 기업은 먼저 콘텐츠가 누구에 의해 생성되었는지, AI가 어떤 부분을 변경했는지, 사람이 실질적으로 검토했는지, 최종 공개 책임을 누가 부담하는지를 확인해야 합니다.
일반 사용자가 표시를 통해 실제로 유용한 정보를 얻을 수 있는지도 AI가 구체적으로 어떤 작업을 했는지 안내가 직접적으로 설명하는지에 달려 있습니다. 표시가 너무 적으면 사용자를 오도할 수 있고, 모든 상황에 같은 경고를 사용하면 고지 피로가 발생할 수 있습니다.
향후 집행의 핵심은 위험 수준, 표시 강도와 사용자 경험 사이에서 합리적인 균형을 만들 수 있는지에 달려 있습니다.
자주 묻는 질문 FAQ
EU AI Act 제50조는 2026년 8월 2일부터 적용됩니다. EU AI Act 자체는 2024년 8월 1일 발효되었지만, 개별 규정은 단계적인 일정에 따라 시행됩니다.
아닙니다. 제공자가 부담하는 기계 판독 가능한 표시 의무와 배포자가 제공해야 하는 가시적 안내 의무는 서로 다릅니다.
딥페이크 콘텐츠와 실질적인 인간 검토를 거치지 않은 공익 관련 텍스트는 배포자가 명확하게 표시해야 하는 주요 콘텐츠에 해당합니다.
반드시 그런 것은 아닙니다. 글이 공익 사항을 다루더라도 관련 지식을 갖춘 사람이 실질적으로 검토하고, 자연인 또는 법인이 최종 편집 책임을 부담한다면 제50조에 따른 별도 표시가 필요하지 않을 수 있습니다.
맞춤법, 문법이나 서식만 확인한 것은 실질적인 검토로 인정되지 않습니다.
2026년 8월 2일 이전에 이미 생성된 콘텐츠에는 소급해 표시를 추가할 의무가 없습니다.
다만 유럽연합 집행위원회는 기술적·실무적으로 가능한 경우 배포자가 자발적으로 관련 정보를 공개할 것을 권장합니다.
제한적인 유예기간만 있습니다.
2026년 8월 2일 이전에 이미 시장에 출시된 생성형 AI 시스템은 제50조 제2항의 기계 판독 가능한 표시와 탐지 가능성 의무에 한해 2026년 12월 2일까지 준수 시점을 연기할 수 있습니다.
그 밖의 투명성 의무는 원칙적으로 2026년 8월 2일부터 적용됩니다.