AI로 만든 사진과 기사, 어디까지 표시해야 하나…EU AI법이 바꾼 콘텐츠 기준
8월 2일부터 AI 투명성 의무 시행…챗봇·딥페이크·생성물 표시 규칙 달라
이미지·영상·음성 딥페이크는 공개 의무…공익 정보성 글도 조건 따라 표시
유럽연합(EU)에서 인공지능으로 만든 사진과 영상, 음성, 텍스트를 어떻게 표시해야 하는지를 정한 투명성 의무가 시행됐다. 생성형 AI가 일상적인 콘텐츠 제작도구로 자리 잡으면서 앞으로는 ‘AI를 썼는가’보다 어떤 방식으로 만들었고, 사람이 얼마나 개입했으며, 이용자가 실제 콘텐츠로 오인할 가능성이 있는지가 표시 여부를 가르는 기준이 된다.
EU 집행위원회는 2026년 8월 2일부터 인공지능법(AI Act) 제50조의 투명성 의무를 적용하고 있다. AI 시스템 제공자는 생성·조작된 콘텐츠에 기계가 읽을 수 있는 표시를 넣어야 하고, 실제 이용·배포하는 측에는 딥페이크와 일부 공익성 텍스트 등에 별도의 공개 의무가 부과된다.
AI 콘텐츠라고 모두 같은 방식으로 표시하는 것은 아니다
EU AI법은 AI 생성물을 하나의 범주로 묶지 않는다. 누가 의무를 지는지와 어떤 형태의 콘텐츠인지에 따라 규칙을 달리 적용한다.
우선 챗봇과 같은 대화형 AI 시스템 제공자는 이용자가 사람과 대화하는 것이 아니라 AI와 상호작용하고 있다는 사실을 알 수 있도록 시스템을 설계해야 한다. 다만 일반적인 사람이 상황상 AI라는 사실을 명백하게 알 수 있다면 예외가 인정될 수 있다.
사진과 영상, 음성, 텍스트를 생성하는 AI 시스템 제공자는 출력물이 AI로 생성되거나 조작됐음을 기계가 판독할 수 있는 형식으로 표시해야 한다.
반면 콘텐츠를 실제로 게시하거나 사용하는 사람과 기업에는 별도의 의무가 적용된다. 대표적인 대상이 딥페이크와 공익 사안을 다루는 일부 AI 생성 텍스트다.
사진·영상·음성 딥페이크는 사람이 알아볼 수 있게 알려야
딥페이크는 AI를 이용해 만든 이미지나 영상, 음성이 실제 사람이나 사물, 장소, 사건처럼 보이거나 들리도록 한 콘텐츠를 말한다.
EU AI법 제50조는 이런 딥페이크를 사용하는 사람이 콘텐츠가 AI로 생성되거나 조작됐다는 사실을 공개하도록 한다. 단순히 파일 내부에 기계가 읽는 정보를 넣는 것만으로는 충분하지 않다.
EU 집행위원회 지침은 딥페이크를 보는 사람이 별도의 기술도구 없이도 알아볼 수 있도록 눈에 보이거나 들리는 방식으로 명확하게 표시해야 한다고 설명한다. 이용자가 콘텐츠에 처음 노출될 때까지는 표시가 이뤄져야 한다.
따라서 AI로 실제 인물의 발언을 합성한 영상이나 유명인이 하지 않은 행동을 한 것처럼 만든 사진을 게시하면서 이용자가 이를 실제 기록으로 받아들일 가능성이 있다면 표시 의무가 중요해진다.
모든 AI 사진이 딥페이크인 것은 아니다
AI로 생성했다는 사실만으로 모든 이미지가 법률상 딥페이크가 되는 것은 아니다.
딥페이크 판단에서는 기존 사람이나 사물, 장소, 사건과 얼마나 비슷한지, 어떤 메시지를 전달하는지, 어디에 배포하는지, 이용자가 실제라고 기대할 가능성이 있는지를 함께 본다.
예를 들어 현실에 존재하지 않는 가상의 풍경을 명백한 일러스트 형태로 제작했다면 실제 사건이나 장소를 사실처럼 속이는 딥페이크와 성격이 다르다.
반대로 실제 정치인이나 기업인, 연예인이 하지 않은 행동을 한 것처럼 사진이나 영상을 만들었다면 오인 가능성이 훨씬 커진다.
중요한 기준은 AI 기술 사용 자체보다 콘텐츠가 진짜처럼 받아들여질 가능성이다.
AI가 만든 기사도 무조건 ‘AI 작성’ 표시 대상은 아니다
언론과 온라인 콘텐츠 업계가 가장 주목해야 할 부분은 텍스트다.
EU AI법은 공공의 관심사에 대해 대중에게 정보를 제공하려는 목적으로 AI가 생성하거나 조작한 텍스트를 게시할 경우 AI가 만들었다는 사실을 공개하도록 규정한다. 정치와 민주주의, 행정, 사법·치안, 기본권, 공공안전, 공중보건 등이 대표적인 공익 사안에 포함된다.
따라서 AI가 정치나 정책, 보건 문제에 관한 글을 사실상 완성하고 사람이 거의 손대지 않은 채 공개한다면 표시 의무가 적용될 가능성이 높다.
다만 중요한 예외가 있다.
AI가 만든 텍스트라도 사람이 검토하거나 편집했고, 자연인이나 법인이 게시물에 대한 편집 책임을 지는 경우에는 이 공개 의무가 적용되지 않을 수 있다. 이는 EU AI법 원문에 명시된 예외다.
기자가 AI를 도구로 썼다는 이유만으로 기사마다 표시해야 하는 것은 아니다
이 예외는 언론사와 출판사, 편집조직에 중요한 의미가 있다.
기자가 AI를 이용해 자료를 정리하거나 초안을 만들었더라도 최종 기사에 대해 사람이 사실관계를 검토하고 문장을 수정하며 편집 책임을 진다면 ‘AI가 만들었다’는 표시를 반드시 붙여야 하는 구조는 아니다.
핵심은 AI 사용 여부가 아니라 인간의 검토와 편집 책임이다.
EU 집행위원회도 공익사안에 관한 AI 생성 텍스트 가운데 인간의 검토나 편집 통제를 거쳤고 자연인 또는 법인이 편집 책임을 부담하는 경우에는 표시 의무에서 제외될 수 있다고 설명한다.
이는 생성형 AI를 편집 보조도구로 사용하는 언론과 AI가 콘텐츠를 자동 생산·게시하는 서비스를 서로 구분하는 기준이 된다.
AI가 기사 전체를 자동 작성·게시하면 판단이 달라진다
반대로 인간의 실질적인 검토 없이 AI가 공익 관련 글을 작성하고 자동으로 게시하는 구조라면 표시 의무가 적용될 가능성이 커진다.
예를 들어 AI가 정부 정책이나 선거, 보건정책 관련 기사를 자동으로 생성해 사람이 읽어보지 않은 채 뉴스사이트에 게시하는 방식이다.
이 경우 독자는 사람이 취재·검증한 기사인지 AI가 자동 생성한 글인지 구별하기 어렵다. EU가 공익 관련 텍스트에 별도 공개 의무를 둔 것도 이런 오인을 줄이기 위해서다.
결국 인간 편집자가 이름만 올려놓았는지가 아니라 실제로 검토와 편집이 이뤄졌는지가 중요하다.
제공자와 이용자 의무는 서로 다르다
AI 콘텐츠 규제를 이해할 때 가장 혼동하기 쉬운 부분은 ‘제공자’와 ‘배포자·이용자’의 역할이다.
생성형 AI 모델이나 시스템을 제공하는 사업자는 생성된 이미지와 영상, 음성, 텍스트가 AI 산출물임을 기계가 알아볼 수 있도록 표시하는 기술적 조치를 마련해야 한다.
반면 해당 시스템으로 콘텐츠를 만들어 대중에게 보여주는 측은 딥페이크나 특정 공익 텍스트 등에 사람이 이해할 수 있는 방식으로 표시해야 한다.
따라서 플랫폼 사업자가 메타데이터를 넣었다고 해서 콘텐츠 게시자의 모든 의무가 끝나는 것은 아니다.
EU 집행위원회는 딥페이크 공개 의무의 경우 기계 판독 표시만으로는 충분하지 않으며 사람이 쉽게 알아볼 수 있는 별도의 안내가 필요하다고 명시했다.
예술·풍자·영화에는 별도의 예외가 있다
EU는 창작활동까지 일률적으로 규제하지는 않는다.
딥페이크가 명백한 예술·창작·풍자·허구 작품이나 이와 비슷한 프로그램의 일부라면 표시 의무는 유지되지만 작품 감상을 방해하지 않는 적절한 방식으로 공개할 수 있다.
영화 제작 과정에서 사용되는 배경 합성이나 특수효과, 일반적인 후반작업도 이용자가 이를 실제 기록으로 오인할 가능성이 낮다면 딥페이크 규제와 같은 방식으로 볼 필요가 없다는 것이 EU 집행위원회 설명이다.
예를 들어 영화 시작 전이나 작품 설명란에서 AI 생성 장면이 포함됐음을 안내하는 방식이 가능하다.
중요한 것은 규제가 창작 자체를 막는 것이 아니라 이용자가 실제 기록과 AI 합성을 혼동하는 것을 막는 데 있다는 점이다.
일반적인 편집 보조 기능에도 예외가 있다
모든 AI 기반 편집 작업에 기계 판독 표시 의무가 생기는 것도 아니다.
EU AI법은 AI 시스템이 일반적인 편집을 보조하는 기능만 수행하거나 입력 데이터의 의미를 실질적으로 바꾸지 않는 경우에는 생성물 표시 의무의 적용을 제외할 수 있도록 했다.
예를 들어 문법 교정이나 노이즈 제거, 기본적인 색상 보정처럼 원래 콘텐츠의 의미를 바꾸지 않는 작업은 사람이나 사건을 새로 만들어내는 생성형 작업과 다르게 취급될 수 있다.
반면 얼굴을 교체하거나 발언 내용을 바꾸고 실제 사건처럼 보이게 만드는 작업은 단순 편집이라고 보기 어렵다.
AI 활용 범위를 판단할 때도 ‘AI 기능을 썼다’는 사실보다 결과물이 원본의 의미를 얼마나 변화시켰는지가 중요해지고 있다.
감정인식과 생체분류도 고지 대상이다
투명성 의무는 생성형 콘텐츠에만 적용되지 않는다.
기업이나 기관이 사람의 감정을 추정하는 AI 시스템을 사용하거나 특정 생체정보를 기준으로 사람을 분류하는 시스템을 사용할 경우 해당 시스템에 노출된 사람에게 이를 알려야 한다.
예를 들어 매장이나 직장에서 카메라를 이용해 사람의 표정과 행동을 분석하는 시스템을 운용한다면 이용자는 자신이 이런 분석 대상이라는 사실을 알아야 한다.
이는 이미지에 ‘AI 생성’이라는 표시를 붙이는 문제와는 다른 종류의 투명성 의무다.
EU AI법이 하나의 표시제도가 아니라 상황별로 서로 다른 고지 의무를 두고 있다는 점을 보여준다.
EU가 별도의 표시 아이콘까지 만든 이유
EU 집행위원회는 AI 생성 콘텐츠 표시를 쉽게 하기 위해 공통 아이콘 체계도 제시했다.
목적은 플랫폼과 콘텐츠 제작자가 서로 다른 표현을 사용하면서 이용자가 혼란을 겪는 문제를 줄이는 것이다. 딥페이크나 AI 생성 텍스트를 쉽게 알아볼 수 있도록 통일된 시각적 표시방식을 마련하려는 시도다.
다만 이런 아이콘 사용만으로 모든 법적 의무가 자동으로 충족되는 것은 아니다.
표시 위치와 형태, 콘텐츠의 성격, 이용자가 실제로 이를 알아볼 수 있는지까지 함께 판단해야 한다.
기존 AI 시스템에는 일부 전환기간이 있다
투명성 의무는 2026년 8월 2일부터 적용됐지만 모든 기존 시스템이 같은 날 즉시 같은 기술적 조치를 완료해야 하는 것은 아니다.
EU 집행위원회는 8월 2일 이전 시장에 출시된 일부 AI 시스템에 대해 2026년 12월 2일까지 전환기간을 인정한다고 안내하고 있다.
따라서 현재 EU에서 AI 서비스를 운영하는 기업은 시스템 출시 시점과 서비스 성격에 따라 적용시기를 별도로 확인해야 한다.
다만 신규 AI 시스템과 콘텐츠 배포자의 딥페이크·공익 텍스트 공개 의무 등은 이미 본격적인 적용 단계에 들어갔다.
자율규범도 함께 운영된다
EU는 법률만 시행하는 것이 아니라 기업이 실제 규정을 적용할 수 있도록 ‘AI 생성 콘텐츠 투명성 행동규범’도 마련했다.
집행위원회는 지난 6월 최종 행동규범을 발표했고 7월에는 EU AI위원회와 함께 이 규범이 법률 준수를 지원하는 적절한 수단이라고 평가했다.
이 규범은 자율적으로 참여하는 방식이다.
기업이 규범에 참여했다고 해서 법률 준수가 자동으로 인정되는 것은 아니지만, 생성 콘텐츠 표시와 라벨링 체계를 설계할 때 실무적인 기준으로 활용할 수 있다.
언론사에는 ‘AI 사용’보다 편집책임이 더 중요해졌다
언론산업에서 이번 규정의 의미는 모든 AI 활용을 공개하라는 데 있지 않다.
AI가 초안을 작성했더라도 기자와 편집자가 사실을 검증하고 문장을 수정하며 법적·편집적 책임을 지는 구조와, AI가 자동으로 기사를 생산해 그대로 게시하는 구조를 구별한 것이 핵심이다.
이는 향후 언론사 내부에서도 AI 활용 기록과 인간 검토절차를 더욱 명확하게 만들 필요가 있다는 뜻이다.
어떤 사람이 원고를 검토했는지, 사실확인을 누가 했는지, 최종 게시 책임자가 누구인지가 중요해질 수 있다.
AI 사용 여부를 표시하는 것보다 인간의 편집 책임이 실질적으로 존재하는지를 증명하는 것이 더 중요한 기준이 되고 있다.
한국 콘텐츠 기업에도 사실상 영향을 미친다
EU AI법은 유럽 기업만을 위한 규정으로 보기 어렵다.
한국에서 AI 서비스를 개발하더라도 EU 시장에 서비스를 제공하거나 유럽 이용자를 대상으로 콘텐츠를 유통하면 해당 규정의 적용 여부를 검토해야 한다.
특히 생성형 AI 플랫폼과 SNS, 광고회사, 게임·영상 제작사, 언론사처럼 콘텐츠를 대량으로 생성하고 배포하는 사업자는 AI 생성 여부를 기술적으로 표시할 방법과 이용자에게 알리는 방식을 별도로 마련할 필요가 있다.
EU는 이미 AI 규제에서 국제적인 기준을 만드는 역할을 하고 있다. 개인정보보호 분야에서 GDPR이 세계 각국의 규제와 기업 운영에 영향을 미쳤듯 AI 생성물 표시 역시 비슷한 방향으로 확산될 가능성이 있다.
핵심은 ‘AI를 썼다’가 아니라 ‘사람을 속일 수 있는가’
AI 생성물 표시 문제를 가장 단순하게 정리하면 모든 AI 사용을 공개하는 제도가 아니다.
챗봇은 이용자가 AI와 대화한다는 사실을 알아야 한다. AI가 만든 이미지·영상·음성 중 실제처럼 보이는 딥페이크는 AI 생성·조작 사실을 알려야 한다. 공익사안을 다룬 AI 생성 텍스트는 사람이 검토하지 않았거나 편집 책임을 지는 주체가 없으면 표시해야 한다.
반면 사람이 실질적으로 검토하고 편집 책임을 지는 기사형 텍스트에는 예외가 적용될 수 있다. 예술과 풍자, 허구 작품에도 표현을 방해하지 않는 별도의 표시방식이 인정된다.
EU가 세운 기준의 중심에는 AI 기술 자체보다 이용자가 무엇을 진짜라고 받아들이는지가 있다.
AI가 콘텐츠 제작도구로 일상화될수록 생성 여부만을 따지는 규제는 한계가 생긴다. 앞으로 콘텐츠 산업의 중요한 기준은 AI 사용을 숨기지 않는 것과 동시에 인간이 어디까지 검토하고 책임졌는지를 분명히 하는 방향으로 이동할 가능성이 크다.