유럽연합(EU)이 인공지능으로 제작하거나 조작한 콘텐츠에 표시를 의무화하는 규정을 본격적으로 시행했다. AI가 만든 이미지와 영상, 음성, 텍스트가 빠르게 확산하는 가운데 이용자가 실제 콘텐츠와 AI 생성물을 구별할 수 있도록 하겠다는 취지다.

유럽연합 집행위원회에 따르면 ‘EU 인공지능법’ 제50조에 따른 투명성 의무가 지난 8월 2일부터 적용됐다. 이에 따라 생성형 AI 서비스 제공자는 AI가 제작하거나 조작한 콘텐츠를 기계가 판독할 수 있도록 표시해야 한다. 

 사람의 얼굴이나 음성을 실제처럼 합성한 딥페이크 영상과 음성에는 이용자가 알아볼 수 있는 표시를 해야 한다. 정치·경제·사회 등 공익적 사안을 전달하기 위해 AI가 작성하거나 조작한 글도 원칙적으로 AI 생성 사실을 밝혀야 한다.

다만 사람이 내용을 검토하고 편집 책임을 지는 경우 등에는 일부 예외가 적용될 수 있다. 예술·창작·풍자 작품도 표현의 자유를 고려해 일반적인 보도 콘텐츠와는 다른 기준이 적용된다.

 챗봇과 음성 상담 서비스 역시 이용자가 인공지능과 대화하고 있다는 사실을 명확히 알려야 한다. 사람과 AI의 구분이 어려운 서비스가 늘어나면서 이용자의 오인이나 기만 가능성을 줄이기 위한 조치다. EU는 이번 규정이 딥페이크를 이용한 허위정보와 금융사기, 여론조작 등을 방지하는 데 도움이 될 것으로 기대하고 있다.

 EU는 AI 생성 콘텐츠를 표시할 때 활용할 수 있는 전용 아이콘도 공개했다. 해당 아이콘은 언론사와 콘텐츠 제작자, AI 기업 등이 무료로 사용할 수 있다. 아이콘 사용 자체는 선택 사항이지만 AI 생성 사실을 공개해야 하는 법적 의무는 그대로 적용된다. 

2026년 8월 2일 이전에 시장에 출시된 생성형 AI 시스템에는 제한적인 유예기간이 부여된다. 이들 시스템은 AI 생성물을 식별할 수 있는 기계 판독 표시 기능을 오는 12월 2일까지 갖춰야 한다. 규정 시행 이전에 만들어진 콘텐츠를 소급해 표시할 의무는 없지만, EU는 가능한 경우 자발적으로 표시할 것을 권고했다.

 이번 규정은 유럽 기업에만 영향을 주는 것이 아니다. 한국과 중국을 비롯한 비EU 국가의 기업이라도 유럽 시장에 AI 서비스나 콘텐츠를 제공하면 규정의 적용 대상이 될 수 있다. 생성형 AI 플랫폼뿐 아니라 언론사, 광고회사, 게임·영상 제작사, 전자상거래 업체도 AI 콘텐츠 제작과 표시 절차를 점검해야 한다.

 특히 인터넷신문이 AI로 기사 초안이나 삽화·사진·동영상을 제작할 경우, 사람이 충분히 검토했는지와 AI 사용 사실을 어느 범위까지 밝혀야 하는지가 중요한 문제가 될 전망이다. 단순히 “AI를 사용했다”는 문구를 넣는 데 그치지 않고, 콘텐츠 파일 내부에 식별 가능한 정보를 삽입하는 기술적 준비도 요구된다.

 EU의 이번 조치는 세계 AI 산업의 경쟁 기준이 모델의 성능뿐 아니라 신뢰성과 투명성으로 이동하고 있음을 보여준다. 앞으로 한국과 중국에서도 AI 생성 콘텐츠 표시와 딥페이크 규제에 관한 논의가 더욱 활발해질 것으로 보인다. AI 시대의 핵심 과제는 콘텐츠 제작을 금지하는 것이 아니라 누가, 어떤 기술을 사용해 만들었는지를 독자에게 투명하게 알리는 데 있다.