이미지, 음성, 텍스트를 가리지 않고 생성형 AI의 산출물이 전 세계 디지털 공간에 폭포수처럼 쏟아져 나오고 있습니다. 가짜 뉴스, 딥페이크 오정보, 저작권 침해 등 여러 사회적 문제를 일으키면서, 최근 EU를 비롯한 세계 각국의 규제 기관들이 "AI가 만든 콘텐츠에는 반드시 표시(Labelling)를 하라"는 강제 가이드라인을 잇달아 꺼내 들고 있습니다.
이와 관련해 Smashing Magazine에 비탈리 프리드만(Vitaly Friedman)이 기고한 아티클은 EU의 최신 규제가 실무 인터페이스(UI/UX)에 어떤 변화를 요구하는지 잘 보여줍니다.
(출처: Smashing Magazine - New EU Guidelines For AI Labelling / Vitaly Friedman)
https://www.smashingmagazine.com/2026/08/eu-guidelines-ai-labelling/
EU AI Act 제50조 투명성 규정에 따르면, 딥페이크나 AI 챗봇 대화, 인간의 검수 없이 AI가 100% 작성한 공공 텍스트 등에는 전용 AI 마크나 암호화된 메타데이터(Watermark)를 반드시 내장해야 합니다. 기존에 서비스들이 유행처럼 쓰던 모호한 '반짝이 아이콘(✨ Sparkles)' 수준으로는 법적 기준을 충족할 수 없게 된 것입니다.
하지만 현장의 개발자, 에디터, 테스터들이 마주한 진짜 혼란은 규제의 유무가 아닙니다. 바로 "도대체 어디까지를 AI가 만들었다고 볼 것이며, 어디서부터를 사람이 만든 것으로 정의할 것인가?"라는 근본적인 경계선의 모호함입니다.
프롬프트 한 줄 던져서 AI가 뽑아낸 초안을 사람이 문장 몇 개 다듬었다면, 이것은 AI 산출물일까요, 인간의 글일까요? AI가 코딩한 1,000줄의 소스 코드를 엔지니어가 한 시간 동안 디버깅하고 검수했다면 이 코드의 주인은 누구일까요?
글로벌 규제 기관들도 이 모호함을 인지하고 명확한 자격 기준을 세우기 위해 격렬한 논의를 이어가고 있습니다.
유럽연합(EU)의 최신 가이드라인에서는 '인간의 실질적인 검토(Human Review)와 편집적 책임(Editorial Responsibility)'을 핵심 기준선으로 제시합니다. 즉, AI가 초안을 썼더라도 사람이 내용의 진위와 품질을 깊이 있게 검수하고 자신의 이름이나 브랜드로 최종 출판 책임을 진다면, 이는 법적인 'AI 라벨링 강제 대상'에서 제외될 수 있습니다. AI를 단순한 보조 도구(Co-pilot)로 활용한 것으로 인정해 주는 셈입니다.
그러나 문제는 '실질적 검토'라는 개념 자체가 여전히 너무 주관적이라는 점입니다. 사람이 AI 글을 읽어보고 오타 1~2개 고친 것도 '실질적 검토'로 볼 것인가에 대해서는 현장에서도 의견이 분분합니다.
미국 역시 백악관의 AI 행정명령 이후 표준기술연구소(NIST)와 관련 기관들이 C2PA(콘텐츠 자격 및 진위 확인을 위한 연합) 암호화 워터마킹 기술 표준을 적극 추진하고 있습니다. 하지만 미국 언론과 법학계의 최근 논의들을 보면, 워터마크 기술 자체는 AI가 생성한 '최초 파일'에 붙일 수 있을지 몰라도, 사람이 텍스트를 복사해서 옮겨 적거나 이미지를 프레임 단위로 자르고 합성할 경우 그 출처(Provenance)의 경계선이 순식간에 깨져버린다는 기술적 한계를 지적하고 있습니다.
중국의 경우 국가인터넷정보판공실(CAC)을 통해 가장 강압적이고 명확한 이분법적 통제를 가하고 있습니다. 눈에 보이는 가시적 라벨과 눈에 보이지 않는 메타데이터 라벨을 동시 강제하며 라벨 제거 행위 자체를 불법화하고 있지만, 이 역시 '인간과 AI의 중간 지점'에 있는 수많은 창작물에 대한 섬세한 구분은 제공하지 못하고 있다는 평을 받습니다.
한국 상황도 마찬가지입니다. 과학기술정보통신부와 방송통신위원회가 AI 기본법 및 신뢰성 가이드라인을 통해 딥페이크나 AI 생성물 표시를 추진하고 있지만, 실무 현장에서는 "AI의 개입 비율을 몇 %까지 인정할 것인가"에 대한 구체적인 가이드라인이 없어 논의가 진행 중입니다.
제 생각에는, 결국 "무엇이 AI의 산출물인가"라는 질문에 대한 답은 기술적인 '생성 비율'이 아니라 '책임의 주체'로 모아질 수밖에 없다고 봅니다.
AI가 99%를 만들었더라도 인간이 그 위험을 완전히 인지하고 자신의 책임을 걸었다면 그것은 '인간이 컨트롤하는 도구의 산출물'이 되는 것이고, 사람이 90%를 기획했더라도 마지막 출력물의 위험을 검증하지 않고 비판 없이 뱉어냈다면 그것은 '통제되지 않은 AI의 산출물'이 되는 것입니다.
반짝이 아이콘(✨) 하나 붙여두고 은근슬쩍 넘어가는 시대는 끝났습니다. 라벨을 붙이느냐 마느냐의 기술적 문제를 넘어, 우리가 만든 시스템 속에서 인간이 어디까지 검증하고 책임질 것인가를 투명하게 디자인하는 것. 그것이 AI 시대의 아키텍트와 테스터가 끝까지 고민해야 할 본질일 것입니다.
댓글
댓글 쓰기