딥페이크 518% 증가…정부가 내년부터 강제하는 'AI 표시제'의 현실
생성형 AI 기술의 발전 속도만큼 빠르게 커지는 신뢰 문제, 어떻게 풀 것인가?

안녕하세요. 디지털에이전시 이앤아이입니다.

요즘 AI 기술로 만든 영상이나 이미지를 보면서 '이게 정말 진짜일까?'라는 의문이 들 때가 많으신가요?
정부도 같은 고민을 하고 있었습니다. 과학기술정보통신부는 내년 1월부터 모든 AI 생성물에 눈에 보이는 워터마크를 붙이도록 의무화하는 'AI 기본법' 시행령을 입법예고했거든요.

이 조치가 나온 배경엔 심각한 현실이 있습니다.
2024년 10월 기준 딥페이크 성범죄로 경찰에 신고된 건수가 전년 대비 무려 518% 증가한 964건에 달했습니다.
누군가의 얼굴과 음성을 마음대로 합성하는 기술이 악용되면서 피해자가 급증한 것이죠. 이미지도 마찬가지예요. AI로 만든 가짜 정보나 선동 콘텐츠가 하루가 멀다고 인터넷을 떠도니까요.



특히 주목할 점은 정부가 당초 '비가시적 워터마크'만 허용하려다가 국회의 강한 지적을 받고 정책을 바꿨다는 겁니다.
누가 봐도 AI 생성물임을 알 수 있어야 한다는 국민 여론을 반영한 거죠.
비가시적 워터마크(눈에 안 보이지만 기계가 읽을 수 있는 표시)를 넣더라도, AI 생성물이라는 사실을 최소 1회 이상 명확히 고지해야 합니다. 딥페이크 영상은 더 강합니다. 처음부터 끝까지 AI 생성물임을 표시해야 거든요.

물론 업계에선 우려의 목소리가 나옵니다.
워터마크가 콘텐츠 품질을 떨어뜨린다고 봐요. 특히 영화나 드라마처럼 창의적 표현물에선 시각적 방해를 일으킬 수 있다는 점도 지적합니다. 엔딩 크레딧에만 AI 기술 활용 여부를 명시하는 방안도 고려되고 있는 이유입니다.

흥미로운 건 한국만의 움직임이 아니라는 점입니다.
EU는 이미 올해 8월부터 AI법을 시행했고, 미국도 AI 워터마크 기준을 마련했거든요. 전 세계가 동시다발적으로 AI 신뢰 기반을 만들고 있는 셈입니다.

내년 1월부터 과태료 계도기간이 최소 1년간 진행되므로 기업들도 준비할 여유가 있을 것 같습니다.
결국 이 조치는 기술 발전을 막는 게 아니라, 기술이 신뢰받을 수 있는 환경을 만드는 과정이라고 봅니다. AI와 인간이 함께 살아갈 세상을 위한 첫 걸음이라고 할 수 있겠네요.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#AI워터마크 #AI기본법 #딥페이크규제 #생성형AI #투명성의무 #디지털신뢰 #AI규제 #워터마크의무화 #콘텐츠보호 #AI안전 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업