데일리연합 (SNSJTV) 송동섭 기자 | 일부 언론 보도와 전문가 제언에서 딥페이크에 대한 형사 처벌을 논의하는 가운데 제작·유통 차단을 위한 별도 규제의 필요성이 강조되고 있다. 보도는 형벌 중심 대응이 확산을 막기에는 한계가 있으므로 제작·유통 단계에서의 규율이 우선되어야 한다고 지적했다.

최근 보도들은 두 축의 사실을 제시하고 있다. 하나는 해외에서 딥페이크 관련 형사처벌 사례와 입법 논의가 확대되고 있다는 점이며 다른 하나는 국내에서 피해 신고가 늘어나는 반면 제작·유통을 직접 차단할 제도적 장치가 약하다는 점이다.

이 같은 사태의 배경으로는 생성형 인공지능 기술의 고도화와 도구화가 꼽힌다. 전문 지식이 없어도 상대적으로 정교한 합성영상을 만드는 소프트웨어가 보급되면서 제작 비용과 진입 장벽이 급격히 낮아진 점이 피해 확산의 주요 원인으로 지적된다.

이해관계 측면에서는 플랫폼 사업자, AI개발 기업, 이용자, 피해자 단체, 규제당국 간 충돌 가능성이 크다. 플랫폼은 이용자 게시물 관리 부담과 영업활동 사이에서 균형을 요구받고 AI 기업은 기술 혁신의 자유를 내세우며 규제 확대에 저항할 유인이 있다는 분석이 나온다.

책임 배분과 집행의 난점도 분명하다. 제작자는 익명화·암호화된 유통 경로를 활용하고 해외 서버에 호스팅되는 경우가 많아 국내 형사·행정 조치만으로는 실효적 차단이 어려운 구조가 가능성이 제기된다. 탐지·증거 수집의 속도도 처벌 기준과 맞물려 실무적 혼선을 초래할 우려가 있다.

사회적 파장은 다층적일 전망이다. 정치 영역에서는 선거 시기 허위·조작 영상의 유통이 공론장을 왜곡할 위험이 있고 개인의 경우 명예·생계 피해가 발생할 수 있다. 산업 측면에서는 규제 강화가 AI 스타트업의 비용 부담과 기술 수출 제한으로 이어질 가능성이 있어 정책 설계에서 균형이 필요하다고 분석된다.

시사점은 규범 설계의 초점이 처벌에서 차단으로 이동해야 한다는 점이다. 구체적 정책 수단으로는 합성물에 대한 출처·제작정보 표기 의무, 자동 워터마크 기술의 표준화와 의무화, 플랫폼의 신속한 유통차단·기록보존 의무, 사전 심사·신고 체계 도입 등이 제시된다.

실행 과정에서는 정의·기준의 명확화, 표현의 자유와 예외 규정(풍자·예술 등)의 설정, 기술적 표준 마련과 국제협력의 병행이 필요하다. 중소 AI기업을 위한 규제 샌드박스와 탐지 기술에 대한 공적 지원도 병행되어야 한다는 의견이 제시된다.

향후 쟁점은 세 갈래에서 전개될 전망이다. 첫째, 선거·정치적 의도성을 띤 딥페이크의 규제 범위와 집행 속도다. 둘째, 플랫폼 책임의 법적 한계 설정과 국제적 조율 여부다. 셋째, 규제 강화가 혁신 생태계에 미치는 경제적 영향이다. 이들 쟁점은 법·행정·산업정책이 맞물려 결정될 문제로 주목된다.