“딥페이크 온상지는 텔레그램인데”…국내 플랫폼 역차별 우려

딥페이크 근절 법안 잇따라 발의
플랫폼 사업자에 책임 부과 의견도
'N번방 사건'때도 국내업체 역풍

인공지능(AI)을 이용한 딥페이크(불법 합성물) 성범죄 확산으로 플랫폼 사업자에 책임을 강화해야 한다는 움직임이 본격화하고 있다. 이에 딥페이크의 온상지인 텔레그램 등 해외 사업자는 규제하지 못하고 딥페이크 방지에 힘써온 국내 사업자에만 규제가 강화되는 등 역차별로 작용할 것이라는 우려가 나온다.

4일 관련업계에 따르면 딥페이크 근절을 위한 법안들이 쏟아지고 딥페이크 근절을 위해 플랫폼 사업자에 책임을 부과해야 한다는 주장이 나온다.

더불어민주당 조인철 국회의원은 이날 딥페이크 성범죄의 가해자 처벌 강화, 플랫폼 책임 강화 등의 내용을 담은 ‘정보통신망법 개정안’을 대표 발의했다.

△딥페이크 성범죄 영상물의 유통금지 △인공지능 (AI)을 통해 제작된 영상물에 전자적 표시 (디지털 워터마크) 의무화 △전자적 표시가 없는 불법 영상물에 대한 정보통신사업자(플랫폼)의 삭제 의무 부과 등을 추가하는 한편 가해자 처벌 강화를 추진하겠다는 방침이다.

이수정 경기대 범죄심리학과 교수도 3일 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회’에서 “딥페이크 등 불법촬영물을 근절하기 위해 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고 이들에게 삭제 의무를 부여해야 한다”며 “무엇보다 수사 기관과 협조를 의무화해 기업의 책임을 강화해야 할 것”이라고 언급했다.

딥페이크를 활용한 성범죄가 빅테크를 포함한 플랫폼을 중심으로 확산되자 플랫폼 기업을 규제해야 한다는 ‘플랫폼공정경쟁촉진법(플랫폼법)’도 다시 힘을 받고 있다.

전문가들은 딥페이크 근절을 위해 플랫폼의 적극적인 역할이 동반돼야 한다고 주장하면서도 섣부르게 플랫폼 규제를 시행할 경우 국내 기업의 혁신을 저해하고 역차별을 심화시킬 수 있다고 우려한다.

김명주 서울여대 정보보호학과 교수는 “딥페이크 사태가 커지면서 공정거래위원회에서 추진 중인 플랫폼법에 불법 콘텐츠에 대해 플랫폼이 책임지도록 하고 처벌하는 내용을 포함하자는 주장이 나오는데 정작 우리 기업들은 딥페이크 근절 대책을 열심히 이행하고 있다”며 “말을 안 듣는 곳은 텔레그램이나 엑스 등 글로벌 빅테크인데 섣부르게 규제를 추진할 경우 국내 기업만 역풍을 맞을 것”이라고 지적했다.

관련 법안이 통과되더라도 해외 사업자가 제도를 성실하게 이행할지도 미지수다. 실제 2019년 ‘N번방 사건’을 계기로 마련된 ‘N번방 방지법’은 유통경로였던 텔레그램 등에는 적용이 어려워 결국 실효성이 없다는 지적과 해외 사업자에 비해 국내 사업자가 역차별을 당한다는 비판을 받았다.

텔레그램 측은 전날 방송통신심의위원회가 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제하고 전용 이메일을 통해 핫라인을 구축해 현안에 해결하겠다는 입장 밝혔다. 이에 방심위는 “텔레그램 측의 이러한 입장 표명은 매우 전향적인 것”이라고 해석했지만 업계에서는 얼마나 실효성이 있을지 의문이 뒤따른다.

텔레그램을 통한 디지털 성범죄가 공론화된 'N번방' 사태 때도 텔레그램은 수사 협조 요청에 묵묵부답이었다. 최근 파벨 두로프 텔레그램 공동 창업자 겸 최고경영자(CEO)가 프랑스에서 아동 성범죄를 비롯한 마약 밀매, 사이버 폭력, 테러 등의 범죄를 방치했다는 이유로 기소되고 경찰이 텔레그램 창업자 파벨 두로프 등 관련자들을 인터폴에 적색수배를 하는 방안을 검토하자 그간 미온적인 태도를 보이며 수사협조 요청에도 모르쇠했던 텔레그램이 한국 정부를 상대로 공식으로 사과했기 때문이다.