오세훈 “딥페이크 영상물 삭제 주체 국가→지자체로 확대해야”

딥페이크 디지털성범죄 토론회 참석
서울시, 방심위와 협력해 핫라인 가동

▲오세훈 서울시장이 3일 국회 의원회관 제8간담회의실에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회'에 참석해 발언하고 있다. (자료제공=서울시)

오세훈 서울시장이 딥페이크 디지털 성범죄와 관련해 “신속한 피해자 지원을 위해 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼 삭제 지원의 주체를 국가에서 지방자치단체로 확대하는 법령 개정이 필요하다”고 강조했다.

오 시장은 3일 국회에서 열린 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 “딥페이크 영상은 제작까지 단 7초밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나 피해자가 될 수 있다는 점에서 이전의 디지털 성범죄와는 다른 양상을 보이는 것이 특징”이라며 이같이 말했다.

서울시는 2022년부터 ‘서울 디지털성범죄 안심지원센터’를 개관해 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 시는 딥페이크 피해가 심각해지자 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 ‘핫라인 시스템’을 가동 중이다. 또한 ‘디지털 성범죄 SOS 상담창구’를 신설해 현재 딥페이크 피해자 15명의 상담을 하고 있다.

오 시장은 “서울시는 작년에 전국 최초로 AI로 피해 영상물을 24시간 자동 추적‧감시하고 삭제하는 기술을 개발해서, 성착취물을 찾아내는 데 걸리는 시간을 평균 2시간에서 3분으로 획기적으로 단축했다”라며 “이같은 노력을 UN에서도 주목해 올해 국내에서 유일하게 ‘2024 UN 공공행정상’ 대상을 수상하기도 했다”고 말했다.

아울러 시는 진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는 AI 얼굴매칭 딥페이크 검출기술인 ‘서울 안심 아이’를 내년 상반기까지 개발하고, 검색부터 신고까지 전 과정을 AI가 자동 실시하는 ‘AI 신고자동화 시스템’도 연내 구축한다는 방침이다.

오 시장은 이전과 다른 범죄 양상인 ‘딥페이크 성범죄’를 예방하기 위해서는 법령 개정이 필요하다고 촉구했다. 오 시장은 “딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다”라며 “앞으로도 서울시는 딥페이크 피해자 보호와 지원을 위해 할 수 있는 모든 노력을 다하겠다”고 강조했다.