교실 파고든 '딥페이크'…동급생‧교사까지 피해 확대 [학교는, 지금 ③]

AI 익숙한 학생들 제작·배포...새로운 학폭 유형
딥페이크 이용한 허위영상물 범죄 갈수록 증가
“딥페이크로 인한 명예훼손 등 법적 보호 미비”

(게티이미지뱅크)

#. 2020년 경남 창원의 한 고등학교에 재학 중이던 A 군은 딥페이크 프로그램 앱을 이용해 여교사의 강의 영상이나 카카오톡 프로필 사진을 여성의 신체 노출 사진과 합성한 허위 음란영상물 총 12개를 만들어 친구에게 전송했다. 이 외에도 텔레그램에서 아동·청소년 및 성인 여성을 상대로 성 착취물을 제작하고 배포한 A 군은 2021년 8월 징역 5년을 선고받았다.

#. 2022년 인천 중구의 한 고등학교에서는 B 군이 같은 학교 여학생, 심지어 사귀던 여자친구의 신체를 몰래 촬영·편집하고 이를 자신이 운영하는 텔레그램 대화방에 게시했다. 허위영상물 편집·반포, 성착취물 제작·배포 등의 혐의를 받은 B군은 지난해 8월 징역 3년 6개월을 선고받았다. 당시 재판부는 “피고인은 학교 친구인 피해자들이 SNS에 업로드한 사진들을 유포하고 해당 사진에 음란한 문언을 첨언하는 방법으로 친구들을 성적 착취의 대상으로 취급했다”며 “디지털성범죄는 촬영된 영상을 완벽히 삭제하는 것이 쉽지 않고 언제라도 쉽게 복제·재생산될 수 있어 피해자들에게 씻을 수 없는 상처와 지속적인 고통을 줄 수 있다”고 판시했다.

딥페이크 합성물 제작, 새로운 학폭 유형으로

지난달 전북 전주의 한 중학교 남학생들이 같은 학교 학생·교사들의 얼굴을 다른 여성의 나체 사진에 합성하고 유포한 사건이 알려지면서 큰 공분을 샀다. 이처럼 최근 딥페이크 기술을 활용한 음란물 제작이 학교까지 파고들었다는 우려가 커지고 있다.

문제는 미성년 학생들이 인공지능(AI) 기술에 익숙한 만큼 딥페이크 합성물 제작이 새로운 학교 폭력 유형으로 자리 잡을 수 있다는 점이다. 무심코 사회관계망(SNS)에 올린 사진이 다른 누군가에 의해 도용되는 것인데, 피해를 당했다는 사실을 알기도 어렵고 피해 사실을 알더라도 이미 파다하게 퍼진 상태라 피해자로서는 손 쓸 방도가 없어 피해를 회복하기 어렵다.

실제 딥페이크를 이용한 범죄 건수도 점점 증가하고 있다. 9일 경찰청에 따르면 지난해 딥페이크 허위영상물 범죄 건수는 180건에 달했다. 관련 집계를 시작한 2021년 156건, 2022년 160건을 기록한 데 이어 갈수록 늘어나고 있는 것이다.

범죄 증가와 더불어 방송통신심의위원회가 국내 딥페이크 성적 허위영상물 차단‧삭제를 요구한 사례도 급증하는 추세다. 2020년 473건이던 시정 요구 건수는 지난해 7187건으로 약 15배 가까이 뛰었다.

▲신혜진 서울중앙지검 중요경제범죄조사단 부장검사 (전아현 기자 cahyun@)

소년·학교폭력 분야 2급 공인전문검사(블루벨트) 자격을 보유한 신혜진 서울중앙지검 중요경제범죄조사단 부장검사는 “사이버상에서의 피해는 회복되기가 매우 어렵다”며 “삭제 조치가 이뤄지기 전에 빠른 속도로 널리 전파되는 것도 문제지만, 정보통신서비스 제공자(디지털 플랫폼업체)에게 삭제를 요청하더라도 영구 삭제에는 많은 어려움이 있어 피해를 호소하는 학생들이 상당수 있는 것으로 보인다”고 짚었다.

딥페이크를 이용한 성 착취물에 대해선 정보통신서비스 제공자에게 게시물 삭제, 접속 차단 등 적극적인 유통방지의무가 부과되고 있다(전기통신사업법 제22조의5 제1항). 다만 형사처벌이 될 수 있는 불법 정보가 아닌 욕설, 괴롭힘 등 사이버 폭력 유해 정보에 대해서는 피해자가 삭제 요청을 하더라도 플랫폼업체가 불응하는 경우들도 종종 있는 것으로 확인된다.

익명의 누군가가 만들어 사이버 공간에서 유포한 딥페이크 합성물로 인해 피해를 호소하는 학생들도 증가하고 있다. 학폭으로 신고하거나 피해 보상을 받기 위해서는 가해자를 특정해야 하지만 유튜브, 인스타그램, 텔레그램 등과 같은 해외 플랫폼에 딥페이크 합성물을 올리는 경우 신원을 알아내기 쉽지 않기 때문이다.

나아가 딥페이크를 이용해 가짜 이미지‧영상을 만드는 새로운 유형의 범죄에 미리 대응해야 할 필요성도 커지고 있다. 신 부장검사는 “딥페이크 기술로 제작된 불법 음란 합성물 외에, 딥페이크 기술로 인한 명예훼손 등의 피해는 현행법상 명확히 규제할 수 없어 법적 보호가 미비한 상태”라고 지적했다.

이어 “학생들이 형사상의 고소를 하지 않고도 익명의 게시자를 찾아낼 수 있도록 해 신속한 피해 구제가 이뤄져야 하는데, 국내에는 그런 절차와 제도가 제대로 갖춰져 있지 않다”며 “피해 학생들은 가해자 특정도 하지 못한 채 자신의 피해가 확대되는 것을 보고만 있어야 하는 상황”이라고 덧붙였다.