[딥페이크 쇼크] 피해가 얼마나 심하길래…“나도 당했다”

전 세계 피해자 절반이 한국인…낮은 양형이 성범죄 키웠다
최근 디지털 성범죄 대부분 집행유예…'서울대 N번방'은 5년
전문가들 "궁극적 해결책은 AI 윤리 교육…초·중·고 의무 교육 추진해야"

‘딥페이크(인공지능(AI) 기반 이미지 합성)’ 성범죄가 세계적인 팝스타 테일러 스위프트만의 문제가 아니다. 이미 우리 일상에 깊숙이 침투하고 있다. 사회관계망서비스(SNS) 속에서는 유명인뿐만 아니라 대학생, 교사, 군인에 미성년자까지 직업과 나이를 가리지 않고 일상사진에 음란물을 합성하는 딥페이크 성범죄 피해에 노출되며 딥페이크 음란물 공포가 확산하고 있다.

2일 텔레그램에서는 불법 합성물을 제작·유포하는 것으로 의심되는 단체 대화방이 다수 파악됐다. 이들 대화방에서는 SNS에 올라온 여성의 사진을 무단으로 저장한 후 나체 사진과 합성해 만든 불법 합성물을 제작·유포하고 있다.

한국은 전 세계에서는 딥페이크 음란물에 가장 취약한 국가로 꼽혔다. 미국 사이버 보안 업체 ‘시큐리티 히어로’가 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오 등 동영상 플랫폼의 딥페이크 채널 85개에 게재된 영상물 9만5820건을 분석한 결과 전 세계에 유포된 딥페이크 성착취물 피해자의 절반 이상이 한국인이며 전체 피해자의 99%가 여성으로 조사됐다.

딥페이크 음란물 피해자의 국적은 한국이 53%로 압도적으로 많았다. 미국이 20%, 일본은 10%였고 영국(6%), 중국(3%), 인도와 대만(이상 2%), 이스라엘(1%) 순이다. 전 세계에서 딥페이크 음란물 피해를 가장 많이 입은 개인 10명을 꼽았는데 이 가운데 8명이 한국 가수였다.

유독 국내에서 디지털 성범죄가 빈번하게 발생하는 이유가 낮은 양형 때문이라는 지적이 나온다. 대학 동문 등의 사진을 합성해 음란물을 제작·유포한 혐의를 받는 ‘서울대 N번방’ 사건의 공범의 경우 법정 최고형인 징역 5년을 선고 받았지만 최근 발생한 70여 건의 디지털 성범죄의 경우 몇 건을 제외한 대부분이 집행유예 처벌이 나온 것을 비춰볼 때 죄질이나 사안의 중대성에 비해 형이 약하다는 비판이 나오는 이유다.

이에 당정은 최근 딥페이크(불법 합성물 제작) 성범죄 발생을 막기 위해 허위영상물 처벌 기준을 현행 5년에서 7년으로 확대하기로 했다.

전문가들은 처벌 규정을 강화하는 것 보다 딥페이크 성범죄 등 AI에 대한 교육이 선행돼야 한다고 입을 모아 말한다.

법무법인 세종의 AI 센터장인 장준영 변호사는 “가장 궁극적인 해결책은 AI 윤리 교육과 AI 리터러시(문해력) 교육”이라며 “새로운 기술이 나올때마다 문제가 생기면 기술을 못 쓰게 할 수는 없다. 다른 사람의 얼굴을 넣어서 딥페이크를 제작, 유포하는 것이 위험한 것이라는 인식이 제대로 자리매김하도록 교육하는 것이 중요하다”고 설명했다.

인터넷과 스마트 기기에 친숙한 청소년들을 중심으로 딥페이크 성범죄가 확산하고 있지만 이를 범죄로 인식하지 못하고 있는 상황이 벌어지고 있다.

김명주 서울여자대 정보보호학과 교수는 “법을 바꾸는데는 시간이 걸리고 가장 시급한 것 입법 보다도 아이들에게 교육을 시키는 것”이라며 “우리나라는 AI가 활성화되면 윤리 교육을 시키자고 하지만 이미 해외 기업들이 밀고 들어왔다. 기술은 들어왔는데도 교육이 안 됐기 때문에 범죄인지도 모르고 딥페이크를 무분별하게 사용하는 것”이라고 설명했다.

김 교수는 “어른들도 처음 겪는 문제인 만큼 부모도 교육할 여력이 없기 때문에 제도권에서 시대에 맞는 교육을 의무적으로 추진할 필요가 있다”며 “교육과정은 7년마다 개편되기 때문에 이때 반영하면 늦는다. 시대에 맞는 교육을 초,중,고에서 의무적으로 갖으면서 옳고 그름을 판단할 능력을 아이들에게 가르칠 필요가 있다”고 설명했다.

실제 시큐리티 히어로는 딥페이크 성착취물을 한 번이라도 시청한 미국 남성 1522명에게 설문한 결과 74%가 딥페이크 음란물을 보는 것에 대해 죄책감을 느끼지 않는다고 답했다. 이 중 36%는 “사람이 아니라는 것을 알기 때문”이라고 답했다. 이어 “개인적 호기심을 채우기 위한 것으로 누구에게도 상처를 주지 않기 때문(30%), 성적 상상력의 현실적인 버전이기 때문(29%), 딥페이크 음란물이 일반 음란물과 크게 다르지 않기 때문(28%)이라고 답했다.

이 연구 결과는 딥페이크 성범죄를 범죄가 아닌 성인 엔터테인먼트로 인식하고 있다는 것을 시사한다.