[글로벌 딥페이크 음란물 공포] “가상의 총기나 마찬가지…온라인 접속 무서워진 10대 소녀들”

입력 2024-08-28 17:23 수정 2024-08-28 17:28
  • 가장작게

  • 작게

  • 기본

  • 크게

  • 가장크게

딥페이크 포르노 수 1년 새 464%↑
사진 한 장으로 손쉽게 음란물 만들어
가짜 사진이 진짜 피해 유발…신체 안전 해칠 수도
“반 친구일 줄이야”…배신감에 더 충격

#지난해 10월 미국 뉴저지주 웨스트필드의 한 고등학교에 다니는 소녀는 남학생들이 평소보다 조용하거나 속삭이는 듯한 이상 행동을 감지했다. 여학생들은 이러한 남학생들의 태도에 질문을 쏟아내기 시작했다. 며칠 뒤 한 남학생이 여학생 몇 명에게 사실을 털어놨다. 적어도 한 명의 학생이 온라인에서 찾은 여학생들의 사진을 이용해 음란물을 만들어 그룹 채팅에 공유했다는 것이다.

인공지능(AI)이 만든 가짜 나체 사진이 전 세계 청소년들을 위협하고 있다. 학교 졸업 파티 등에서 찍힌 사진이나 자신이 소셜미디어에 올린 셀카가 일명 ‘누드화’ 앱을 통해 그럴듯한 이미지로 옷이 벗겨진 채 유포되고 있다. 각국 정부와 입법기관, 그리고 학교가 빠르게 발전하는 새 기술을 따라잡기 위해 고군분투하고 있지만 책임을 묻거나 도움을 요청할 방법이 현재는 제한적이라고 최근 월스트리트저널(WSJ)이 보도했다.

사이버 보안업체 시큐리티히어로에 따르면 지난해 전 세계적으로 확인된 딥페이크 포르노 수는 2만1019건으로 전년 대비 464% 급증했다. 전체 딥페이크 영상 중 음란물이 차지하는 비중은 98%나 된다. 또 딥페이크 음란 영상물의 표적이 되는 사람의 99%는 여성인 것으로 나타났다.

이제는 누구든지 딥페이크 앱을 통해 단 한 장의 선명한 얼굴 이미지만을 이용해 60초짜리 딥페이크 음란 영상물을 25분 이내에 무료로 만들어 낼 수 있다. 딥페이크 음란물 사진의 경우에는 더 만들기 쉽다. 딥페이크 AI 앱은 몇 초 만에 여성의 사실적인 누드 이미지를 생성해낸다.

더 큰 문제는 10대 여성 청소년들이 이러한 AI 범죄의 표적이 되고 있다는 사실이다. WSJ에 따르면 지난해 말 웨스트필드 고등학교 사건 이후 미국에서만 해도 여러 건의 유사 사례가 발생했다. 캘리포니아주 베벌리힐스의 한 중학교에서는 5명의 학생이 같은 반 친구의 나체 사진을 AI로 생성한 혐의로 기소돼 퇴학 처분을 받았다. 마이애미주의 한 중학교에서도 급우들의 가짜 나체 사진을 만들어 공유한 10대 남학생 2명이 적발됐다. 이밖에 다른 여러 학교에서도 이러한 이미지가 공유됐다는 신고가 접수돼 조사가 진행됐다.

AI가 만든 가짜 음란물들은 실질적인 문제를 남긴다. 전문가들은 합의되지 않은 AI 생성 이미지를 사용해 여성 청소년들을 괴롭히고 모욕하고 괴롭히는 행위가 정신 건강, 평판, 신체적 안전 등을 해칠 수 있다고 지적했다. 안드레아 파월 ‘이미지 기반 성폭력 이니셔티브’ 책임자는 “AI 딥페이크 누드 앱은 ‘가상의 총기’나 다름없다”며 “11세, 12세 소녀들이 온라인을 무서워하는 지경에 이르렀다”고 말했다.

특히 피해자들은 동급생 등 자신과 잘 알고 지내던 인물에게 배신을 당했다는 사실에 더 충격을 받는 것으로 나타났다. 뉴저지 웨스트필드 고등학교의 한 학생은 “AI 기술이 이렇게 복잡하고 무서운 것인지 몰랐다”며 “우리는 세상에 소름 끼치는 남자들이 있다는 것을 알고 있었지만, 같은 반 친구 중 한 명이 이런 식으로 폭력을 행사할 것이라고는 생각하지 못했다”고 강조했다.

  • 좋아요0
  • 화나요0
  • 슬퍼요0
  • 추가취재 원해요0

주요 뉴스

  • '20년 째 공회전' 허울 뿐인 아시아 금융허브의 꿈 [외국 금융사 脫코리아]
  • 단독 "한 번 뗄 때마다 수 백만원 수령 가능" 가짜 용종 보험사기 기승
  • 8만 달러 터치한 비트코인, 연내 '10만 달러'도 넘보나 [Bit코인]
  • '11월 11일 빼빼로데이', 빼빼로 과자 선물 유래는?
  • 환자복도 없던 우즈베크에 ‘한국식 병원’ 우뚝…“사람 살리는 병원” [르포]
  • 100일 넘긴 배달앱 수수료 합의, 오늘이 최대 분수령
  • '누누티비'ㆍ'티비위키'ㆍ'오케이툰' 운영자 검거 성공
  • 수능 D-3 문답지 배부 시작...전국 85개 시험지구로
  • 오늘의 상승종목

  • 11.11 12:04 실시간

실시간 암호화폐 시세

  • 종목
  • 현재가(원)
  • 변동률
    • 비트코인
    • 113,559,000
    • +6.01%
    • 이더리움
    • 4,467,000
    • +2.78%
    • 비트코인 캐시
    • 620,000
    • +6.9%
    • 리플
    • 830
    • +4.8%
    • 솔라나
    • 294,200
    • +4.81%
    • 에이다
    • 831
    • +15.1%
    • 이오스
    • 814
    • +18.31%
    • 트론
    • 232
    • +3.11%
    • 스텔라루멘
    • 154
    • +6.94%
    • 비트코인에스브이
    • 86,100
    • +10.38%
    • 체인링크
    • 20,250
    • +4.65%
    • 샌드박스
    • 425
    • +11.55%
* 24시간 변동률 기준