텔레그램에서 딥페이크 불법 합성 영상물을 유포한 이른바 ‘지인 능욕방’ 운영자가 구속기소됐다.
13일 연합뉴스에 따르면 서울중앙지검 여성아동범죄조사1부는 텔레그램 참여자들로부터 피해자들의 개인정보를 넘겨받아 허위영상물을 제작해 유포한 20대 남성 A 씨를 아동·청소년의 성보호에 관한 법률 위반 혐의로 구속기소했다.
A 씨는 작년 9월부터 올해...
올해 1월 팝스타 테일러 스위프트의 사진이 합성된 성착취물 이미지가 온라인상에서 확산되면서 전 세계가 발칵 뒤집힌 사건이 있었다. 세계적으로 AI 부작용에 대한 규제 필요성이 대두했으나 정부와 정치권은 안일했다. 정부에서는 현행법으로도 충분히 제재가 가능하다는 입장을 표명할 뿐 특별한 대책은 나오지 않았다.
당시 한 정부 관계자는 “테일러 스위프트의...
사실 이 사진은 두 사람이 서로 다른 장소에서 찍힌 사진을 포토샵으로 합성한 것이었다. 정교한 기술을 사용한 것도 아니었다. 그런데도 케리의 ‘전쟁 영웅’이미지에는 흠이 갔고 대선에서 조지 W 부시에게 패배했다. 공영방송 NPR의 출구조사 인터뷰에서 한 유권자는 이렇게 말했다. “케리에게 투표할 수가 없었다. 그 사진이 가짜라는 걸 알고 있는데도 머리에서...
인공지능(AI) 기반 이미지 합성 기술인 딥페이크를 악용한 디지털 성범죄가 국가적 문제로 불거지면서 그동안 정쟁에 밀려 주목받지 못했던 ‘인공지능 기본법’ 제정에 탄력을 붙을 것으로 관측된다. 특히 이달 중 출범하는 대통령 직속 국가인공지능위원회가 기술 패권을 확보하기 위한 민관 협력 거버넌스로서 국가 전체의 AI 혁신을 도모할 수 있을지 주목된다....
이들 대화방에서는 SNS에 올라온 여성의 사진을 무단으로 저장한 후 나체 사진과 합성해 만든 불법 합성물을 제작·유포하고 있다.
한국은 전 세계에서는 딥페이크 음란물에 가장 취약한 국가로 꼽혔다. 미국 사이버 보안 업체 ‘시큐리티 히어로’가 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브·비메오 등 동영상 플랫폼의 딥페이크 채널 85개에 게재된 영상물...
AI보안솔루션 제공 기업인 더테크놀로지는 최근 텔레그램을 통한 딥페이크(허위 합성 사진·영상물) 성범죄가 확산하면서 사이버 데이터 보안 관련 종목으로 주가가 크게 오르고 있다.
지난달 27일부터 29일까지 3거래일 연속 상한가를 기록했으며, 이날 또다시 상한가다. 한국거래소는 지난달 29일 더테크놀로지에 대해 현저한 시황 변동과 관련해 조회공시를...
조 의원은 서울대 졸업생들이 여성 동문 사진으로 불법 합성물을 제작·유포한 '서울대 딥페이크' 사건과 관련해서는 "일반인이 직접 텔레그램에 위장 잠입한 것이 결정적이었으며 경찰은 보조적 역할에 그쳤다"고 비판했다.
이에 대해 조 청장은 "시간이 걸릴 뿐이고 수사에 어려움을 겪을 뿐이지 잡을 수 있다는 확신은 있다"고 강조했다....
서울 도심 곳곳서 딥페이크 성범죄 강력수사 촉구 집회
서울 도심 곳곳에서 딥페이크 불법 합성물을 규탄하고, 신속한 수사를 촉구하는 집회가 열렸다.
진보당은 31일 오후 6시께 서울 종로구 영풍문고 인근에서 당원과 시민 등 50여 명이 참가한 가운데 '딥페이크 성범죄 강력수사 촉구' 집회를 개최했다.
홍희진 진보당 딥페이크 성범죄 대응 태스크포스...
예를 들어, 유명 여가수의 얼굴과 다른 여성의 나체 사진을 합성해서 마치 유명 여가수의 나체 사진인 것처럼 영상이나 사진을 만드는 것이지요.
이러한 범죄는 성폭력 범죄의 처벌 등에 관한 특례법에 의해 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해질 수 있고, 만약 미성년자를 대상으로 한 딥페이크 성착취물이라면 아동청소년의 성보호에 관한 법률에 의해...
그룹 트와이스가 딥페이크(AI 기반 이미지 합성)와 관련해 강력 대응에 나선다.
30일 트와이스의 소속사 JYP엔터테인먼트는 트와이스 FANS 어플을 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있는 상황에 대해 매우 심각하게 받아들이고 있다”라며 이같이 알렸다.
소속사는 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고...
남녀평등"이라는 글과 함께 특정 언론사 기자 이름을 콕 집어 거론하고, 외모 조롱과 협박 및 피해자의 얼굴을 성적인 이미지와 합성한 사진까지 생성했다.
딥페이크 범죄는 디지털 기술을 악용해 특정 개인을 능욕하는 성범죄이자 기자들의 신변을 위협하고 언론 자유를 위축시키는 명백한 폭력행위다.
이에 기협은 "정부는 딥페이크 성범죄에 대해...
최근 사회적으로 문제가 심각해진 딥페이크 범죄인 ‘서울대 N번방’ 사건은 서울대 출신 주범 박모(40·구속기소) 씨 등이 텔레그램으로 대학 동문 등 여성 수십 명의 사진을 합성한 성 착취물을 제작‧유포한 사건이다.
검찰이 항소한 박 씨는 주범 박 씨와 함께 성 착취물을 제작‧유포한 공범으로, 서울대 졸업생은 아니었다.
이원석 검찰총장은 전날 전국 일선...
여성의 얼굴 사진에 음란물을 합성하는 '딥페이크(허위 합성 사진·영상물)' 범죄가 사회적으로 대두되는 상황에서 정부의 'AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발 및 국민 체감형 실증 플랫폼 구축 개발' 연구개발 과제를 맡은 점이 부각되면서다.
30일 오후 12시 48분 현재 샌즈랩은 전 거래일 대비 9.49% 오른 1만40원에 거래 중이다.
당정은...
대학생, 군인, 교사, 초중고생 사진을 합성한 딥페이크 공유 대화방이 넘쳐난다고 한다. 이런 유형의 성범죄는 반영구적 피해를 낳게 마련이다. 국가적 역량을 결집해 독초 뽑듯 뿌리 뽑아야 한다. 윤석열 대통령은 그제 “딥페이크 영상물은 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 강력 대응을 지시했다. 국회도 관련 법률 개정안을...
여교사들의 얼굴을 나체 사진에 합성한 후 사회관계망서비스(SNS)에 유포한 고등학생이 경찰에 붙잡혔다.
28일 연합뉴스에 따르면 인천 남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 고등학생인 10대 A군을 수사하고 있다고 이날 밝혔다.
A군은 지난달 인공지능(AI)을 이용한 ‘딥페이크’ 기술로 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한...
尹, 전날 국무회의 관계부처 강력 대응 지시여가부·과기부, 영상삭제 지원 현장 합동점검딥페이크 기반 범죄 연구…연내 개선방안 마련
딥페이크(허위합성물) 기술을 악용한 범죄가 교육 현장까지 확산하자 정부가 이에 대응하는 긴급 전담조직(TF)을 구성하기로 했다. 올해 학생과 교사의 딥페이크 피해 건수는 200건에 육박한 것으로 파악됐다. 과학기술정보통신부와...
신영숙 여성가족부 차관과 강도현 과학기술정보통신부 제2차관은 28일 오후 디지털성범죄피해자지원센터를 방문해 딥페이크(이미지 합성 기술) 성범죄가 심각해지고 있는 상황 속에서 피해 예방 및 피해자 지원방안에 대해 긴급 점검하는 자리를 가졌다.
최근 생성형 인공지능 기술을 활용해 손쉽게 허위 음란영상물을 제작할 수 있게 되면서 일반인 대상으로 디지털...
원 에디터는 28일 CBS라디오 '김현정의 뉴스쇼'에서 "이번 딥페이크 성착취 사건들은 주로 텔레그램 안에서 여성의 나체 사진, 혹은 성관계하는 듯한 사진에 합성해 문제가 되고 있다. 내가 언제 어떻게 피해자가 될지 모르는 두려운 상황"이라며 "10대 학생들이 개인적으로 운영하는 방만 있는 게 아니라 행위 자체가 시장이 돼서 여러 불법 업체가...
28일 여가부에 따르면 본인의 사진이 무단으로 도용, 성적 수치심을 유발할 수 있는 형태로 합성·편집돼 유포되는 딥페이크 피해를 입은 경우 디지털성범죄피해자지원센터(이하 디성센터)로 피해 상담을 접수할 수 있다.
여가부 산하 한국여성인권진흥원 내 설치된 디성센터는 성적 허위영상물 관련 상담, 삭제지원 및 유포 여부 모니터링, 수사·법률·의료...
불특정 다수 여성 얼굴에 음란물을 합성한 '딥페이크' 성범죄물이 텔레그램 단체대화방에서 유포된 사건이 대학교뿐 아니라 중·고교에서도 다수 발견되며 파문이 일고 있다.
28일 현재 엑스(X, 구 트위터)에는 '텔레그램 딥페이크 학교 명단', ,'딥페이크 학교 목록', '피해자 명단', '가해자 명단'과 관련된 게시글이 다수 게재된 상황이다. 이들이 공개한 중·고교 및...