규제 필요성에 맞게 차등화된 규제가 필요합니다.”
최경진 가천대 법대 교수(인공지능 빅데이터 정책연구센터장)는 12일 서울시 양천구 방송회관에서 열린 ‘딥페이크 성범죄영상물 대응 전문가 토론회’에서 이같이 말했다. 최 교수는 “인공지능은 일반화됐다”며 “일반화된 AI에 대해 일반화된 강력한 규제를 도입하는 건 바람직하지 않다”고 덧붙였다.
이날...
삭제
방송통신심의위원회(방통심의위)는 텔레그램과 실무협의를 가진다고 11일 밝혔다.
회의에선 현안인 딥페이크 등 디지털성범죄영상물에 대한 포괄적 공조 방안을 논의한다. 방통심의위는 경찰 등 관계 기관과의 협의 가능성도 타진할 수 있을 것으로 본다.
방통심의위는 핫라인 채널로 텔레그램 측에 요청하는 딥페이크 등 디지털성범죄영상을 텔레그램이 100...
이와 함께 지난 달 28일 서울시와 업무협약으로 구축된 24시간 핫라인을 시작으로 한국여성인권진흥원 등 유관기관들과 딥페이크 성범죄영상물의 삭제뿐만 아니라 피해자 중심 공동 대응 협력을 확대해 나가기로 했다.
방통심의위는 “경찰 등 유관기관과의 공조 강화를 통해 딥페이크 성범죄영상물로 인한 피해를 최소화하고 피해자들의 인권을 보호하는 데 최선을...
방통위는 이날 오후 3시 방심위, 시청자미디어재단과 함께 방송회관 3층 회견장에서 '딥페이크 성범죄영상물 현안 진단과 대책 모색'을 주제로 '딥페이크 성범죄영상물 대응 전문가 토론회'를 공동으로 개최한다고 11일 밝혔다.
토론회에는 정부부처, 학계, 산업계, 유관기관 등 국내 관련 전문가가 참석해 인공지능의 역기능과 폐해 그리고 법제도 개선방향, 딥페이크...
도움이 필요한 경우 센터 상담전화 ☎02-815-0382(영상빨리), www.8150382.or.kr, 오픈채팅방 ‘디지털성범죄SOS상담’로 문의하면 된다.
오 시장은 “이번 업무협약으로 행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해서 예방 교육부터 피해 영상물 삭제‧차단, 피해자의 빠른 일상 회복까지 통합대응체계를 구축한다”라며 “딥페이크 범죄로부터 아동...
방송통신심의위원회가 208만 조합원으로 구성된 농협중앙회와 딥페이크 디지털성범죄영상 공동 대응에 나섰다.
이를 위해 양 기관은 9일 업무협약을 체결하고, 전국 1,111개 농‧축협 단위까지 확대 추진하기로 했다.
이번 업무협약으로 농협중앙회 조합원 208만명이 이용하는 홈페이지에 디지털성범죄 전용 신고배너, 아동·청소년 유해사이트 자동차단 프로그램...
추경호 원내대표는 이날 국회에서 열린 원내대책회의에서 “최근 딥페이크 기술을 이용한 허위 영상물 유포 등으로 인한 디지털 성범죄 피해가 급증하고 있다”며 “디지털 성범죄에 적극적으로 대처하고자 특위를 구성했다”고 말했다.
‘딥페이크 디지털 성범죄 대응 특위’는 안 위원장을 포함해 관련 국회 상임위원회 소속 의원 및 전문가 등 총 12명으로 구성됐다....
성착취 영상물을 직접 찾아내 신고하고서도 제작자나 유포자를 잡아내기도, 영상을 완전히 없애기도, 처벌하기도 쉽지 않았다. 결국 주무부처인 여성가족부가 다른 부처들과 협업해 공동대응에 나섰고 국회에서 20여 건의 관련 법안이 쏟아질 정도로 정부도 뒤늦게 대처에 나서는 모양새다.
AI 생성물에 워터마크를 박는 등 기술적 방안도 논의되고 있지만 사진 한...
텔레그램 측은 전날 방송통신심의위원회가 삭제 요청한 디지털 성범죄 영상물 25건을 모두 삭제하고 전용 이메일을 통해 핫라인을 구축해 현안에 해결하겠다는 입장 밝혔다. 이에 방심위는 “텔레그램 측의 이러한 입장 표명은 매우 전향적인 것”이라고 해석했지만 업계에서는 얼마나 실효성이 있을지 의문이 뒤따른다.
텔레그램을 통한 디지털 성범죄가 공론화된...
텔레그램이 방송통신심의위원회가 긴급 삭제 요청한 디지털 성범죄 영상물을 삭제한 것에 대해 김 교수는 "우리는 플랫폼 사업자가 알아서 (범죄의 위험이 있는) 콘텐츠를 삭제하고 사전 검열해야 한다고 생각하지만, 그러기에는 무리가 있다. 요구하는 것은 수사 협조"라며 "텔레그램은 충분히 협조하고 있다고 하지만 사실은 그렇지 않다"고...
서울시는 2022년부터 ‘서울 디지털성범죄 안심지원센터’를 개관해 영상 삭제 지원부터 피해자 지원까지 원스톱서비스를 제공하고 있다. 시는 딥페이크 피해가 심각해지자 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 ‘핫라인 시스템’을 가동 중이다. 또한 ‘디지털 성범죄 SOS 상담창구’를 신설해 현재 딥페이크 피해자 15명의 상담을 하고...
가운데, 방송통신심의위원회(방심위)의 딥페이크 종합대책이 기존 대책을 ‘재탕’한 것이라는 우려가 제기되고 있다.
딥페이크는 인공지능(AI) 기술인 ‘딥러닝’과 허위를 뜻하는 ‘페이크’의 합성어로 AI를 활용해 특정 인물의 얼굴을 특정 영상에 합성하는 것이다.
방심위는 28일 ‘딥페이크 성범죄영상물 10대 종합대책’을 발표했다. 성범죄영상물 모니터링...
국민의힘과 정부는 현행 최대 징역 5년인 '허위영상물' 유포 등 형량을 '불법촬영물'과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진한다. 민주당은 국회 여성가족위원회·과학기술방송통신위원회·법제사법위원회·행정안전위원회 위원들로 당 차원의 태스크포스(TF)를 구성해 실태 파악과 성폭력처벌법·정보통신망법 개정 등 관련 입법 보완에 나설 계획이다.
이는 최근 타인 사진을 도용한 딥페이크 음란물이 텔레그램을 통해 확산하며 사회적 우려가 커지자 방송통신심의위원회(방심위)가 전날 네이버와 카카오에 방심위 전용 신고 배너 설치 협조를 요청한 것에 따른 조치다. 네이버 역시 방심위의 요청이 있던 전날 즉각 방심위 전용 딥페이크 이미지, 영상 신고 채널을 개설했다. ‘국민 플랫폼’이라는 위상에 걸맞게 공적...
기존 기술은 방송통신심의위원회(방심위)에 등록된 불법 영상물과의 유사성을 판별해 차단한다. 에스피소프트는 AI 기술을 기반으로 전체 콘텐츠 중 얼굴 이미지만을 선별해 DNA를 추출한 후 필터링 기술을 적용할 수 있도록 개발 중이다.
에스피소프트 관계자는 “기존에는 방심위에 등록된 영상 DNA 정보와 비교해 불법 촬영물 여부를 판별하고 있었으나, 최근...
정부 측에서는 신영숙 여성가족부 차관과 이호영 경찰청 차장, 교육부·법무부·방송통신위원회·방송통신심의위원회 실무자 등이 참석했다.
김 정책위의장은 비공개 회의 후 기자들과 만나 “(딥페이크 성범죄 영상물이) 텔레그램을 통해 많이 유포되고 있는데, (텔레그램이) 서버를 해외에 두고 있어 국제공조가 잘 되지 않고 있다”며 “정부가 텔레그램 측과...
윤석열 대통령도 27일 국무회의에서 “딥페이크 영상물은 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위”라며 강력한 대응을 주문한 바 있다. 같은 날 한 대표도 페이스북을 통해 “AI 부작용을 막기 위한 제도, 정책의 미비는 신속히 보완돼야 한다”며 당 차원의 대책 마련을 예고했다.
이날 회의에는 한 대표와 추 원내대표, 김상훈 정책위의장, 이인선...
오세훈 서울시장은 “오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다”며 “올해 말까지 AI 기반 딥페이크 검출 기술과 자동 신고 시스템을 개발해 시간 단축, 삭제지원 건수 증가 등 시민들의 딥페이크 영상물 피해를 최소화하도록 노력하겠다”고 말했다.
방송통신심의위원회(방심위)는 ‘딥페이크 성범죄영상물 10대 종합 대책’을 28일 발표했다.
방심위는 올해 7월 말까지의 딥페이크 성범죄영상물에 대한 시정요구 건수가 6343건이라며 전년 동기(1684건) 대비 4배에 달한다고 밝혔다.
이번 종합대책에서 방심위는 모니터 인력을 배로 늘린 ‘집중화 모니터링’을 통해 딥페이크 주요 유통경로를 신속히 파악하기로...
20일 방송통신심의위원회에 따르면 시정 요구를 받은 성적 허위 영상물이 2021년 1913건에서 지난해 7187건으로 기하급수적으로 증가했다. 올 상반기에만 5785건에 달했다. AI 기술을 악용해 타인의 얼굴 사진을 음란물과 합성하는 딥페이크 디지털 성범죄가 늘어나고 있는 것이다. 앞서 경찰은 1000여 명이 넘게 참여한 단체 채팅방에서 딥페이크 사진이 공유된 사실을...