시책에는 △합성영상으로 인한 피해·유통 실태 파악 △합성영상 관련 국내외 기술 동향 파악 △합성영상등의 무분별한 유통 방지를 위한 기술 개발의 촉진 △합성영상등의 무분별한 유통 방지 및 피해 예방을 위한 교육·홍보 등 필요한 사항을 담아야 한다.
또 정부가 정보통신서비스 제공자 단체에 자율규제 가이드라인에 대한 개선 및 보완을 권고할 수 있도록 했다....
조우종 아나운서와 제65회 미스코리아 선인 최미나수의 진행으로 열린 이번 대회에서 진(眞)의 영광은 김채원(22·서울경기인천 진·연세대 언론홍보영상학부)에게 돌아갔죠. 이어 선(善)에는 박희선(21·서울경기인천 선·미국 카네기 멜런대 정보시스템학과), 미(美)는 윤하영(22·대전세종충청 진·이화여대 무용과)의 이름이 불렸습니다.
이날 지역 예선과 두 번의 합숙...
텔레그램에서 딥페이크 불법 합성 영상물을 유포한 이른바 ‘지인 능욕방’ 운영자가 구속기소됐다.
13일 연합뉴스에 따르면 서울중앙지검 여성아동범죄조사1부는 텔레그램 참여자들로부터 피해자들의 개인정보를 넘겨받아 허위영상물을 제작해 유포한 20대 남성 A 씨를 아동·청소년의 성보호에 관한 법률 위반 혐의로 구속기소했다.
A 씨는 작년 9월부터 올해...
최 이사는 “경찰청 국가수사본부가 한국인의 얼굴에 특화된 딥페이크 영상 탐지 소프트웨어를 개발해 실제 범죄 단숙에 활용한다고 발표했으나, 이 같은 탐지 기술은 항상 합성 기술보다 뒤처지게 된다”며 “근본적인 대응책이 되기엔 한계가 뚜렷하다”고 평가했다.
최 이사는 “산업적, 기술적, 법·제도적 대응의 유기적인 연계가 필요하다”라며 “딥페이크...
네티즌들은 "요즘 같은 때에 딥페이크 가해자 숫자가 과장됐다고 말하는 사람과 여성연예인을 붙여놓는다니, 할 말이 없다", "다른 여자아이돌이나 연예인들은 딥페이크 불법 합성물에 강력히 대응하겠다고 하는데, 한선화는 이런 행보라니" 등의 부정적인 반응을 보였다.
비판이 점점 퍼지자 제작진은 이 영상을 비공개 처리했다. 다만...
이미지 합성 기술(딥페이크) 성적 허위영상물 등 디지털 성범죄 피해상담은 디지털성범죄피해자지원센터로 연계해 지원한다.
또한, 해바라기센터(32개소)와 연계해 성폭력ㆍ가정폭력ㆍ성매매 피해자에게 24시간 서비스를 제공한다.
가정 밖 청소년 보호・지원 시설인 청소년쉼터(전국 137개소)와 청소년상담1388(전화·온라인)을 24시간 운영하여 위기청소년에게...
안 위원장은 “(지금까진) 딥페이크를 제작하는 사람뿐만 아니라 소지한 사람도 유포할 목적이 없으면 처벌을 피할 수가 있었다”며 “하지만 디지털 합성물이라는 것이 성 착취물과 다를 바가 없는 만큼 제작과 유포뿐만 아니라 2차 가해와 소지에 대한 처벌과 규제방안까지 마련할 생각”이라고 강조했다.
또 “딥페이크 영상물과 이미지에 대한 워터마크 표시를...
교육당국에 400여 건에 달하는 학생·교원 '딥페이크(허위합성물)' 피해 신고가 접수됐다. 이번 조사결과 발표는 지난달 27일 1차 조사결과에 이은 두 번째로, 6일까지의 피해 현황을 집계한 결과이다.
교육부는 9일 이 같은 내용의 ‘학교 딥페이크 성범죄 피해 현황 2차 조사 결과’를 발표했다. 조사 결과에 따르면, 올해 1월부터 6일까지의 피해신고는 434건이고...
우리나라는 반박할 수 없는 딥페이크(허위 영상물) 공화국이다. 전 세계 딥페이크 성착취물에 등장하는 피해자 절반 이상이 한국인이라는 미국 사이버보안업체 조사 결과는 한국이 딥페이크 성착취물에 취약한 국가라는 의미를 내포한다.
세계 인구에서 한국이 차지하는 비율이 0.6%인 점을 감안했을 때 딥페이크 성착취물의 피해자 53%가 한국인이라는 점은 ‘엄청난’...
사실 이 사진은 두 사람이 서로 다른 장소에서 찍힌 사진을 포토샵으로 합성한 것이었다. 정교한 기술을 사용한 것도 아니었다. 그런데도 케리의 ‘전쟁 영웅’이미지에는 흠이 갔고 대선에서 조지 W 부시에게 패배했다. 공영방송 NPR의 출구조사 인터뷰에서 한 유권자는 이렇게 말했다. “케리에게 투표할 수가 없었다. 그 사진이 가짜라는 걸 알고 있는데도 머리에서...
딥페이크 근절 법안 잇따라 발의플랫폼 사업자에 책임 부과 의견도'N번방 사건'때도 국내업체 역풍
인공지능(AI)을 이용한 딥페이크(불법 합성물) 성범죄 확산으로 플랫폼 사업자에 책임을 강화해야 한다는 움직임이 본격화하고 있다. 이에 딥페이크의 온상지인 텔레그램 등 해외 사업자는 규제하지 못하고 딥페이크 방지에 힘써온 국내 사업자에만 규제가 강화되는 등...
인공지능(AI)을 악용해 사람의 얼굴과 음란물을 합성하는 딥페이크 영상물로 온 나라가 시끄럽습니다. 수사가 시작되자 분주하게 영상물을 삭제하고 있다는 소식도 들립니다. 범죄의 증거를 없애는 행위는 엄연히 증거인멸죄에 해당합니다. 허윤 변호사(법무법인 LKB & Partners)와 함께 증거인멸 관련 쟁점을 짚어보겠습니다.
‘딥페이크’를 악용한 음란물이...
합성개구레이다(SAR) 위성은 레이다파를 사용하기 때문에 광학 위성으로는 관찰이 쉽지 않은 야간이나 구름이 낀 날씨 속에서도 고해상도 영상 획득이 가능하다.
한화시스템이 개발한 소형 SAR 위성은 일반 위성과는 다르게 탑재체와 본체 및 태양전지판이 일체화한 형태다. 다수의 전장품을 하나로 통합해 발사체에 최대한 많이 실을 수 있도록...
딥페이크는 인공지능(AI) 기술인 ‘딥러닝’과 허위를 뜻하는 ‘페이크’의 합성어로 AI를 활용해 특정 인물의 얼굴을 특정 영상에 합성하는 것이다.
방심위는 28일 ‘딥페이크 성범죄영상물 10대 종합대책’을 발표했다. 성범죄영상물 모니터링 인력 확충, 강화된 3단계 조치(SNS 중점 모니터링ㆍ24시간 내 시정요구ㆍ즉각 수사 의뢰), 상시협의를 위한 텔레그램 핫라인...
인공지능(AI) 기반 이미지 합성 기술인 딥페이크를 악용한 디지털 성범죄가 국가적 문제로 불거지면서 그동안 정쟁에 밀려 주목받지 못했던 ‘인공지능 기본법’ 제정에 탄력을 붙을 것으로 관측된다. 특히 이달 중 출범하는 대통령 직속 국가인공지능위원회가 기술 패권을 확보하기 위한 민관 협력 거버넌스로서 국가 전체의 AI 혁신을 도모할 수 있을지 주목된다....
이에 당정은 최근 딥페이크(불법 합성물 제작) 성범죄 발생을 막기 위해 허위영상물 처벌 기준을 현행 5년에서 7년으로 확대하기로 했다.
전문가들은 처벌 규정을 강화하는 것 보다 딥페이크 성범죄 등 AI에 대한 교육이 선행돼야 한다고 입을 모아 말한다.
법무법인 세종의 AI 센터장인 장준영 변호사는 “가장 궁극적인 해결책은 AI 윤리 교육과 AI 리터러시(문해력)...
AI보안솔루션 제공 기업인 더테크놀로지는 최근 텔레그램을 통한 딥페이크(허위 합성 사진·영상물) 성범죄가 확산하면서 사이버 데이터 보안 관련 종목으로 주가가 크게 오르고 있다.
지난달 27일부터 29일까지 3거래일 연속 상한가를 기록했으며, 이날 또다시 상한가다. 한국거래소는 지난달 29일 더테크놀로지에 대해 현저한 시황 변동과 관련해 조회공시를...
설화가 만든 AI 동화는 ‘AI 동화 영상’과 ‘AI 동화책’으로 구성했으며 모든 콘텐츠에는 이미지 생성 AI, 영상 생성 AI, 음성합성(TTS) 등의 생성형 AI 기술이 활용됐다.
아이스크림에듀는 또 생성형 AI 기술을 활용해 제작한 AI 튜터를 올해 하반기 아이스크림 홈런에 적용할 방침이다. 아이스크림에듀는 생성형 AI 기술인 거대언어모델(LLM)과 영상생성 기술을...
딥페이크 성착취물이란 서로 다른 사람의 얼굴과 신체를 마치 한사람인 것처럼 교묘히 합성한 영상이나 사진을 의미합니다. 예를 들어, 유명 여가수의 얼굴과 다른 여성의 나체 사진을 합성해서 마치 유명 여가수의 나체 사진인 것처럼 영상이나 사진을 만드는 것이지요.
이러한 범죄는 성폭력 범죄의 처벌 등에 관한 특례법에 의해 5년 이하의 징역 또는 5000만 원...
그룹 트와이스가 딥페이크(AI 기반 이미지 합성)와 관련해 강력 대응에 나선다.
30일 트와이스의 소속사 JYP엔터테인먼트는 트와이스 FANS 어플을 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있는 상황에 대해 매우 심각하게 받아들이고 있다”라며 이같이 알렸다.
소속사는 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고...