알엔딥, ‘아동성착취 불법영상’ 차단 기술 개발

▲RED AI 딥페이크검출 기술 시뮬레이션 도식. (알엔딥 제공)

인공지능(AI) 플랫폼 개발 전문기업 알엔딥이 불법콘텐츠를 막을 수 있는 기술을 개발했다고 24일 밝혔다.

알엔딥은 AI딥러닝 기술 중 하나인 GAN(생성적 적대 인공 신경망)을 기반으로 성폭력, 포르노, 음란물 및 유해사이트 등을 막을 수 있는 기술을 구현한 이후 기술 확장을 실현 중이다.

알엔딥의 '레드 AI'는 약 30만장의 성인 노출 사진을 학습시켜 성인물 여부를 확인한다. 인공지능에 설정된 값에 따라 입력된 사진 및 영상의 프레임을 검사해 유해 영상 및 특정 노출부위에 모자이크를 생성하게 된다. 모자이크의 크기, 모양, 투명도 등을 임의로 설정할 수 있으며, 특정 부위만 흐릿하게 블러링(Bluring) 처리 또한 가능하다. 또한 영상 내 특정 노출 부위를 정확하게 알아내어 어느정도 노출이 되는 지 분석이 가능하다.

알엔딥 관계자는 “이 기술은 단순 검사 방식보다 검사 속도가 매우 빠르기 때문에 영상의 길이가 길 경우에도 모자이크 생성 시간을 단축할 수 있다”고 설명했다.

이 기술을 이용하게 되면 현재 사회적으로 문제가 대두되고 있는 아동포르노 검출에도 활용될 수 있을 것으로 보인다. 회사 측은 향후 국내외 기관과의 협조 하에 아동포르노 등을 검출하는 기술을 개발해 공유할 예정이라고 설명했다.

최근 N번방을 비롯해 온라인 커뮤니티에 내 ‘딥페이크물’ 유포에 대한 피해가 심각한 상황이다. 합성대상자가 유명인뿐만 아니라 일반인들까지 확대되면서 사회적 문제로 대두되고 있다.

알엔딥은 레드 AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되고 있는 페이크 영상까지 검출해 온라인 커뮤니케이션 내 유포되고 있는 불법 영상에 대응할 수 있도록 기술을 확장하고 있다.

알엔딥이 개발 중인 딥페이크 검출 기술은 AI 딥러닝 기반으로 구현된 기술로 사진 및 영상 속 얼굴을 자동으로 찾아내 1초 내에 페이크 여부를 판단한다. 다양한 데이터 셋을 확보하여 인공지능에 학습시켜 정교하게 합성된 사진도 감별해 내는 정확도가 매우 높은 기술이다. 이러한 기술로 사진의 페이크 여부를 쉽게 찾아내 페이크 물로 판별된 콘텐츠의 업로드, 다운로드 및 유포를 원천적으로 막을 수 있다.

현재 알엔딥은 욕설 검출 및 방지 기술의 연내 개발 완료를 목표로 하고 있다. 이 기술은 문장 내 포함된 욕설뿐만 아니라 문맥상 공격성이 표출된 표현 등을 찾아내고 이를 수치화하는 기술이다.

회사 관계자는 “이 기술을 통해 인터넷 댓글의 긍정, 부정 정도 및 공격적인 댓글 등을 분석해 통계자료로 만들어 활용할 수 있다”고 말했다.