판치는 딥페이크 범죄·해킹 범죄…눈부신 AI 기술의 그림자

딥페이크·해킹…인공지능 활용 범죄 급증
美 정치 대선 앞두고 '가짜뉴스' 몸살
"범죄 기술vs 탐지 기술 레이스 중"

▲스타 테일러 스위프트가 자신을 지지하는 가짜 사진. AI(인공지능)이 만든 사진을 도널드 트럼프가 18일 자신의 소셜미디어에 올리고 '수락한다'라고 했다. (소셜트루스 캡쳐)

딥페이크와 해킹 등 인공지능(AI)을 활용한 범죄로 전 세계가 골머리를 앓고 있다. AI로 만들어낸 허위정보(가짜뉴스)도 판을 치고 있다. 기술이 눈부신 성장을 거듭하고 있는 만큼, 그림자도 짙어지고 있다.

20일 방송통신심의위원회에 따르면 시정 요구를 받은 성적 허위 영상물이 2021년 1913건에서 지난해 7187건으로 기하급수적으로 증가했다. 올 상반기에만 5785건에 달했다. AI 기술을 악용해 타인의 얼굴 사진을 음란물과 합성하는 딥페이크 디지털 성범죄가 늘어나고 있는 것이다. 앞서 경찰은 1000여 명이 넘게 참여한 단체 채팅방에서 딥페이크 사진이 공유된 사실을 신고받고 수사 중이다. 범행을 저지른 이들은 AI를 활용해 여성의 얼굴을 나체 사진에 합성했다.

미국 정치권은 대선을 앞두고 AI가 만든 허위정보로 몸살을 앓고 있다. CNN 등 외신에 따르면 19일(현지시간) 트럼프 전 대통령은 전날 자신이 만든 SNS인 트루스소셜에 테일러 스위프트와 팬들이 자신을 지지하는 사진 4장을 올리고 “수락한다”고 썼다. 그러나 이 사진은 AI가 만든 가짜사진이었다. 해킹에 생성형 AI가 적극적으로 활용되기도 한다.해커들은 생성형 AI를 악용해 손쉽게 대량으로 악성코드를 만들고, 현혹하는 문자를 제작한다.

기술의 성장과 동시에 그림자가 짙어지고 있지만, 범죄 개별 건에 대한 검증 및 제재, 처벌만 이뤄질 뿐 근본적인 해결을 위한 움직임은 더디다. AI 범죄를 쫓아 검증할 기술이 뒷받침하지 못하고 있다. 염흥열 순천향대 정보보호학과 명예교수는 “현재 AI 기술을 활용하는 범죄 기술과 이를 탐지하고 검증하는 기술간의 레이스가 최근 벌어지고 있다”면서 “탐지 기술은 기술의 성숙도로 보면 아직 완전하지 않다”라고 말했다.

정부는 이제 막 정책 과제를 선정하며 관련 문제 해결을 위한 첫발을 뗐다. 정부는 지난 5월 ‘새로운 디지털 질서 정립 추진 계획’으로 △딥페이크 가짜뉴스 근절을 위한 대응체계 구축 △디지털 위협에 철저히 대비하는 국가 대응체계확충 등을 뽑았다. 구체적인 방안 중 하나로 AI가 생성한 저작물에 워터마크 적용을 위한 가이드라인을 준비하고 있다. 과학기술정보통신부 관계자는 “100% 완벽한 워터마크는 기술적으로 존재하지 않는다”라면서 “규제 성격의 세부 지침이라기 보다는 워터마크를 제작하려는 기업을 돕기 위한 가이드라인이며, 법제화에 대한 부분은 AI 기본법에 담길 것”이라고 말했다.

AI 관련 법은 22대 국회에서 6건 발의됐지만, 국회 과학기술정보방송통신위원회는 방통위 및 공영 방송 이슈에 매몰돼 법안 논의를 미루고 있다. 과방위는 6월 개원 이후 국회 위원회 중 가장 많이 전체 회의(17회)를 개최했으나, 이중 절반이 청문회였다. AI에 대한 논의는커녕 과학 ICT에 대한 논의 자체가 실종됐다.염 교수는 “세계 각국에서 AI가 만들어낸 콘텐츠를 탐지하는 기술을 연구 개발하고 있기 때문에 우리나라도 적극 투자해야 한다”고 말했다.