미국 대선 후보 TV토론 앞두고 ‘AI 가짜뉴스’ 횡행

바이든·트럼프 가짜 TV토론 영상 확산
“선거 다가올 수록 가짜뉴스 더 늘어날 것”

▲미국 CNN방송국 직원들이 대통령 선거 후보자 TV토론회 부스를 설치하고 있다. 애틀란타(미국)/AP뉴시스

미국 대통령 선거 후보자 첫 TV 토론회를 앞두고 인공지능(AI) 악용사례가 늘고 있다. 27일 일본 니혼게이자이신문(닛케이)은 진위를 구별할 수 없는 대선 관련 이미지와 음성이 여러 플랫폼에 공유되고 있으며, 그중 대부분이 AI 규제를 피해가고 있다고 보도했다. 이로 인해 미국 유권자들이 사실도 불신하고 정보 자체를 경시하는 폐해가 발생할 수도 있다는 지적이 나온다.

전날 미국의 실시간 동영상 서비스 ‘트위치’에는 토론회 전부터 두 대선 후보가 논쟁을 벌이는 영상이 게재됐다. 도널드 트럼프 전 미국 대통령은 욕설과 함께 “조 바이든 대통령의 경제 정책이 모든 헛수고가 될 것”이라며 “‘대재앙’에 대비해 안전띠를 메고 대비하자”고 소리쳤다. 두 후보의 표정부터 목소리까지 똑같은 이 영상은 모두 AI가 만들어낸 가짜다. 24시간 내내 가짜 토론을 중계하고 있는 이 계정의 팔로워는 10만 명이 넘는다.

닛케이는 이번 선거를 첫 ‘AI 대통령 선거’라고 표현했다. 생성 AI가 상용화한 지 2년이 지났고, 4년 만에 돌아온 미국 대선과 그 시기가 맞물렸기 때문이다. 이스라엘의 소셜미디어 정보업체 사이아브라가 올해 초 실시한 조사에 결과에 따르면, 소셜미디어 X(엑스·옛 트위터)에 미국 대선과 관련한 가짜 정보를 올리는 계정 비율은 13%에 달했다. 사이아브라의 부사장 라피 멘델슨은 “선거가 가까워질수록 그 비율은 더 높아질 것”이라고 경고했다.

미국 스탠퍼드대학교에 따르면 AI 가짜 콘텐츠가 사회 문제로 이어진 사례는 지난해 123건으로 2022년보다 30% 증가했다. 1월 뉴햄프셔주 대선 예비선거를 앞두고서는 바이든 대통령의 ‘가짜 목소리’로 트럼프에 투표하지 말라 호소하는 전화가 있었다. 지난해 9월 슬로바키아 의회 선거에서는 자유당(SaS) 대표 리차르드 슐릭의 가짜 음성이 퍼졌다. 해당 사건이 투표 직전에 일어나면서 투표에 직접적인 영향을 미쳤다는 지적이 있었다.

현재 애리조나, 위스콘신 등 선거 격전지를 포함한 미국 42개 주에서 AI 가짜뉴스를 규제하는 법안을 마련 중이다. 관련 기업들도 가짜 콘텐츠 제작과 유통을 제한하고 기술적 대책을 마련하고 있다. 오픈AI 등은 정치인 관련 콘텐츠를 만들지 못하도록 제한하고, 콘텐츠에 AI를 식별하는 워터마크를 삽입하는 기술을 도입했다.

다만 AI 규제가 아직은 미비하다는 진단이 우세하다. 미디어 감시 단체인 디지털혐오대응센터(CCHD)가 생성 AI를 이용해 선거 관련 가짜 콘텐츠를 어디까지 만들 수 있는지 조사한 결과, 시도 횟수 중 40%가 규제와 상관없이 가짜 콘텐츠를 만들 수 있었다. 미국 선거 감시 단체 프로텍트데모크라시는 “가짜 정보가 만연하면 유권자들이 진실한 정보조차도 가짜로 치부하게 될 것”이라고 우려를 표했다.

이번 미국 대선은 박빙의 승부가 예상된다. 리얼클리어폴리틱스(RCP)조사에 따르면 현재 트럼프 지지율은 46.5%, 바이든은 45.2%다. 닛케이는 AI 가짜뉴스가 실제로 선거에 얼마나 영향을 미칠지는 미지수지만, 미세한 민심의 변동이 결과를 좌우할 수 있다고 전했다.