이미지 생성 AI, 이제 손도 잘 그려…딥페이크 불안 고조

미드저니, 이달 중순 소프트웨어 업데이트
이전보다 손 이미지 더 현실적으로
트럼프 체포 사진 등 가짜 뉴스에 악용

▲도널드 트럼프 전 미국 대통령을 흉내낸 한 분장자가 22일 뉴욕 트럼프 타워 앞에서 포즈를 취하고 있다. 뉴욕(미국)/AFP연합뉴스

사람들의 텍스트 지시에 따라 이미지를 생성하는 인공지능(AI)은 그동안 큰 인기를 얻었지만, 인간의 손과 손가락을 묘사하는 데 유독 서툴렀다. AI를 훈련시키는 데이터 세트는 종종 손 조각만 캡처해 그 결과 손가락이 너무 많거나 둥글둥글한 손 사진이 나오는 등 AI가 생성한 이미지가 가짜라는 명백한 신호를 보냈다.

그러나 최근 이미지 생성 AI의 손 묘사가 크게 개선되면서 딥페이크 폐해가 더 커질 것이라는 불안이 고조되고 있다고 26일(현지시간) 워싱턴포스트(WP)가 보도했다.

인기 있는 이미지 생성 AI인 미드저니는 손을 서툴게 그리는 문제를 해결하기 위해 이달 중순 소프트웨어를 업데이트 했다. 아티스트들은 미드저니의 새 버전이 이전보다 훨씬 잘 손 이미지를 생성했다고 보고했다.

이 개선에는 큰 문제가 있다. 미드저니의 향상된 소프트웨어는 지난주 도널드 트럼프 전 미국 대통령이 체포되는 가짜 이미지를 대량 생산하는 데 쓰였다.

겉보기에 무해한 이 업데이트는 좀 더 사실적인 묘사를 위해 AI 이미지 생성에 의존하는 그래픽 디자이너들에게 큰 도움이 된다. 그러나 이는 진짜인지 가짜인지 판별하기 힘든 딥페이크의 위험성에 대해 더 큰 논쟁을 불러일으킨다고 WP는 지적했다.

UC버클리의 포렌식 전문가인 하니 파리드 교수는 “보통사람들은 AI가 생성한 이미지에서 손가락이 7개, 3개인 것을 보고 가짜라고 판명한다”며 “그러나 AI가 이러한 세부사항을 정확하게 파악하기 시작하면 시각적 단서의 신뢰성이 떨어지게 된다”고 말했다. 이어 “미드저니의 이미지가 더 그럴듯해 보이면서 사회적 분노를 촉발할 수 있는 사진 생성으로 정치적 위험을 초래할 수 있다”며 “예를 들어 지난주 퍼진 트럼프 체포 사진에서 넥타이 길이와 손과 같은 세부사항이 점점 더 좋아지고 있다”고 경고했다.

파리드 교수는 또 “AI업체가 기술을 개선하면서 나타날 수 있는 피해에 대해 더 폭 넓게 생각해야 한다”며 “그러나 현재 생성 AI 분야에서 군비 경쟁이 벌어지고 있고 모두가 수익 창출 방법을 알고자 빠르게 움직이고 있어 이미지 개선이 늦춰질 것 같지 않다”고 우려했다.