카리나 뉴튼 인스타그램 총괄 “신고 기능 강화…안전한 플랫폼으로 만들 것”

▲카리나 뉴튼 인스타그램 공공정책 총괄이 미디어 세션을 통해 새로워진 신고하기 기능에 대해 소개하고 있다. (조성준 기자 tiatio@)

인스타그램이 가짜 정보나 음란물 유포 등을 인공지능(AI)과 머신러닝 기술을 활용해 걸려낸다.

카리나 뉴튼 인스타그램 공공정책 총괄은 9일 서울 강남구 테헤란로에 위치한 페이스북 코리아 본사에서 미디어 업데이트 세션을 열고 안전한 플랫폼 구축을 위한 인스타그램의 정책과 기능에 대해 설명했다.

그는 현재 글로벌 정책 팀을 이끌며 다양한 부서와 협력해 안전한 플랫폼을 구축하기 위해 노력하고 있다. 2000년부터 2012년까지는 미국 의회에서 일 했으며 수석 고문과 뉴미디어 대표를 역임한 바 있다.

카리나 뉴튼 총괄은 “이달부터 새로운 옵션을 출시해 사용자들이 컨텐츠를 직접 신고할 수 있게 됐다”며 “거짓정보라고 판단하면 컨텐츠를 신고하고, 이러한 피드백을 이용해 사실체크 결정할 것”이라고 말했다.

인스타그램은 커뮤니티 가이드라인을 정립했다. 이 가이드라인에 따라 인스타그램 내 거짓 정보와 허위정보, 유해 게시물 등을 차단한다.

특히 인스타그램은 인공지능 기술을 활용해 유해 콘텐츠를 찾아 자동으로 신고하고 리뷰팀이 게시물을 리뷰할 수 있도록 했다. 또 샘플 콘텐츠를 이용한 지속적인 인공지능 기술 트레이닝을 통해 테러와 스팸, 혐오 게시물 등 가이드라인을 위반한 게시물을 찾는다. 가이드라인 위반 판별이 용이한 경우에는 게시물을 자동으로 삭제하기도 한다.

하지만 인공지능이 찾지 못한 유해 게시물은 사용자들이 직접 신고해 삭제하게 된다. 게시물을 확인한 사용자는 직접 신고하기 버튼을 통해 게시물을 확인하고 규정위반 여부를 검토한다. 다만 신고가 접수돼도 가이드라인을 위반하지 않았다고 판단할 경우에는 게시물을 삭제하지 않는다. 이는 허위신고를 방지하기 위한 것이다. 신고된 게시물이 가이드라인을 위반했다면 단 한건의 신고로도 게시물이 삭제될 수 있다.

또 지금까지 허용됐던 자살이나 자해와 관련한 콘텐츠와 관련한 정책도 변경했다. 인스타그램은 지금까지 자살·자해 콘텐츠 게시물 공유를 통해 부정적인 문제를 해결한다는 영향에 게시물을 허용해 왔다. 하지만 이러한 콘텐츠가 오히려 자살·자해를 유발한다는 지적에 정책을 변경했다.

카리나 뉴튼 총괄은 “신고가 들어오면 커뮤니티 가이드라인 위반 여부를 확인하고 위반 내용을 확인한다”며 “어떠한 형태의 위반인지 결정하고 이후 주요 안전 이슈 해결을 위한 신속한 대응에 나서게 된다”고 설명했다.

이어 “특히 현실세계에서도 위험할 수 있는 게시물은 우선검토 순위가 부여되며 해당 주제에 대해 집중적으로 훈련받은 전문가들이 검토해 판단하고 있다”고 말했다.