‘챗GPT’ 개발사 오픈AI, 안전 대책 발표…개인정보 침해 우려 대응

AI 훈련 데이터서 개인정보 최대한 삭제 등
“위험 인식…안전성 확보 노력할 것”

▲오픈AI와 챗GPT로고가 함께 보인다. AFP연합뉴스

‘챗GPT’를 개발한 오픈AI가 5일(현지시간) 고도의 언어 능력을 갖춘 대화형 인공지능(AI)의 안전 대책을 발표했다.

일본 니혼게이자이신문(닛케이)에 따르면 오픈AI는 대화형 AI 서비스 ‘챗GPT’와 그 기반이 되는 최신 거대언어모델(LLM) ‘GPT-4’에 대한 대책을 내놨다. 개인 정보 침해 등 각국에서 제기되는 우려의 목소리에 대응하기 위한 차원으로 해석된다.

오픈AI는 AI 훈련에 사용하는 데이터에서 개인 정보를 최대한 삭제하겠다고 밝혔다. 외부의 개인정보 삭제 요청에도 대응함으로써 프라이버시 침해를 최소화한다는 방침이다.

또한 외부 전문가나 이용자의 목소리를 반영, 동작을 개선하고 감시하는 구조를 만든다 . ‘API’라 불리는 외부 소프트웨어와의 연계 기능을 통해 실제 서비스의 사용방법을 확인, 부정 사용을 방지한다.

오픈AI는 챗GPT 등에 대해 “위험이 수반되는 것을 인식하고 있으며, 모든 수준에서 안전성을 확보할 수 있도록 노력하겠다”고 강조했다.

이어 “실제로 안전성에 대한 우려에 대응해나가는 유효한 방법은 많은 시간과 자원을 쓰는 것”이라며, 앞으로도 사용자 및 이해관계자들과의 대화를 이어나가겠다고 말했다.

오픈AI는 GPT-4 공개 이전에 6개월 이상 안전성 등을 확인하는 작업을 시행했다. 사실을 말하는 정확성도 기존 대비 40% 높였다. 혐오 발언, 폭력, 성인콘텐츠 등 부적절한 내용에 응답할 가능성도 82% 낮췄다.

최근 공개된 GPT-4는 기존의 8배인 2만5000개 문장을 다룰 수 있다. 미국 변호사 시험 모의고사에서는 상위 10%의 점수로 통과할 정도로 높은 성능을 입증했다.

다만 데이터를 어떻게 모으고 있는지 불투명하다. 가짜 정보 확산, 사이버 공격 등에 악용될 가능성도 존재한다.

이 때문에 각국 당국에서는 고성능 AI의 역기능에 대한 우려의 목소리가 나온다. 이탈리아 당국은 개인정보 보호 우려로 챗GPT 접속을 일시 차단했으며, 캐나다 개인정보 관련 기관도 챗GPT의 개인정보 침해 여부를 조사할 방침이다. 조 바이든 미국 대통령은 전날 백악관에서 과학기술자문위원회 회의를 열고 AI가 가져다줄 기회와 위험 등을 점검했다.