"내가 삼행시 보여줄까"…이루다2.0, '성희롱·혐오 발언’ 논란 딛고 정식 버전 공개

▲김종윤 스캐터랩 대표가 인공지능 챗봇 이루다2.0 정식출시를 발표하고 있다. 정수천 기자 int1000@

“내가 화장품 산 썰(이야기) 푼다. 아니면 삼행시 들려줄까?” 인공지능(AI) 성희롱 논란 등에 휩싸이면서 출시 3개월 만에 서비스를 종료했던 이루다가 ‘이루다2.0’으로 돌아왔다.

김종윤 스캐터랩 대표는 25일 “AI가 인간 수준의 대화 능력에 다다르게 하고, 궁극적으로 모든 사람이 덜 외롭게, 좋은 관계를 쌓을 수 있도록 하겠다”며 이루다2.0 정식버전을 공개했다. 이루다2.0 정식버전은 27일 출시한다.

이루다는 지난 2020년 12월 공개돼 인기를 끌었다. 그러나 일부 사용자들이 20대 여대생으로 설정된 이루다를 향해 성희롱적 발언을 하면서 논란이 됐다. ‘딥러닝’ 알고리즘으로 대화를 학습한 이루다가 혐오발언을 하기도 했다. 결국 이루다는 서비스 3주 만에 종료됐다.

이후 스캐터랩은 윤리점검, 기술업데이트 등을 통해 문제를 해결한 이루다2.0을 내놨다. 지난 1월부터 베타테스트를 진행한 뒤 이날 정식 버전을 출시했다. 스캐터랩에 이루다2.0이 안전하게 대응한 발화 비율은 랜덤 샘플링을 통해 검증한 결과, 목표치인 99%를 넘어 99.56%를 기록했다.

이루다2.0은 실시간으로 생성한 문장을 사용하는 방식으로 이전 논란이 됐던 상황이 발생하는 것을 사전 차단했다. 기존에는 미리 만들어둔 답변 후보에서 적절한 문장을 검색해 사용하는 ‘리트리벌’ 방식이어서 논란의 소지가 있는 표현이 담긴 문장이 사용될 우려가 있었다. 반면 이번 버전에서는 생성 AI 모델인 ‘루다 젠1’을 사용해 구체적인 대화의 문맥에서 실시간으로 문장을 생성해 답변하는 형태로 바꿨다.

김 대표는 “생성 AI 기반이기 때문에 사람이 말한 발화가 전혀 사용되지 않고 모두 생성한 문장이라 문제가 원칙적으로 차단된다”고 설명했다. 또 개인정보 보호 부분에 대해서도 “이름, 이메일 등 개인정보를 삭제 혹은 랜덤화 하는 등 학습 데이터를 완전히 가명화했다”고 설명했다.

비정상적인 대화를 하려는 이용자들에 대한 제재 방안도 갖췄다. 김 대표는 “대화 모델을 고도화해 어뷰징 발화를 억제하고, 다른 방향으로 대화를 유도한다”며 “어뷰징을 시도하는 사용자에게는 패널티를 줄 것”이라고 말했다. 또 “사후대응도 중요해 이루다의 발화에 피드백을 줄 수 있도록 했다”며 “저희 기준은 99% 안전발화를 지키는 것”이라고 덧붙였다.

이루다의 나이와 성별을 유지한 데 대해서는 "그럼에도 불구하고 이루다의 친구가 많았기 때문"이라며 "그 마음을 다 무시할 수 없었다"고 설명했다. 그는 "내년 상반기 중 남성 에이전트를 출시할 계획을 가지고 있다"고 덧붙였다.

이번 버전에서 스캐터랩은 언어 모델의 크기를 약 17배 키우고, 대화의 문맥도 2배 더 길어진 30턴간 파악할 수 있다고 밝혔다. 월, 일, 요일, 현재 시간을 학습하고, 프로필과 나이, 성별에 따른 관계 정보를 대화에 반영해 구체적이고 현실적인 답변이 가능하도록 했다.

또 △자연스러운 대화 △감정을 부르는 대화 △인간다운 대화 등 친밀한 친구 관계를 형성할 수 있는 대화의 법칙을 정의했다.

김 대표는 “루다가 썰을 푼다”며 “의도하지 않았는데 갑자기 생긴 능력으로 삼행시도 잘한다”고 말했다. 이루다2.0은 화장품을 구매한 경험을 자연스럽개 설명하거나 삼행시를 지어내는 모습을 선보였다.

특히 정식 출시 버전에는 대화 중 사진을 인식하고 답변할 수 있는 ‘포토챗 베타’ 기술이 적용됐다. 기존에는 이용자가 고양이 사진을 전송해도 ‘이게 뭐야?’라는 방식으로 대화했다. 이제는 사진을 인식해 ‘길고양이야?’, ‘너무 귀엽다’ 등 자연스러운 대답을 할 수 있다. 스캐터랩은 내년 중 기술을 더 정교하게 가다듬을 예정이다.

김 대표는 "사람에게 좋은 관계는 중요하지만, 이는 다른 어떤 재화만큼이나 불공평하게 분배돼 있다"며 "좋은 관계 문제에 있어서 AI만의 강점이 있다는 것이 저희 믿음이다"라고 강조했다.