카카오뱅크는 금융 분야 최대 국제 인공지능(AI) 학회에서 연구 성과를 발표하며 AI 기반 고객센터(AICC)를 고도화할 수 있는 기술력을 인정받았다고 27일 밝혔다.
카카오뱅크는 이날 금융 분야 최대 국제 AI 학회인 '국제 금융분야 AI 콘퍼런스(ICAIF)'에서 고객센터 상담 내역을 요약하는 생성형 AI 모델을 소개한다.
ICAIF는 금융 분야에서 가장 규모가 큰 AI 국제 학회로, JP모건과 모건 스탠리, US 뱅크, 블랙록 등 글로벌 주요 기관의 임직원과 세계 유수 대학 연구자들이 참여하는 콘퍼런스다. 언어모델과 리스크 관리·신용평가·설명가능한 AI·투자·사기탐지 등 금융 분야 AI와 관련된 다양한 주제를 다루고 있다.
해당 학회에서 연구 성과를 발표하는 것은 국내 은행으로선 최초다. 특히 해당 콘퍼런스에 제출된 약 200여 편의 논문 중 상위 27%인 53편에 대해서만 뉴욕 콘퍼런스에서 직접 구두발표를 할 수 있는 기회가 주어진다.
카카오뱅크는 고객센터 상담 내용을 요약해주는 생성형 AI 모델을 파인 튜닝 방식으로 자체 개발했다. 파인 튜닝은 한번 학습이 완료된 언어모델에 도메인 특화 데이터를 추가로 학습시켜 원하는 업무 영역에서 최고의 성능을 낼 수 있도록 모델을 튜닝하는 기술이다.
카카오뱅크는 이를 위해 약 50억 개의 매개변수를 갖는 한국어 기반 언어모델에 금융 분야 데이터를 재학습시켰다. 금융 분야의 고객상담 요약문을 생성하기 위해서는 금융상품에 대한 지식과 고객 질의를 이해하고 해결 방식을 찾아주는 능력, 고객 대응 능력 등이 필요한 데 따라서다.
또 고객센터 상담 업무의 효율화·표준화를 위한 AICC 본격화를 지속적으로 모색해 왔다. 앞서 지난 2018년 6월에 도입한 'AI 상담 챗봇'은 현재 비대면 상담 채널에서 차지하는 비중이 60%를 초과하는 등 주력 채널로 자리잡았다.
이달부터는 콜 상담 종료 후 상담 내용을 정리해 기록하는 '상담 후처리' 과정에도 고성능 AI 언어모델 '버트(BERT)'를 기반으로 한 상담 카테고리 분류 모델을 도입했다.
상담 완료 후 약 400여 개에 달하는 상담 카테고리 중 어디에 해당하는지를 AI가 자동으로 분류하게 되는데, 이에 따라 상담 건당 후처리 시간이 기존 30초에서 3초로 10분의 1 수준으로 줄어들었다.
회사 관계자는 "기존 거대 언어 모델만으로 해결하기 어려웠던 고객상담 요약 분야의 한계를 극복할 수 있는 모델을 도출한 데에 의미가 크다"며 " 앞으로도 AI 기술들이 국내외 주요 학회에서 소개될 수 있도록 꾸준하게 개발 노력을 지속할 것"이라고 말했다.