구글, 터미네이터 걱정마라…AI ‘킬 스위치’개발

AI 폭주 가능성 대비한 비상정지 수단 고려

인공지능(AI)이 발전하면서 영화 ‘터미네이터’와 같은 일이 벌어지지 않을까 하는 불안이 현실성을 띠게 됐다. AI가 폭주했을 경우에 인간이 이를 통제할 수 있을지 의구심이 커지고 있는 것.

이에 구글 AI 부문을 주도하는 딥마인드테크놀로지와 옥스퍼드대 과학자들이 강제 비상정지 수단인 ‘사망 스위치(kill switch)’를 개발하고 있다고 8일(현지시간) 영국 BBC방송이 보도했다.

빠르게 진화하는 AI가 인간의 지시에 따르지 않거나 해를 끼칠 수 있다는 사회의 불안을 완화하려는 목적이다. 엘론 머스크 테슬라 최고경영자(CEO)와 세계적인 물리학자 스티븐 호킹 박사 등 유명 인사들이 AI의 위험성을 경고하고 있다.

딥마인드는 우리나라의 프로 바둑기사 이세돌과의 대전에서 승리한 AI ‘알파고’를 개발한 업체로 널리 알려져 있다. 딥마인드 소속 과학자들은 옥스퍼드대 연구진과 공동으로 인간이 항상 AI를 통제할 수 있는 시스템을 논문으로 공개했다고 방송은 전했다.

이들은 AI가 항상 최선의 선택에 따라 행동하는 것은 아니라고 강조하면서 인간 작업자가 AI의 유해한 작업을 당장이라도 중단시킬 수 있는 버튼이 필요하다고 지적했다. 그 예로 지난 2013년 게임 ‘테트리스’를 배운 AI가 패배하는 것을 막기 위해 게임을 아예 중단시켜 버린 것을 들었다.

이에 연구진은 ‘인터럽트 정책’이라고 불리는 프로그램을 AI에 내장해 비상 시에 행동을 강제로 중지하거나 변경할 수 있는 방법을 제안했다. AI가 ‘사망 스위치’를 비활성화하지 않도록 마치 스스로 판단해 버튼을 누른 것처럼 인식하도록 하는 것이 핵심이라고 연구진은 강조했다.

딥마인드는 지난 2014년 구글에 인수될 때도 AI의 폭주 위험을 의식해 사내 윤리위원회 설립을 조건으로 걸기도 했다.