중국, 챗GPT 등 생성형 AI 보안 검토 의무화 추진...“AI 서비스 알고리즘·기술 공유해야”

생성형 AI 관리 방안 초안 공개
국가 안보 이유로 알고리즘 투명성 요구

▲로 빈 리 바이두 최고경영자(CEO)가 지난달 16일(현지시간) 베이징에서 생성형 인공지능(AI) '어니봇' 기능을 소개하고 있다. 베이징/AP연합뉴스

중국에서도 ‘챗GPT’ 등 생성형 인공지능(AI) 서비스 개발 열풍이 부는 가운데 규제 당국이 관련 가이드라인 초안을 내놔 관심이 쏠리고 있다.

11일(현지시간) 블룸버그통신에 따르면 중국 국가인터넷정보판공실(CAC)은 이날 생성형 AI 서비스 관리 방안 초안을 발표했다.

판공실은 “서비스 업체가 제공하는 콘텐츠는 정확해야 하며, 지식재산권을 존중하며, 알고리즘 설계와 데이터 훈련 시 차별을 방지하고 국가 안보를 위협하지 않도록 해야 한다”고 밝혔다.

또한, AI 서비스에 활용되는 데이터와 알고리즘에 대해 투명성을 확보해야 한다고 강조했다. 판공실은 “서비스 제공자는 데이터의 출처와 유형, 규모 등 AI 학습에 사용되는 데이터에 대한 특정 정보를 제공해야 한다”면서 “또한 AI 플랫폼은 기본 알고리즘과 사용된 기술을 공유해야 한다”고 적었다.

그러면서 “모든 회사는 관련 제품을 출시하기 전에 보안 평가를 당국에 제출해야 한다”며 “해당 규정을 준수하지 않으면 서비스 공급업자들은 벌금 부과, 서비스 정지, 형사 조사에 직면할 수 있다”고 경고했다.

또 부적절하다고 판단되는 콘텐츠는 금지되며, 플랫폼에서 부적절한 콘텐츠가 생성될 경우 해당 기업은 유사 콘텐츠 생성 등 재발을 방지하기 위해 3개월 안에 기술을 업데이트해야 한다고 덧붙였다. 판공실은 다음 달 10일까지 해당 초안에 대한 의견을 수렴할 계획이다.

이번 가이드라인 초안이 앞으로 중국 AI 산업에 어떤 영향을 미칠지는 확실하지 않다. 이와 관련해 블룸버그는 이번 가이드라인 초인에 대해 “중국이 반도체에서부터 자동차에 이르기까지 각종 기술을 놓고 미국과 갈등을 겪고 있는 상황에서 AI 산업을 발전시키려는 것”이라면서도 “AI 서비스가 공산당의 엄격한 규제 속에 있도록 하기 위한 것”이라고 지적했다.

다만 일각에서는 명확한 규칙을 제공해 규제에 대한 불확실성을 해소했다는 점에서 중국 빅테크 기업에는 호재가 될 수 있다는 분석도 나온다.