바이든, AI 규제법안 전격 발동…AI 규제표준 주도권 경쟁 본격화

출시 전 정부에 통보ㆍ테스트 결과 제출 의무화
미국 법적 구속력 가진 AI 규제 처음으로 도입

▲조 바이든 미국 대통령이 19일(현지시간) 워싱턴 D.C. 백악관에서 대국민 연설을 하고 있다. 워싱턴 D.C./AFP연합뉴스

조 바이든 미국 대통령이 30일(현지시간) 행정명령을 통해 인공지능(AI) 규제안을 전격 발동했다. 다음 달 1일 영국에서 열리는 사상 첫 ‘AI 보안 정상회의’를 이틀 앞두고 나와 주목된다. 미국과 유럽이 국제 표준이 될 규칙을 만드는 데 주도권 경쟁을 벌이고 있다는 분석이다.

뉴욕타임스(NYT)에 따르면 바이든 대통령은 이날 안보나 경제, 공중 보건 등 안전에 심각한 위험을 초래하는 시스템을 개발할 때 기업이 정부에 통보하고 안전 테스트 결과를 제출하는 것을 의무화하는 내용을 골자로 한 행정법안에 서명했다. 법적 구속력을 가진 AI 규제가 미국에서 처음으로 도입된 것이다.

가장 핵심은 사실상 모든 AI 서비스에 대해 출시 전부터 서비스를 진행하는 모든 과정에 정부가 깊게 개입하고 관리·감독을 하겠다는 것에 있다.

세부 내용을 보면 AI 개발자들이 안전 테스트 결과와 다른 중요한 기술 정보들을 제품 출시 전 미국 정부와 사전에 공유하도록 규정하고 있다. 특히 안보, 경제, 공중 보건 등 중요한 분야에서의 AI 모델을 개발하는 회사는 AI 훈련 단계부터 정부에 통보해야 하고, 정부가 꾸린 검증 전문가팀인 ‘레드팀’의 안전테스트 결과를 정부에 보고해야 한다.

“딥페이크 막자”…AI 콘텐츠 식별 워터마크 도입 추진

▲딥페이크 기술을 활용한 유명인물 얼굴 바꾸기. 출처 딥페이크스웹 홈페이지.

바이든 대통령은 행정명령 후 “나도 내 것(딥페이크)을 본 적이 있는데, ‘내가 도대체 언제 저렇게 발언했지’라고 말할 정도”라고 언급했다. 이어 “AI는 우리 삶을 더 좋게 만들고 있지만 저작권 및 개인정보 침해, 가짜뉴스, 딥페이크 등 AI의 위험을 피하기 위해서는 관리해야 한다”고 목소리를 높였다.

또 이번 AI 규제안은 가짜뉴스 확산을 막기 위해 AI로 생성된 콘텐츠라는 사실을 식별할 수 있는 워터마크를 붙이고, 이 표준을 정부가 개발하기로 했다. 또 해외 AI 인력 비자 발급 요건을 완화하고 수용 인원을 확대하는 AI 개발을 촉진하는 내용도 담겼다. AI 발전에 따른 일자리 감소 우려에 대해서는 근로자에 대한 AI 피해를 축소하고 혜택을 극대화하기 위한 원칙을 세우기로 했다.

영국서 개최되는 AI 보안 정상회담 이틀 전 전격 발표

▲리시 수낵 영국 총리가 4일(현지시각) 영국 맨체스터에서 열린 보수당 연례 전당대회에서 기조연설을 통해 미래세대 금연책 추진 계획을 발표하고 있다. 맨체스터(영국)/신화뉴시스

눈에 띄는 것은 바이든 대통령의 서명이 다음 달 1~2일 영국에서 열리는 AI 안보 정상회의에서 주요 7개국(G7)이 합의할 예정인 ‘AI국제 행동 강령’이 나오기 이틀 전에 이뤄졌다는 점이다. 영국 정부는 다음 달 1일부터 2일까지 G7을 비롯한 주요 국가 정부 고위 관계자와 테크 기업 임원, AI 전문가를 모아 첫 AI 안보 정상회의를 연다.

바이든이 의회 승인이 필요 없는 행정명령으로 AI 규제안을 전격 발동한 것은 미국이 AI 기술 개발뿐 아니라 AI 규제 표준에서도 주도권을 가져가려는 포석이라는 분석이다. 실제 카멀라 해리스 미국 부통령은 “우리가 국내에서 취하고 있는 조치가 국제적 조치의 모델이 될 것”이라고 강조했다.

“유럽 규제안보다 親기업적” vs “범위 제한적”

▲2023년 6월 9일 서울 영등포구 63스퀘어에서 열린 ‘K-Startups meet OpenAI’ 행사에서 샘 올트먼 오픈AI 최고경영자(CEO)가 발언하고 있다. 뉴시스

유럽은 미국보다 포괄적인 AI 규제안을 연내 합의하는 것을 목표로 진행하고 있다. 미국과 유럽의 규제 방향성은 비슷하나 유럽이 더 강하다는 평가다.

미국의 AI 규제안은 마이크로소프트(MS), 구글, 챗GPT 개발사인 오픈AI, 오픈AI의 경쟁사인 앤스로픽 등 AI 산업을 선도하는 미국 주요 기업 15곳과 합의한 자발적 규칙 항목을 중심으로 이뤄졌다. 미국 기업이 제도 설계에 참여해 현시점에서 기업 측이 대응 가능한 항목을 쌓은 내용이라고 할 수 있다.

일본 니혼게이자이신문(닛케이)은 “벌칙을 부과하는 안을 협의하고 있는 유럽에 비해 기업활동을 배려한 내용”이라면서 “미국 기업들이 AI 분야에서 패권을 계속 잡기 위해 정부와 연계하는 전략이 선명해졌다”고 평가했다.

월스트리트저널(WSJ)은 “AI 시스템에 대한 기술 기업에 더 많은 법적 책임을 묻는 것과 같은 높은 수준의 아이디어에 대한 합의라고 할 수 있지만 분열된 의회를 통과할 만큼 초당적인 힘을 충분히 얻은 입법 제안은 아직 없다”면서 “이와 달리 유럽은 자체 AI 규정을 향해 나아가고 있다”고 지적했다.

NYT는 “기업들은 통상 연방 규제에 불만을 품지만 MS, 구글, 오픈AI, 메타 같은 기업의 경영진은 이번 규제안에 놀랍게도 안도한 듯 보였다”면서 “여러 정부 부처가 1년 넘게 일한 결과 치고는 이번 행정명령은 그 범위가 제한적”이라고 진단했다.