주요 7개국(G7)이 인공지능(AI) 기술의 위험과 잠재적 오용 가능성을 완화하기 위해 기업을 위한 행동 강령을 내놓는다. 주요 내용은 인류를 위협할 수 있는 최첨단 AI 보유 기업에 초점을 맞춘 자율 규제 요구다.

로이터는 29일(현지시간) 내부 문건을 근거로 G7이 첨단 AI 시스템을 개발하는 기업에 대한 행동강령에 합의, 30일 발표할 예정이라고 보도했다. 

이에 따르면 11개 항목으로 구성된 행동 강령은 선도 기업이 AI 위험을 식별, 평가 및 완화하기 위한 적절한 조치를 취할 뿐만 아니라 AI 시스템의 기능, 제한 사항, 사용 및 오용에 대한 공개 보고서를 게시하고 강력한 보안 통제에 투자하는 내용이 담겼다.

G7은 “11개 항목에 걸쳐 전 세계적으로 안전하고 신뢰할 수 있는 AI를 장려하는 것을 목표로 하며 가장 발전된 파운데이션 모델 및 생성 AI 시스템을 포함해 가장 발전된 AI 시스템을 개발하는 조직의 행동에 대한 자발적인 지침을 제공할 것”이라고 설명했다.

캐나다, 프랑스, ​​독일, 이탈리아, 일본, 영국, 미국과 유럽연합으로 구성된 G7 경제 지도자들은 지난 5월 히로시마 각료 포럼에서 국제적 AI 행동 강령 개발에 대한 논의를 시작했다.

그동안 EU는 강력한 AI법을 통해 신기술 규제에 앞장섰고, 국내를 비롯해 미국과 일본, 동남아시아 국가들은 경제 성장을 촉진하기 위해 상대적으로 간섭을 최소화하는 기업 친화적인 접근 방식을 취하며 입장이 엇갈렸다.

이번에 포함된 11개 항목에는 ▲AI 배포 전후에 내부 및 외부의 ‘레드팀’을 구성해 취약점을 테스트하는 안 ▲안전 및 보안 평가 보고서를 공개하고 정부 및 학계 등과 공유하는 안 ▲개인정보 보호 및 위험 관리 정책을 공개하고 보안 통제를 구체화하는 안 ▲워터마크 등의 방법으로 생성 AI 콘텐츠를 식별하는 안 ▲AI 안전 연구에 투자하는 안 ▲기후위기 및 건강, 교육 등 글로벌 문제를 해결하는 데 AI 개발을 우선하는 안 ▲AI 테스트 및 콘텐츠 인증을 위한 국제표준 채택 안 ▲지적재산 및 개인정보 보호를 위해 학습 데이터를 제어하는 안 등이 포함된 것으로 알려졌다.

이 내용은 지난 7월 오픈AI와 마이크로소프트, 구글 등 5개 기업이 백악관에서 발표한 8개항의 자발적 ‘AI 안전 서약’과 매우 흡사한 내용이다. 다만 미국 기업들이 내놓은 안에는 학습 데이터와 관련한 저작권 및 개인정보 보호 문제가 빠져 있다.

로이터는 이번에 합의된 내용은 개인정보보호 문제와 보안 위험 속에서 주요 국가가 AI를 관리하는 기준이 되는 자발적인 행동 강령으로 구속력은 없다고 전했다. 이 또한 미국식 자율 규제와 흡사한 내용이다.

이처럼 최근 국제적인 AI 규제안은 ▲기업의 자발적인 조치를 촉구하는 자율 규제 ▲모든 AI가 아닌 일부 최첨단 AI 모델 기업에 대한 집중견제 등으로 분위기가 모아지고 있다. 즉 EU의 AI법보다 미국식 규제에 가깝다.

이에 대해 베라 요우로바 EU 집행위원회 디지털 책임자는 이달 초 일본 교토에서 열린 인터넷 거버넌스 포럼에서 “행동 강령이 안전을 보장하는 강력한 기반이며, 규제가 마련될 때까지 국제적인 가교 역할을 할 것”이라고 말했다.

박찬 기자 cpark@aitimes.com