메타가 광고주들에게 제공한 생성 인공지능(AI) 도구로 정치광고 제작을 금지한 데 이어 이번에는 SNS에 올라오는 모든 홍보물에 AI 생성물 표시를 하도록 요구할 것으로 알려졌다. 내년부터 시행될 이 규칙은 미국 대선을 앞두고 가짜뉴스나 딥페이크를 방지하기 위한 것이다.

로이터와 블룸버그 등은 8일(현지시간) 닉 클레그 페이스북 글로벌 담당 부사장이 사용자를 현혹할 수 있는 정치적, 사회적 이슈가 있는 광고에 대해 생성 AI 적용 사실을 공개하도록 요구할 예정이라고 보도했다.

이에 따르면 메타는 페이스북과 인스타그램, 왓츠앱, 스레드 등의 광고에 AI나 기타 디지털 도구를 활용하고도 표시를 하지 않은 경우 해당 게시물을 삭제할 방침이다. 또 반복적으로 규정을 어길 경우 광고주에게 처벌을 내릴 수 있다. 물론 사이즈나 색상 조정 등 사소한 변경에는 이런 정책을 적용하지 않는다. 

 이틀 전 메타는 “주택, 고용, 신용, 사회 문제, 선거, 정치 또는 건강, 제약 또는 금융 서비스와 관련된 광고 캠페인을 운영하는 광고주는 생성 AI 기능을 사용하도록 허용되지 않는다”라는 내용을 공개했다. 메타는 일부 광고주를 대상으로 광고 제작용 생성 AI 도구를 배포해 왔다.

세계에서 두번째로 큰 디지털 광고 플랫폼인 메타에 이어 1위인 구글도 조만간 비슷한 정책을 내놓을 것으로 알려졌다. 이처럼 빅테크들은 내년 대선에서 딥페이크 등으로 발생할 문제를 회피하기 위해 관련 규정을 강화 중이다.

이는 15개 AI 기업이 내놓은 ‘AI 자율서약’과도 맞닿아 있다. 당시 오픈AI와 마이크로소프트, 구글 등은 8개 실행안에 AI 생성물에 대한 워터마크 표시를 포함했다.

최근 거세지는 유럽연합(EU)의 규제도 큰 압박이다. EU는 최종 조율 중인 AI 법을 비롯해 현재 적용 중인 디지털 서비스법(DSA)에도 대형 플랫폼이 불법적이거나 유해한 콘텐츠를 자발적으로 걸러낼 것을 요구하고 있다. 실제 구글과 메타, X(트위터), 틱톡 등은 EU로부터 최근 하마스 사태와 선거, 미성년자 관련 콘텐츠 삭제를 강도높게 요청받았다.

메타의 이번 결정은 모든 대형 플랫폼으로 확대될 가능성이 크다. 그동안 빅테크들은 온라인 플랫폼에 올라온 콘텐츠에 대해 운영자의 법적 책임을 면책하는 ‘통신품위법 230조’을 근거로 미국내 각종 소송에서 이겨왔다.

하지만 미국 법원조차 지난 2월 생성 AI는 면책 대상이 아니라는 점을 밝혔다. 여기에 EU의 압박이 거세지며, 빅테크들은 자구책으로 관련 규정을 강화하고 있다.

한편 이날 브래드 스미스 마이크로소프트 사장은 블로그를 통해 워터마크 제작용 도구를 제공하겠다는 의사를 밝혔다. 이 도구는 암호화를 통해 이미지나 비디오의 영구 기록을 생성, 누구나 AI 생성 여부를 확인할 수 있도록 하는 것으로 알려졌다.

MS는 이 도구를 정치 후보자들에게 무료로 제공할 계획이며, 2024년 대선 이후에는 더 많은 그룹으로 확대할 계획이라고 전했다.

임대준 기자 ydj@aitimes.com