생성 인공지능(AI) 학습용 데이터셋을 구축하는 비영리 단체 레이온(LAION)이 인간의 감정을 이해하는 챗봇이나 텍스트를 음성으로 변환하는 AI 모델을 만드는 데 사용할 수 있는 데이터셋 구축에 나선다. 단지 ​​단어를 이해하는 것을 넘어 표현과 어조 변화의 뉘앙스를 파악해 인간과 AI의 상호 작용을 더 사실적이고 공감적으로 만드는 데이터셋을 구축한다는 점에서 주목된다.

테크크런치는 27일(현지시간) 레이온이 공감과 감성 지능을 갖춘 AI 모델을 만드는 데 사용할 수 있는 데이터셋을 구축하는 ‘오픈 공감(Open Empathic)’ 프로젝트를 발표했다고 보도했다. 

이에 따르면 레이온은 다양한 언어권의 자원봉사자를 모집, ‘오픈 공감’을 통해 인간의 감정을 이해하는 챗봇이나 텍스트를 음성으로 변환하는 AI 모델을 만드는 데 사용할 수 있는 오디오 클립을 수집하고 있다. 수개월 간 1만개 샘플을 수집하고, 내년까지 10만~100만개의 샘플을 수집한다는 계획이다.

레이온은 독일 고등학교 교사인 크리스토프 슈만과 AI 개발자 등 디스코드 서버 회원들이 2021년 설립한 비영리 단체다. 허깅페이스, 스테빌리티 AI 등 스타트업의 기부금이나 공공 연구 보조금으로 운영된다. 

오픈 공감 프로젝트를 위해 레이온은 자원봉사자들이 유튜브 클립에 주석을 추가할 수 있는 웹사이트를 구축했다. 자원봉사자는 각 클립에 대해 필사본, 오디오 및 비디오 설명, 등장 인물의 연령, 성별, 억양 등 자세한 필드 목록을 작성할 수 있다. 특히 화자에 대해 자원봉사자는 ‘흥겨운’ ‘활발한’ ‘매혹적인’ ‘사색적인’ ‘매력적인’ 등 감정 정도를 기록할 수 있다.

레이온은 “우리는 다양한 언어를 이해하고 다양한 문화적 환경을 진정으로 이해할 수 있는 AI 모델을 훈련하는 데 목표를 두고 있다”라며 “실제 감정과 표현을 보여주는 영상을 활용해 언어와 문화를 체득하는 모델을 만들기 위해 노력하고 있다”라고 밝혔다.

일부 기업에서는 이미 ‘감정 파악’ 기술을 활용하고 있다. 마이크로소프트(MS)의 자회사로 유명한 뉘앙스는 얼굴 표정을 분석하는 AI를 사용, 운전자가 피곤한지 확인한다. 어펙티브는 사람들이 영화 예고편에 어떻게 반응하는지 평가하는 방법을 연구하고 있다. 하이어뷰는 유망 구직자를 선별하는 방법으로 감정 감지 AI를 사용했다.

감정 감지 AI는 고객 서비스, 광고 평가, 보안 및 안전 분야에도 폭넓게 적용할 수 있다. 통화나 비즈니스 회의에서 타인의 감정을 파악하거나, 직장에서 정신건강 상담을 제공하는 것은 시간문제뿐이라는 게 일반적인 예상이다.

하지만 감정 감지 AI는 여전히 정확성에 의문이 제기되고 있다, 감정을 나타내는 보편적인 지표가 거의 존재하지 않기 때문에 과학적으로는 불안정하다는 이유다.

즉 사람들의 감정을 읽기가 쉽지 않다는 점이 가장 큰 문제다. 또 언어나 문화 등에 따라 감정 표현에는 큰 차이가 존재한다. 예를 들어 사람들은 비즈니스 회의에서는 감정 상태를 숨기는 것이 일반적이다. AI는 표정을 감지할 순 있지만 그 뒤에 있는 생각과 감정을 감지하진 못한다. 사업가가 웃으며 고개를 끄덕이거나 공감하듯 얼굴을 찌푸리는 것은 사회적 상호작용에 적합하기 때문이지, 진심을 드러내기 위해서는 아니다.

따라서 감정 상태를 이해하기 위해 AI를 활용하는 것은 잘못된 결과를 초래할 수도 있다. 채용이나 법 집행 등 중요한 문제에서는 득보다 실이 많을 수 있다.

감정 감지 모델을 학습하는 데 사용하는 데이터셋의 편향성도 큰 문제다. 일반적으로 사용되는 오픈 소스 이미지 데이터셋에도 라벨러의 인종 차별이나 성차별과 같은 편향성이 반영될 수 있다.

이 때문에 유럽연합(EU)은 AI 법을 통해 경찰, 국경 관리, 직장 및 학교에서 감정 인식의 사용을 금지하기로 했다. MS와 같은 일부 기업은 대중의 반발에 맞서 감정 감지 AI를 자발적으로 폐쇄했다. 

로버트 카츠마르치크 레이온 공동 창립자는 “감정을 이해하기 위해 AI를 사용하는 것에 어려움이 없는 것은 아니다. 다른 도구와 마찬가지로 좋은 일과 나쁜 일 모두에 사용될 수 있다”라고 말했다.

그러나 “우리는 연구자들이 주변을 둘러보고, 변경 사항을 제안하고, 문제를 발견하는 것을 환영한다. 위키피디아가 커뮤니티 기여를 통해 성장하는 것처럼 오픈 공감도 커뮤니티 참여를 통해 투명성과 안전성을 보장할 수 있다”라고 강조했다.

박찬 기자 cpark@aitimes.com