미국 스타트업 아서AI가 사용자 질문 유형이나 특정 데이터셋에 적합한 대형언어모델(LLM)을 선택, 인공지능(AI) 챗봇을 구축하는 도구를 출시했다. 최근 오픈AI가 누구나 맞춤형 챗봇을 만들 수 있는 ‘GPT 빌더’를 선보이자, 챗봇 구축 도구도 다양한 옵션을 제시하며 대응에 나서는 양상이다.

실리콘 앵글은 5일(현지시간) 아서AI가 기업이 자체 데이터를 기반으로 정확하고 안정적인 챗봇을 구축하는 도구 ‘아서 챗(Arthur Chat)’을 출시했다고 밝혔다.

이에 따르면 아서 챗은 검색 증강 생성(RAG) 기술을 사용해 챗봇을 내부 데이터셋 및 외부 지식 기반에 연결, 최신 정보를 제공한다. 이를 통해 기업은 몇시간 만에 완벽하게 작동하는 맞춤형 챗봇을 만들고 배포할 수 있다.

특히 아서 챗은 다수의 LLM과 통합할 수 있어, 활용성이 매우 뛰어나다는 설명이다. 선호하는 LLM을 챗봇 기반으로 선택할 수 있고, 사용자 질문의 복잡성이나 유형에 따라 다른 LLM으로 전환할 수도 있다. 이런 방식으로 기업은 모든 LLM의 장점을 모두 활용할 수 있다.

기반 LLM이 동일하지 않기 때문에 LLM 간 전환이 중요하다. 일부 LLM은 광범위한 데이터를 기반으로 긴 문서 요약을 생성할 수 있는 등 범용적인 지능에 초점을 맞추고 설계됐다. 반면 어떤 LLM은 훈련 및 배포 비용이 적게 들도록 가볍게 설계됐거나, 보안을 위해 사용자의 개인 정보 보호에 초점을 둔 경우도 있기 때문이다.

또 ‘아서 벤치마크(Arthur Benchmark)’를 활용, 이떤 모델이 어떤 유형에 적합한지를 파악하도록 돕는다. 아서 벤치마크는 특정 데이터셋에 적합한 LLM을 찾는 오픈소스 도구로서, 사용자는 특정 애플리케이션에 사용할 프롬프트 유형이 LLM에서 어떻게 수행되는지 테스트하고 측정할 수 있다. 

이와 함께 아서AI는 시장에서 다양한 LLM 서비스의 강점과 약점을 평가하는 ‘생성 평가 프로젝트’를 운영, 평가 결과를 공유하고 있다.

아서AI는 기업이 아서 챗을 사용해 사영 영역별로 맞춤형 챗봇을 쉽게 만들 수 있다고 강조했다.

예를 들어 소매업체는 최신 가을 의류 라인에 대한 질문에 답하고 매장에 있는 최신 제품에 대한 자세한 정보를 제공할 수 있는 맞춤형 챗봇을 만들 수 있다. 금융 분야에서 헤지 펀드는 아서 챗을 사용하여 분석가를 지원하고 자체 데이터를 활용해 특정 포트폴리오 또는 자산에 대한 최신 통찰력을 제공할 수 있다. 또 제품 매뉴얼과 자체 데이터에서 필요한 정보를 찾아 정확한 응답을 제공하고, 복잡한 쿼리를 처리하는 고객 지원에도 사용할 수 있다.

아담 웬첼 아서AI CEO는 “아서 챗은 기업의 전체 제품과 서비스를 단일 플랫폼으로 통합하도록 도울 수 있다”라며 “아서 챗은 환각을 줄이고 보안에 강하며 동시에 배포 시간을 크게 단축하는 등 기업 가치에 부합한다”라고 말했다.

박찬 기자 cpark@aitimes.com