구글 클라우드가 대형언어모델(LLM)을 활용해 정보 검색을 지원하는 ‘대화형 검색 챗봇’ 구축 도구를 출시했다. 이를 통해 의료 종사자를 위한 인공지능(AI) 기반 검색 도구를 이미 내놓은 데 이어 다양한 산업 분야로 확대한다는 전략이다.

실리콘앵글은 2일(현지시간) 구글 클라우드가 정보 검색용 ‘버텍스 AI 서치(Vertex AI Search)’에 대한 대규모 업데이트를 실시했다고 보도했다.

이에 따르면 개발자는 버텍스 AI 서치를 사용, 기존에 몇주가 걸리던 대화형 챗봇 검색 애플리케이션을 며칠 또는 몇 시간 만에 구축할 수 있다. 이를 통해 LLM을 활용, 대규모 정보 검색을 지원할 수 있다.

새 기능에는 맞춤형 검색과 검색 조정, 이미지와 비디오를 포함하는 새로운 분류 모델 등이 포함된다. 환각 예방용 옵션도 갖췄다.

기업은 생성 AI 검색 기능을 통해 채팅으로 서비스를 향상할 수 있다. 예를 들어 병원은 의료 기록 검색을 위해 시스템에 챗봇을 구축, 의사와 대화하도록 만들 수 있다. 또 환자를 대면하는 포털에 배치하면, 챗봇은 의료 용어를 덜 사용하면서도 명확하고 권위 있게 말하도록 맞춤화된다. 

구글은 지난달 버텍스 AI 서치를 통해 의료 및 생명과학 산업에 최적화한 서비스를 출시한 바 있다. 사용자가 LLM을 활용해 자연어 쿼리를 통해 기업의 내부 데이터 저장소에서 임상 정보를 검색하고 환자 기록을 쉽게 탐색할 수 있도록 한다.

이를 소매업이나 숙박업, 정부 기관, 비영리 단체 등 다른 분야에 최적화하기 위해서는 미세조정을 활용하면 된다.

또 업데이트를 통해 텍스트, 이미지, 비디오를 포함하는 검색용 의미론적 임베딩을 추가할 수 있으며, 이를 통해 콘텐츠 조정, 권장 사항, 의미론적 검색을 위한 다중 모드 검색 기능 등을 활용할 수 있다.

LLM의 가장 큰 문제인 환각 방지를 위해서는 위키피디아와 같이 잘 알려진 데이터셋에서 결과를 확인하는 기능을 추가했다.

리사 오말리 구글 클라우드 제품 관리 수석 이사는 “우리는 정보 검색 및 심층 검색 도구라고 부르는 강력한 도구를 구축한  경험을 가지고 있다”라며 “이를 생성 AI 도구와 LLM에도 적용, 매우 강력한 결과를 가져올 것으로 본다”라고 말했다.

이를 이미 적용한 예도 있다. 포브스는 버텍스 AI 서치를 사용해 뉴스 AI 기반 뉴스 검색 도구인 ‘애들레이드(Adelaide)’를 구축, 베타 테스트 모드로 출시했다. 포브스의 검색 도구는 뉴스 아카이브를 통해 맞춤형 뉴스를 추천하고 요약을 생성해 준다.

박찬 기자 cpark@aitimes.com