최근 글로벌 인공지능(AI) 업계는 흐름을 따라잡기 어려울 정도로 빠르게 움직이고 있다. ‘챗GPT’로 대변되던 대형언어모델(LLM)은 이제 빅테크의 전유물처럼 여겨지는 분위기가 됐고, 대부분 업체에서는 산업용 AI와 이를 뒷받침하는 소규모 LLM(sLLM), ML옵스(MLOps) 등이 주요 이슈다.

게다가 이제는 세일즈포스나 SAP와 같은 기존 대형 엔터프라이즈 전문 회사들이 자신들의 애플리케이션 라인업에 생성 AI를 접목하는 식으로 양상이 변하고 있다. 공급자 위주의 ‘AI 모델’이던 중심이, 이제는 사용자 접근성을 강조하는 ‘애플리케이션’ 쪽으로 옮겨가는 모양새다.

그래서 올거나이즈(대표 이창수)가 지난 5일 ‘알리 LLM 앱 마켓’을 통해 현업에 바로 사용할 수 있는 기업용 AI 애플리케이션을 한꺼번에 100개나 내놓았다는 소식은 신선한 충격이었다. 마치 모바일 앱스토어처럼 필요한 AI 앱을 골라서 사용하도록 했기 때문이다.

이창수 대표는 이를 “기업용 LLM 이네이블러(enabler) 비즈니스”라고 설명했다. 누구나 AI를 곧바로 사업에 바로 사용할 수 있게 한다는 뜻이다.

알리 LLM 앱 마켓은 일반, 법률, 인사, 고객지원, 생산성, 기타 등 6개 카테고리로 분류돼 있다. 기업은 앱스토어에 등록된 LLM 앱 중 필요한 앱을 골라 직군별 업무에 활용하거나, 앱을 노코드로 직접 생성해 사용할 수 있다. 모델 구축이니 데이터니, 신경쓸 것이 없다.

이창수 대표는 “AI 모델은 결국 ‘엔진’이고, 최종 목표는 이를 가지고 ‘차’를 만들어야 하는 것”이라며  “오래전부터 시장 흐름을 지켜본 결과, 이제는 쓰는 사람들이 차에 관심을 가지게 됐다”고 전했다. 또 “컴퓨터도 초기에는 메모리가 얼마고 이런 걸 따져가며 샀지만, 요즘은 사실 그런 경우는 많지 않다”라며 “AI 역시 모델이 중요하지만, 결국 그 모델을 가지고 무엇을 할 것이냐에 초점을 맞춰 LLM 앱 마켓을 오픈했다”라고 설명했다.

물론 100개가 넘는 기업용 AI 앱을 구축하는 것은 쉬운 일이 아니다. 또 올거나이즈의 제품에는 ‘GPT-4’ ‘팜 2’ ‘라마 2’ ‘하이퍼클라우드X’ 등 주요 LLM이 빠짐없이 포함돼 있다. 그리고 모델마다 특성이 다르기 때문에 프롬프트에 따른 미세한 차이도 발생한다. 올거나이즈는 이처럼 ML옵스는 물론 프롬프트 엔지니어링까지도 감안, 업무별로 가장 적합한 패키징을 구축했다고 밝혔다.

따라서 기업은 기술적인 면에 대한 고민 없이 앱을 바로 사용하면 생선성을 향상할 수 있다. 이 대표는 “우리는 기본 모델부터 최종 제품인 앱까지 다 가지고 있다”라며 “고객사 니즈에 맞춰 LLM부터 앱까지 전부를 다 제공할 수도 있고, 또 직접 모델이나 앱을 만들고 싶다면 만들어도 되고, 우리가 지원해 줄 수도 있다”고 말했다. 

여기에 기업 내 다양한 서버 및 데이터베이스와 연동 가능하며, 서비스형 소프트웨어(SaaS), 온프레미스(사내구축형), 퍼블릭 및 프라이빗 클라우드를 혼합한 하이브리드 형태까지 기업이 원하는 모든 배포 형태를 지원한다. 한마디로 AI에 대한 모든 것을 제공한다는 것이 LLM 이네이블러 비즈니스다.

이런 식의 모델 구축과 앱 프로덕트를 모두 보유한 AI 전문 업체는 해외에서도 비슷한 예를 찾기 어렵다. 이제서야 일부 기업 중심으로 비슷한 흐름이 생기는 시점이다. 올거나이즈가 가장 빨리 이런 비즈니스 모델을 만들게 된 것은 당연히 기술력과 업력 때문이다.

올거나이즈는 지난 2018년부터 구글의 최초 자연어 모델 ‘버트(BERT)’를 기반으로 AI 솔루션을 개발해 온 글로벌 1세대 AI 기업이다. 이창수 대표는 KAIST 컴퓨터공학과 학사 및 석사를 졸업하고 SKT, 게임온 등을 거쳐 모바일 게임 데이터 분석 스타트업 파이브락스를 창업 후 2017년 올거나이즈를 설립했다.

이후 기업의 방대한 데이터 중 답을 찾아주는 자체 모델 ‘리트리버’와 답변 후보 중 정답을 골라내는 모델 ‘리더’를 개발해 냈다. 이를 통해 국내 기업으로는 드물게 일본과 미국에 진출, ‘AI 챗봇’과 ‘문서정리’ 서비스를 제공하는 ‘알리’를 공급해 왔다.

이 때문에 일본의 스미모토 미쓰이 은행(SMBC), 노무라증권, 히타치, 니토리, KDD, 카오, J파워 등 500여 회사에 서비스를 제공해 왔다. 국내에서도 현대카드, KB증권 등을 비롯해 미국 트래블러스 등 전 세계 2100개가 넘는 기업과 파트너십을 맺고 있다. 특히 AI 붐으로 인해 올들어 사업 제휴 요청이 지난해 2배 이상 증가했다고 전했다.

최근에는 자체 LLM ‘알리 파이낸스 LLM’도 추가했다. 국내외 거대 금융사들과 함께한 금융 분야에서의 지식관리 노하우를 바탕으로, 금융 특화 sLLM 모델을 가장 먼저 출시했다. 앞으로는 보험, 제조업 등의 분야로 넓혀갈 계획이라고 밝혔다.

LLM 앱 마켓 확장을 위한 전략도 탄탄하다. 올거나이즈가 직접 패키징한 ‘퍼스트 파티’ 이외에도, 기업 수요에 맞춰 변형한 ‘ 세컨드 파티, 타사에서 AI 앱을 제작해 LLM 앱스토어에 올리는 ‘서드 파티’까지 확대할 예정이다. 이 대표는 “LLM 앱 마켓 같은 모델이 조만간 글로벌한 트렌드가 될 수도 있을 것”이라고 밝혔다. 

또 해외 통신사나 클라우드 MSP 등과 제휴, 통신이나 클라우드 상품에 앱스토어 제품을 포함하는 번들링 전략도 활용할 계획이다. 이는 마이크로소프트(MS)가 애저 클라우드에 오픈AI 제품을 포함한 것과 흡사한 방식이다.

이 대표는 올거나이즈의 미래를 글로벌 CRM 기업 세일즈포스에서 봤다. 

“세일즈포스도 CRM에서 시작해 서비스를 하나둘 추가하며 현재에 이르게 됐다”라며 “이보다 더 강력해질 수 있는 게 LLM이다. LLM을 기반으로 전 세계 모든 회사에서 올거나이즈 제품을 사용하게 만드는 것이 목표”라고 강조했다.

이를 통해 “전 세계 사무직의 삶을 AI로 혁신하겠다”고 말했다. 이 대표가 창립 당시부터 지금까지 강조해온 올거나이즈의 비전이기도 하다.

이주영 기자 juyoung09@aitimes.com