SK텔레콤(대표 유영상)이 기업 및 공공용 인공지능(AI) 시장 공략을 위한 ‘멀티 대형언어모델(LLM)’ 전략을 발표했다. 자체 모델인 ‘에이닷’은 물론 앤트로픽과 코난테크놀로지 등 타사 모델을 조합, 기업에 다양한 옵션을 제공한다는 내용이다. 

최근 국내 기업의 AI 도입 움직임이 빠르게 증가하며, 기존 ML옵스(MLOps) 기업은 물론 SKT와 같은 대기업까지 B2B에 본격적으로 뛰어든 것이다. 특히 SKT는 이를 바탕으로 클라우드 매출을 올해 2000억원까지 끌어 올리겠다고 밝힌 바 있다. 이처럼 LLM 서비스를 내세우며 클라우드를 확장하는 전략은 마이크로소프트와 구글, 아마존 등 빅테크의 주요 전략이기도 하다.

SKT는 기업 및 공공기관 등의 요구에 맞춰 ▲대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해 온 ‘에이닷 LLM’과 ▲윤리적 답변 및 대용량 텍스트 입력에 강점이 있는 ‘클로드 2’의 기반인 ‘앤트로픽 LLM’ ▲한국어 데이터가 풍부한 ‘코난 LLM’ 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 23일 밝혔다.

SKT는 우선 한국어 기반의 SKT 에이닷 LLM은 이번 달부터 엔터프라이즈용 기본 모델(파운데이션 모델)을 출시, 기업 대상 학습과 최적화 작업을 진행하고 있다고 전했다.

지난 13일 지분 투자를 발표한 앤트로픽 LLM의 경우, SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다. 기능 통합 작업을 완료하는 4분기부터 실제 서비스 제공이 가능할 전망이다.

또 지분 투자 이후 협력을 확대한 코난테크놀로지의 LLM도 활용할 계획이다.

■ 강력한 인프라 및 생태계로 풀 스택 서비스 제공

LLM 모델을 제공하는 것은 물론 학습에 필요한 컴퓨팅 파워, 모델을 실제 기업에 적용하는 기술 지원 등도 뒷받침한다.
 
SKT는 국내 최고 수준의 슈퍼컴퓨터 등 대규모 GPU 시스템을 갖추고 있어 고객 요구에 맞는 안정적 사전 학습이 가능하다고 밝혔다. 특히 SKT가 설립한 AI 반도체 전문 사피온은 기존 GPU의 발열과 높은 가격 문제를 해결한 신제품 ‘X330’ 등을 개발했다고 설명했다.

또 전국 단위의 IT 인프라를 운용한 경험과 대규모 AI 개발자 풀을 보유하고 있어, 하드웨어 인프라에서 LLM 소프트웨어에 이르기까지 엔터프라이즈 AI 분야에서 ‘풀 스택 서비스’가 가능하다고 강조했다.

이런 종합적인 접근을 통해 SKT는 고객별 특성에 가장 잘 맞는 LLM 서비스를 가장 효율적인 가격에 공급하는 엔터프라이즈 AI 사업자가 될 수 있을 것으로 기대한다고 전했다.

더불어 최근 지분 투자로 3대 주주가 된 페르소나AI와 컨택센터 분야 LLM 구축 사업 협력을 추진하는 등 다양한 방식의 LLM 사업 추진을 위한 생태계를 구축, 확대해 나갈 계획이다.

■ 산업별 특화 LLM 서비스 제공

SKT는 각 LLM의 장점을 가장 잘 발휘할 수 있는 분야에 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’에 나서겠다고 밝혔다.

예를 들어 에이닷 LLM의 경우 학습 데이터나 서비스 성격상 주로 대화나 챗봇 등 서비스에 강점을 보인다는 설명이다. 

앤트로픽 LLM의 경우 AI가 따라야 할 윤리 원칙을 미리 학습했기 때문에 안정적인 답변을 얻을 수 있다. 또 프롬프트 입력 시 소설 한 권에 해당하는 10만 토큰(7만5000단어) 분량의 데이터를 한꺼번에 입력, 더 정확한 답변을 이끌어 낼 수 있다.

이를 통해 ▲한국어 기반의 구축형(온프레미스 및 프라이빗 클라우드) LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 ▲글로벌 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 모델을 활용해 시장을 공략할 계획이다.

■ 다양한 분야 고객 수요 발굴

SKT는 LLM 서비스의 수요가 먼저 나타나는 분야로 정부, 공기업, 금융권 등을 꼽았다. 따라서 행정안전부, 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비 중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 기업과 추진 중이라고 전했다.

SK그룹 내 대형 제조 계열사 등과도 LLM 기반 AI 기술의 제조 영역 적용을 위한 협의를 진행하고 있다. 빅데이터 분석과 결합할 경우 제조 공정의 생산성 향상에도 크게 기여할 수 있을 것으로 기대한다고 밝혔다.

한편 이같은 서비스를 위해 내부의 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능, 사용법 등에 대한 교육을 지난 주부터 진행 중이라고 전했다.

김경덕 SKT 부사장은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다. 

이주영 기자 juyoung09@aitimes.com