VM웨어가 엔비디아와 손잡고 기업용 생성 인공지능(AI) 시장 공략에 나선다. 기업이 보유한 자체 데이터를 기반으로 생성 AI를 만들 수 있는 플랫폼을 내년 초 출시한다는 계획이다. 

이로 인해 퍼블릭 클라우드, 데이터 센터 및 엣지 서버에서 VM웨어의 AI 지원 역량이 강화될 전망이다. 더불어 엔비디아는 GPU 판매를 넘어 AI 개발을 위한 플랫폼까지 사업 영역을 무한 확장하는 모양새다.

VM웨어는 22일(현지시간) 미국 라스베이거스에서 열린 ‘VM웨어 익스플로어 2023’에서 생성 AI 플랫폼 ‘VM웨어 프라이빗 AI 파운데이션 위드 엔비디아’를 소개하며, 엔비디아와 전략적 파트너십을 확대한다고 발표했다. 이 자리에는 젠슨 황 엔비디아 CEO가 직접 참석했다.

기업은 ‘프라이빗 AI 파운데이션’ 플랫폼을 통해 기존의 대형언어모델(LLM)을 맞춤형으로 조정, 지능형 챗봇과 어시스턴트, 검색, 요약 등 생성 AI 애플리케이션을 구축하고 실행할 수 있다.

즉 메타의 ‘라마2’나 ‘팰컨 LLM’, 모자이크 ML의 ‘MPT’ 등 오픈소스 모델이나 자체 모델을 훈련하고 배포할 수 있다. 이처럼 엔비디아는 기존 전문 기업이 담당하던 ML옵스(MLOps) 분야까지 영역을 확장한 셈이다.

통합 AI 도구 세트로 구성된 이 플랫폼은 VM웨어 프라이빗 AI 아키텍처를 엔비디아 AI 엔터프라이즈 소프트웨어 및 가속 컴퓨팅과 통합한 형태다.

특히 기업 내부 데이터를 훈련한 모델을 저비용 고성능으로 실행할 수 있는 것이 강점이다. 또 모델이 데이터센터, 퍼블릭클라우드와 서버에서 구현될 수 있도록 돕는 등 보안에도 신경 쓴 것이 특징이다.

멀티 클라우드는 AWS, MS 애저, 구글클라우드 등 특정 퍼블릭 클라우드만 사용하는 것이 아니라, 여러 퍼블릭 클라우드 서비스와 프라이빗 클라우드, 자체 서버까지 포함해서 사용하는 것을 말한다. 서버 가상화 기술에 가상 네트워크 개념을 가미한 VM웨어의 차별화한 기술이다.

VM웨어에 따르면 멀티 클라우드 기술은 기업 데이터센터부터 클라우드, 엣지까지 애플리케이션과 데이터가 있는 모든 곳에서 사용될 수 있도록 설계된 유연하면서 프로그래밍 가능한 네트워크 패브릭으로, 연결성뿐 아니라 보안을 강화했다.

라구 라구람 VM웨어 CEO는 “생성 AI와 멀티 클라우드는 완벽한 조합”이라며 “고객 데이터는 데이터 센터, 엣지, 클라우드 등 어디에나 있다. VM웨어는 엔비디아와 함께 기업 데이터 개인 정보 보호, 보안, 제어 문제를 해결하면서도 데이터에 인접한 생성 AI 워크로드를 안전하게 실행할 수 있도록 지원한다”라고 말했다.

특히 VM웨어는 프라이빗 AI 파운데이션 플랫폼의 강력한 보안성을 강점으로 꼽았다. 데이터에 인접한 모든 곳에서 자체 데이터를 기반으로 AI 모델을 학습시키고, 프라이시와 보안을 유지할 수 있다는 것이다.

기업은 다양한 산업에서 공통으로 사용하는 딥 러닝 가상 머신, 벡터 데이터베이스, GPU 확장 및 사전 구축된 이미지에 액세스할 수 있다. 

또 사전 훈련한 생성 AI 모델을 생성, 테스트하고 사용자 정의할 수 있도록 설계한 개발자 작업 공간 ‘AI 워크벤치(AI Workbench)’도 사용할 수 있다.

이 플랫폼은 기업이 거의 모든 곳에서 자체 생성 AI 모델을 구축, 사용자 정의 및 배포할 수 있도록 지원하는 엔비디아의 클라우드 기반 엔드 투 엔드 프레임워크인 ‘니모(NeMo)’도 제공한다. 니모는 엔비디아 AI 플랫폼의 기본 ‘운영 체제’ 역할을 하며 기업이 자체 AI를 구축할 수 있도록 사용자 정의 작업, 가드레일 도구, 데이터 큐레이션 및 모델을 제공한다.

델, HPE, 레노버 같은 서버 기업들도 지원에 나섰다. 이들은 L40S GPU와 블루필드-3 DPU, 커넥트X-7 스마트NIC를 통해 엔터프라이즈 LLM 커스터마이징과 추론 워크로드를 지원하게 된다.

최근 공개한 L40S GPU는 A100 텐서 코어 GPU 대비 최대 1.2배 더 많은 생성 AI 추론 성능과 최대 1.7배 더 많은 훈련 성능을 제공한다.

젠슨 황 엔비디아 창업자 겸 CEO는 “모든 기업이 자사의 비즈니스에 생성 AI를 통합하기 위해 경쟁하고 있다”며 “VM웨어와의 확장 협업은 금융, 의료, 제조 등에 걸쳐 수십만 고객에 자체 데이터로 구축한 맞춤형 애플리케이션을 활용, 생성 AI의 잠재력을 실현하는 데 필요한 풀 스택 소프트웨어와 컴퓨팅을 제공할 것이다”라고 말했다.

박찬 기자 cpark@aitimes.com