구글이 새로운 AI 칩인 ‘클라우드 TPU v5e’를 지원하는 것을 중심으로 인공지능(AI) 스타트업 앤트로픽과 파트너십을 확대했다. 이는 최고 수준의 앤트로픽 대형언어모델(LLM) 학습을 지원, 구글 클라우드에서 최신 TPU 칩 판매를 확산시키려는 전략적인 행보로 해석된다.

블룸버그는 8일(현지시간) 앤트로픽이 구글의 새로운 칩인 ‘클라우드 TPU v5e’를 통해 LLM ‘클로드(Claude)’를 강화할 계획이라고 보도했다. 

이에 따르면 최근 대규모 AI 모델 구축 경쟁이 치열해지며 구글 등 빅테크는 해당 분야의 최첨단 스타트업과 관계를 다지고 있다. 그중 앤트로픽과 구글의 파트너십은 특별하다.

지난 2021년부터 인연을 이어온 것은 물론 올해는 구글이 앤트로픽에 무려 3차례나 투자했다. 앤트로픽도 향후 4년간 구글의 클라우드 컴퓨팅 서비스에 30억달러 이상을 지출할 계획이다.  

특히 앤트로픽은 파트너십에 따라 구글 클라우드의 AI 액셀러레이터인 ‘TPU v5e’를 대규모로 배포하는 최초의 기업 중 하나가 됐다. 앤트로픽은 클로드를 TPU v5e를 기반으로 제공할 수 있게 됐다.

TPU v5e는 이전 세대 모델에 비해 달러당 2.3배 높은 트레이닝 성능을 제공한다. 또 멀티슬라이스 방식의 대규모 트레이닝 기술을 통해 단일 TPU 포드의 물리적 한계를 넘어 최대 수만개의 상호연결된 칩으로 LLM을 확장할 수도 있다. 

물론 아직까지 엔비디아의 GPU를 따라잡기는 무리다. 최근 발표된 ML커먼스의 벤치마크 결과에서 엔비디아의 H100 GPU가 구글의 TPU보다 5배 빠르게 LLM을 훈련한 것으로 나타났다.

하지만 다리오 아모데이 앤트로픽 CEO는 “TPU의 효율성에 대해 정말 기대가 크다”라며 “이미 우리에게 (TPU를 사용하는)이점이 보이기 시작했다”라고 말했다.

구글과 앤트로픽의 파트너십 확대는 AI와 클라우드의 결합이라는 측면에서 의미를 가진다. AI를 개발하고 운영하기 위해서는 강력한 컴퓨팅 성능이 필요하다. 하지만 AI 하드웨어는 가격은 물론 희소성으로 기업에 큰 부담을 주고 있다. 이에 클라우드 업계에서는 AI 기업들을 잡아 클라우드 시장 점유율을 높이려는 경쟁이 벌어지고 있다. 

특히 토마스 쿠리안 구글 클라우드 CEO는 “최신 TPU 칩을 구글 클라우드의 셀링 포인트로 보고 있다”라고 강조했다. 엔트로픽과 같은 프론티어 모델급 기업이 TPU를 통해 뛰어난 성능을 입증하면, 이는 TPU 확산에 큰 도움이 된다는 의미다.

앤트로픽 외에도 AI 스타트업 허깅페이스와 어셈블리AI가 TPU v5e을 사용하고 있다. 구글은 챗봇 ‘바드(Bard)’와 같은 자체 제품을 지원하는 데도 사용하고 있다.

한편 클라우드 서비스 분야에서 구글의 라이벌인 아마존도 앤트로픽의 후원자다. 지난 9월 아마존은 앤트로픽에 최대 40억달러(약 5조4000억원)를 투자한다고 밝혔다. 또 앤트로픽이 AWS 클라우드 서비스 및 칩을 사용할 수 있도록 계약을 맺었다.

앤트로픽은 대부분의 워크로드를 AWS에서 실행할 계획이지만, 멀티 클라우드 접근 방식을 취하고 있다는 것의 주변의 분석이다. 이는 앤트로픽이 어느 업체와 클라우드 독점권을 넘기지는 않을 것이라는 뜻이다.

이에 대해 쿠리안 CEO는 “대기업은 항상 여러 클라우드를 선택하고 싶어 한다. 각서비스의 장점을 최대한 활용하려는 의도다”라며 “우리는 다른 클라우드 제공업체와 경쟁과 동시에 협력하는 데 이미 익숙하다”라고 말했다. 

박찬 기자 cpark@aitimes.com