인공지능(AI) 수요 증가로 인해 그래픽처리장치(GPU)가 품귀 현상을 빚는 가운데 일부 회사가 게임용 GPU를 대안으로 사용하고 있어 화제다. 상황에 따라서는 게임용 그래픽 카드가 새로운 형태의 컴퓨팅 파워 공급 요소로 자리잡을 수 있을 것이라는 분석까지 나왔다.

톰스하드웨어는 1일(현지시간) 미국의 자율주행 스타트업 컴마 AI가 AI 컴퓨팅 인프라 구축을 위해 AMD 게이밍 GPU를 구매했다고 보도했다.

이에 따르면 조지 호츠 컴마 AI CEO는 트위터를 통해 자율주행을 위한 AI 작업을 위해 AMD 게이밍 GPU를 구매한 사례를 언급했다. 그 예로 XFX MERC 310 GPU, AMD 라데온 RX 7900 XTX를 사용해 7.38페타플롭의 컴퓨팅 성능을 보여주는 사진도 게재했다. 이 그래픽 카드는 ‘2023년 최고의 게임용 그래픽 카드’ 업데이트 목록에서 2위를 차지한 제품이다.

구매한 GPU의 수를 정확하게 밝히지는 않았으나, 이미지와 성능 계산에 사용된 메트릭에 따라 FP16이 사용된 경우 GPU가 60개, FP32가 사용된 경우 GPU가 120개 필요하다는 분석이다. AI는 대부분 FP16에 의존하기 때문에 총 60개의 GPU를 사용해 총 7.38페타플롭을 제공했다고 추정할 수 있다.

라데온 RX 7900 XTX의 소매가는 약 1000달러이므로, 시스템 구축에 들어간 비용은 6만달러(약 7800만원)에 이른다.

호츠 CEO는 “앞으로 엑사플롭급 성능도 지원할 것”이라며 GPU 구매를 계속할 것이라고 밝혔다. 1엑사플롭은 1000페타플롭의 성능이다. 호츠가 최대 7.38엑사플롭의 GPU 컴퓨팅을 구입하는 것을 목표로 한다면 이 그래픽 카드 구입을 위해 약 6000만달러(약 780억원)의 예산을 책정해야 한다. 약 2엑사플롭스 정도의 AI 컴퓨팅을 추구한다면 약 2000만달러(약 260억원)에 불과하다.

이처럼 AMD 게임용 GPU를 선택하는 데에는 두 가지 주요 이유가 있다는 것이 전문가들의 분석이다. 

우선 AI 워크로드에는 상당한 메모리 용량을 가진 GPU가 필요한데, 24GB VRAM을 장착한 라데온 RX 7900 XTX는 엔비디아의 최고 제품에 비해 비용이 훨씬 싸기 때문에 최상의 대안으로 볼 수 있다. 

또 오픈AI나 마이크로소프트(MS)와 같은 빅테크말고 일반적인 스타트업이 AI용 GPU를 만져보기란 쉽지 않은 현실 때문이다. 하지만 AMD 게임용 GPU는 쉽게 구입할 수 있다.

GPU 수요 증가가 어떤 현상을 벌어졌는지는 이미 잘 알려져 있다. 수입이 금지된 중국에서는 일부 지역에서 ‘H800’ GPU당 가격이 7만달러를 넘어섰으며, 미국의 제재에 대한 경계까지 더해지며 ‘A800’은 하룻밤 사이에 20%나 뛰기도 했다. 

여전히 부족한 컴퓨팅 파워로 인해 게임용 GPU의 수요도 한동안 지속될 것이라는 전망이 나오고 있다. 실제 최근 AMD와 엔비디아 소비자용 GPU를 비교하는 벤치마크에서도 게임용 GPU가 떨어지지 않는 성능을 보여준 바 있다.

이에 대해 톰스하드웨어는 “AI용 GPU의 부족으로 인해 게임용 GPU를 대안으로 고려하게 됐지만, 이런 변화는 AI 컴퓨팅을 위해 특별히 설계한 새로운 범주의 GPU의 출현으로 이어질 수 있다”고 지적했다.

박찬 기자 cpark@aitimes.com