인공지능(AI)의 급격한 성장에 따라 엔비디아 ‘H100’ GPU의 연간 소비전력량이 소규모 국가와 맞먹을 것이라는 지적이 나왔다. 하지만 향후 출시할 신제품의 성능 향상으로 인해 효율성이 개선될 것으로 내다봤다.
톰스하드웨어는 26일(현지시간) 프랑스 기업 슈나이더 일렉트릭이 엔비디아 H100 GPU의 2024년 연간 소비 전력량이 조지아나 리투아니아, 과테말라와 같은 국가들의 연간 소비 전력량과 같은 수준으로 증가할 것이라는 내용의 보고서를
발표했다고 소개했다.
이에 따르면 엔비디아 H100 GPU의 최대 소비전력은 700W으로 연간 61% 사용률일 경우, 가구당 2.51명의 미국 평균 가구 기준 소비전력량에 해당한다.
엔비디아의 2024년 H100 GPU 예상 판매량은 150만~200만개다. 이 경우 연간 61% 사용률로 각 H100 GPU는 연간 약 3740kWh의 전력을 소비하게된다.
엔비디아가 2023년 150만개에 이어 2024년 200만개의 H100 GPU를 판매한다고 가정하면, 내년에는 총 350만개의 H100 GPU가 연간 1만3091.82GWh의 전력을 소비하게 된다.
이는 조지아, 리투아니아, 과테말라의 연간 소비전력량 1만3092GWh에 근접한 수치다. 또 텍사스의 휴스턴보다 적고 애리조나의 피닉스보다 많은 미국 5위에 해당하는 규모다.
슈나이더 일렉트릭은 GPU의 전력 소비가 단기간에 낮아지지 않을 것으로 내다봤다. 하지만 다소 충격적인 전력사용량보다 AI와 GPU 효율성이 증가한다는 것에 주목해야 한다고 밝혔다.
엔비디아의 차세대 GPU ‘B100’은 H100의 소비전력량을 능가할 가능성이 높지만, 더 높은 성능을 제공하기 때문에 소비되는 각 전력 단위에 대해 더 많은 작업을 수행할 수 있다는 설명이다.
한편 일부 전문가들은 AI는 에너지 집약적이기 때문에 실제로 필요하지도 않은 모든 종류의 작업에 AI를 투입하는 것은 자원 낭비일 수 있다고 주장하고 있다. AI를 사용하는 목적에 대해 주의해야 한다는 지적이다.
박찬 기자 cpark@aitimes.com
Usually I do not read article on blogs, however I would like to say that this write-up very compelled me to take a look at and do it! Your writing style has been amazed me. Thank you, very nice article.
I simply could not go away your web site prior to suggesting that I really enjoyed the standard info a person supply on your guests? Is going to be back incessantly to investigate cross-check new posts.
Your writing style is so engaging and easy to follow I find myself reading through each post without even realizing I’ve reached the end
I appreciate how this blog addresses important issues in a respectful and informative manner It’s refreshing to see a blog use its platform for good
It’s clear that you have a deep understanding of this topic and your insights and perspective are invaluable Thank you for sharing your knowledge with us
Your writing is so relatable and down-to-earth It’s like having a conversation with a good friend Thank you for always being real with your readers
Leave a comment and let us know what your favorite blog post has been so far!