‘GPT-4’가 탄생한 곳이 오픈AI의 근거지인 미국 샌프란시스코가 아니라 ‘아이오와주 서쪽 옥수수밭’이라는 증언이 나왔다. 여기에는 대형언어모델(LLM)의 학습에 엄청난 물이 필요하다는 배경이 있다.
 
AP는 12일(현지시간) 마이크로소프트(MS) 최고 경영진의 연설 도중 이런 사실이 처음 밝혀졌다며, 이는 LLM 학습 도중 슈퍼컴퓨터를 냉각하기 위해 엄청난 물이 필요하기 때문이라고 전했다.

이에 따르면 MS 경영진은 “문자 그대로 디모인 서쪽 옥수수밭 옆에서 만들어졌다”고 말한 것으로 알려졌다. 인구 6만8000의 도시 디모인은 MS가 10년 이상 데이터 센터를 운영한 곳으로, 올해 말에는 네번째와 다섯번째 데이터 센터가 개장할 예정이다.

특히 아이오와는 전체 면적의 75%가 옥수수와 콩밭인 미국의 대표적인 농업 지대다. 영화 ‘꿈의 구장(1989)’의 광활한 옥수수 밭도 아이오와가 배경이다. 이런 곳에서 최첨단 인공지능(AI) 모델이 탄생했다는 아이러니한 점을 강조하기 위한 표현이다.
  
GPT-4를 학습한 데이터 센터는 아이오와 중부의 라쿤 강과 디모인 강 유역에서 끌어온 물로 슈퍼컴퓨터를 냉각한 것으로 알려졌다. 처음에는 다른 장소도 염두에 뒀지만, 결국 물 문제로 아이오와를 찾을 수 밖에 없었다는 설명이다.

LLM 운영 과정에서 슈퍼컴퓨터 냉각에 많은 물이 필요하다는 것은 잘 알려진 사실이다. 구글은 지난해 데이터센터에서 소비한 물이 전년 대비 20% 늘어난 52억갤런에 달한다고 밝혔다. 이는 성인 100만명이 하루 2ℓ씩 한달 동안 마실 수 있는 양이다. 메타 역시 데이터센터에서 2021년 13억3000만갤런의 물을 사용했다고 보고했다.

또 ‘챗GPT’와 질문과 답변 25~50개를 나누는 데 물 500㎖가 소요된다는 연구 결과도 나왔다. ‘GPT-3’를 훈련하는 데는 총 18만5000갤런(70만ℓ)의 물을 쓴 것으로 추정된다. 

이에 대해 오픈AI는 “우리는 LLM을 학습하는 데 에너지와 물이 많이 소모될 수 있다는 점을 인식하고 효율성을 개선하기 위해 노력하고 있다”는 공식 입장을 밝혔다.

임대준 기자 ydj@aitimes.com