구글이 제미니 질의 1건당 전기·물·탄소 배출을 처음으로 수치화한 상세 보고서를 공개했다. 칩 외 인프라 비중, 작업별 편차, 텍스트 한정 수치, 시간 경과에 따른 효율 개선, 시장기반 배출 산정 방식 등 핵심 내용을 다룬다.
구글이 Gemini 앱이 질의 1건당 얼마나 많은 에너지를 사용하는지 상세히 담은 기술 보고서를 공개했다. 전체적으로 에너지 수요 분포의 한가운데에 해당하는 ‘중앙값 프롬프트’는 전기 0.24와트시(Wh)를 소비하며, 이는 표준 전자레인지를 약 1초간 가동하는 것과 맞먹는다. 회사는 또한 Gemini에 대한 텍스트 프롬프트와 연관된 물 소비와 탄소 배출의 평균 추정치도 제시했다.
이는 인기 있는 AI 제품을 보유한 빅테크 기업이 내놓은 추정치로서는 가장 투명한 사례이며, 최종 추정치를 어떻게 산출했는지에 대한 상세 정보도 포함돼 있다. AI의 보급이 확대되면서 에너지 사용을 이해하려는 노력이 커져 왔지만, AI가 실제로 사용하는 에너지를 직접 측정하려는 공공의 시도는 대형 기술 기업의 운영에 완전 접근하기 어렵다는 한계로 좌절돼 왔다.
올해 초 _MIT Technology Review_는 AI와 에너지에 관한 종합 시리즈를 발행했는데, 당시에는 어떤 주요 AI 기업도 프롬프트당 에너지 사용량을 공개하지 않았다. 구글의 이번 공개로 마침내 연구자와 분석가들이 오랫동안 희망해 온 ‘커튼 뒤’를 일부나마 들여다볼 수 있게 됐다.
이번 연구는 모델을 구동하는 AI 칩이 쓰는 전력뿐 아니라 해당 하드웨어를 뒷받침하는 모든 인프라가 쓰는 전력까지 포함해, 에너지 수요를 폭넓게 살폈다.
구글 최고과학자 제프 딘(Jeff Dean)은 이번 보고서에 대해 _MIT Technology Review_와의 단독 인터뷰에서 “포함할 수 있는 모든 요소를 꽤 포괄적으로 담고자 했다”고 말했다.
이 점은 중요하다. 이번 측정에서 AI 칩—이 경우 GPU에 해당하는 구글의 자사 커스텀 TPU—이 차지하는 전기 수요는 총 0.24Wh 가운데 58%에 불과하기 때문이다.
에너지의 또 다른 큰 몫은 AI 전용 하드웨어를 지원하는 데 필요한 장비가 쓴다. 호스트 머신의 CPU와 메모리가 총 에너지의 25%를 차지한다. 또한 장애 발생에 대비한 대기(백업) 장비도 필요하며, 이러한 유휴 머신이 10%를 차지한다. 나머지 8%는 냉각과 전력 변환 등 데이터센터 운영에 수반되는 오버헤드에서 나온다.
이 같은 보고서는 에너지와 AI 연구에서 업계의 입력이 얼마나 가치 있는지를 보여준다고, AI 모델의 에너지 소비를 추적하는 ML.Energy 리더보드를 공동으로 이끄는 미시간대학교 모샤라프 초우두리(Mosharaf Chowdhury) 교수가 말한다.
구글과 같은 추정치는 일반적으로 기업만이 만들어낼 수 있다. 연구자들이 감당하기 어려운 규모로 운영하고, 무대 뒤 정보를 확보할 수 있기 때문이다. ML.Energy를 함께 이끄는 미시간대학교 박사과정 정재원(Jae-Won Chung)은 “이 분야의 초석이 될 작업”이라며 “지금까지 나온 분석 중 가장 포괄적”이라고 평가했다.
다만 구글의 수치는 Gemini에 들어오는 모든 질의를 대표하진 않는다. 회사는 매우 다양한 요청을 처리하며, 이번 수치는 가능한 질의 범위 한가운데에 해당하는 중앙값 에너지 수요로 계산됐다.
따라서 일부 Gemini 프롬프트는 이보다 훨씬 많은 에너지를 사용한다. 딘은 수십 권의 책을 Gemini에 입력해 각각의 내용을 상세하게 요약하게 하는 예를 들며 “그런 작업은 중앙값 프롬프트보다 더 많은 에너지가 들 가능성이 크다”고 말했다. 추론(reasoning) 모델을 사용할 경우에도 답을 내놓기 전에 더 많은 단계를 거치기 때문에 관련 에너지 수요가 더 높아질 수 있다.
이번 보고서는 텍스트 프롬프트로 엄격히 한정됐기 때문에, 이미지나 동영상을 생성하는 데 필요한 에너지를 대표하지는 않는다. 올해 초 발표된 _MIT Technology Review_의 Power Hungry 시리즈를 포함한 다른 분석들은 이러한 작업에 훨씬 더 많은 에너지가 필요할 수 있음을 보여준다.
보고서는 또한 Gemini 질의 1건을 처리하는 데 쓰이는 총 에너지가 시간이 지남에 따라 극적으로 감소했음을 보여준다. 구글에 따르면 중앙값 Gemini 프롬프트는 2024년 5월에는 2025년 5월보다 에너지를 33배 더 사용했다. 회사는 모델의 발전과 기타 소프트웨어 최적화를 개선의 배경으로 꼽는다.
구글은 중앙값 프롬프트에 수반되는 온실가스 배출량도 추정했는데, 이 값을 이산화탄소 0.03그램으로 제시했다. 이 값은 프롬프트에 응답하는 데 쓰인 총 에너지를 전력 1단위당 평균 배출량과 곱해 산출했다.
미국 전력망 평균이나 구글이 운영하는 지역 전력망의 평균에 기반한 배출 추정치를 쓰는 대신, 구글은 자사가 청정에너지 프로젝트로부터 구매하는 전력을 반영한 ‘시장 기반’ 추정 방식을 사용했다. 구글은 2010년 이후 태양광, 풍력, 지열, 선진 원자력 등에서 22GW가 넘는 전력을 구매하기로 계약을 체결해 왔다. 이러한 구매 덕분에 구글의 전력 단위당 배출량은 자사가 운영하는 평균 전력망의 배출량 대비 서류상 대략 3분의 1 수준이다.
AI 데이터센터는 냉각을 위해 물도 소비하며, 구글은 프롬프트 1건에 물 0.26밀리리터(약 다섯 방울)가 쓰인다고 추정한다.
딘은 이번 작업의 목표가 사용자에게 AI와 상호작용할 때의 에너지 사용에 대한 창을 제공하는 것이라고 말한다.
“사람들은 [AI 도구]를 온갖 용도로 사용하고 있습니다. 그리고 Gemini 모델의 에너지 사용이나 물 사용에 대해 큰 우려를 가질 필요가 없습니다. 실제 측정에서 우리가 보여줄 수 있었던 것은, 그것이 여러분이 일상에서 별생각 없이 하는 일과 사실상 동등하다는 점이었거든요.” 그는 이렇게 덧붙였다. “TV를 몇 초 시청하는 것, 혹은 물 다섯 방울을 쓰는 것처럼요.”
이번 공개는 AI의 자원 사용에 대한 공적 이해를 크게 확장한다. 최근 기술의 에너지 부담에 대한 정보를 더 많이 공개하라는 압력이 높아지는 가운데 나온 조치다. 허깅페이스의 AI·기후 연구원 사샤 루치오니(Sasha Luccioni)는 “이런 정보를 내준 것이 정말 반갑다”며 “사람들은 그 비용이 얼마인지 알고 싶어한다”고 말했다.
루치오니는 또한 이번 추정치와 이를 뒷받침하는 보고서에 이전보다 훨씬 많은 공개 정보가 담겨 있으며, 대형 기업이 실세계에서 규모 있게 사용하는 AI에 대한 더 많은 정보를 얻을 수 있어 유익하다고 덧붙였다. 다만 이번 보고서에도 회사가 공유하지 않은 세부 사항이 남아 있다. 그중 하나의 큰 물음표는 Gemini가 하루에 받는 총 질의 수로, 이는 이 AI 도구의 총 에너지 수요를 추정하는 데 필수적인 정보다.
결국 어떤 세부를 언제, 어떻게 공유할지 결정하는 주체는 여전히 회사다. 루치오니는 “우리는 표준화된 AI 에너지 점수, 즉 가전의 에너지스타 등급과 유사한 표준을 추진해 왔다”고 말한다. “이번 공개는 그러한 표준화된 비교를 대체하거나 그 대리 지표가 될 수는 없다.”
