전력 사용 효율(PUE)
PUE(power usage effectiveness, 전력 사용 효율)는 데이터센터 전체 에너지 사용량을 IT 장비가 사용하는 에너지로 나눈 값입니다. PUE가 1.0이면 모든 전력이 연산에 쓰인다는 뜻이고, 값이 클수록 냉각과 전력 손실에 더 많이 쓰인다는 뜻입니다.
다른 이름: PUE
작성 Divya Sharma · 2026년 11월 20일 확인 · 리뷰 방식
여러분이 호출하는 모든 AI 모델은 냉각과 전력 공급이 필요한 건물 안의 GPU에서 실행됩니다. PUE는 그 부대 소비를 측정합니다. 시설 전체가 끌어오는 전력을 서버, 스토리지, 네트워크 장비에 도달하는 전력으로 나눕니다. PUE 1.5는 연산 1와트마다 0.5와트의 부대 소비가 있다는 뜻입니다.
일반적인 값
Google은 환경 보고서에서 2025년 전체 시설 평균 PUE를 1.09로 보고하고, 같은 해 Uptime Institute 조사 평균으로 1.54를 인용합니다. 100 MW의 IT 부하를 1년 내내 가동하면 이 차이는 약 394,000 MWh의 추가 전력에 해당합니다. 실제 값은 기후, 냉각 설계, 시설 가동률에 따라 달라집니다.
측정하지 않는 것
PUE는 연산이 얼마나 유용한지에 대해서는 아무것도 알려 주지 않습니다. 유휴 서버로 가득한 시설도 PUE는 훌륭할 수 있습니다. 물도 고려하지 않습니다. 증발식 냉각은 물을 더 쓰는 대신 PUE를 낮추는 경우가 많아, 연구자들은 kWh당 리터로 표시하는 물 사용 효율(WUE)을 따로 추적합니다. GPU 클라우드와 셀프 호스팅처럼 공급자를 비교할 때 PUE가 알려 주는 것은 건물이지 토큰당 가격이 아닙니다.
관련 용어
- GPU
- GPU(graphics processing unit)는 많은 계산을 병렬로 실행하도록 만든, 작은 코어가 많은 프로세서입니다. 행렬 연산 속도 덕분에 AI 모델을 학습하고 실행하는 표준 하드웨어가 되었습니다.
- GPU 클라우드
- GPU 클라우드(GPU cloud)는 AI 학습, 미세 조정, 추론을 위해 GPU 머신을 시간 단위나 초 단위로 빌려주는 서비스입니다. 네오클라우드(neocloud)라고도 불리는 전문 업체는 GPU에 집중하며, 대형 범용 클라우드보다 저렴한 경우가 많습니다.
- 셀프 호스팅(AI 모델)
- AI 모델 셀프 호스팅(self-hosting)은 제공업체의 API를 호출하는 대신, 자체 서버, 임대한 GPU, 노트북처럼 직접 통제하는 하드웨어에서 모델을 실행하는 것입니다. 모델을 고르고 데이터를 지킬 수 있지만, 인프라를 직접 운영해야 합니다.
- 추론(인퍼런스)
- 추론(inference, 인퍼런스)은 학습된 모델을 실행해 새로운 입력으로 출력을 만드는 것으로, LLM이 프롬프트에 대한 답을 생성하는 것이 그 예입니다. 학습과 달리, 사용자가 모델을 호출할 때마다 비용을 내는 단계입니다.
- 서버리스 GPU(Serverless GPU)
- 서버리스 GPU(serverless GPU)는 코드나 모델을 배포하면 플랫폼이 요청이 들어올 때만 GPU 워커를 시작하고, 실행된 시간만큼 청구하며, 유휴 시에는 0으로 축소하는 클라우드 모델입니다.