AI 데이터센터의 전력과 열 — 랙 한 대가 142kW를 먹는 시대

Tech Explainer 2026년 07월 31일

AI 이야기를 할 때 우리는 보통 모델 성능을 말합니다. 벤치마크 점수가 몇 점이고, 컨텍스트가 몇 토큰이고 하는 것들이요. 그런데 그 모델을 실제로 돌리는 건물에서는 전혀 다른 싸움이 벌어지고 있습니다.

전기와 열입니다.

서버 랙 한 대가 먹는 전력이 10년 전의 100배가 됐고, 그 전력이 고스란히 열로 나옵니다. 공기로는 더 이상 식힐 수 없어서 서버를 아예 액체에 담그기 시작했고, 한국에서는 데이터센터를 짓겠다고 신청한 290건 중 전기를 받을 수 있다는 답을 들은 게 4건뿐이었습니다.

AI 데이터센터가 왜 전력과 열에서 막히는지 숫자로 따라가 보겠습니다. PUE가 뭔지, 액침냉각이 왜 필요한지, 800VDC가 왜 나왔는지, 그리고 한국이 지금 어디서 막혀 있는지까지요.

먼저 숫자 여섯 개

숫자	의미
142kW	NVIDIA GB300 NVL72 랙 한 대의 소비 전력
8~10kW	기존 데이터센터의 일반 서버 랙 (같은 크기)
565TWh	2026년 전 세계 데이터센터 전력 소비 전망 (2025년 447TWh)
31%	2026년 데이터센터 전력 중 AI 특화 서버가 차지하는 비중
30~40%	데이터센터 전체 전력에서 냉각이 차지하는 비중
4건	2024년 8월~2025년 6월 국내 데이터센터 전기사용 신청 290건 중 계통 접속 가능 판정

이 여섯 개가 오늘 이야기의 뼈대입니다. 하나씩 풀어볼게요.

랙 한 대가 먹는 전력이 100배 늘었다

세대별 서버 랙 1대당 소비 전력 비교 (로그 눈금) — 출처: 직접 작성

랙이 뭔가

데이터센터에 가면 사람 키만 한 철제 캐비닛이 줄지어 서 있습니다. 이 캐비닛 하나가 랙(rack) 이고, 그 안에 서버를 층층이 꽂습니다. 데이터센터의 용량은 보통 랙이 몇 개인가로 셉니다.

그런데 랙 한 대가 먹는 전력이 이렇게 변했습니다

구분	랙 1대당 전력	비고
기존 데이터센터	8~10kW	웹 서버·DB 등 일반 워크로드
NVIDIA GH20 NVL32	53.3kW	GPU 32개
NVIDIA GB300 NVL72	142kW	GPU 72개 — 이전 세대의 2.7배
차세대 Rubin Ultra (전망)	랙당 1MW 근접	GPU 수백 개

가정용 에어컨이 대략 1~2kW를 씁니다. 랙 한 대가 에어컨 100대분을 먹고 있다는 뜻이에요. 그리고 다음 세대는 1,000kW, 즉 지금의 7배가 예상됩니다.

왜 이렇게 됐나 — 밀어 넣어야 빨라지기 때문입니다

GPU를 여러 대 묶어 하나처럼 쓰려면 서로 최대한 가까이 있어야 합니다. 거리가 멀어지면 통신 지연이 생기고, 그 지연이 전체 학습 속도를 깎아먹습니다.

그래서 NVL72 같은 시스템은 GPU 72개를 한 랙 안에 밀어 넣고 초고속으로 연결합니다. 성능을 위해 밀도를 올린 결과가 142kW인 거예요. 성능과 전력 밀도는 같은 방향으로 움직입니다.

“랙 한 대가 에어컨 100대분을 먹습니다. 다음 세대는 그 7배입니다.”

전력은 어디로 가나 — 전부 열이 됩니다

에너지 보존이 냉혹하게 적용되는 자리

여기서 물리가 개입합니다. 서버가 소비한 전기는 일부만 계산에 쓰이고 나머지가 열로 버려지는 게 아닙니다. 계산에 쓰인 전기도 결국 열이 됩니다.

즉 랙에 넣은 142kW는 거의 그대로 142kW의 열로 나옵니다. 전기난로 142대를 캐비닛 하나에 넣고 돌리는 셈이에요.

그래서 냉각이 전기를 또 먹습니다

이 열을 밖으로 빼내려면 다시 전기가 듭니다. 데이터센터 전체 전력에서 냉각 부하가 30~40% 를 차지하는 이유예요.

계산이 이렇게 됩니다.

서버에 100의 전기를 넣는다
100만큼의 열이 나온다
그 열을 빼내는 데 추가로 30~50의 전기가 든다
결국 총 130~150의 전기를 사서 100만큼만 계산에 쓴다

이 비율을 재는 지표가 다음에 볼 PUE입니다.

PUE — 데이터센터 성적표 한 줄

냉각 방식별 PUE 비교 — 출처: 직접 작성

정의는 아주 단순합니다

PUE(Power Usage Effectiveness, 전력사용효율)

PUE = 데이터센터 전체 소비 전력 ÷ IT 장비가 쓴 전력

PUE 2.0 — 서버에 1을 쓰려고 총 2를 샀다. 절반이 냉각·조명·전력손실로 나갔다
PUE 1.5 — 서버에 1을 쓰려고 총 1.5를 샀다 (전통적인 공랭 데이터센터의 일반적 수준)
PUE 1.0 — 산 전기가 전부 서버로 갔다. 이론적 한계이고 현실에서는 도달할 수 없습니다

낮을수록 좋고, 1.0 밑으로는 내려갈 수 없습니다.

냉각 방식이 바뀌면 이 숫자가 바뀝니다

냉각 방식	PUE	특징
공랭 (전통 방식)	약 1.50	찬 공기를 불어 넣어 식힘
단상 DLC (콜드플레이트)	1.10~1.19	기존 시설 개조에 적합
2상 DLC	1.02~1.09	신축용, TDP 3kW급 대응
액침냉각	1.05~1.15	랙당 100kW 이상 초고밀도 대응

PUE가 1.5에서 1.1로 내려간다는 건, 같은 계산을 하는데 전기를 27% 덜 산다는 뜻입니다. 데이터센터 전기요금이 연간 수백억 원 단위인 걸 생각하면 어마어마한 차이예요.

(주: 위 수치는 업계에서 제시하는 목표·실측 범위이고, 실제 값은 기후·설계·부하율에 따라 크게 달라집니다.)

공기로는 왜 안 되나 — 물은 공기보다 25배 잘 나른다

전력 밀도가 올라가 공랭이 한계에 부딪히는 개념도 — 출처: 개념 컷 자가 생성

열전달의 기본

열을 옮기려면 매질이 필요합니다. 그런데 공기와 액체는 능력 차이가 큽니다.

항목	공기	액체
열전도율	기준	약 25배 높음
열용량	작음	월등히 큼
열 제어 전력 효율	기준	50% 이상 개선

공기의 열전도율은 물의 약 25분의 1에 불과합니다. 같은 열을 빼내려면 공기를 훨씬 많이, 훨씬 빠르게 불어야 한다는 뜻이에요.

그래서 공랭은 물리적으로 막힙니다

랙당 10kW 수준에서는 팬으로 바람을 불어 넣는 것으로 충분했습니다. 그런데 100kW를 넘어가면,

필요한 풍량이 감당 불가능한 수준으로 커집니다
팬이 먹는 전기가 급증합니다 (냉각하려고 산 전기를 팬이 먹습니다)
소음과 진동이 심해집니다
온도 제어의 반응이 느립니다 — 공기는 열을 천천히 실어 나르니까요

밀도를 올려서 성능을 얻었는데, 그 밀도 때문에 공기로는 식힐 수 없게 된 것입니다.

그래서 액체로 — 세 가지 방식

유전체 액체에 서버를 담근 액침냉각 시스템 실물 — 출처: Wikimedia Commons (CC BY-SA 4.0)

위 사진이 액침냉각(immersion cooling) 시스템을 위에서 내려다본 모습입니다. 서버들이 세로로 꽂혀 액체에 잠겨 있어요.

① 후면 도어 냉각 — 가장 가벼운 개조

랙 뒷문에 냉각수 코일을 달아, 빠져나가는 더운 공기를 그 자리에서 식힙니다. 기존 시설을 크게 안 건드려도 되지만 한계도 명확합니다.

② DLC(직접 액체 냉각) — 칩에 직접 붙인다

콜드플레이트라는 금속판을 CPU·GPU 표면에 직접 밀착시키고, 그 안으로 냉각수를 순환시킵니다. 열이 나는 지점에서 바로 빼내는 방식이에요.

구분	특징
단상 DLC	냉각수가 액체 상태로 순환. 기존 시설 리트로핏(개조) 에 적합
2상 DLC	냉각수가 끓어서 기체로 변할 때 열을 흡수. 효율이 더 높지만 신축용

2상 방식이 더 효율적인 이유는 상변화 때문입니다. 물이 끓어 수증기가 될 때 흡수하는 열(기화열)이 그냥 데워질 때보다 훨씬 크거든요. 땀이 증발하면서 몸을 식히는 것과 같은 원리예요.

③ 액침냉각 — 아예 담근다

서버를 전기가 통하지 않는 특수 액체(유전체 액체) 에 통째로 담급니다. 기름처럼 보이지만 전기를 통과시키지 않아서 전자 부품이 잠겨도 괜찮아요.

장점	내용
초고밀도 대응	랙당 100kW 이상에서도 안정적
팬이 없음	소음·진동 없음, 팬이 먹던 전기도 절약
부품 수명	먼지·습기·산화에서 격리됨

물론 대가가 있습니다. 유지보수가 번거롭고(서버를 꺼내려면 액체에서 건져야 합니다), 전용 설비가 필요하며, 초기 비용이 비쌉니다. 그래서 아직 모든 데이터센터가 쓰는 방식은 아니에요.

공기로 식히던 시대가 끝나가고 있습니다 — 물리적 한계에 부딪혔기 때문입니다.

전기를 보내는 방식도 바뀝니다 — 800VDC

문제는 구리와 변환 손실

랙에 142kW를 넣으려면 그만큼 전류가 흘러야 합니다. 그런데 전압이 낮으면 같은 전력을 보내는 데 전류가 커지고, 전류가 커지면 굵은 구리 케이블이 필요합니다.

구리 사용량이 급증해 구축 비용이 오릅니다
전원공급장치(PSU)가 차지하는 공간이 늘어납니다
교류(AC)를 직류(DC)로 바꾸는 변환 단계마다 손실이 생깁니다

해법: 전압을 올리고 직류로 보낸다

800VDC(800볼트 직류) 배전이 그 답으로 제시되고 있습니다. NVIDIA가 밀고 있는 방향이기도 해요.

효과	내용
변환 단계 축소	AC 방식 대비 약 24% 에너지 효율 개선
구리 절감	같은 전력을 낮은 전류로 전달
공간 확보	PSU 점유 공간 감소

전압을 올리면 같은 전력을 더 적은 전류로 보낼 수 있다는 건 중학교 물리(P = V × I)입니다. 고압 송전선이 수십만 볼트를 쓰는 것과 같은 이유예요. 그 원리가 이제 데이터센터 안쪽까지 들어온 겁니다.

물도 많이 먹습니다 — 잘 안 알려진 비용

냉각의 상당 부분이 증발입니다

많은 대형 데이터센터가 증발 냉각을 씁니다. 물을 순환시켜 서버 열을 흡수한 뒤, 그 물의 일부를 증발시켜 열을 대기로 날려 보내는 방식이에요. 증발할 때 열을 많이 가져가기 때문에 효율이 좋습니다.

문제는 증발한 물이 돌아오지 않는다는 겁니다.

미국의 AI 전용 데이터센터가 연간 소비하는 물이 약 1조 리터 규모로 추산됩니다
이를 재는 지표로 WUE(Water Usage Effectiveness, 물 사용 효율) 를 씁니다

공개 수치에 빠져 있는 것

여기에 짚어둘 대목이 있습니다. 기업이 공개하는 데이터센터 물 사용량에는 발전 과정에서 쓰인 물이 대부분 빠져 있습니다.

화력·원자력 발전소는 냉각에 엄청난 물을 씁니다. 데이터센터가 전기를 많이 쓸수록 발전소에서 쓰는 물도 늘어나는데, 그 몫은 지속가능성 보고서에 잘 잡히지 않아요. 실제 물 발자국은 공개 수치보다 크다고 보는 게 맞습니다.

한국은 지금 어디서 막혀 있나

국내 데이터센터 전기사용 신청 대비 계통 접속 가능 건수 — 출처: 직접 작성

여기가 이 주제에서 한국 독자에게 가장 중요한 부분입니다.

신청 290건, 전기 받을 수 있는 곳 4건

2024년 8월부터 2025년 6월까지 접수된 데이터센터 전기사용 신청 현황입니다.

구분	건수	비율
전체 신청	290건	100%
수도권 집중	195건	67%
계통 접속 가능	4건	약 1%

100건 신청하면 1건 정도만 전기를 받을 수 있다는 뜻입니다. 수도권 데이터센터 전력 승인률은 1.9% 로 집계되기도 했습니다.

왜 수도권으로만 몰리나

이유가 있습니다. AI 추론 서비스는 응답 지연이 곧 품질입니다. 사용자와 가까울수록 유리하고, 인력 확보도 수도권이 쉽습니다. 그래서 사업자 입장에서는 수도권이 합리적인 선택이에요.

문제는 전력망이 이미 포화라는 겁니다. 수요는 수도권에 몰리는데 공급 여력은 지방에 있는, 구조적인 불일치입니다.

국내 수요는 계속 늘어납니다

시점	국내 데이터센터 전력 수요
2025년	4,461MW
2028년 (전망)	6,175MW (약 1.4배, 연평균 11%)

AIDC 특별법 — 2027년 3월 시행

정부 대응도 나왔습니다. 인공지능 데이터센터 산업 진흥에 관한 특별법이 2026년 5월 7일 국회를 통과해 6월 9일 공포됐고, 2027년 3월 10일 시행됩니다.

내용	설명
원스톱 인허가	여러 인허가를 한 번에 신청
타임아웃제	심사가 늦어지면 자동 처리되는 장치
비수도권 우대	전력계통영향평가 면제, 시설 기준 완화

방향은 비수도권 분산 유도입니다. 다만 앞서 본 대로 사업자에게는 수도권 입지 유인이 강하기 때문에, 이 법만으로 쏠림이 해소될지는 지켜볼 일이에요.

그럼 전기를 어디서 구하나 — 빅테크는 발전소를 사고 있습니다

전력망이 못 따라오면 방법은 두 가지입니다. 기다리거나, 직접 구하거나. 글로벌 빅테크는 후자를 택했습니다.

전력구매계약(PPA) — 발전소와 직거래

PPA(Power Purchase Agreement) 는 전력 소비 기업이 발전사업자와 장기간 직접 전력을 사고파는 계약입니다. 기업은 안정적인 가격에 물량을 확보하고, 발전사업자는 수익이 보장됩니다.

AI 데이터센터에는 이게 특히 중요합니다. 전력망 접속을 기다리는 대신 공급원을 직접 묶어두는 방식이니까요.

그리고 원전으로 갔습니다

재생에너지는 날씨에 따라 출력이 흔들리는데, 데이터센터는 24시간 일정한 전력이 필요합니다. 그래서 시선이 원자력으로 옮겨갔어요.

기업	계약 내용
Meta	일리노이주 클린턴 원전에서 1.1GW를 20년간 공급받는 계약 — 세계 최대 규모 원전 전력 구매자
Amazon	서스케하나 원전 인근 데이터센터 캠퍼스 매입, Talen Energy에서 2042년까지 1.9GW
Google	Kairos Power와 제휴해 2035년까지 SMR 500MW 개발, 첫 원전 2030년 가동 목표
Amazon (SMR)	Dominion Energy 계약에 이어 Energy Northwest와 워싱턴주에 최대 12기 SMR 단지

SMR(소형 모듈 원자로) 은 공장에서 모듈로 찍어내 현장에서 조립하는 작은 원전이에요. 데이터센터 옆에 붙여 짓는 그림이 그려지면서 빅테크 투자가 몰리고 있습니다.

한국은 이 부분이 막혀 있었습니다

국내에서는 한국전력의 판매 독점 구조 때문에 기업이 원전 전력을 직접 장기계약으로 사 오기가 어려웠습니다. 그래서 원전 PPA를 허용하는 법 논의가 진행되고 있어요. AI 데이터센터의 전력 조달 경로를 넓히자는 취지입니다.

앞에서 본 계통 접속 4건 문제와 이어지는 이야기입니다. 망을 늘리는 것과 조달 경로를 여는 것은 다른 해법이고, 지금 둘 다 논의되고 있습니다.

버리는 열을 쓸 수는 없나 — 폐열 활용

데이터센터에서 나온 열을 인근 지역난방으로 보내는 개념도 — 출처: 개념 컷 자가 생성

발상의 전환

지금까지는 열을 버려야 할 골칫거리로 다뤘습니다. 그런데 뒤집어 보면, 데이터센터는 24시간 열을 안정적으로 생산하는 시설이기도 합니다.

활용 방식	내용
지역난방	인근 주택·상업 건물에 난방 공급 — Google·Meta 등이 실제 적용
흡수식 냉동기	폐열로 다시 냉방을 만들어 데이터센터 자체 냉방에 재투입
수열에너지	하천수·해수를 냉각에 활용하는 방식과 연계

다만 조건이 까다롭습니다

데이터센터 폐열은 온도가 낮은 편이라 그대로는 난방에 쓰기 어려워, 히트펌프로 온도를 올려야 합니다
수요처가 가까이 있어야 합니다 — 열은 멀리 보낼수록 손실이 큽니다
난방 수요는 겨울에 몰리는데 데이터센터 열은 사철 나옵니다

그래서 폐열 활용은 만능 해법이라기보다, 입지를 처음 정할 때부터 열 수요처와 함께 설계해야 효과가 나는 문제에 가깝습니다.

정리 — AI의 병목은 모델이 아닐 수도 있다

반도체를 아무리 잘 만들어도, 꽂을 자리에 전기가 없으면 돌릴 수 없습니다.

오늘 본 것을 이어 보면 이렇게 됩니다.

성능을 위해 밀도를 올렸고 — GPU를 한 랙에 몰아넣어 랙당 142kW

그만큼 열이 나오고 — 넣은 전력은 거의 전부 열이 됩니다

공기로는 못 식혀서 — 열전도율이 물의 1/25이라 물리적 한계

액체로 갈아타고 — DLC와 액침냉각, PUE 1.5 → 1.1

전기 보내는 방식도 바꾸고 — 800VDC로 변환 손실 24% 절감

전기를 직접 구하러 나섰고 — 빅테크는 원전과 장기계약, SMR까지 투자

그런데 한국은 전기 자체가 없다 — 국내 신청 290건 중 접속 가능 4건

AI 경쟁을 이야기할 때 보통 모델과 칩을 봅니다. 하지만 실제로 발목을 잡는 건 전력망·냉각수·부지 같은, 훨씬 오래되고 물리적인 것들일 수 있습니다. 소프트웨어는 몇 달이면 바뀌지만 송전선은 몇 년이 걸리니까요.

다음에 새 AI 모델 발표를 볼 때, 그 모델이 돌아갈 건물에서는 이런 일들이 벌어지고 있다는 걸 한 번쯤 떠올려 보셔도 좋겠습니다.