AI 데이터센터 경쟁력의 새로운 기준, 열관리

AI 산업의 성장과 함께 데이터센터의 역할도 빠르게 확대되고 있습니다. 생성형 AI 서비스와 AI 모델 학습 수요가 증가하면서 데이터센터에는 더 많은 GPU가 집적되고 있으며, 이에 따라 발열량 역시 과거와 비교할 수 없을 정도로 증가하고 있습니다. 이제 AI 인프라 경쟁력은 더 높은 성능의 반도체를 확보하는 것을 넘어, 고성능 연산에서 발생하는 열을 얼마나 안정적이고 효율적으로 관리할 수 있는지에 의해 결정되고 있습니다.

AI 시대, 더 뜨거워지는 데이터센터

AI 모델의 규모가 커질수록 이를 구동하는 데이터센터의 열 환경도 급변하고 있습니다. 과거 일반 데이터센터 서버 랙의 전력 소모는 5~10kW 수준이었지만, 고성능 GPU 기반 AI 연산이 보편화되면서 30kW, 많게는 100kW 이상을 요구하는 환경으로 바뀌고 있습니다.

이 추세는 앞으로 더욱 가파르게 진행될 전망입니다. NVIDIA 및 제조사 설계 자료에 따르면, 현재 도입되고 있는 블랙웰 기반 GB200 NVL72 랙은 약 120~130kW급 전력을 요구하며 차세대 Vera Rubin NVL72는 최대 227kW급까지 높아지고 있습니다. Rubin Ultra 등 후속 초고밀도 시스템은 향후 수백 kW급으로 확대될 전망입니다. 랙 하나에 과거 데이터센터 수십 개 랙에 해당하는 전력이 집중되면서 발열량도 함께 급증하고 있습니다. 이에 따라 공랭만으로 열을 처리하는 기존 데이터센터 설계는 실질적인 한계에 가까워지고 있습니다.

연산 경쟁에서 열관리 경쟁으로

이에 따라 데이터센터의 경쟁력 기준도 서버 수와 연산 능력에서, 고성능 장비가 안정적으로 제성능을 유지하도록 만드는 열관리 역량으로 이동하고 있습니다. 같은 AI 인프라를 구축하더라도 발생하는 열을 효율적으로 제어하지 못하면 안정적인 가동률을 유지하기 어렵기 때문입니다.

이 흐름은 2026년 6월 서울 코엑스에서 열린 ‘2026 데이터센터 서밋 코리아’에서도 뚜렷하게 확인됐습니다. ‘AI 인프라 슈퍼사이클: 차세대 데이터센터를 위한 엔지니어링 혁신’을 주제로 열린 이 행사에서는 전력·냉각을 효율화하는 솔루션이 에너지 효율과 탄소 저감을 좌우하는 핵심 인프라로 부상하고 있다는 진단이 이어졌습니다.

AI 칩의 열설계전력(TDP)과 서버 랙의 전력 밀도가 빠르게 높아지면서 액체냉각 도입도 앞당겨지고 있습니다. 특히 수십 kW에서 100kW를 넘어서는 고밀도 AI 랙에서는 공랭만으로 열을 처리하기 어려워지면서, 직접액체냉각과 공랭을 결합한 하이브리드 설계가 현실적인 대안으로 자리 잡고 있습니다.

공랭의 한계와 차세대 냉각 기술의 등장

지금까지 데이터센터 냉각의 표준은 공랭(Air Cooling)이었습니다. 구조가 단순하고 유지보수가 용이한 공랭은 오랫동안 업계의 기본 선택지였지만, AI 서버의 고발열 환경에서 한계가 드러나면서 액체냉각 도입이 가속화되고 있습니다. 대표적인 액체냉각 방식으로는 후면 도어 열교환기(RDHx), 직접 칩 냉각(Direct to Chip, D2C), 액침냉각(Immersion Cooling)이 있습니다.

후면 도어 열교환기(RDHx)는  기존 서버와 공랭 인프라를 크게 변경하지 않고 랙 후면에서 열을 제거할 수 있어 기존 데이터센터를 단계적으로 고밀도화하는 데 적합합니다.

직접 칩 냉각(D2C)는 CPU와 GPU 등 고발열 부품에 냉각판을 직접 접촉시키는 방식으로, 현재 AI·HPC 데이터센터의 대표적인 액체냉각 방식으로 확산되고 있습니다.

액침냉각은 서버 전체를 절연 유체에 담가 냉각하는 방식으로 높은 열 제거 성능을 제공하지만, 장비 호환성과 유지보수 방식, 냉각 유체 관리 등을 함께 고려해야 합니다.

따라서 실제 데이터센터에서는 랙 밀도와 기존 설비, 운영 환경에 따라 공랭·RDHx·D2C·액침냉각을 선택하거나 조합하는 방향으로 열관리 체계가 발전하고 있습니다. 이러한 기술은 단순히 서버 온도를 낮추는 데 그치지 않고, 데이터센터의 공간 활용도를 높이며 운영 비용과 탄소 배출을 줄이는 데 기여할 수 있는 종합 열관리 솔루션으로 진화하고 있습니다.

효율과 지속가능성을 좌우하는 열관리

열관리는 단순한 설비 운영의 문제가 아닙니다. 데이터센터의 냉각 전력 비중은 시설의 연식과 지역 기후, 냉각 구조에 따라 달라지지만 일부 시설에서는 전체 전력 사용량의 20~40%를 차지할 수 있습니다. 국제에너지기구(IEA) 는 2025년 전 세계 데이터센터 전력수요를 약 80TWh로 추산했습니다.

데이터센터 전력 소비도 2024년 약 415TWh에서 2030년에는 945TWh로 두 배 이상 증가할 것으로 전망입니다. 따라서 냉각 효율의 개선은 운영 비용 절감 뿐만 아니라 전력망의 부담 완화와 탄소 배출 감축 역시 핵심 과제입니다.

데이터센터의 에너지 효율은 통상 PUE(전력 사용 효율성, Power Usage Effectiveness)로 측정됩니다. 전통적인 데이터센터 설계의 PUE가 대체로 1.4~1.6 수준인 데 비해, 전력과 액체냉각 시스템을 통합 설계한 고효율 시설은 약 1.10 수준까지 접근할 수 있습니다. 다만 PUE는 냉각 방식만으로 결정되는 지표가 아닙니다. 지역 기후와 전력 변환 손실, 서버 가동률, 최종 열배출 구조 등에 따라 달라질 수 있어, 앞으로는 PUE와 함께 용수 사용 효율인 WUE, 탄소 배출 효율인 CUE까지 종합적으로 관리하는 역량이 중요해질 전망입니다.

냉각 유체, 열관리 기술의 미래

액체냉각이 확산되면서 냉각 성능과 장비 안정성을 좌우하는 유체 기술의 중요성도 커지고 있습니다.

액침냉각유는 전자장비 전체가 유체에 직접 닿기 때문에 전기 절연성과 산화 안정성, 고인화점, 소재 호환성, 장기 내구성을 충족해야 합니다. 반면 D2C용 냉각 유체는 높은 열전달 성능과 함께 배관·냉각판의 부식 방지, 미생물 증식 억제, 장기 유지관리 안정성이 중요합니다. 정제 기술과 첨가제 설계, 장기 내구성 검증 역량을 보유한 윤활유 기업들이 데이터센터 냉각 유체 시장으로 사업 영역을 확대하는 배경입니다.

GS칼텍스는 이러한 기술 역량을 바탕으로 2023년 국내 최초의 액침냉각유 ‘Kixx Immersion Fluid S’를 출시했으며, 2025년에는 직접액체냉각유체 ‘Kixx DLC Fluid PG25’를 선보였습니다. 이를 통해 서버 전체를 냉각하는 액침냉각과 CPU·GPU 등 고발열 부품을 집중적으로 냉각하는 D2C 양쪽으로 제품군을 확대했습니다.

또한 삼성SDS와 LG유플러스 데이터센터, 글로벌 서버 제조사 슈퍼마이크로컴퓨터 등과 제품 실증과 기술 검증을 진행하고 있으며, GS건설·SDT와도 액침냉각 시스템의 설계·시공·운영 기술 개발을 추진하고 있습니다. 냉각 유체 공급을 넘어 데이터센터 열관리 생태계 전반으로 사업 범위를 확장하는 단계입니다.

이러한 기업의 기술 개발과 맞물려 국내에서도 AI 데이터센터와 전력·냉각 기술이 국가 차원의 전략 산업으로 부상하고 있습니다. 정부는 2026년 6월 AI 데이터센터를 반도체·피지컬 AI와 함께 3대 메가프로젝트로 지정하고, 울산·동해·세종 등 비수도권을 중심으로 GW급 AI 데이터센터 구축과 관련 산업 생태계 육성을 추진하고 있습니다.

이에 따라 전력 공급과 데이터센터 구축뿐 아니라 액체냉각 시스템, 냉각 유체, 전력 관리, 운영 자동화 등 기반 솔루션의 기술 경쟁도 더욱 치열해질 전망입니다.

열을 잡는 것이 AI 인프라 경쟁의 핵심

AI 시대 데이터센터의 경쟁력은 더 많은 GPU를 확보하는 것만으로 완성되지 않습니다. 고성능 연산에서 발생하는 열을 안정적으로 처리해야 서버의 성능 저하를 방지하고 높은 가동률을 유지할 수 있습니다. 결국 같은 GPU와 전력 인프라를 갖추더라도 열을 얼마나 효율적으로 관리하느냐에 따라 실제로 지속할 수 있는 연산 성능과 운영 안정성이 달라집니다.

랙당 전력 소모가 수백 kW에 달하는 시대가 다가오면서, 열관리는 더 이상 데이터센터 설비의 부속 과제가 아닙니다. 서버의 연산 성능과 가동률, 냉각 전력과 용수 사용, 운영 비용과 탄소 배출을 함께 좌우하는 핵심 경쟁력으로 자리 잡고 있습니다.

AI 인프라 경쟁의 새로운 기준은 결국 ‘고성능 연산에서 발생하는 열을 얼마나 안정적이고 효율적으로 제어해 서버의 성능을 지속적으로 유지할 수 있느냐’에 있습니다.

※ 본 콘텐츠는 공개된 보도자료 및 기업 발표자료를 참고해 작성되었으며, 초안 구성 및 자료 정리에 생성형 AI를 일부 활용했습니다. 최종 원고는 편집자의 검토와 사실 확인을 거쳐 작성되었습니다.