Insight

데이터센터의 숙제 ‘발열’: 액침 냉각(Liquid Cooling) 기술의 현주소

AI 인프라가 고도화될수록 데이터센터의 고민도 달라지고 있습니다. 과거에는 더 많은 서버와 더 강력한 GPU를 얼마나 안정적으로 배치할 수 있는지가 핵심이었다면, 이제는 그 장비들이 만들어내는 막대한 열을 얼마나 효율적으로 제거할 수 있는가가 인프라 경쟁력의 핵심으로 떠오르고 있습니다. 특히 고집적 GPU 서버가 본격적으로 도입되면서 발열은 단순한 설비 문제가 아니라, 성능·가동률·운영비·지속가능성을 동시에 좌우하는 전략 과제가 되었습니다.

이 변화는 전력 측면에서도 분명하게 나타납니다. 국제에너지기구(IEA)에 따르면 데이터센터의 전력 소비는 2024년 약 415TWh 수준으로 추정되며, 2030년에는 약 945TWh까지 늘어날 수 있습니다. 특히 AI 확산은 고성능 가속 서버의 도입을 가속화하고 있으며, 이는 곧 더 높은 전력 밀도와 더 큰 냉각 부담으로 이어집니다. 다시 말해, AI 시대의 데이터센터는 단순히 전기를 많이 쓰는 시설이 아니라, 전력과 열을 함께 설계해야 하는 고밀도 산업 인프라로 바뀌고 있습니다.
 

기존 데이터센터는 공랭식 냉각을 중심으로 발전해 왔습니다. 하지만 AI 학습과 추론을 위한 최신 GPU 서버는 과거와 비교할 수 없을 정도로 높은 열 밀도를 만들어냅니다. 최근 업계에서는 서버당 열 부하가 6~10kW 수준에 도달하고, 더 고밀도 환경에서는 랙 단위의 발열이 공랭 시스템의 실질적 한계를 넘어서기 시작했다고 지적합니다. 이 상황에서 단순히 팬을 더 강하게 돌리고 공조를 더 세게 하는 방식은 전력 낭비와 소음, 공간 제약, 냉각 비효율을 동시에 키우게 됩니다.

무엇보다 문제는 열이 곧 성능 문제로 이어진다는 점입니다. 냉각이 충분하지 않으면 GPU는 스로틀링(throttling: 시스템 안정성을 위해 과도한 트래픽이나 요청을 제한하거나, 기기의 발열을 줄이기 위해 성능을 강제로 낮추는 기술)으로 성능이 저하되고, 장비 수명과 운영 안정성도 함께 흔들리게 됩니다.
최근에는 냉각이 단순히 적정 온도를 유지하는 보조 설비가 아니라, AI 처리량과 서비스 품질을 보장하는 성능 인프라라는 인식이 강해지고 있습니다. 고집적 AI 환경에서는 냉각 효율이 곧 GPU 활용률과 ROI를 결정하는 핵심 변수가 된 것입니다.
 

현재 시장은 “공랭 대 액침”의 단순 구도가 아니라, 하이브리드 냉각 아키텍처의 시대로 이동하고 있습니다. 실무에서는 크게 세 가지 방향이 주목받습니다. 첫째는 직접 냉각(Direct-to-Chip / DLC) 입니다. CPU와 GPU 위의 콜드플레이트로 열을 직접 제거하는 방식으로, 고밀도 AI 랙에서 가장 현실적이고 확장 가능한 대안으로 빠르게 자리 잡고 있습니다.
둘째는 후면도어 열교환기(RDHx) 같은 보완형 방식입니다. 기존 공랭 기반 환경을 유지하면서도 랙 단위 잔열을 줄여, 리트로핏(Retrofit: 노후화된 기계, 설비, 건물에 최신 기술이나 부품을 추가/교체하여 성능과 효율을 최신 수준으로 높이는 ‘구조 개선’ 작업)과 점진적 전환에 유리합니다.
셋째는 액침 냉각(Immersion Cooling) 입니다. 서버 전체를 절연성 냉각액에 담가 열을 제거하는 방식으로, 극고밀도 환경과 특정 HPC·AI 워크로드에서 점점 중요성이 커지고 있습니다.

특히 최근 트렌드는 “모든 데이터센터가 곧바로 액침 냉각으로 간다”기보다, 직접 냉각을 중심으로 하고 필요 구간에 액침을 적용하는 다층형 전략에 가깝습니다. 직접 냉각은 기존 운영 방식과의 연속성이 높고 유지보수 측면에서도 비교적 친숙해, 신설 센터뿐 아니라 기존 데이터센터 개조에도 적합하다는 평가를 받습니다. 반면 액침 냉각은 전력 밀도가 극도로 높은 환경에서 탁월한 열 제거 성능과 균일한 냉각 품질을 제공해, 앞으로 초고밀도 AI 팩토리와 특정 HPC 구간에서 더 적극적으로 확산될 가능성이 큽니다. 즉, 현재의 핵심은 특정 기술 하나의 승부가 아니라, 워크로드 밀도와 운영 환경에 따라 가장 적합한 냉각 조합을 설계하는 것입니다.
 

냉각 기술이 중요한 또 하나의 이유는 PUE(Power Usage Effectiveness) 개선과 직결되기 때문입니다. PUE는 데이터센터가 IT 장비 외의 전력, 즉 냉각·전력 변환·부대설비에 얼마나 많은 에너지를 쓰고 있는지를 보여주는 대표 지표입니다. AI 워크로드가 확대될수록 냉각 에너지의 비중은 커질 수밖에 없고, 이때 냉각 효율을 높이는 것은 단순한 비용 절감이 아니라 전력 인프라 전체의 경쟁력을 높이는 일입니다.

더 중요한 것은 ESG 관점입니다. 냉각 효율이 높아지면 동일한 연산량을 처리하는 데 필요한 총 전력 사용량이 줄어들고, 이는 곧 Scope 2 배출 저감과 연결됩니다. 또한 액침 냉각이나 직접 냉각은 열을 더 효율적으로 회수할 수 있어, 일부 환경에서는 폐열 재활용까지 검토할 수 있습니다. 전력 효율, 물 사용 효율, 탄소 배출, 자산 수명 연장이라는 요소가 동시에 연결되기 때문에, 냉각 전략은 이제 설비 엔지니어링의 영역을 넘어 기업의 지속가능성 전략 일부로 해석되어야 합니다. 실제로 업계는 액체 냉각을 단순한 효율 향상 수단이 아니라, 고집적 AI 인프라를 지속 가능하게 운영하기 위한 기반 기술로 보고 있습니다.
 

이제 냉각은 서버를 도입한 뒤 뒤늦게 보완하는 부가 설비가 아닙니다. 실제 구축 현장에서는 랙 구조, 전력 공급, 배관, CDU, 외부 열 배출, 유지보수 동선, 물 공급과 모니터링 체계까지 처음부터 함께 설계해야 합니다. 특히 기존 데이터센터를 AI 환경으로 전환하는 경우에는 사이트 진단, 랙 적합성 검토, 전력 재배치, 하이브리드 냉각 시나리오 설계가 선행되어야 합니다.

결국 차세대 데이터센터의 경쟁력은 더 많은 GPU를 수용하는 데서 끝나지 않습니다. 그 GPU가 만들어내는 열을 얼마나 정교하게 제어하고, 그 과정에서 전력 효율과 ESG 목표까지 함께 달성할 수 있는가가 진짜 경쟁력입니다. 액침 냉각을 포함한 liquid cooling 기술은 더 이상 미래 기술이 아니라, 이미 고집적 AI 인프라를 설계할 때 반드시 검토해야 할 현실적 선택지가 되었습니다. 앞으로의 데이터센터 전략은 성능, 전력, 냉각, 지속가능성을 하나의 설계 문제로 통합하는 방향으로 더 빠르게 이동할 것입니다.