핵심 내용 요약
AI 연산 능력의 급격한 증가로 인해 서버의 전력 소비가 폭등했습니다(예: 120킬로와트 규모의 서버 캐비닛은 마치 60대의 소형 발전기가 하루 종일 최대 출력으로 작동하는 것과 같음). 기존의 공기 냉각 방식으로는 이러한 열량을 처리할 수 없게 되었습니다. 업계에서는 열 방출 문제를 해결하기 위해 세 가지 주요 방법을 사용하고 있습니다:
1. 액체 냉각 기술(콜드 플레이트/잠수형 냉각 방식)을 활용하여 칩에서 발생하는 열을 효율적으로 제거합니다.
2. 데이터 센터의 위치 선정을 더 시원한 장소로 옮겨 열을 효과적으로 방출합니다(바닷속, 동굴, 북극권 등).
3. 잔열 활용을 통해 발생한 열을 난방이나 수영장 물을 데우는 데 재사용합니다.
이제 열 방출은 단순한 부차적인 과정이 아니라 AI 산업의 “생명선”이 되었으며, 이를 통해 새로운 비즈니스 기회와 혁신이 창출되고 있습니다.
1. 왜 AI의 열 방출 문제가 갑자기 “생사와 직결된” 문제가 되었을까?
이전에는 서버의 전력 소비가 (5-20킬로와트 수준) 낮아서 몇 개의 팬만으로도 열을 효과적으로 제거할 수 있었습니다. 하지만 AI 서버의 전력 소비가 120킬로와트로 증가하면서, 마치 60대의 소형 발전기를 2미터 높이의 금속 캐비닛에 밀어넣는 것과 같아졌습니다. 에너지 보존 법칙에 따라 이러한 열량은 거의 모두 열로 전환됩니다. 공기의 밀도가 너무 낮아서 많은 열을 제거할 수 없으므로, 팬이 아무리 빨리 돌아도 칩이 과열될 수 있습니다. 이는 마치 거실에 60대의 난방기를 설치한 것과 같아서 일반적인 에어컨으로는 온도를 낮추기 어렵습니다. 따라서 더 효율적인 열 방출 방식이 필요해졌습니다.
2. AI 서버는 어떻게 “물을 사용해 열을 낮추는가?**
현재 주류 방식은 콜드 플레이트형 액체 냉각입니다. AI 서버 내부의 GPU/CPU와 같은 고열을 발생시키는 부품에는 구리로 만든 냉각 플레이트가 장착되어 있으며, 플레이트 내부에는 냉각수가 흐르는 세밀한 수로가 있습니다. 열은 먼저 구리 플레이트로 전달된 후 냉각수에 의해 제거됩니다. 이 방식은 현재 가장 널리 사용되는 기술입니다.
서버를 분해하여 수리할 때는 물관을 어떻게 연결할까요? 이를 위해 액체 냉각용 퀵 커넥터가 개발되었습니다. 커넥터 양쪽에는 스프링 밸브가 있어서 연결할 때 자동으로 물이 흐르고 분리할 때는 자동으로 차단되어 물이 새지 않도록 합니다(전원 케이블과 같은 안전성을 가집니다). 화웨이는 전원 공급, 네트워크, 물 공급을 하나의 총선으로 통합하여 서버를 설치하기만 하면 자동으로 물과 전기가 공급됩니다.
남은 메모리와 하드디스크에서 발생하는 열은 어떻게 처리할까요? 중싱(ZTE)은 “수냉용 문턱”을 개발하여 서버 캐비닛의 후면 문을 물냉 플레이트로 교체함으로써 열이 빠져나가기 전에 냉수로 “세척”합니다. 이러한 뜨거운 물은 그대로 배출되지 않고 데이터 센터 내에 설치된 CDU(소형 열 교환 장치)를 통해 서버의 미세한 수로와 건물 외부의 대형 수로가 분리됩니다. 두 종류의 물은 금속 판을 통해 열을 교환하지만 직접 접촉하지 않아 오염물이 수로를 막는 것을 방지합니다. 구글의 CDU는 분당 1900리터의 냉각수를 공급할 수 있으며, 이는 약 10개의 욕조 분량의 물이 순환하는 것과 같습니다. 레노버(Lenovo)는 자사의 액체 냉각 시스템이 98%의 열을 물관으로 전달할 수 있어 100킬로와트 규모의 서버에도 데이터 센터의 에어컨이 필요 없다고 주장합니다.
3. 더 과감한 “잠수형” 열 방출 방식: 서버를 특수 액체에 담그는 방식
콜드 플레이트형 냉각 방식에는 한계가 있습니다. 즉, 물이 메인보드에 닿으면 안 됩니다. 그래서 더 과감한 방식인 잠수형 액체 냉각이 등장했습니다. 이 방식에서는 전기를 전도하지 않는 플루오린화합물 액체에 서버 전체를 담깁니다(에어컨의 냉매와 유사). 이 액체의 끓는점은 물보다 낮아서 칩이 열을 발생시키면 액체가 끓어오르며, 생성된 증기는 응축관에 닿아 다시 액체로 변환되어 순환됩니다. 이는 마치 “물을 끓여서” 칩의 온도를 낮추는 것과 같습니다. 슈그라우드 수트창(Shuguang Sutouchang)의 C8000 모델이 이러한 방식을 사용하며, 2026년에 출시되었을 때는 메가와트급(1000킬로와트) 규모의 서버를 지원할 수 있다고 밝혔습니다. 엔비디아(NVIDIA)의 Vera Rubin 서버 캐비닛도 이러한 액체 냉각 기술을 채택하여 계산, 네트워크, 물 공급 시스템을 모두 하나로 통합했습니다.
4. 데이터 센터를 더 시원한 장소로 이전하기: 자연의 “무료 냉각”을 활용하기
열 방출에는 전기가 필요하지만, 이전에는 1달러의 연산 비용에 40-50센트의 비용이 추가로 소요되었습니다(과학자를 고용하고 연봉이 백만 달러에 달하는 조수를 고용하는 것과 같습니다). 비용을 절약하기 위해 엔지니어들은 자연적인 “냉각 장치”를 찾기 시작했습니다:
- 상하이 해저: 데이터 센터를 10미터 깊이의 바닷속에 설치하여 해수의 온도를 이용합니다. 해수의 온도는 일년 내내 10도 이상이어서 자연적인 냉각 효과가 있으며, 냉각 비용을 15센트로 낮출 수 있습니다.
- 구이저우 동굴: 텐센트의 구이안 데이터 센터는 동굴에 설치되어 연평균 온도가 14-16도로 냉각 비용을 10센트로 낮추어 연간 4000만 위안의 전기 비용을 절약합니다.
- 북극권: 마이크로소프트는 노르웨이의 나르비크(북극권 항구)에 데이터 센터를 설치하여 낮은 온도와 저렴한 수도, 전기 비용을 활용합니다. 이 데이터 센터의 용량은 230메가와트에 달합니다.
5. 열을 재활용하여 난방이나 수영장 물을 데우기
이전에는 열이 공기 중으로 방출되어 에너지 효율이 낮았습니다. 하지만 액체 냉각 기술을 사용하면 열이 물에 집중되어 에너지 효율이 향상됩니다.
- 핀란드: 마이크로소프트 데이터 센터에서 발생한 잔열은 열펌프를 사용하여 온도를 높인 후 헬싱키의 난방 시스템에 공급합니다. 이를 통해 필요한 에너지의 70%를 자체적으로 공급합니다.
이러한 방식들을 통해 AI 서버의 에너지 효율이 향상되고 비용이 절약되며, 환경에도 더 친화적인 데이터 센터가 구축될 수 있습니다.