AI 인프라의 경쟁력은 더 이상 GPU 보유 수량으로 결정되지 않습니다. 소비 전력당 얼마나 많은 Token을 안정적으로 생성하는지, 즉 Token per Watt가 핵심 지표로 떠오르고 있습니다. 동일한 전력 예산 안에서 더 많은 추론(Inference)을 처리하는 인프라가 곧 경쟁력이라는 뜻입니다.

이 지표를 높이려면 GPU가 전력·발열 한계 안에서 지속적으로 높은 성능을 유지해야 합니다. GPU는 열이나 전력이 한계에 도달하면 클럭과 전압을 자동으로 낮추는 Throttling이 발생하고, 이는 곧 성능 저하로 이어집니다. 결국 냉각 방식이 AI 인프라의 성능과 집적도를 좌우하는 핵심 변수가 된 것입니다.

NVIDIA 차세대 아키텍처 Rubin은 데이터센터의 냉각 방식 전환을 사실상 강제하고 있습니다. 현재 최신 GPU인 B300 세대까지는 공랭과 수랭 중 선택이 가능했고, 수랭이 더 효율적인 선택지였습니다. 하지만 랙당 전력 밀도 기준으로 GB300은 150kW 수준인 반면, Rubin 세대는 약 600kW 수준까지 상승합니다.

이제는 공랭이냐 수랭이냐를 선택하는 문제가 아니라, 수랭 환경을 반드시 마련해야 하는 상황입니다. 수랭식 데이터센터 설계는 “언젠가 준비하면 되는 일”이 아니라 “지금 시작해야 하는 일”이 되었습니다.

이러한 흐름은 NVIDIA CEO 젠슨 황의 발언에서도 그대로 확인됩니다. 그는 2026년 1월 CES에서 Vera Rubin 랙이 칠러(냉각기) 없이도 운영 가능하다고 소개하며, “우리는 사실상 섭씨 45도의 온수로 이 슈퍼컴퓨터를 냉각했고, 놀라운 효율을 얻었다”고 말했습니다. Vera Rubin 랙은 100% 수랭(liquid-cooled) 으로 설계되어 있으며, 공랭 구성 자체가 존재하지 않습니다.

이어 2026년 GTC에서 NVIDIA는 콜드플레이트 공급사를 지정하고 수랭 표준 사양을 공개했습니다. 젠슨 황은 이 자리에서 “전력 공급과 수랭은 이제 반드시 함께 설계(co-design)해야 하는 핵심 요소가 될 것”이라고 강조했습니다. GPU 제조사가 냉각 방식까지 표준화해 발표한다는 것은, 수랭이 더 이상 데이터센터 운영사의 ‘선택 옵션’이 아니라 GPU 아키텍처에 내장된 ‘필수 사양’이 되었다는 뜻입니다.

이 변화 앞에서 중요한 것은 결국 실제 구축 경험입니다.

엠키스코어는 정보통신산업진흥원(NIPA)이 주관한 1조 4,600억 원 규모의 ‘AI 컴퓨팅 자원 활용기반 강화사업’에서 NHN클라우드의 핵심 기술 파트너로 참여해, 설계 단계부터 시스템 구축, 성능 최적화까지 전 과정을 지원했습니다.

이 프로젝트에서 엠키스코어는 단일 클러스터 기준 국내 최대 규모인 4,080개 GPU 클러스터를 DLC(Direct Liquid Cooling) 기반으로 구성했습니다.

그 결과 구축된 CL1·CL2 슈퍼컴퓨터는 2026년 6월 발표된 세계 슈퍼컴퓨터 순위 ‘TOP500’에 각각 세계 20위, 40위로 나란히 등재되었으며, 이론 성능을 뛰어넘는 실측 시스템 성능 효율 87.8%를 기록했습니다.

엠키스코어가 설계·구축에 참여한 시스템이 TOP500에 이름을 올린 것은 2021년 이후 누적 9건으로, DLC 기반 대규모 GPU 클러스터를 설계·구축·최적화하는 역량이 반복적으로 검증된 트랙레코드입니다.

특히 이 방식은 기존 공랭 대비 에너지 사용량을 15~20% 절감할 수 있어, 랙당 전력 밀도와 발열량이 급증하는 Rubin 시대의 데이터센터에도 그대로 적용 가능한 기술입니다.

또한 엠키스코어는 2024년 10월 국내 최초의 AI 수랭식 데모센터인 AQUAEdge를 남양주에 직접 설계·구축해 운영하고 있으며, 이 경험을 바탕으로 기존 공랭 데이터센터를 수랭으로 전환하는 턴키 솔루션을 제공하고 있습니다.

AQUAEdge Total Solution은 B300 기준 600kW(36노드)급과 1,300kW(96노드)급 구성을 지원하며, 자체 개발한 AI/HPC 클러스터 모니터링 솔루션 M-OWL(GS 1등급 인증)을 통해 구축 이후의 운영 안정성까지 함께 책임집니다.

Rubin 세대부터는 수랭이 선택이 아니라 필수 조건입니다. 랙당 전력 밀도가 4배 가까이 뛰어오르는 인프라 전환 앞에서, 지금 준비를 시작하지 않으면 다음 세대 GPU 도입 시점에 병목이 발생할 수밖에 없습니다.

엠키스코어는 진단·설계 컨설팅부터 AI Fullstack 구축, 성능 최적화, 운영까지 AI 데이터센터 전 과정을 아우르는 Outcome-centric 방법론으로, 다가오는 수랭 전환의 파트너가 되고자 합니다.