AI 시대를 여는 필수 인프라, 수랭식 데이터센터
엠키스코어
Vol 05. (2025.01.10)
📚 내용 정리 📚
- 빅테크 기업들의 AI 인프라 구축 열풍
- 엔비디아의 혁신, 블랙웰 아키텍처
- 수랭식 냉각 시스템의 필요성
- 엠키스코어의 『AQUAEdge』 Total Solution
최근 마이크로소프트, 아마존, 오픈AI 등 글로벌 빅테크 기업들이 AI 인프라 구축에 막대한 투자를 하고 있습니다.
이는 생성형 AI의 등장으로 고성능 연산과 대량 데이터 처리의 필요성 때문입니다. 이러한 상황에서 엔비디아는 2024년 GTC에서 블랙웰 아키텍처를 발표했으며,
블랙웰 기반 B200은 H100 대비 3배 높은 훈련 성능과 15배 높은 추론 성능을 제공합니다. B200의 향상된 성능은 데이터 병목현상을 해결하는 데 큰 도움이 될 것으로 기대됩니다.
하지만 성능이 향상된 만큼 전체적으로 증가한 발열량을 관리하기 위해서는 수랭식 냉각 시스템이 필요합니다.
엠키스코어는 이러한 수요에 부응해 ‘AQUAEdge Total Solution’을 출시하였습니다.
이 솔루션은 공랭식 데이터 센터를 수랭식으로 전환하거나 데이터 센터 설계 초기 단계부터 구축에 이르는 전 과정을 종합적으로 지원하는 턴키 솔루션입니다.
1. 빅테크 기업들의 AI 인프라 구축 열풍
[미국 버지니아주에 위치한 아마존웹서비스(AWS) 데이터센터 전경. 사진=EPA 연합뉴스]
최근 마이크로소프트, 아마존, 오픈AI 등 글로벌 빅테크 기업들이 AI 인프라 구축에 막대한 투자를 진행하고 있습니다.
마이크로소프트는 2025 회계연도에 AI 데이터센터에 800억 달러를 투자할 계획이며, 아마존 역시 최소 800억 달러의 설비투자를 예상하고 있습니다.
이러한 투자는 AI를 훈련하고 운영하는 데 필수적인 데이터센터의 중요성을 반영합니다.
2. 엔비디아의 혁신, 블랙웰 아키텍처
[NVIDIA CEO 젠슨 황이 2024 GTC에서 Blackwell 칩을 선보였다. 사진=NVIDIA]
빅테크 기업들이 큰 비용을 들여가며 데이터센터를 구축하고 있는 이유는 무엇일까요?
그 배경에는 생성형 AI가 있습니다.
생성형 AI 등장 이후 고성능 연산과 대량 데이터 처리가 필요해지면서 AI에 최적화된 데이터센터 역할이 매우 중요해졌습니다.
이에 등장한 것이 바로 ‘AI 데이터센터’입니다. AI 데이터센터는 고속 입출력에 특화된 HBM, GPU와 같이 AI가 요구하는 대량의 데이터를 빠르게 처리할 수 있는 고성능 컴퓨팅 자원을 탑재하고, 고효율 냉각 시스템 및 전력 시스템을 갖춘 데이터센터입니다.
2024년 NVIDIA GTC에서 발표된 블랙웰 아키텍처는 AI 데이터센터의 요구사항을 적극적으로 반영하였습니다.
블랙웰 아키텍처의 기반인 B200은 H100보다 3배 높은 훈련 성능과 15배 높은 추론 성능을 제공합니다.
또한 GPU 대역폭으로만 보면 2.38배 높은 수준입니다. NVIDIA DGX BasePOD 및 NVIDIA DGX SuperPod의 기반으로 DGX B200은 모든 워크로드에 최첨단 성능을 제공합니다.
이는 GPU 기반 인공지능 시스템을 다루는 시스템 엔지니어들에게 큰 고민거리였던 데이터 병목현상을 해결하는 데 큰 도움이 될 것으로 기대됩니다.
블랙웰 아키텍처를 적용한 서버 랙은 GPU 72개 또는 32개를 수용할 수 있으며, 기존의 GPU 8개 단위보다 훨씬 높은 성능을 요구합니다.
3. 수랭식 냉각 시스템의 필요성
[마이크로소프트 애저가 공식 X 계정에서 공개한 NVIDIA GB200을 탑재한 서버. 사진=X, Microsoft Azure]
성능이 향상된 만큼 발열량 또한 증가합니다.
발열 관리가 제대로 이루어지지 않으면, 고성능의 슈퍼컴퓨터도 무용지물입니다.
따라서 증가한 칩의 발열을 효과적으로 관리하기 위해 수랭 냉각 방식이 필수적입니다.
정해진 서버 랙 공간 안에 이전보다 훨씬 많은 칩이 들어가면 많은 냉각 성능이 필요하기 마련인데, 칩이 늘어나면 공기 흐름이 더 불리해질 수 있습니다.
아무리 좋은 쿨러를 써도 공기가 흘러가는 유량에는 물리적 한계가 뒤따릅니다. 이를 해결하는 방법은 결국 수랭입니다.
수랭 냉각 방식은 열을 잘 주고받는 액체를 쿨러로 흘려보내 칩의 열을 식히는 것입니다. 직접적으로 닿는 면을 차갑게 유지해 열을 빼내는 것입니다.
엔비디아도 수랭 방식이 충분한 냉각 성능과 소음, 그리고 냉각 비용 절감 등의 효과를 가져올 것이라고 강조하고 있습니다.
4. 엠키스코어의 AQUAEdge Total Solution
[엠키스코어의 AQUAEdge Total Solution 소개 자료, 사진=엠키스코어]
엠키스코어는 이러한 수요에 부응하여 『AQUAEdge』 Total Solution을 출시하였습니다.
이 솔루션은 공랭식 데이터센터를 수랭식으로 전환하거나 데이터센터 설계 초기 단계부터 구축에 이르는 전 과정을 종합적으로 지원하는 턴키 솔루션입니다.
다년간의 AI 데이터센터 설계 및 구축 경험과 AI 풀 스택 기술 지원 경험을 바탕으로, 기업들이 수랭 데이터센터를 도입하는 과정에서 겪는 어려움을 해결하기 위해 출시하였습니다.
이제 수랭식 냉각은 차세대 GPU 서버를 수용하는 데이터센터의 기본 요구사항입니다.
향후 신형 GPU 도입을 위해 데이터센터를 설계하려는 기업들은 지금부터 수랭식 시스템 도입을 준비해야 합니다.
엠키스코어는 고객과 함께 미래의 도전을 해결하며, 효율적이고 안정적인 데이터센터 환경을 만들어 나가는 여정을 함께하겠습니다.
엠키스코어의 『AQUAEdge』 Total Solution에 대한 자세한 정보는 아래 버튼을 클릭하여 확인하실 수 있습니다.
고성능, 고발열의 AI 데이터센터를 효율적으로 운영하고자 하는 기업들의 많은 관심과 문의 부탁드립니다.
