AWS, 엔비디아 고성능 GPU용 맞춤형 냉각시스템 개발

아마존의 클라우드 컴퓨팅 부문인 아마존웹서비스(AWS)가 엔비디아의 전력 소비가 많은 GPU(그래픽처리장치)를 위한 자체 맞춤형 냉각 솔루션을 개발했다. AWS는 기존의 수냉식 냉각 솔루션을 대체하는 새로운 맞춤형 인프라 혁신 기술인 인로우 히트 익스체인저(IRHX)를 도입했다.

데이브 브라운 AWS 컴퓨팅 및 머신러닝 서비스 부문 부사장은 기존 냉각 시스템에 대해 "데이터센터 바닥 공간을 너무 많이 차지하거나 물 사용량이 크게 증가할 수 있다"며 "다른 업체들의 소규모 운영에는 이러한 솔루션이 적합할 수 있지만, 우리의 규모에서는 충분한 냉각 용량을 제공하지 못할 것"이라고 설명했다.

냉각 문제 해결을 위한 AWS의 혁신

주목할 만한 점은 AWS가 처음에는 대규모 수냉식 시스템을 수용하기 위해 대형 데이터센터 건설을 고려했으나, 이는 오랜 시간이 소요될 것으로 예상됐다. 이에 AWS 팀은 자체적으로 냉각 시스템을 설계하고 개발했다.

엔비디아의 GB200 NVL72는 단일 랙에 72개의 GPU를 탑재하여 막대한 전력을 필요로 한다. 이 GPU들은 대규모 언어 모델의 학습과 추론에 사용된다. 기존의 공랭식 솔루션으로는 이러한 발열 서버를 냉각할 수 없으며, 수냉식 시스템은 상당한 양의 물을 필요로 한다.

엔비디아와 협력하여 개발된 IRHX 냉각 시스템은 액체와 공기 기반 구성요소의 장점을 결합하여 대형 서버 랙을 효율적으로 냉각한다. 이 시스템은 콜드 플레이트를 사용해 GPU 칩에 냉각수를 순환시키고 팬코일 어레이를 통해 열을 제거하면서도 AWS의 표준 랙의 공랭식 기계 구조를 유지한다.

아마존 주가 전망

월가는 아마존의 장기 주가 전망에 대해 매우 낙관적인 입장이다. 팁랭크스에 따르면 아마존 주식은 45개의 매수와 1개의 보유 의견을 바탕으로 강력 매수 의견을 받고 있다. 또한 아마존의 평균 목표주가는 246.60달러로 현재 가격 대비 10.8%의 상승 여력이 있는 것으로 분석됐다. 연초 이후 아마존 주가는 1.4% 상승했다.