아마존, 엔비디아 최신 칩 지원 위한 고성능 AI 서버 공개

아마존닷컴(NASDAQ:AMZN)과 아마존웹서비스(AWS)가 수조 개 파라미터 기반 모델, 추론 시스템, 에이전트 AI 등 최신 생성형 AI 발전으로 급증하는 컴퓨팅 수요를 충족하기 위해 P6e-GB200 울트라서버를 설계했다고 수요일 발표했다.
AWS는 AI 워크로드에 사용되는 차세대 엔비디아(NASDAQ:NVDA) GPU를 냉각하기 위한 맞춤형 하드웨어를 개발했다.
AWS는 엔비디아의 최신 칩이 요구하는 높은 전력 소비에 대응하기 위해 새로운 수냉식 데이터센터 구축을 기다리지 않기로 결정했다.
대신 엔지니어들이 기존 및 신규 데이터센터와 통합되어 고밀도 GPU 구성의 열을 관리할 수 있는 인로우 히트 익스체인저(IRHX)를 개발했다고 CNBC가 수요일 보도했다.
이 울트라서버는 최대 72개의 엔비디아 블랙웰 GPU를 탑재하며, 5세대 엔비디아 NVLink로 상호 연결되어 GPU들이 단일 통합 컴퓨팅 시스템으로 작동할 수 있다.
AWS의 데이브 브라운 컴퓨팅 및 머신러닝 서비스 부사장은 기........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................