퀄컴, 데이터센터 시장 공략 위한 차세대 AI칩 공개

퀄컴테크놀로지스(나스닥:QCOM)가 데이터센터용 차세대 인공지능(AI) 추론 최적화 솔루션인 퀄컴 AI200과 AI250 칩 기반 가속기 카드와 랙을 출시했다고 월요일 발표했다.

퀄컴은 자사의 신경망처리장치(NPU) 기술 리더십을 바탕으로 개발된 이번 솔루션이 랙 규모의 성능과 우수한 메모리 용량을 제공해 빠른 생성형 AI 추론이 가능하며, 와트당 달러당 높은 성능을 제공한다고 밝혔다.

퀄컴 AI200은 대형 언어 및 멀티모달 모델(LLM, LMM) 추론을 비롯한 기타 AI 워크로드에 대해 낮은 총소유비용(TCO)과 최적화된 성능을 제공하도록 설계된 랙 수준의 AI 추론 솔루션이다.

성능

카드당 768GB LPDDR을 지원하여 더 높은 메모리 용량과 낮은 비용을 제공하며, AI 추론을 위한 탁월한 확장성과 유연성을 제공한다.

퀄컴 AI250 솔루션은 근접 메모리 컴퓨팅 기반의 혁신적인 메모리 아키텍처를 도입해 10배 이상 높은 실효 메모리 대역폭과 현저히 낮은 전력 소비를 실현하며 AI 추론 워크로드에서 효율성과 성능의 세대교체를 이룰 전망이다.

이를 통해 고객의 성능 및 비용 요구사항을 충족하면서 하드웨어를 효율적으로 활용할 수 있는 분산형 AI 추론이 가능해진다.

두 랙 솔루션 모두 열효율을 위한 직접 수냉식 냉각, 스케일업을 위한 PCIe, 스케일아웃을 위한 이더넷, 보안 AI 워크로드를 위한 기밀 컴퓨팅을 특징으로 하며, 랙 수준 전력 소비는 160kW이다.

퀄컴 AI200과 AI250은 각각 2026년과 2027년에 상용화될 예정이다.

경쟁 현황

퀄컴의 AI 가속기 경쟁사로는 엔비디아(나스닥:NVDA)의 H100 및 H200 칩, AMD(나스닥:AMD)의 인스팅크트 MI300X 가속기, 인텔(나스닥:INTC)의 가우디 가속기가 있다.

알파벳(나스닥:GOOGL) 산하 구글은 텐서플로우와 파이토치를 포함한 인기 머신러닝 프레임워크에 최적화된 자체 텐서 프로세싱 유닛(TPU)을 개발했다.

아마존닷컴(나스닥:AMZN)의 아마존웹서비스(AWS)는 고객들이 머신러닝 애플리케이션을 더욱 효과적으로 확장할 수 있도록 인페렌티아 칩을 개발했다.

주가 동향: 월요일 장전 거래에서 퀄컴 주가는 0.97% 상승한 170.58달러를 기록했다.