엔비디아 AI 독점에 도전장... 亞 스타트업들, 저전력·저비용 칩 개발 `인퍼런스`·`트레이닝` 칩 주목

엔비디아(NVIDIA)의 AI 시장 독점에 도전장을 내민 아시아 스타트업들이 특정 인공지능 애플리케이션용 저전력·저비용 칩 개발에 나섰다.

니케이아시아는 8일 아시아 스타트업들이 엔비디아의 높은 에너지 소비와 큰 설계로 인한 시장 공백을 노리고 있다고 보도했다.

이들 스타트업은 두 가지 유형의 AI 칩에 주력하고 있다. 하나는 기존 AI 모델을 운용하는 '인퍼런스' 칩이고, 다른 하나는 새로운 AI 모델 개발에 사용되는 고성능 데이터 처리 부품인 '트레이닝' 칩이다.

엔비디아의 GPU가 여전히 AI 시장을 장악하고 있지만, 스타트업들은 엔비디아 GPU의 높은 에너지 소비와 큰 설계가 시장의 틈새를 만들어내고 있다고 보고 있다.

이들 스타트업은 엔비디아의 GPU가 강력하긴 하지만 많은 애플리케이션에 적용하기에는 에너지 소비가 너무 크고 비용이 높다고 지적한다. 프리퍼드 네트웍스(PFN)의 니시카와 토루 CEO는 "아직 인퍼런스를 위한 완벽한 칩 아키텍처를 만든 사람은 없다"고 말했다. PFN은 엔비디아 제품보다 더 효율적이고 저렴한 칩을 개발 중이다.

엔비디아의 GPU는 주로 AI 모델 학습에 사용되지만, 높은 비용과 에너지 소비로 인해 노트북이나 웨어러블 기기 같은 장치에는 실용적이지 않다. 옴디아의 스기야마 카즈히로 같은 분석가들은 온디바이스 AI 수요가 증가할 것이며, 이에 따라 새로운 시장 진입자들이 늘어날 것으로 전망하고 있다.

에지코텍스의 사캬싱하 다스굽타가 이끄는 스타트업들은 '메모리 월' 문제 같은 이슈를 해결해 더욱 간소화되고 에너지 효율적인 AI 칩을 만드는 데 주력하고 있다. 이러한 노력은 특히 아시아에서 산업용 애플리케이션과 로보틱스 분야의 AI 수요 증가에 대응하기 위한 광범위한 전략의 일환이다.

스기야마는 "엔비디아의 GPU는 주로 학습에 적합하지만, 학습과 추론 모두를 목표로 하는 칩을 개발하는 신규 업체들이 늘어나고 있다"고 말했다.

소프트뱅크 그룹의 비전 펀드가 지원하는 미국의 삼바노바 시스템즈, 전 인텔 엔지니어가 설립한 텐스토런트, 최근 소프트뱅크에 인수된 영국의 그래프코어 등도 시장에 진출하고 있다.

구글, 메타, 아마존웹서비스 등 대형 기술 기업들과 엔비디아의 경쟁사인 AMD도 이 대열에 합류하고 있다.

AI 칩 시장이 계속 확대되면서 엔비디아와 신흥 아시아 스타트업 간 경쟁이 치열해지고 있다. 최근 구글 전 CEO 에릭 슈미트는 엔비디아를 AI 분야의 주요 기업으로 꼽으며, 대형 기술 기업들이 엔비디아 기반 AI 데이터센터에 최대 3,000억 달러 규모의 대규모 투자를 계획하고 있다고 언급했다.

한편 소프트뱅크는 자체 AI 칩 생산을 통해 엔비디아에 대항하려는 노력에 차질을 빚었다. 인텔과의 협상이 생산 요구를 충족시키지 못해 결렬되면서, 소프트뱅크는 엔비디아의 주요 공급업체인 TSMC로 눈을 돌렸다고 전해졌다.

이미지 출처: Shutterstock