中 스타트업, 엔비디아 의존도 낮추는 AI 프레임워크 공개...GPU 사용량 50% 절감

중국의 한 스타트업이 AI 모델 추론 시 엔비디아 칩 의존도를 낮출 수 있는 새로운 인공지능 프레임워크를 개발했다. 이는 미국의 수출 규제 속에서 중국 기술기업들이 기술 자립을 달성하기 위한 최신 시도로 평가된다.
주요 내용
칭화대학교 자이지동 교수가 설립한 칭청AI는 중국산 칩에서 구동 가능한 대규모 언어모델용 고성능 추론 프레임워크 '치투'를 공개했다.
지난 금요일 발표된 공동성명에 따르면, 이 오픈소스 프레임워크는 딥시크-R1과 같은 고급 AI 모델 지원에서 엔비디아의 독점적 지위에 직접적인 도전장을 내밀었다.
칭청AI는 엔비디아 A800 GPU를 사용한 딥시크-R1 테스트에서 치투가 기존 외국 프레임워크 대비 모델 추론 속도를 315% 향상시키고 GPU 사용량을 50% 절감했다고 주장했다.
이번 개발은 1월 딥시크가 미국 경쟁사들보다 현저히 낮은 비용으로 고성능 모델을 시연하며 돌파구를 마련한 이후 중국 내 AI 경쟁이 치열해지는 가운데 이뤄졌다. 딥시크의 성공으로 투자자들은 경쟁 심........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................