앤트로픽, 중국 AI 연구소의 모델 복제 혐의 제기...엔비디아와 미국 칩 통제 위험 직면

앤트로픽이 중국의 주요 AI 연구소 3곳을 상대로 자사 모델에 대한 "산업 규모의 증류 공격"을 수행했다고 비난했다. 이번 주장은 미국과 중국 간 기술 충돌에 새로운 국면을 더한다. 앤트로픽의 비난은 트럼프 행정부 고위 관계자가 중국 R1 개발사인 딥시크가 정책 제한을 위반하고 엔비디아의 블랙웰 칩으로 차세대 AI 모델을 훈련했을 가능성이 있다고 주장하는 가운데 나왔다.

클로드 코딩 도구를 개발한 샌프란시스코 기반 스타트업 앤트로픽은 딥시크, 문샷, 미니맥스 (HK:0100)가 가짜 계정을 사용해 자사 시스템에서 데이터를 추출했다고 밝혔다. 회사는 클로드와 1,600만 건 이상의 대화를 생성한 2만 4,000개의 사기 계정을 발견했다고 전했다. 이러한 대화는 "자체 모델을 훈련하고 개선하는 데" 사용됐다고 주장한다.

증류는 일반적인 AI 기법이다. 더 발전된 모델의 답변을 활용해 소형 모델을 훈련시키는 방식을 의미한다. 이를 통해 기업은 칩과 전력에 많은 비용을 들이지 않고도 최상위 시스템의 성능 일부를 복제할 수 있다. 그러나 앤트로픽은 이번 사례에서 이러한 관행이 선을 넘었다고 주장한다.

"증류 공격은 해외 연구소들이 수출 통제가 보존하도록 설계된 경쟁 우위를 좁힐 수 있게 함으로써 이러한 통제를 약화시킨다"고 회사는 밝혔다.

칩 통제에 미치는 영향

시점이 중요하다. 미국은 엔비디아 (NVDA)의 고급 제품을 포함한 첨단 칩의 중국 수출을 제한했다. 이러한 규제는 중국의 첨단 AI 발전을 늦추기 위한 것이다. 그 결과 중국 연구소들은 다른 방법을 찾아야 했다. 일부는 해외에서 모델을 훈련했고, 다른 일부는 구형 칩에 의존했다. 그리고 이제 증류가 주목받고 있다.

중국 기업들이 미국 모델의 출력값을 사용해 자체 시스템을 훈련할 수 있다면, 칩 제한의 영향이 줄어들 수 있다. 간단히 말해, 중국이 최고의 칩을 구매할 수 없더라도 그러한 칩으로 구축된 모델로부터 학습할 수 있다는 것이다.

이러한 위험은 이미 제기된 바 있다. 지난해 오픈AI는 자사 챗GPT 모델과 관련된 증류 징후를 발견했다고 밝혔다. 최근에는 미 하원 패널에 딥시크의 차기 모델이 "오픈AI와 기타 미국 선도 연구소들이 개발한 역량을 무임승차하려는" 노력의 관점에서 봐야 한다고 전했다.

안전성과 시장 영향

앤트로픽은 안전성 우려도 제기했다. "불법 증류를 통해 구축된" 모델은 생물학적 위협이나 사이버 범죄와 같은 오용을 방지하는 안전장치를 "유지할 가능성이 낮다"고 밝혔다. 즉, 복제된 모델은 동일한 보호 장치를 갖추지 못할 수 있다는 것이다.

그럼에도 이 사안은 여러 측면을 지닌다. 첫째, 엔비디아의 핵심 첨단 칩이 AI 경쟁의 중심에 있음을 부각시킨다. 둘째, AI 기업들이 자사 시스템에 대한 접근을 강화하고 사용을 더욱 면밀히 모니터링할 가능성을 시사한다. 셋째, 당국이 증류가 수출 정책을 약화시킨다고 판단할 경우 미국의 새로운 조치 가능성을 높인다.

우리는 팁랭크스 비교 도구를 사용해 챗GPT, 그록, 클로드와 유사한 챗봇을 운영하는 주요 상장 기업들을 비교했다. 이는 각 주식과 AI 산업 전반에 대한 폭넓은 관점을 얻을 수 있는 훌륭한 도구다.