중국 딥시크, 이탈리아 규제당국으로부터 환각 현상 해결 명령... 미이행시 1100만 달러 벌금 부과

중국 AI 스타트업 딥시크가 챗봇 환각 현상을 해결하지 못할 경우 수백만 달러의 벌금을 물게 될 것이라는 통보를 받았다.

사용자 경고 강화

이탈리아 경쟁당국(AGCM)은 장기간의 조사 끝에 중국 기업이 이탈리아 내 국가별 챗봇 버전을 출시하고 챗봇 환각 현상에 대한 경고를 더 명확하고 접근 가능하게 만들기로 약속했다고 밝혔다.

AGCM은 딥시크가 이제 "환각 위험에 대한 공개를 더 투명하고 이해하기 쉬우며 즉각적으로 만들 것"이라고 말했다.

딥시크는 또한 기술적 변경을 통해 모델의 환각 비율을 낮추고 이탈리아어로 된 이용약관과 경고를 업데이트하겠다고 약속했다.

회사는 120일 이내에 규제 당국에 진행 상황 보고서를 제출해야 하며, 그렇지 않을 경우 최대 1,000만 유로(1,170만 달러)의 벌금을 물게 된다. AGCM은 딥시크의 서비스가 EU 디지털서비스법 적용 대상인지 여부를 여전히 평가하고 있으며, 이는 추가 규제 요건을 가져올 수 있다.

환각 현상 증가

이탈리아 당국은 2025년 6월 불충분한 사용자 경고에 대한 우려로 딥시크에 대한 조사를 시작했다.

구글에 따르면 AI 환각은 AI 모델이 때때로 생성하는 부정확하거나 오해의 소지가 있는 결과다. 이러한 오류는 불충분한 학습 데이터, 모델이 만든 잘못된 가정, 또는 모델 학습에 사용된 데이터의 편향 등 다양한 요인으로 인해 발생할 수 있다.

뉴스가드의 9월 보고서에 따르면 주요 AI 챗봇의 환각 비율이 전년 대비 거의 두 배 증가하여 2024년 약 18%에서 2025년 35%로 상승했다. 인플렉션, 퍼플렉시티, 메타(META)가 가장 높은 오류율을 보이는 것으로 강조되었다.

이는 다른 챗봇 제공업체들도 앞으로 몇 달 안에 유사한 규제 요구에 직면할 수 있음을 의미할 수 있다.

딥시크는 작년 더 저렴하지만 똑같이 효과적인 AI 모델로 미국 기술 대기업들을 뒤흔들며 주목받았다. 그러나 그 이후로 상당한 도전에 직면했다. 여기에는 미국 반도체 대기업 엔비디아(NVDA)의 금지된 블랙웰 칩을 사용하여 새로운 모델을 개발한 것으로 알려진 것도 포함된다.

딥시크는 또한 중국이 자체 AI 부문을 성장시키고 미국의 지배력에 도전하려는 시도에서 핵심적인 역할을 하고 있다.

지금 매수하기 좋은 AI 주식은?

팁랭크스 비교 도구를 사용하여 지금 매수하기 좋은 최고의 AI 주식을 정리했다.