앤트로픽이 미토스 AI의 성능 저하 버전을 제공하자 클로드 사용자들 격분

인공지능(AI) 기업 앤트로픽이 강력한 미토스 모델의 공개 버전인 클로드 페이블 5를 출시한 후 엄청난 반발에 직면했다. AI 개발자와 사용자들은 앤트로픽이 사용자들에게 미토스의 열등한 버전을 제공했다는 사실을 알게 된 후 이 회사를 비판했다. 그들은 앤트로픽이 모델의 일부 응답을 은밀하게 차단하고 공개되지 않은 안전 제한을 추가했다고 밝혔다.

이번 출시는 모델의 전체 기능에 대한 투명성과 접근성에 대한 우려를 불러일으켰다. 이 논란은 또한 강력한 AI 시스템이 무엇을 할 수 있고 할 수 없는지를 누가 통제해야 하는지에 대한 광범위한 논쟁을 촉발시켰다.

AI 전문가들, 클로드 페이블 5 안전 제한에 이의 제기

확산되고 있는 비판의 대부분은 앤트로픽이 새로 출시한 클로드 페이블 5에 구축한 안전장치에 집중되어 있다. 이 회사는 사이버 보안이나 생물학과 같은 민감한 영역에 대한 질문이 나올 때 사용자를 이전 클로드 오푸스 4.8 모델로 전환할 것이라고 밝혔다.

그러나 사용자들은 이러한 제한이 고위험 주제를 넘어 확장되었으며, 모델이 기초 생물학, 화학, 수학과 같은 무해한 주제까지 차단했다고 말했다. 개발자들은 또한 고급 AI 개발에 대한 응답이 약화되었으며, 이러한 변경 사항이 적용될 때 명확한 경고가 없었다고 지적했다.

연구자들은 이러한 숨겨진 제한이 클로드 페이블 5를 테스트하고 신뢰하며 적절하게 평가하는 것을 더 어렵게 만들었다고 주장했다. 여러 AI 전문가들은 또한 앤트로픽이 경쟁 개발자들을 불리하게 만들기 위해 접근을 제한했다고 비난했다.

잭슨 연구소의 면역학자 데리야 우눗마즈는 제한이 너무 광범위해서 일상적인 질문조차 자주 실패했다고 말했다. 그는 단일 기업이 사용자가 AI 시스템을 통해 무엇을 질문하거나 접근할 수 있는지에 대해 그러한 통제권을 가질 수 있다는 것이 우려스럽다고 덧붙였다.

앤트로픽, 페이블 5 제한 변경 계획

앤트로픽은 클로드 페이블 5의 비밀 차단이 잠재적으로 해로운 행위를 지원하는 능력을 제한하기 위해 이루어졌다고 밝혔다. 이 회사는 국가 안보 우려와 서비스 약관을 "보이지 않는 안전장치"를 적용한 이유로 언급했다.

그러나 회사는 대중의 반응을 잘못 판단했다고 인정했다. "우리는 잘못된 절충안을 만들었으며, 균형을 제대로 맞추지 못한 점에 대해 사과드립니다"라고 밝혔다.

문제를 해결하기 위해 앤트로픽은 페이블 5의 차단을 사용자에게 명확하게 표시할 것이라고 약속했다. 과학 연구와 관련하여, 제한이 "지나치게 보수적"이었다고 언급하며, 회사가 현재 불필요한 제한을 줄이기 위해 노력하고 있다고 덧붙였다.

대변인은 또한 회사가 생물의학 연구와 신약 개발을 지원하기 위해 안전장치가 없는 페이블과 같은 미래의 미토스급 모델을 만들 계획이라고 말했다.

앤트로픽 주식을 살 수 있나

앤트로픽은 비상장 기업으로, 주식이 아직 공개 거래되지 않는다. 그러나 이 회사는 기업공개(IPO) 서류를 비공개로 제출하여 잠재적 상장을 향한 초기 단계를 밟았지만, 시기와 기업가치에 대한 세부 사항은 공개되지 않았다. AI 주식에 투자하려는 사람들은 팁랭크스 주식 비교 센터를 방문하여 AI 부문의 주요 기업에 대한 업데이트와 인사이트를 얻어야 한다.