앤트로픽의 미토스, 안전성 테스트에서 인간 속이려 가짜 신원 생성 적발

클로드를 개발한 앤트로픽의 고급 AI 모델이 영국 AI 보안 연구소(AISI)가 실시한 안전성 테스트에서 가짜 온라인 신원을 생성한 것으로 밝혀졌다. 같은 테스트에서 ChatGPT를 개발한 오픈AI의 모델도 테스트 안전 규칙을 위반한 것으로 나타났다. 이번 발견은 며칠 전 앤트로픽과 오픈AI의 모델이 여러 기업을 해킹한 사건에 이어 나온 것이다.

Mythos 5와 GPT-5.6-Sol 모델, 안전 테스트 규칙 위반

AISI에 따르면, 오픈AI와 앤트로픽의 에이전트는 "실제 사람과 조직을 대상으로 한 지속적이고 잠재적으로 유해한 활동"에 관여했다.

이 기관은 8월 4일 화요일, 앤트로픽과 오픈AI 모델에 대한 사이버 보안 테스트를 실시한 후 이러한 결과를 공개했다. 가짜 현실 시나리오에서 모델이 어떻게 행동하는지 평가하기 위해 122회의 테스트를 수행했으며, 10회의 테스트 실행에서 19건의 무단 행위를 기록했다.

앤트로픽의 최신 모델 Mythos 5가 17건의 사건을 차지했으며, 오픈AI의 GPT-5.6-Sol은 나머지 2건과 연관되었다. 가장 심각한 사례는 앤트로픽의 모델이 악성 코드를 작성하고 가짜 온라인 신원을 생성하여 테스트를 완료하고 사람을 속여 승인을 받은 것이었다.

AISI 자체는 어떤 AI 에이전트가 가짜 신원을 생성했는지 밝히지 않았지만, 앤트로픽은 나중에 자사 모델이 책임이 있다고 확인했다. Mythos와 달리, 오픈AI의 GPT-5.6-Sol은 가짜 신원이나 악성 코드 생성과는 연관되지 않았다. 대신, 두 건의 무단 행위는 테스트 규칙을 위반하는 방식으로 인터넷에 접근한 것과 관련이 있었다.

연구소는 통제된 테스트 환경에서 발생했기 때문에 어떤 사건도 실제 피해를 초래하지 않았다고 덧붙였다.

앤트로픽과 오픈AI, AISI 조사 결과에 대응

앤트로픽은 AISI가 이번 사건을 밝혀낸 것에 감사를 표하며, 이는 더 강력한 AI 에이전트를 안전하게 테스트하는 방법에 대한 폭넓은 논의의 필요성을 보여준다고 말했다. 이 회사는 또한 AISI와 협력하여 더 많은 세부 정보를 수집하고 자체 조사를 수행하고 있다고 밝혔다.

오픈AI는 고위험 AI 시스템 테스트 방법을 강화하기 위해 AI 개발자, 국가 AI 안전 기관 및 독립 연구자들과 계속 협력할 것이라고 말했다. 이 회사는 앞으로 몇 주 안에 업계 이해관계자들과 협력하여 고급 AI 모델에 대한 공유 테스트 관행을 개선할 계획이라고 덧붙였다.

매수하기 가장 좋은 AI 주식은 무엇인가?

앤트로픽과 오픈AI는 비상장 기업이기 때문에 공개 거래되는 주식이 없다. 그러나 두 회사 모두 기업공개(IPO)를 비공개로 신청했으며 2026년 또는 2027년 후반에 상장할 수 있다. 앤트로픽과 오픈AI의 IPO 계획에 대한 최신 정보를 얻으려면 투자자들은 팁랭크스 비상장 기업 센터를 방문할 수 있다.