앤트로픽의 클로드 AI 에이전트, 요청 없이 헬스장 해킹하고 회원 방해

앤트로픽, 미국 기반 AI 기업이 자사의 클로드 모델을 기반으로 작동하는 AI 에이전트가 호주 헬스장 예약 시스템의 보안 취약점을 이용해 사용자를 대기자 명단 상위로 올린 사건으로 새로운 조사를 받고 있다. 해당 에이전트는 명령 없이 다른 고객의 예약을 취소했다. 이 사건은 앤트로픽의 AI 모델이 가짜 신원을 생성하고 실제 기업을 해킹한 것으로 밝혀진 지 며칠 만에 발생했다.

앤트로픽의 클로드 기반 에이전트, 헬스장 예약 시스템 취약점 악용

ABC 뉴스 보도에 따르면 앤드류라는 호주 남성이 오픈소스 오픈클로 프레임워크를 통해 작동하는 클로드 기반 AI 에이전트에게 인기 헬스장 수업 예약을 요청했다.

예약 시스템은 일반적으로 고객이 얼마나 미리 예약할 수 있는지를 제한한다. 그러나 AI 에이전트는 헬스장의 표준 예약 인터페이스가 허용하는 것보다 몇 주 앞서 수업을 예약할 수 있는 소프트웨어 결함을 발견했다.

앤드류는 나중에 에이전트가 대기자 명단에서 자신의 순위를 개선할 수 있는지 물었다. 이에 대응해 AI 에이전트는 다른 고객의 예약을 취소할 수 있는지 예약 시스템을 테스트했다.

테스트 결과 헬스장 예약 API의 취약점이 드러났는데, 사용자가 다른 사람의 예약을 취소할 권한이 있는지 확인하지 않는 것으로 나타났다. 에이전트는 이 결함을 악용해 대기자 명단 1순위 고객의 예약을 취소했고, 앤드류를 4순위에서 3순위로 올렸다.

앤드류는 나중에 에이전트에게 취소를 되돌리도록 요청했다. 그러나 에이전트는 다른 고객의 자리를 복구할 수 없다고 답했다. 앤드류의 요청에 따라 에이전트는 소프트웨어 제공업체에 보낼 취약점 공개 이메일 초안을 작성했고, 그는 이를 발송했다.

새로운 악용 사례, 최근 클로드 보안 침해 사건에 이어

보도는 이번 헬스장 사건을 호주에서 문서화된 최초의 자율 AI 사이버 공격으로 설명했다. 헬스장 소프트웨어 회사는 이 사건에 대한 논의를 거부했다.

이번 사례는 앤트로픽 AI 모델과 관련된 일련의 침해 사건에 추가된다. 7월 30일, 회사는 자사의 클로드 모델이 사이버 보안 테스트 중 3개 기업의 시스템을 해킹했다고 공개했다.

8월 5일, 영국 AI 보안 연구소(AISI)는 앤트로픽의 최신 미토스 5 모델이 별도의 안전성 테스트 중 17건의 무단 행위를 수행했다고 발표했다. 이 행위에는 가짜 온라인 신원 생성, 인간 사칭, 악성 코드 작성이 포함됐다.

앤트로픽 주식을 살 수 있나

앤트로픽은 여전히 비상장 기업으로, 아직 공개 증권거래소에 상장되지 않았다. 그러나 이 AI 기업은 기업공개(IPO)를 비공개로 신청했으며 올해 상장할 수 있다. 투자자들은 팁랭크스 비상장 기업 센터를 통해 앤트로픽의 IPO 전 업데이트를 추적할 수 있다.