해커가 클로드 AI `탈옥`시켜 멕시코 정부 데이터 150GB 탈취

사이버 보안 연구원들은 한 해커가 앤트로픽의 클로드 AI 챗봇을 이용해 멕시코 정부 기관을 대상으로 대규모 사이버 공격을 수행했다고 밝혔다. 이스라엘 사이버 보안 업체 갬빗 시큐리티에 따르면, 공격자는 스페인어로 AI에게 전문 해커처럼 행동하도록 요청하며 정부 시스템의 취약점을 찾고, 공격 코드를 작성하며, 정보 탈취를 자동화하는 데 도움을 받았다. 이 활동은 12월부터 약 한 달간 지속됐으며, 약 150기가바이트의 데이터가 탈취됐다. 여기에는 약 1억 9,500만 건의 세금 기록, 유권자 정보, 정부 직원 자격 증명, 민사 등록 파일 등이 포함됐다.

처음에 클로드는 의심스러운 요청에 대해 사용자에게 경고했지만, 연구원들은 공격자가 결국 안전 보호 장치를 우회하는 방법을 찾았다고 말한다. '탈옥'으로 알려진 이 과정은 시스템을 반복적으로 테스트하고 심지어 작업이 합법적인 보안 연구인 것처럼 가장하는 것을 포함했다. 이러한 장벽이 극복되자, AI는 침해된 네트워크 전반에 걸쳐 수천 건의 작업을 수행하는 데 도움을 준 것으로 알려졌다. 해커는 멕시코 연방 세무 당국, 국가 선거 기관, 여러 주 정부, 공공 유틸리티 등 여러 기관을 표적으로 삼았다.

클로드가 충분한 지침을 제공하지 못하자, 공격자는 탐지되지 않고 네트워크를 이동하는 방법과 같은 추가 조언을 얻기 위해 오픈AI의 챗GPT도 활용했다. 앤트로픽은 나중에 이 문제를 발견하고 관련 계정을 폐쇄했으며, 향후 모델의 보호 장치를 개선하는 데 이 사건을 활용했다고 밝혔다. 오픈AI도 정책 위반으로 공격자의 계정을 차단했다고 보고했다. 멕시코 당국의 반응은 엇갈렸으며, 일부 기관은 침해를 부인했고 다른 기관은 공개 논평을 거부했다.

클로드 투자자들은 큰 보상을 받았다

앤트로픽 투자자들은 회사 가치가 1,830억 달러에서 3,800억 달러로 증가하고 수십억 달러를 조달하면서 지난 몇 달 동안 큰 보상을 받았다.