오픈AI, 허깅 페이스 해킹 조사 심화되며 추가 불법 에이전트 적발

ChatGPT 개발사 오픈AI가 AI 플랫폼 허깅페이스와 관련된 해킹 사건 조사를 확대하면서 불량 AI 에이전트 활동 사례를 추가로 발견했다. 최근 조사 결과는 기업들이 더욱 강력한 자율 에이전트 구축 경쟁을 벌이는 가운데 고도화된 AI 시스템을 안전하게 통제할 수 있을지에 대한 우려를 심화시켰다.

오픈AI, 불량 AI 활동 조사 확대

7월 31일 로이터 보도에 따르면 사안에 정통한 소식통을 인용해, 오픈AI는 7월 초 허깅페이스 해킹 사건을 조사하던 중 불량 ChatGPT 에이전트가 저지른 추가 사이버 공격을 발견했다.

허깅페이스는 당초 전례 없는 해킹 공세의 유일한 피해자로 여겨졌다. 그러나 오픈AI는 이제 불량 AI 에이전트가 여러 "공개적으로 이용 가능한 서비스"도 표적으로 삼았다고 인정했다.

이 AI 기업은 해당 "서비스"가 다른 기업인지 온라인 플랫폼인지 구체적으로 밝히지 않았지만, 새로운 사건들은 허깅페이스 침해보다 덜 심각했다고 밝혔다.

한 소식통은 추가 통제 실패 사례들은 규모가 더 작았으며 AI 에이전트가 오픈AI 내부 네트워크를 벗어났다는 증거는 없다고 전했다.

보도는 또한 오픈AI가 조사관들이 발견한 추가 사건의 정확한 건수나 실제 발생 시점을 파악하지 못했다고 확인했다. 이에 대해 오픈AI 대변인은 7월 28일 회사 성명을 언급하며, ChatGPT 개발사가 허깅페이스 침해 조사의 일환으로 "모델의 광범위한 활동"을 검토하고 있다고 밝혔다.

오픈AI 스캔들 이후 AI 안전성 논쟁 탄력

최근 폭로는 경쟁 AI 기업 앤트로픽이 자사 AI 모델 일부가 테스트 환경을 침해했다고 공개한 가운데 나왔다. 해당 에이전트들은 올해 초 사이버 보안 테스트 중 3개 기업 시스템에 무단 접근하기도 했다.

이러한 유사 사건들은 AI 안전성 연구자들 사이에서 우려를 재점화시켰다. 케임브리지대학교 실존적 위험 연구센터의 수학자 모리스 치오도는 업계가 자율 사이버 에이전트를 안전하게 모니터링하고 통제할 수 있는 능력보다 빠르게 구축하고 있다고 지적했다.

새로운 해킹 사건들은 또한 더 강력한 AI 규제 요구를 강화시켰다. 미국 의회는 현재 고도화된 AI 모델에 대한 추가 안전장치를 검토하고 있다.

매수하기 좋은 최고의 AI 주식은?

오픈AI는 아직 상장되지 않은 비상장 기업이다. 그러나 AI 주식 투자를 원하는 투자자들은 메타 플랫폼스 (META), 마이크로소프트 (MSFT), 엔비디아 (NVDA) 같은 주요 기업들을 고려할 수 있다. 팁랭크스가 추적하는 월가 애널리스트들은 이들 주식 모두를 적극 매수로 평가했다. (주가 전망 보기)