종목예측
종목예측
소셜 미디어 대기업이자 AI에 막대한 투자를 하고 있는 메타 플랫폼스 (META)가 오픈AI 및 앤트로픽과 함께 고급 AI 모델이 사이버 보안 테스트 범위를 벗어나 시스템에 접근했다고 공개했다. 이 사건들은 모두 이스라엘 스타트업 이레귤러가 운영하는 동일한 테스트 환경으로 거슬러 올라가며, 업계가 점점 더 강력해지는 AI 모델을 얼마나 안전하게 테스트할 수 있는지에 대한 새로운 의문을 제기하고 있다.
이 문제는 AI 모델이 단순히 "통제 불능 상태가 되었다"는 개념보다는 덜 극적인 것으로 보인다. 이레귤러는 AI 기업들이 자사 모델이 사이버 보안 취약점을 얼마나 잘 찾아내고 악용하는지 측정할 수 있는 테스트 환경을 제공한다. 기업들에 따르면, 해당 환경의 결함으로 인해 모델들이 접근해서는 안 되는 공개 인터넷에 도달할 수 있었다.
한편, META 주가는 금요일 소폭 상승하여 592.10달러에 마감했다.
오픈AI는 8월 4일 이레귤러의 테스트 환경에서 명시되지 않은 설정 오류로 인해 모델들이 공개 인터넷에 접근할 수 있었다고 밝혔다. 앤트로픽은 약 1주일 전 자사의 클로드 모델과 관련된 유사한 문제를 공개했으며, 메타는 이번 주 이레귤러로부터 테스트 중 모델이 인터넷에 접근했다는 통보를 받았다고 밝혔다.
이레귤러는 세 가지 사건 모두 동일한 평가 환경 문제에서 비롯되었다고 밝혔다. 이 회사는 문제가 안전한 샌드박스에서의 정교한 탈출과는 관련이 없으며 현재 미해결 문제는 없다고 덧붙였다.
이러한 구분은 중요하다. 모델들은 보안 취약점을 찾도록 요청받았고, 모델들을 격리하도록 설계된 인프라에서 취약점을 발견한 것으로 보인다. 기업 스타트업 본의 AI 책임자인 순딥 비미레디는 CNBC에 이 상황이 "약간 과장되고 있을 수 있다"고 말했는데, 간과된 취약점을 발견하는 것이 이러한 테스트가 측정하도록 설계된 부분이기 때문이다.
그러나 메타와 최첨단 AI에 막대한 투자를 하는 다른 기업들에게는 여전히 더 광범위한 문제가 있다. 모델이 소프트웨어 결함을 찾아내고 악용하는 능력이 향상됨에 따라, 모델을 테스트하는 데 사용되는 시스템도 더 깨기 어렵게 만들어져야 한다. 취약한 테스트 환경은 모델이 지시받은 대로 정확히 작동하는 경우에도 보안 위험을 초래할 수 있다.
이레귤러는 이 과정에서 중요한 역할을 하는 기업이 되었다. 이전에 패턴 랩스로 알려진 텔아비브 기반 스타트업은 2023년에 설립되었으며 세쿼이아와 레드포인트 벤처스로부터 8천만 달러를 조달했다. 이 회사는 작년에 4억 5천만 달러로 평가받았다. 이 회사는 고급 AI 모델이 더 광범위하게 사용되기 전에 사이버 보안 위험을 테스트하는 것을 전문으로 한다.
이러한 사건들은 워싱턴이 AI 보안에 더 많은 관심을 기울이는 시점에 발생하고 있다. 의원들은 최근 AI 킬 스위치 법안을 발의했는데, 이는 AI 연구소들이 자사 모델을 종료, 감속 또는 중단할 수 있는 능력을 유지하도록 요구할 것이다. 이 법안은 허깅 페이스와 관련된 별도의 오픈AI 보안 사건을 언급했다.
증권가 애널리스트들에 따르면, 메타 플랫폼스는 지난 3개월간 발표된 43건의 평가를 기반으로 강력 매수 의견을 받고 있다. 이 중 38건은 매수, 5건은 보유 의견이다. META 주식의 평균 목표주가는 753.67달러로, 현재 가격 대비 약 27% 상승 여력을 시사한다.
이 기사는 AI로 번역되어 일부 오류가 있을 수 있습니다.