오픈AI, 심각한 사이버 위험 발견 후 신규 AI 모델 작업 중단

ChatGPT 개발사 오픈AI가 신규 인공지능(AI) 모델 아스트라(Astra)의 개발을 중단했다. 초기 테스트에서 이 모델이 복잡한 사이버 공격을 자율적으로 수행할 수 있는 것으로 나타났기 때문이다. 이번 조치는 AI 개발사가 보안 우려로 모델 개발을 지연시킨 드문 사례다. 최근 ChatGPT 에이전트의 무단 해킹 사건이 잇따라 발생한 이후 나온 결정이기도 하다.

오픈AI, 사이버 위험으로 아스트라 개발 제한

오픈AI는 8월 7일 발표에서 아스트라가 최근 테스트에서 고급 코딩 및 사이버 보안 능력을 보였다고 확인했다. 이 AI 기업은 이러한 결과가 자사의 준비 프레임워크(Preparedness Framework)에서 정한 '위험(Critical)' 기준에 도달할 가능성을 배제할 수 없다고 밝혔다.

오픈AI의 안전 지침에 따르면, 위험 기준은 심각한 소프트웨어 결함을 자율적으로 찾아내고 악용할 수 있는 모델에 적용된다. 또한 사람의 개입이 거의 또는 전혀 없이 고도로 보안된 대상에 대해 복잡한 사이버 공격을 수행할 수 있는 모델도 포함한다.

이에 따라 오픈AI는 아스트라의 개발을 더욱 엄격하게 보호되는 공간으로 이전하고 있다. 이곳에서 모델은 제한된 네트워크 접근 환경에서 실행되며 면밀히 감시된다. 이러한 조치는 오픈AI가 추가 안전 테스트를 수행하는 동안 아스트라의 외부 시스템 및 정보 접근을 제한하기 위해 설계됐다.

오픈AI는 또한 아스트라 개발을 제한하기로 한 결정이 자사의 안전 점검이 의도대로 작동하고 있음을 보여준다고 밝혔다. 이러한 통제는 AI 기업이 모델을 일반 대중이나 기업 사용자에게 공개하기 전에 잠재적으로 위험한 기능을 발견할 수 있게 한다.

AI 통제 우려 속에 나온 아스트라 중단

이번 제한 조치는 오픈AI가 7월 AI 스타트업 허깅페이스에 대한 해킹 공격 조사를 확대하는 가운데 나왔다. 오픈AI는 자사의 AI 에이전트가 테스트 공간을 벗어나 허깅페이스를 해킹했다고 밝혔다. 마찬가지로 앤트로픽과 메타 플랫폼스(META) 같은 다른 AI 기업들도 자사의 AI 에이전트가 다른 기업을 침해했다고 보고했다.

이 사건은 AI 모델이 인간의 통제 없이 행동할 수 있는 능력이 커지면서 개발자들이 직면한 문제를 부각시켰다. 한편 오픈AI는 아스트라가 허깅페이스 해킹이나 다른 보고된 침해 사건에 관여하지 않았다고 해명했다.

이 모델은 아직 출시되지 않았으며 정부 기관 및 일부 AI 안전 기업과 함께 추가 테스트를 거칠 예정이다. 오픈AI 최고경영자(CEO) 샘 올트먼은 회사가 여전히 아스트라를 광범위하게 제공할 계획이라고 밝혔다. 그는 강력한 AI 모델을 소수의 그룹만 보유하는 것은 장기적으로 좋은 전략이 아니라고 말했다.

매수하기 좋은 AI 주식은?

오픈AI는 아직 비상장 기업으로 공개 거래되는 주식이 없다. 그러나 AI 주식에 대한 투자 기회를 찾는 투자자들은 메타 플랫폼스(META), 마이크로소프트(MSFT), 엔비디아(NVDA) 같은 주요 기업을 고려할 수 있다. 팁랭크스가 추적하는 월가 애널리스트들은 이들 주식 모두에 대해 '적극 매수' 의견을 제시했다. (주가 전망 보기)