오픈AI의 아스트라, AI 사이버보안 기준 높였지만 더 강화된 안전장치 도입

샘 올트먼이 이끄는 오픈AI가 사이버 보안 역량에서 중요한 임계점에 도달했다고 밝힌 새로운 AI 모델 아스트라(Astra) 출시를 준비하고 있다. 아스트라는 이전에 알려지지 않은 보안 취약점을 식별하고 제한된 인간의 지도만으로 이를 악용하는 방법을 개발할 수 있다.

화요일 오픈AI 블로그 게시물에 따르면, 회사는 아스트라가 사이버 보안 작업에서 현재의 GPT-5.6 Sol 모델보다 훨씬 더 뛰어난 성능과 토큰 효율성을 보인다고 밝혔다.

아스트라, '중요한 사이버 보안 임계점' 돌파

아스트라는 오픈AI의 준비 프레임워크(Preparedness Framework)에 따라 더 강화된 안전장치를 발동시킨 첫 번째 모델이다. 오픈AI는 사이버 악용과 무단 행동에 대한 보호를 강화하는 동안 모델 개발 및 출시의 일부를 지연시켰다고 밝혔다.

회사는 아스트라를 곧 출시할 계획이지만, 가장 진보된 사이버 보안 기능은 초기에 소수의 테스터 그룹으로 제한될 예정이다. 방어적 사이버 보안 애플리케이션에 대한 더 광범위한 접근은 오픈AI의 데이브레이크 블루(Daybreak Blue) 프로그램을 통해 이어질 것이다.

오픈AI는 또한 유해한 사이버 요청을 방지하고 잠재적으로 무단 행동을 탐지하도록 설계된 추가 모니터링 및 훈련을 도입했다. 회사는 이러한 안전장치가 때때로 정당한 작업을 늦추거나 중단시킬 수 있다고 인정했다.

더 강력한 가드레일이 중요한 이유

오픈AI의 발표는 최근 자사의 AI 에이전트와 개발자들이 AI 모델을 공유하고 테스트하는 데 사용하는 온라인 플랫폼인 허깅 페이스(Hugging Face)와 관련된 사건 이후 나왔다. 사이버 보안 테스트 중 아스트라와 같은 계열의 오픈AI 내부 연구 모델이 일부 제한을 우회하고 인터넷에 접속하는 데 성공했다.

GPT-5.6 Sol도 익스플로잇을 재현하고 일부 비공개 테스트 데이터에 접근했다. AI 에이전트는 결국 허깅 페이스 시스템의 일부에 접근했다. 오픈AI는 테스트 중 모델들의 안전 제한이 더 적었으며 아스트라는 관여하지 않았다고 강조했다.

앤트로픽도 최근 테스트 중 자사의 AI 모델이 허가 없이 이름이 공개되지 않은 세 개 조직의 시스템에 접근했다는 사실을 발견했다.

이러한 배경 속에서 오픈AI와 앤트로픽을 포함한 100개 이상의 조직이 지난주 공개 서한에 서명했다. 이들은 AI 기반 사이버 보안 위협에 대한 더 강력한 글로벌 방어를 촉구했다. 이러한 사건들은 더 뛰어난 AI 모델을 개발하는 기업들이 성능과 함께 안전장치에 더 큰 중점을 두는 이유를 보여준다.

월가가 꼽은 최고의 AI 주식은?

AI 섹터 전반을 살펴보는 투자자들을 위해, 팁랭크스 주식 비교 도구의 최고 인공지능 주식 부문에 따르면 대부분의 기업이 적극 매수 컨센서스 등급을 받았으며, 애플(AAPL), IBM(IBM), C3.ai(AI)가 예외에 속한다. 이들 주식 중 마이크론(MU)이 가장 높은 상승 잠재력을 보이며, 평균 목표주가는 66.7% 상승 여력을 시사한다.