새로운 AI 안전성 보고서... 앤트로픽 1위, 스페이스엑스AI 최하위

미래생명연구소(FLI)가 AI 안전성 지수 최신판을 발표했다. 이 보고서는 주요 AI 기업들이 고급 모델을 얼마나 안전하게 구축하고 배포하는지를 평가한다. 앤트로픽이 C+로 1위를 차지했고, 오픈AI와 알파벳의 GOOGL 구글 딥마인드가 C 등급으로 뒤를 이었다. 반면 스페이스X의 (SPCX) 스페이스XAI는 최하위인 F 등급을 받았다.

이 지수는 모델 테스트, 위험 통제, 투명성, 오용 방지, 기업 지배구조 등 6개 영역의 공개 데이터를 분석해 어떤 기업이 안전성을 진지하게 다루고 있고 어떤 기업이 뒤처져 있는지를 보여준다.

상위권 기업... 앤트로픽, 오픈AI, 구글 딥마인드

최신 업데이트에서 앤트로픽, 오픈AI, 구글 딥마인드가 상위권을 차지했지만, 이들 선두 기업조차 C 등급대에 그쳤다. 낮은 점수는 대부분의 기업이 강력한 안전 규칙을 마련하는 속도보다 더 빠르게 강력한 AI 시스템을 구축하는 데 집중하고 있음을 보여준다.

앤트로픽은 C+를 받아 6개 부문 중 5개에서 선두를 차지했다. 높은 투명성, 공익 구조, 엄격한 데이터 처리 규칙 덕분이다. 오픈AI는 C 등급으로 2위를 기록했으며, 위험 테스트와 내부고발자 보호에서 높은 점수를 받았다.

또한 구글 딥마인드는 고위험 생물학 및 사이버 위협에 대한 모델 테스트에서 C 등급을 받았다.

메타는 개선, 스페이스XAI는 하락

메타는 D+로 소폭 상승했으며, 공개 보고와 초기 안전 프레임워크가 개선된 것으로 나타났다.

가장 큰 하락은 일론 머스크의 스페이스XAI(구 xAI)에서 나타났다. 스페이스X와 합병한 후 F 등급으로 떨어졌다. 평가자들은 합병으로 안전 관행을 추적하기 어려워졌다고 지적했으며, 이 회사는 여전히 주요 AI 개발사에 기대되는 기본적인 투명성과 지배구조 체계가 부족하다고 밝혔다.

빠르게 성장하는 두 스타트업인 딥시크와 미스트랄도 명확한 내부 안전 또는 정렬 기준을 제시하지 못해 F 등급을 받았다.

주목할 점은 보고서가 상위권 기업들조차 과거 약속을 조용히 약화시키고 있다고 경고했다는 것이다. 앤트로픽, 오픈AI, 구글, 메타(META)는 한때 자사 시스템이 특정 위험 수준에 도달하면 최첨단 모델 개발을 중단하겠다고 밝혔다. FLI는 이러한 약속이 이제 완화되거나 삭제되어, AGI 수준의 개발이 충분한 검증 없이 진행될 수 있다는 우려가 커지고 있다고 밝혔다.

어떤 주식이 더 나은 매수 대상인가

위에서 언급한 AI 기업 중 상장된 곳은 세 곳뿐이다. 팁랭크스 주식 비교 도구를 사용해 GOOGL, META, SPCX 주식을 비교했다. GOOGL과 META는 팁랭크스에서 매수 강력 추천 등급을 받았고, SPCX는 매수 보통 추천을 받았다. 그러나 SPCX는 12개월 상승 잠재력이 44.3%로 가장 높다.