뉴섬 캘리포니아 주지사, AI 안전 규제법 서명...구글·메타·엔비디아 등 영향권

개빈 뉴섬 캘리포니아 주지사가 오픈AI, 알파벳(구글 모회사), 메타, 엔비디아 등 AI 기업들에게 고도화된 AI 모델의 잠재적 재앙 수준 위험 방지 계획을 공개하도록 하는 획기적인 법안에 서명했다.

캘리포니아, AI 규제 선도

뉴섬 주지사는 새로운 법안 SB 53을 AI 혁신을 촉진하면서도 공공 안전을 보호하기 위한 중요한 조치라고 설명했다.

뉴섬 주지사는 보도자료를 통해 "캘리포니아는 AI 산업의 성장을 보장하면서도 지역사회를 보호할 수 있는 규제를 수립할 수 있다는 것을 입증했다"고 밝혔다.

또한 "AI는 혁신의 새로운 영역이며, 캘리포니아는 이를 환영할 뿐만 아니라 미국 최초의 AI 안전 법안을 제정함으로써 국가적 리더로서 확고히 자리매김하고 있다"고 강조했다.

뉴섬 주지사실은 이 법안이 미국의 모델이 될 수 있다고 평가했다. 로이터 통신에 따르면 의회가 국가 표준을 제정할 경우, 캘리포니아 의회는 SB 53이 설정한 높은 기준을 유지하면서 주 규정을 조정할 것으로 예상된다.

법안 주요 내용

SB 53은 연간 매출 5억 달러 이상의 AI 기업들에 적용된다.

해당 기업들은 자사 기술이 인간의 통제를 벗어나거나 생물학적 무기 제작에 오용될 수 있는 가능성에 대한 공개 위험 평가를 실시해야 한다.

위반 시 최대 100만 달러의 벌금이 부과된다.

이 법안은 뉴섬 주지사가 AI 모델에 1억 달러 이상을 투자하는 기업들에 대해 연례 제3자 감사를 요구했던 이전 법안을 거부한 후 나온 것이다.

산업계, 규제 분산에 우려 표명

앤트로픽의 공동 창업자 잭 클라크는 이번 조치를 환영하며 "앤트로픽은 이 법안을 지지한 것을 자랑스럽게 생각한다"고 밝혔다.

스콧 위너 캘리포니아 주 상원의원은 X(구 트위터)를 통해 "AI 혁신의 책임있는 확장을 위한 흥미로운 조치"라고 평가했다.

하지만 안드레센 호로위츠의 정부 업무 책임자 콜린 맥쿤은 SB 53이 "스타트업들이 감당할 수 없는 50개 주의 규정 준수 체계를 만들 위험이 있다"고 경고했다.

글로벌 AI 규제 동향

캘리포니아의 이번 법안은 해외의 유사한 움직임과 맥을 같이한다. EU의 AI법도 위험 평가부터 편향성 통제까지 고위험 시스템에 대한 엄격한 요구사항을 부과하고 있다.

한편 중국은 국제 AI 거버넌스를 조정할 글로벌 기구 설립을 촉구하며 국제 규제의 분산된 상태를 부각시켰다.

벤징가 엣지 주식 순위에 따르면 엔비디아는 단기, 중기, 장기 모든 기간에서 상승세를 이어가고 있다.