주요 AI 연구소 직원들, AI 위험 증가 경고하며 미국의 글로벌 안전 계획 주도 촉구

알파벳 산하 구글(GOOGL), 메타 플랫폼스(META), 오픈AI, 앤트로픽 등 주요 AI 기업 소속 기술 직원 1,100명 이상이 미국 정부에 첨단 AI와 관련된 급증하는 위험을 관리하기 위한 국제적 노력을 지원해 달라고 촉구했다. 이들은 AI가 훨씬 더 나은 미래를 구축하는 데 도움이 될 수 있지만, 필요할 때 개발 속도를 늦출 수 있어야만 가능하다고 경고했다.

연구자들은 공개 성명에서 주요 AI 기업들이 AI 연구 자체를 자동화하는 단계에 근접했으며, 이러한 전환이 진전 속도를 급격히 가속화할 수 있다고 밝혔다. 이들은 AI가 자체 시스템을 개선하기 시작하면 얼마나 빠르게 성장할지 아무도 예측할 수 없으며, 세계가 다음에 올 것을 통제할 능력을 잃을 수 있다고 주장했다.

이들은 정부와 대중이 안전 도구를 구축하고, 더 강력한 감독을 추가하며, 새로운 위험에 대처할 수 있도록 시간을 벌 방법이 필요할 수 있다고 말했다. 그러나 치열한 경쟁으로 인해 어떤 한 기업이나 국가가 단독으로 속도를 늦추기 어렵다고 지적했다.

직원들, 미국에 AI 속도 조절 도구 개발 주도 촉구

직원들은 세계가 여전히 최첨단 AI를 의도적으로 늦추거나 안내하는 데 필요한 기술 도구와 규칙이 부족하다고 말했다. 따라서 이 그룹은 미국 정부가 이러한 도구를 개발하기 위한 국제적 노력을 주도하는 데 도움을 줄 것을 요청하고 있다. 이번 성명은 새로운 최첨단 모델 출시를 추적하는 진행 중인 작업을 기반으로 하며, 자동화된 AI 성장 속도를 관리하기 위한 조율된 시스템을 요구한다.

서명자들에는 이 분야에서 가장 고위급 연구자와 리더들이 다수 포함되어 있다. 그중에는 오픈AI 수석 과학자 야쿱 파초키, 앤트로픽 CEO 다리오 아모데이, 메타 AI 수석 과학자 셩지아 자오, 구글 딥마인드 최고 전략 책임자 자스지트 세콘 등이 있다.

이들의 발언은 증가하는 우려를 반영한다. 성명에서 일부는 AI 진전이 사회가 적응할 수 있는 속도보다 빠르게 진행되고 있으며, 몇 주마다 새로운 위험이 나타나고 있다고 경고했다. 다른 이들은 경쟁 압력으로 인해 안전팀이 더 많은 시간을 필요로 할 때에도 연구소들이 계속 앞으로 나아갈 수밖에 없다고 말했다. 많은 이들은 조율된 국제적 행동만이 인간의 통제를 초과하는 시스템을 향한 통제 불능 경쟁을 막을 수 있다고 주장했다.