전 구글 CEO 슈미트 "초지능 AI 개발 경쟁, 핵무기급 위험 초래할 수 있다"

에릭 슈미트 전 구글 CEO와 스케일AI의 알렉산더 왕 CEO, AI안전센터의 댄 헨드릭스 이사가 초지능 AI 개발을 위한 글로벌 경쟁에 대해 경고의 목소리를 냈다.

주요 내용

이들은 '초지능 전략'이라는 제목의 논문에서 미국 정부가 맨해튼 프로젝트와 유사한 방식으로 인공일반지능(AGI) 개발을 추진할 가능성에 대해 우려를 표명했다. 전문가들은 이러한 경쟁이 핵무기 경쟁과 유사한 위험한 글로벌 갈등을 촉발할 수 있다고 경고했다.

공동 저자들은 논문에서 "초강력 무기와 글로벌 통제력 확보를 위한 시도가 적대적 대응조치를 촉발하고 긴장을 고조시켜 결국 확보하려 했던 안정성 자체를 훼손할 수 있다"고 지적했다.

저자들은 글로벌 경쟁자들을 앞서려는 경쟁보다는 AI 개발에 대한 신중한 접근을 주장했다. 이들은 핵무기 경쟁의 상호확증파괴(MAD)에서 착안한 '상호확증 AI 오작동(MAIM)'이라는 새로운 개념을 제시했다. 또한 핵무기와 유사한 방식으로 각국이 비확산 노력과 억지 전략에 참여할 것을 권고했다.

시장 영향

슈미트의 우려는 도널드 트럼프가 2월에 발표한 5000억 달러 규모의 AI 투자 계획인 '스타게이트 프로젝트'로 더욱 증폭됐다. 트럼프 행정부는 이전 행정부가 도입한 AI 규제마저 철회했다.

슈미트는 이전에도 중국의 AI 주도권 확보를 막기 위해 서방이 오픈소스와 클로즈드소스 AI 모델을 결합한 접근방식을 우선시해야 한다고 경고한 바 있다. OpenAI의 GPT-4, 알파벳(구글)의 제미나이, 앤트로픽의 클로드는 모두 클로즈드소스 모델이다.

슈미트와는 대조적으로 JD 밴스 부통령은 "과도한 AI 규제는 변혁적 산업이 막 시작되려는 시점에 이를 저해할 수 있다"고 주장했다. 흥미롭게도 미국과 영국은 2월 파리에서 열린 AI 액션 서밋에서 글로벌 AI 안전 선언 서명에도 참여하지 않았다.