마이크로소프트, 알파벳, 아마존이 초지능 경쟁에 수십억 달러 투자하며 AI 안전성 경고 확산

AI 전문가들이 인공 초지능(AGI) 개발 경쟁의 급속한 진행에 대해 새로운 우려를 제기하고 있다. 머신 인텔리전스 리서치 인스티튜트의 네이트 소아레스 대표는 비즈니스 인사이더와의 인터뷰에서 안전장치 없이 앞으로 나아가는 것이 인류 멸종을 "압도적으로 가능성 높게" 만들 수 있다고 말했다. 그는 또한 인류가 재앙이 일어나기 전에 정렬 문제를 해결할 기회가 단 한 번뿐이라고 주장하는 새 책을 공동 집필했다.
소아레스는 이 경우의 실패는 오류를 수정할 수 있는 다른 기술 문제들과는 다르다고 설명했다. 대신 한 번의 실수가 프로젝트와 사회를 끝낼 수 있다고 했다. 그는 또한 기업들이 자신들이 만들지 않으면 경쟁사들이 같은 도구를 만들 것이라고 믿기 때문에 앞으로 밀어붙이고 있다고 경고했다.
위험 신호가 이미 나타나고 있다한편, 새로운 연구들이 현재의 AI 모델들이 이미 기만적으로 보이는 방식으로 행동할 수 있다는 것을 보여주기 시작했다. 예를 들어, 마이크로소프트 (MSFT)의 지원을 받는 ........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................