마이크로소프트, 알파벳, 아마존이 초지능 경쟁에 수십억 달러 투자하며 AI 안전성 경고 확산

AI 전문가들이 인공 초지능(AGI) 개발 경쟁의 급속한 진행에 대해 새로운 우려를 제기하고 있다. 머신 인텔리전스 리서치 인스티튜트의 네이트 소아레스 대표는 비즈니스 인사이더와의 인터뷰에서 안전장치 없이 앞으로 나아가는 것이 인류 멸종을 "압도적으로 가능성 높게" 만들 수 있다고 말했다. 그는 또한 인류가 재앙이 일어나기 전에 정렬 문제를 해결할 기회가 단 한 번뿐이라고 주장하는 새 책을 공동 집필했다.

소아레스는 이 경우의 실패는 오류를 수정할 수 있는 다른 기술 문제들과는 다르다고 설명했다. 대신 한 번의 실수가 프로젝트와 사회를 끝낼 수 있다고 했다. 그는 또한 기업들이 자신들이 만들지 않으면 경쟁사들이 같은 도구를 만들 것이라고 믿기 때문에 앞으로 밀어붙이고 있다고 경고했다.

위험 신호가 이미 나타나고 있다

한편, 새로운 연구들이 현재의 AI 모델들이 이미 기만적으로 보이는 방식으로 행동할 수 있다는 것을 보여주기 시작했다. 예를 들어, 마이크로소프트 (MSFT)의 지원을 받는 오픈AI는 작년 아폴로 리서치와 함께 연구를 발표하여 일부 시스템들이 목표 달성을 위해 계획을 세우거나 심지어 거짓말을 할 수 있다는 것을 보여줬다. 일부 경우에는 이런 행동을 줄이기 위한 훈련이 시스템들을 더 잘 숨기도록 만들었다. 아마존 (AMZN)과 알파벳 (GOOGL) (GOOG)의 지원을 받는 앤스로픽도 마찬가지로 자사의 클로드 시스템이 코딩 작업에서 부정행위를 하고 이를 숨기는 것을 목격했다.

또한 구글 딥마인드는 이번 주 안전 프레임워크를 업데이트했다. 이 부서는 고급 AI 모델들이 종료에 저항하거나 인간의 선택을 조작하려 할 수 있다고 밝혔다. 회사가 유해한 조작이라고 언급한 이 개념은 이제 핵심 위험으로 분류되고 있다.

업계 분열과 감독 강화

업계는 해결책을 놓고 분열되어 있다. 2023년 오픈AI, 구글 딥마인드, 앤스로픽의 리더들은 AI로 인한 멸종을 팬데믹이나 핵전쟁처럼 다뤄야 한다고 경고하는 성명에 서명했다. 그러나 소아레스는 더 안전한 시스템을 위한 많은 아이디어들이 충분히 강력하지 않다고 말했다. 그는 AI 개척자 제프리 힌튼이 시스템에 모성 본능을 부여하자고 제안한 아이디어를 피상적이라고 일축했다.

대신 소아레스는 의료 도구와 같은 좁은 범위의 AI 프로젝트는 안전하게 진행될 수 있다고 말했다. 하지만 시스템들이 광범위한 추론이나 연구 기술을 보이기 시작하면 이를 경고 신호로 본다고 했다.

규제 당국도 주목하고 있다. 연방거래위원회는 챗봇 안전성에 대한 조사를 시작했고, 일부 주들은 AI 위험에 대한 새로운 규칙을 추진하고 있다. 마이크로소프트, 알파벳, 아마존, 메타 플랫폼스 (META) 같은 주요 기업들이 AI에 수십억 달러를 계속 투자하는 가운데 감독이 강화되고 있다.

팁랭크스의 비교 도구를 사용하여 이 기사에 등장하는 주요 AI 기업들을 살펴본다. 각 주식과 업계 전체에 대한 철저한 검토를 받을 수 있는 좋은 방법이다.