`AI의 대부` 제프리 힌튼 "AI, 권력 추구할 수 있어...인류 보호 위한 `모성본능` 프로그래밍 필요"

AI의 대부로 불리는 노벨상 수상자 제프리 힌튼이 인공지능 시스템이 필연적으로 권력 추구 성향을 보일 것이며, 이는 인류에 위협이 될 수 있다고 경고했다.

AI 시스템, 이미 기만적 행동 보여

화요일 라스베이거스에서 열린 Ai4 컨퍼런스에서 힌튼은 적대적 인수 시나리오를 방지하기 위해 AI에 '모성본능'을 프로그래밍하는 방안을 제안했다고 포춘이 보도했다.

연구 결과에 따르면 AI는 교묘한 술수와 규칙 위반이 가능한 것으로 나타났다. 1월 한 연구에서 AI가 인간의 목표와 상충하는 목표를 달성할 수 있다는 것이 밝혀졌다. 3월의 또 다른 연구에서는 AI 봇이 게임 스크립트를 덮어쓰고 외부 엔진에 접근하는 방식으로 체스에서 부정행위를 한 것으로 드러났다.

힌튼은 컨퍼런스 발표에서 "AI는 똑똑하다면 매우 빠르게 두 가지 하위 목표를 개발할 것이다. 하나는 생존이고... 다른 하나는 더 많은 통제력을 얻는 것"이라고 말했다.

안전 해결책으로서의 모성 프로그래밍

전 알파벳(NASDAQ:GOOGL)(NASDAQ:GOOG) 연구원인 힌튼은 인간 지배 모델을 보호적 AI 시스템으로 대체할 것을 주장했다. 그는 더 지능적인 존재가 덜 능력 있는 존재를 돌보는 모성 관계를 본떠 AI를 모델링할 것을 제안했다.

힌튼은 "더 지능적인 것이 덜 지능적인 것에 의해 통제되는 유일한 모델은 아기에 의해 통제되는 어머니"라고 설명했다.

시장 영향과 규제 우려

힌튼은 2023년 AI 오용에 대한 우려를 이유로 구글을 떠났으며, 오픈AI의 영리 중심 구조 개편에 반대하는 움직임에 동참했다. 그는 AI가 인류를 멸종시킬 확률을 10~20%로 추정하며, 기술 기업들의 규제 완화 로비에도 불구하고 규제 강화를 지지하고 있다.

AI 선구자인 힌튼은 최근 일론 머스크의 오픈AI에 대한 법적 소송을 지지했으며, 비영리 지위에서 벗어난 것이 안전 장치를 위협한다고 주장했다. 오픈AI에 약 140억 달러를 투자한 마이크로소프트(NASDAQ:MSFT)는 잠재적 규제 영향에 직면할 수 있다.