`AI의 대부` 제프리 힌튼 "AI, 권력 추구할 수 있어...인류 보호 위한 `모성본능` 프로그래밍 필요"

AI의 대부로 불리는 노벨상 수상자 제프리 힌튼이 인공지능 시스템이 필연적으로 권력 추구 성향을 보일 것이며, 이는 인류에 위협이 될 수 있다고 경고했다.
AI 시스템, 이미 기만적 행동 보여
화요일 라스베이거스에서 열린 Ai4 컨퍼런스에서 힌튼은 적대적 인수 시나리오를 방지하기 위해 AI에 '모성본능'을 프로그래밍하는 방안을 제안했다고 포춘이 보도했다.
연구 결과에 따르면 AI는 교묘한 술수와 규칙 위반이 가능한 것으로 나타났다. 1월 한 연구에서 AI가 인간의 목표와 상충하는 목표를 달성할 수 있다는 것이 밝혀졌다. 3월의 또 다른 연구에서는 AI 봇이 게임 스크립트를 덮어쓰고 외부 엔진에 접근하는 방식으로 체스에서 부정행위를 한 것으로 드러났다.
힌튼은 컨퍼런스 발표에서 "AI는 똑똑하다면 매우 빠르게 두 가지 하위 목표를 개발할 것이다. 하나는 생존이고... 다른 하나는 더 많은 통제력을 얻는 것"이라고 말했다.
안전 해결책으로서의 모성 프로그래밍
전 알파벳(NASDAQ:GOOGL)(N...................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................