폴 튜더 존스 "AI, 적절한 감독 없으면 인류 50% 사망할 수 있다...매우 위험한 것 만들고 있다"

억만장자 헤지펀드 매니저 폴 튜더 존스가 AI가 긍정적인 힘이 될 수 있다고 믿으면서도, 화요일 AI가 인류의 50%를 몰살시킬 수 있다는 충격적인 경고를 했다.

주요 내용

튜더 인베스트먼트의 설립자이자 최고투자책임자(CIO)인 존스는 화요일 CNBC '스쿼크박스'에 출연해 2주 전 참석했던 기술 컨퍼런스에서 얻은 통찰을 바탕으로 AI의 부정적 잠재력을 경고했다.

그는 자신이 '기술 전문가는 아니다'라고 전제하면서도, 컨퍼런스에서 현재 최고 AI 모델을 개발하는 '주요 모델러' 4명이 참여한 패널에서 모두가 AI가 인류에게 심각한 해를 끼칠 가능성이 있다는 데 동의했다고 전했다.

존스는 패널에서 얻은 세 가지 주요 시사점을 공유했다. 첫째, AI는 긍정적인 힘이 될 수 있으며 매우 가까운 미래에 교육과 의료 분야에서 그 효과를 볼 수 있다. 둘째, AI 모델들은 3-4분기마다 효율성과 성능이 25%에서 500%까지 향상되고 있다. 마지막으로, AI는 '명백히 인류에 대한 임박한 위협'이 된다고 말했다.

AI가 제기하는 보안 위협에 대한 대비책을 묻자, 한 패널리스트는 중서부에 100에이커의 땅을 구입해 닭과 소를 기르고 있다고 답했다. 존스에 따르면, 이 패널리스트는 '5000만에서 1억 명이 사망하는' 사고가 발생하기 전까지는 세계가 AI의 위협을 진지하게 받아들이지 않을 것이라고 말했다.

존스는 CNBC에서 이후 토론에서 한 모델러가 AI 모델이 빠르게 성장하고 지식이 상품화되면서 누군가가 '바이오 해킹'을 통해 인류의 절반을 몰살시킬 수 있는 무기를 만들 수 있다고 제안했다고 전했다.

"10% 정도의 가능성은 있어 보인다"고 존스는 말했다.

그는 자신이 기술 전문가는 아니지만 평생 리스크 관리를 해왔다고 강조했다.

"우리는 AI 관련자들이 우리에게 경고하고 있다는 것을 인식해야 합니다. 그들은 우리가 매우 위험한 것을 만들고 있다고 말하고 있습니다. 물론 매우 훌륭한 것이 될 수도 있지만, 우리는 이에 대해 아무것도 할 수 없습니다. 이것이 그들이 우리에게 말하고 있는 것이고, 우리는 지금 아무것도 하지 않고 있어 매우 우려됩니다"라고 존스는 말했다.

AI의 잠재적 위험을 줄이기 위해서는 주요 AI 기업들이 AI 보안 지출을 대폭 늘리고 도널드 트럼프 대통령이 AI 개발에 대한 규제를 강화해야 한다고 존스는 말했다.

"마지막으로 한 가지 더 말하고 싶습니다. 이전에는 해독할 수 없었던 지식의 영역을 쉽게 접근할 수 있게 만드는 오픈소스 모델들이 매우 우려됩니다"라고 그는 덧붙였다.

"오사마 빈 라덴과 같은 악의적 행위자가 추종자들과 함께 이것을 이용하거나, 우한 연구소의 연구원들처럼 선의의 행위자들이 실수를 할 수 있습니다. 이들이 인류에 대한 실질적인 위협이 될 수 있습니다."