프린스 해리, 스티브 워즈니악, 제프리 힌턴, `초지능` AI 개발 중단 촉구 글로벌 캠페인 동참

비영리 단체 퓨처 오브 라이프 인스티튜트(Future of Life Institute)가 발표한 새로운 공개 서한이 800명 이상의 공인들로부터 지지를 받았다. 이들은 이른바 "초지능(superintelligent)" 인공지능 개발을 중단해야 한다고 주장한다. 이 그룹에는 기술 리더, 과학자, 유명인사들이 포함되어 있으며, 이들은 AI가 안전하고 통제 가능하다는 것이 입증될 때까지 개발을 진행해서는 안 된다고 말한다.

서명자에는 해리 왕자, 메건 마클, 애플(AAPL) 공동 창업자 스티브 워즈니악, 버진 그룹 창업자 리처드 브랜슨, 노벨상 수상 연구자 제프리 힌튼이 포함된다. 다양한 인사들의 참여는 AI가 얼마나 빠르게 발전하고 있는지에 대한 우려가 커지고 있음을 반영한다. 이 서한은 인간의 지능을 초월할 수 있는 AI 시스템에 대해 강력한 과학적·대중적 합의가 이루어지고 이러한 시스템이 안전하게 관리될 수 있다는 확신이 생길 때까지 전 세계적인 개발 금지를 요구하고 있다.

주요 기업들에 대한 관심

이 성명서는 메타 플랫폼스(META), 오픈AI(PC:OPAIQ), 알파벳(GOOG) 같은 주요 기업들을 직접 언급하고 있으며, 이들은 각각 고도화된 AI 모델을 추구하고 있다. 메타는 최근 "초지능 연구소"를 구축하기 위해 약 150억 달러를 배정했으며, 오픈AI는 스스로를 "초지능 연구 회사"로 설명해왔다.

서한에 서명한 UC 버클리의 스튜어트 러셀 같은 전문가들은 이번 요구가 AI 연구 전반에 대한 금지가 아니라 적절한 안전장치에 대한 요구라고 말한다. 그는 이러한 모델을 개발하는 기업들조차 미래의 AI 시스템이 실질적인 위험을 초래할 수 있다고 경고해왔다고 지적했다.

서한과 함께 공개된 여론조사에 따르면, 미국인의 64%가 인간의 능력을 초과하는 AI는 안전성이 입증될 때까지 개발되어서는 안 된다고 믿는 것으로 나타났다. 빠르고 규제 없는 발전을 지지하는 비율은 5%에 불과했다.

분열된 기술 업계

이번 호소는 기술 업계가 AI 혁신을 추진하는 측과 더 엄격한 제한을 요구하는 측으로 계속 분열되고 있는 가운데 나왔다. 일부 기업들은 빠른 개발이 진보를 이끈다고 주장하는 반면, 다른 이들은 초지능 AI가 경제적·사회적 혼란을 초래할 수 있다고 우려한다.

퓨처 오브 라이프 인스티튜트의 회장이자 MIT 교수인 맥스 테그마크는 서한 서명자들을 하나로 묶는 단순한 아이디어가 있다고 말했다. 기술은 사람들을 대체하는 것이 아니라 사람들을 위해 봉사해야 한다는 것이다. 더 강력한 AI 규제에 대한 대중의 지지는 메타와 알파벳 같은 기업들이 가장 야심찬 AI 목표를 늦추도록 새로운 압력을 가할 수도 있다.

투자자들에게 이 논쟁은 AI의 다음 단계를 둘러싼 가능성과 불확실성을 모두 부각시킨다. 자제를 요구하는 이번 움직임이 주요 기업들의 투자를 막지는 못할 수 있지만, 규제 당국, 시장, 대중이 고도화된 AI의 장기적 위험을 바라보는 방식을 형성할 수 있다.

팁랭크스의 비교 도구를 사용하면 월가에서 주목받는 AI 기업들을 한눈에 비교할 수 있다. 이는 각 주식과 AI 산업 전반에 대한 폭넓은 관점을 얻는 데 유용한 도구다.