유발 하라리 `AI봇은 정체 밝히거나 침묵하라...AI가 어떤 아이디어 만들어낼지 예측 불가`

역사학자이자 철학자인 유발 노아 하라리가 AI 혁명 시대를 무심코 지나치는 이들에게 경고의 메시지를 던졌다. 알고리즘이 우리의 현실을 완전히 재편하기 전에 깨어나야 한다는 것이다.

주요 내용

하라리는 최근 자신의 저서 넥서스 홍보차 일본을 방문해 인공지능이 단순한 기술적 변화가 아닌 실존적 변화라고 경고했다.

그는 니케이와의 인터뷰에서 "이제 우리는 인간이 아닌 존재, 즉 AI를 만들어냈고, 이는 언어와 수학을 우리보다 더 잘 다룬다"고 말했다.

'혼돈의 온상'

하라리는 소셜미디어가 혼돈의 온상이 되고 있다고 지적했다. 인간을 사칭하는 봇들이 참여를 유도하기 위해 가짜뉴스와 음모론, 분노를 쏟아내고 있다는 것이다.

그는 "가장 명백한 대응책은 첫째로 가짜 인간을 금지하는 것"이라며 "AI는 자신이 AI임을 명확히 밝힐 때만 인간과 대화할 수 있어야 한다"고 강조했다. 특히 인기 있는 게시물이 실제로는 봇들에 의해 확산되고 있다는 사실을 모른 채 유기적으로 인기를 얻었다고 믿는 사람들이 겪는 심리적 조작의 위험성을 지적했다.

두 번째 안전장치로 그는 책임성을 언급했다. "기업들은 자사 알고리즘의 행동에 대해 책임을 져야 한다"며 "문제는 인간이 하는 말이 아니라 알고리즘의 결정"이라고 표현적 자유의 논리를 일축했다.

하라리의 정치적 견해

정치에 대해 하라리는 직설적으로 말했다. "민주주의는 자기교정 메커니즘"이라며 "권력을 되돌려주지 않으려는 사람에게 권력을 주면 어떻게 되겠는가"라고 반문했다. 그는 트럼프의 세계관을 "강자가 지배하고 약자는 강자에게 복종해야 한다"는 것으로 규정하며, 이러한 사고가 전 세계적 군사화를 촉진하고 협력을 저해할 수 있다고 경고했다.

하라리는 AI 독점에 대해서도 경고음을 냈다. "소수 국가만이 AI 기술을 독점하는 것은 매우 위험할 것"이라며 미국과 중국의 지배를 막기 위해 일본, 인도, 브라질, EU 등 국가들의 글로벌 협력을 촉구했다.

이러한 경고에도 불구하고 하라리는 희망적 전망을 제시했다. "AI는 새로운 의약품을 발명하고 기후변화 대응을 도울 수 있다"면서도 예측 불가능성 때문에 "외계 지능"이라고 표현했다. 현재의 과제는 "AI가 어떤 아이디어를 발명하거나 어떤 결정을 내릴지 예측할 수 없다"는 점이다.

과학계와 학계의 비판

유발 노아 하라리의 '사피엔스'는 추측성 접근방식과 엄밀한 증거 부족으로 과학자들과 학자들의 비판을 받아왔다. 인류학자 크리스토퍼 로버트 홀파이크는 이 책을 "지식에 대한 진지한 기여가 없는" 작품이라고 일축하며, 실질적 분석 대신 선정적인 추측으로 가득 찬 오락물이라고 평가했다. 찰스 C. 만 역시 하라리의 주장이 출처가 불분명하고 지나치게 단순화되어 있다며 "기숙사 불세션" 수준이라고 비판했다.

더욱이 종교와 인간 인지에 대한 하라리의 진화론적 설명은 지나치게 단순화되었다는 지적을 받았다. '우연한 유전자 변이'와 자연주의적 가정에 의존하는 그의 접근방식이 복잡한 종교적, 사회적 현상을 지나치게 단순화했다는 것이다. 이러한 비판들은 이 책이 과학적 엄밀성보다 매력적인 서사에 치중했음을 보여준다.