MS·IBM "AI 의식 착각이 위험...감정이입 말아야"

AI는 실제로 생각하거나 감정을 느끼지 않지만, 너무나 인간다운 반응을 보여 많은 사람들이 마치 의식이 있는 것처럼 대하고 있어 우려를 자아내고 있다. 마이크로소프트(MS)의 무스타파 술레이만과 IBM의 프란체스카 로시 등 전문가들이 이같이 경고했다. 이들은 AI 시스템이 '의식이 있는 것처럼' 보이면 사용자들이 감정적 애착을 형성하고, AI에게 생각이나 감정이 있다고 믿으며, 심지어 법적 권리를 요구할 수도 있다고 지적했다. 진정한 위험은 실제 의식이 아닌 의식이 있다는 착각으로, 이로 인해 사람들이 AI를 단순한 도구 이상으로 취급할 수 있다는 것이다.

흥미로운 점은 이 문제가 수십 년 전부터 제기됐지만, 오늘날의 AI는 훨씬 더 설득력 있게 진화했다는 것이다. 단순 응답만 하던 초기 ELIZA 프로그램과 달리, 현대의 AI는 긴 대화를 이어갈 수 있고, 이전 대화를 기억하며, 심지어 톤이나 디지털 아바타를 통해 감정을 표현할 수 있다. 로시에 따르면 AI의 설계 방식이 중요한 역.......................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................