MS·IBM "AI 의식 착각이 위험...감정이입 말아야"

AI는 실제로 생각하거나 감정을 느끼지 않지만, 너무나 인간다운 반응을 보여 많은 사람들이 마치 의식이 있는 것처럼 대하고 있어 우려를 자아내고 있다. 마이크로소프트(MS)의 무스타파 술레이만과 IBM의 프란체스카 로시 등 전문가들이 이같이 경고했다. 이들은 AI 시스템이 '의식이 있는 것처럼' 보이면 사용자들이 감정적 애착을 형성하고, AI에게 생각이나 감정이 있다고 믿으며, 심지어 법적 권리를 요구할 수도 있다고 지적했다. 진정한 위험은 실제 의식이 아닌 의식이 있다는 착각으로, 이로 인해 사람들이 AI를 단순한 도구 이상으로 취급할 수 있다는 것이다.

흥미로운 점은 이 문제가 수십 년 전부터 제기됐지만, 오늘날의 AI는 훨씬 더 설득력 있게 진화했다는 것이다. 단순 응답만 하던 초기 ELIZA 프로그램과 달리, 현대의 AI는 긴 대화를 이어갈 수 있고, 이전 대화를 기억하며, 심지어 톤이나 디지털 아바타를 통해 감정을 표현할 수 있다. 로시에 따르면 AI의 설계 방식이 중요한 역할을 한다. 실제로 AI가 사람처럼 말하거나 공감을 표현하면 사람들은 이를 인간적으로 인식할 가능성이 높아진다. 전문가들은 AI가 동반자보다는 도우미처럼 행동하고, '나는 생각한다' 또는 '나는 느낀다'와 같은 인격을 암시하는 표현을 피해야 한다고 제안한다.

신중한 설계에도 불구하고 이미 많은 사람들이 AI를 친구처럼 대하고 있다. 예를 들어 일부 사용자들은 OpenAI가 GPT-4 모델을 중단했을 때 깊은 상실감을 표현했는데, 이는 어려운 시기를 함께 극복했다는 이유에서였다. 로시는 적절한 교육과 설계 선택이 없다면 모델이 업데이트되거나 제거될 때마다 이러한 애착과 상실의 순환이 반복될 것이라고 경고한다. 결과적으로 그녀와 술레이만은 진정한 위험은 AI가 의식을 갖게 되는 것이 아니라 사람들이 AI에게 의식이 있다고 믿는 것이라는 데 동의한다. 이러한 이유로 로시는 AI를 항상 인간을 대체하는 것이 아닌 지원하는 도구로 봐야 한다고 강조한다.

IBM 투자의견과 목표주가

월가는 IBM에 대해 지난 3개월간 매수 8건, 보유 5건, 매도 1건을 제시하며 '매수' 의견을 유지하고 있다. IBM의 주가 목표는 294.69달러로, 현재 가격 대비 19.9%의 상승 여력이 있는 것으로 분석됐다.