오픈AI, ChatGPT 사람 목소리 기능으로 `사용자와 AI 간 사회적 관계 형성` 우려

오픈AI가 사람의 말투를 흉내 내는 ChatGPT의 새로운 음성 모드로 인해 사용자들이 감정적으로 의존할 가능성에 대해 우려를 표명했다.

무슨 일이 있었나: ChatGPT를 개발한 오픈AI는 사용자들이 AI와 감정적 유대를 형성할 가능성에 대해 우려를 제기했다. 이는 잠재적으로 사람 간 상호작용의 필요성을 줄일 수 있다는 것이다.

마이크로소프트가 지원하는 이 회사는 AI가 오류를 범할 가능성이 있음에도 불구하고, 이러한 현상이 건강한 관계에 영향을 미치고 AI에 대한 과도한 의존을 초래할 수 있다고 우려하고 있다.

목요일에 발표된 보고서는 AI와 관련된 더 광범위한 위험을 강조했다. 기술 기업들은 그 영향에 대한 포괄적인 이해 없이 인간 생활의 다양한 측면에 큰 영향을 미칠 수 있는 AI 도구를 빠르게 출시하고 있다.

보고서는 "AI 모델과의 인간다운 사회화가 사람 간 상호작용에 영향을 미치는 외부 효과를 낳을 수 있다. 예를 들어, 사용자들이 AI와 사회적 관계를 형성하여 인간과의 상호작용 필요성을 줄일 수 있다. 이는 외로운 개인들에게는 도움이 될 수 있지만, 건강한 관계에 영향을 미칠 수 있다"고 밝혔다.

또한 "모델과의 장기적인 상호작용이 사회적 규범에 영향을 미칠 수 있다. 예를 들어, 우리의 모델은 사용자가 언제든 끼어들어 '마이크를 잡을' 수 있도록 하는 반면, 이는 AI에게는 예상되는 행동이지만 인간 간 상호작용에서는 반규범적일 것"이라고 덧붙였다.

이 보고서는 AI가 오류를 범할 가능성이 있음에도 사용자들이 AI를 과도하게 신뢰할 위험을 강조했다. 오픈AI는 이 기술이 안전하게 사용되도록 하기 위해 이러한 상호작용을 계속 연구할 계획이다.

왜 중요한가: AI의 부상은 다양한 전문가들의 우려 사항이 되어왔다. 퓨 리서치 설문조사에 따르면 미국인의 52%가 AI 사용 증가에 대해 흥분보다는 우려를 더 많이 느끼는 것으로 나타났다. 이러한 경계심은 AI에 대한 인식 증가와 맞물려 있으며, AI에 대해 가장 잘 알고 있는 사람들이 AI에 대해 흥분보다는 우려를 더 많이 표현하고 있다.

AI의 잠재적 부정적 영향은 사이버보안 맥락에서도 강조되었다. 사이버보안 전문가 삭시 마헨드루(Sakshi Mahendru)는 진화하는 사이버 위협 환경에 대응하기 위해 AI 기반 솔루션의 필요성을 강조했다.

더욱이 AI가 무의미하거나 관련 없는 응답을 생성하는 'AI 환각' 현상은 여전히 중요한 문제로 남아 있다. 최근 인터뷰에서 애플의 CEO 팀 쿡(Tim Cook)도 AI 환각을 방지하는 것이 도전 과제라고 인정했다.



이 기사는 Benzinga Neuro를 사용하여 생성되었으며 카우스투브 바갈코테(Kaustubh Bagalkote)가 편집했다.