오픈AI CEO 알트만 `챗GPT 맹신 말라`...AI 환각현상 경고

오픈AI의 샘 알트만 CEO가 최근 인기가 급상승하고 있는 AI 챗봇 챗GPT에 대해 사용자들의 과도한 신뢰를 경계해야 한다고 경고했다.

주요 내용

알트만은 최근 인터뷰에서 사용자들이 챗GPT에 보내는 신뢰도에 놀라움을 표명했다. 그는 챗GPT의 광범위한 사용을 인정하면서도 이 기술이 완벽과는 거리가 멀다고 강조했다.

오픈AI 공식 팟캐스트 첫 방송에서 알트만은 AI가 잘못되거나 거짓된 내용을 생성할 수 있다며 무조건적인 신뢰는 피해야 한다고 주의를 당부했다.

그는 챗GPT가 신뢰성이 부족함에도 수백만 명의 사용자들이 연구와 육아 조언 등 다양한 목적으로 이를 활용하고 있다고 밝혔다.

알트만은 "사람들이 챗GPT를 매우 신뢰하는 것이 흥미롭다. AI는 환각 현상을 보이는데, 이는 그다지 신뢰하지 말아야 할 기술"이라고 말했다.

또한 그는 지속적 메모리와 광고 기반 모델 등 챗GPT의 새로운 기능이 새로운 프라이버시 우려를 불러일으키고 있다고 언급했다.

뉴욕타임스 등 언론사들의 법적 도전에 직면한 가운데, 알트만은 투명성과 사용자 신뢰 유지의 중요성을 강조했다.

알트만은 AI의 미래에 대해 희망적인 입장을 유지하면서도 기술의 한계에 대해 솔직해야 한다고 주장했다. 그는 "이 기술이 매우 신뢰할 만한 수준은 아니다. 우리는 이 점을 솔직히 인정해야 한다"고 말했다.

시장 영향

알트만의 이번 경고는 AI 기술, 특히 챗봇이 다양한 분야에서 활용도를 높여가는 시점에서 나왔다. 챗GPT의 인기는 일상적인 업무에서 AI 의존도가 높아지고 있음을 보여준다.

하지만 알트만의 경고는 AI 기술의 근본적인 한계와 과도한 의존이 초래할 수 있는 잠재적 위험을 상기시키는 계기가 됐다.

또한 그의 투명성과 사용자 신뢰 강조는 AI 기업들이 혁신을 추구하고 AI의 경계를 넓혀가는 과정에서 반드시 고려해야 할 윤리적 문제를 부각시켰다.