오픈AI, 청소년 접근 안전 우려로 챗GPT `성인 모드` 출시 연기

오픈AI가 직원과 자문단이 안전성 및 기술적 문제를 제기하면서 ChatGPT의 "성인 모드" 출시를 연기했다.

이 기능은 성인 사용자가 AI 봇과 성적인 텍스트 대화를 나눌 수 있도록 허용할 예정이었다. 샘 올트먼 최고경영자는 이 조치가 "성인 사용자를 성인으로 대우하는 것"이라고 주장했다. 그러나 이 계획은 회사 내부와 외부 자문단 사이에서 강한 논쟁을 불러일으켰다.

1월 회의에서 오픈AI의 웰빙 자문위원회 위원들은 AI 에로티카가 실질적인 피해를 초래할 수 있다고 경고했다. 일부는 사용자가 봇과 깊은 유대감을 형성할 수 있으며, 이는 정신 건강 위험으로 이어질 수 있다고 말했다.

한 자문위원은 사용자가 시스템에 지나치게 애착을 갖게 되면 회사가 "섹시한 자살 코치"를 만들 위험이 있다고 경고했다.

이에 따라 오픈AI는 이 기능이 아직 출시되지 않을 것이라고 밝혔다. 회사는 ChatGPT의 개성 및 사용자 도구와 같은 다른 제품 업데이트에 먼저 집중할 것이라고 말했다. 그러나 회사는 나중에 이 기능을 출시할 계획임을 분명히 했다.

연령 확인 및 안전 장애물

핵심 문제는 미성년자가 이 기능을 사용하지 못하도록 막는 방법이다. 오픈AI는 사용자의 연령을 추정하려는 연령 예측 시스템을 테스트하고 있다.

한때 이 시스템은 미성년자를 성인으로 잘못 분류하는 비율이 약 12%였다. 매주 약 1억 명의 18세 미만 사용자가 ChatGPT를 사용하는 상황에서 이러한 오류율은 수백만 명의 청소년이 성인 대화에 접근할 수 있게 만들 수 있다.

또한 회사는 성적인 대화를 허용하면서도 불법적이거나 유해한 주제를 차단하는 방법을 결정해야 한다. 여기에는 비동의 행위나 미성년자와 관련된 모든 형태의 학대가 포함된다.

현재 회사는 이 기능을 텍스트 대화로만 제한할 계획이다. 봇은 성적인 이미지, 음성 또는 영상을 생성하지 않을 것이다.

AI와 성인 콘텐츠를 둘러싼 광범위한 논쟁

이 문제는 기술 업계의 광범위한 논쟁을 반영한다. 성적 콘텐츠는 웹에서 가상현실에 이르기까지 새로운 디지털 도구에서 종종 초기에 등장했다.

현재 여러 AI 기업이 이미 일부 형태의 성인 역할극을 허용하고 있다. 예를 들어, 일론 머스크의 AI 기업 xAI는 Grok 봇에 플러트 스타일 아바타를 추가했다. 머스크는 나중에 접근이 유료 사용자로 제한될 것이라고 말했다. 한편 오픈AI는 "세계의 선출된 도덕 경찰" 역할을 하고 싶지 않다고 말한다. 그러나 회사는 위험이 실재한다는 것도 인정한다.

오픈AI는 사용자와 배타적인 유대감을 형성하지 않도록 모델을 계속 훈련시킬 것이라고 말한다. 시스템은 또한 사람들에게 현실 세계의 관계를 유지하도록 상기시킬 것이다.

현재 회사는 여전히 성인 대화 아이디어를 지지한다고 말한다. 그러나 "올바른 경험을 제공하는 데는 더 많은 시간이 걸릴 것"이라고도 인정한다.

우리는 TipRanks의 비교 도구를 사용하여 Grok, ChatGPT, Claude, Gemini와 유사한 챗봇을 운영하는 주요 상장 기업들을 정렬했다. 이는 각 주식과 AI 산업 전반에 대한 폭넓은 관점을 얻을 수 있는 훌륭한 도구다.