오픈AI, 챗GPT에서 성인용 에로틱 콘텐츠 허용...알트만 `도덕 경찰 역할은 하지 않을 것`

오픈AI가 화요일 챗GPT에서 성인 사용자를 대상으로 에로틱 콘텐츠와 기타 성인물을 허용하기로 했다고 발표했다. 이는 회사의 콘텐츠 정책에서 큰 변화를 의미한다.

챗GPT, 에로틱 콘텐츠 허용

이번 변화는 오픈AI가 강력한 안전 및 관리 기준을 유지하면서 창의적 표현의 범위를 확대하려는 노력의 일환이다.

샘 알트만 CEO는 소셜미디어 게시물을 통해 '12월부터 연령 제한을 더욱 강화하고 성인 사용자를 성인으로 대우한다는 원칙에 따라 인증된 성인 사용자에게 에로틱 콘텐츠 등을 더 많이 허용할 것'이라고 밝혔다.

이번 업데이트에는 미성년자의 접근을 차단하기 위한 새로운 콘텐츠 제어 및 연령 인증 조치가 포함될 예정이다.

'세계의 도덕 경찰 역할은 하지 않을 것'

알트만은 수요일 또 다른 소셜미디어 게시물을 통해 챗GPT를 사용하는 미성년자와 정신건강을 보호하기 위한 현재의 안전장치는 계속 유지될 것이라고 설명했다.

그러나 그는 오픈AI가 윤리적 경계나 사용자 신뢰를 훼손하지 않으면서 성인들이 더 폭넓은 창의적 콘텐츠를 탐색할 수 있는 성숙하고 책임감 있는 환경을 만들고자 한다고 밝혔다.

알트만은 게시물에서 'AI가 사람들의 삶에서 더욱 중요해짐에 따라, 사용자들이 원하는 방식으로 AI를 사용할 수 있는 자유를 허용하는 것이 우리 미션의 중요한 부분'이라고 말했다.

그는 또한 '우리는 선출된 세계의 도덕 경찰이 아니다. 사회가 다른 적절한 경계(예: R등급 영화)를 구분하는 것처럼, 우리도 여기서 비슷한 일을 하고자 한다'고 덧붙였다.

플랫폼에 대한 감시 강화

오픈AI는 자유로운 표현과 사용자 안전, AI 생성 콘텐츠의 잠재적 심리적 영향 사이의 균형을 맞추는 방식에 대해 커지는 감시에 직면해 왔다.

이제 성인 지향 콘텐츠와 에로틱 콘텐츠를 제공하게 되면서 더 큰 감시에 직면하게 될 것으로 보인다.

X, 아마존, HBO, 심지어 로쿠와 같은 주류 플랫폼들도 에로틱 콘텐츠가 주요 사업이 아님에도 성인 콘텐츠를 호스팅하거나 배포한다는 이유로 비판을 받아왔다.

노골성의 수준과 회사 정책은 크게 다르지만, 이러한 사례들은 성인 콘텐츠를 포트폴리오에 포함하고 있는 가장 잘 알려진 공개 기업들의 일부를 보여준다.