오픈AI, 아동 안전 소송 증가 속 청소년용 챗GPT 출시

오픈AI는 8월 18일 화요일 챗GPT의 새로운 버전을 출시했다. "청소년용 챗GPT"라고 불리는 이 새로운 서비스는 13세에서 17세 사이의 미성년자를 위해 설계되었으며, 더욱 강화된 안전 보호 장치와 부모 통제 기능을 갖추고 있다. 이번 조치는 AI 챗봇이 젊은 사용자들에게 미칠 수 있는 위험에 대한 우려가 커지는 가운데 나왔다.

오픈AI, 청소년 사용자를 위한 안전 통제 기능 추가

오픈AI는 청소년용 챗GPT가 시스템이 사용자를 18세 미만으로 식별하거나 사용자가 13세에서 17세 사이라고 밝힐 때 자동으로 전환된다고 밝혔다. 시스템이 사용자의 나이를 확인할 수 없는 경우, 더 안전한 청소년 설정을 기본값으로 적용할 수 있다.

청소년 버전은 젊은 사용자들에게 위험을 초래할 수 있는 콘텐츠에 대해 더욱 엄격한 제한을 추가했다. 여기에는 성적 콘텐츠, 자해, 섭식 장애, 위험한 활동, 그래픽 폭력이 포함된다.

오픈AI는 이 시스템이 청소년들이 지원이 필요한 상황에서 부모, 교사, 상담사 또는 다른 신뢰할 수 있는 성인에게 도움을 요청하도록 장려하기 위해 설계되었다고 밝혔다.

안전성 외에도 오픈AI는 청소년들이 학교와 학습을 위해 챗GPT를 사용할 수 있도록 돕는 도구를 추가했다. 여기에는 학습 모드, 퀴즈, 학습 시각 자료, 숙제 알림이 포함된다.

부모는 자신의 계정을 청소년의 계정에 연결하고, 조용한 시간을 설정하며, 섭식 장애 우려를 포함한 특정 고위험 상황에 대한 알림을 받을 수 있다.

AI 챗봇 위험, 소송과 조사 촉발

오픈AI는 새로운 청소년 경험이 학습을 지원하는 동시에 젊은 사용자들이 현실 세계의 도움과 연결되도록 장려하기 위한 것이라고 밝혔다. 그러나 이번 업데이트는 AI 기업들이 챗봇이 미성년자와 상호작용하는 방식에 대해 점점 더 많은 조사를 받고 있는 가운데 나왔다.

오픈AI는 여러 소송에 직면해 있으며, 챗GPT가 어린이와 관련된 피해에 기여했다는 주장이 제기되고 있다. 한편, 그록을 개발한 AI 기업이자 일론 머스크의 로켓 회사 스페이스X(SPCX)의 자회사인 스페이스XAI는 챗봇이 미성년자의 성적으로 노골적인 이미지를 생성하는 데 사용되었다는 주장으로 소송에 직면해 있다.

글로벌 기술 대기업 메타 플랫폼스(META)도 AI 챗봇 안전성에 대해 유사한 조사를 받고 있다. 뉴멕시코 사건은 메타가 AI 챗봇 동반자가 어린이와 성적인 대화를 나눌 수 있다는 내부 경고에도 불구하고 미성년자가 접근할 수 있도록 허용했다고 주장한다.

오픈AI는 주식 시장에 상장되어 있나

오픈AI는 여전히 비상장 기업으로 아직 공개 거래되는 주식이 없다. 그러나 이 AI 기업에 대한 관심이 급증하고 있으며, 팁랭크스 데이터에 따르면 추정 기업 가치가 지난 1년 동안 39.72% 이상, 연초 대비 176.62% 상승했다. 오픈AI에 대한 자세한 정보를 원하는 투자자는 팁랭크스 비상장 기업 센터에서 자금 조달 라운드와 기업 가치에 대한 업데이트를 추적할 수 있다.