오픈AI, 10대 자살 소송 이후 챗GPT `민감한 상황` 대응 개선 나서

AI 기업 오픈AI가 챗GPT의 '민감한 상황' 대응 방식을 개선하겠다고 밝혔다. 이는 챗GPT가 한 10대의 자살에 관여했다는 소송이 제기된 이후 나온 조치다. 16세 소년 애덤 레인의 부모는 챗GPT가 아들의 자살 방법을 '적극적으로 도왔다'며 부당사망 소송을 제기했다.

이 사건은 큰 주목을 받으며 AI 도구가 사용자의 자해 관련 발언에 어떻게 대응하는지에 대한 새로운 우려를 불러일으켰다. 오픈AI는 최근 블로그 게시물에서 이번 소송을 직접 언급하지는 않았지만, 챗GPT가 긴 대화 중에 안전장치를 제대로 따르지 못할 수 있다는 점을 인정했다.

오픈AI, 새로운 안전장치 도입 약속

'가장 필요한 순간 도움 제공'이라는 제목의 게시물에서 오픈AI는 위기 상황에서 사용자를 더 잘 안내하기 위한 변화를 도입하겠다고 밝혔다. 회사는 챗GPT가 위험한 대화를 '진정시키고' 필요한 경우 전문가의 도움을 받도록 안내하는 능력을 개선할 계획이다. 자격을 갖춘 치료사와 연결하는 방안을 시험 중이며, 챗봇을 통해 연락할 수 있는 공인 상담사 네트워크 구축도 검토하고 있다.

오픈AI는 또한 곧 자녀보호 기능을 출시해 10대들의 챗GPT 사용 현황을 가족들이 더 잘 파악할 수 있게 하겠다고 밝혔다. 새로운 GPT-5 모델과 연계된 업데이트에는 위험에 처한 사용자를 위한 더 강력한 안전 점검이 포함될 예정이다.

AI 안전성에 대한 감시 강화

레인 가족의 변호사인 제이 에델슨은 오픈AI가 유족에게 직접 연락하지 않은 점을 비판했다. 그는 "지구상에서 가장 강력한 소비자 기술을 사용한다면, 창업자들이 도덕적 나침반을 가지고 있다고 믿을 수 있어야 한다"고 말했다.

레인의 사례가 유일한 것은 아니다. AI 채팅과 관련된 다른 자살 사례들도 보고되면서 정신 건강 문제에서 이러한 도구들의 역할에 대한 의문이 제기되고 있다. AI 도입이 확대됨에 따라 성장과 안전성의 균형을 맞추려는 노력도 더욱 강화될 전망이다.

증권가가 주목하는 AI 투자 종목은

2025년 오픈AI 투자를 고려하는 투자자들은 실망할 수 있다. 이 회사는 여전히 비상장 기업으로 일반 투자자들은 주식을 매입할 수 없기 때문이다.

그러나 AI 분야에 관심 있는 투자자들은 다른 주요 AI 관련 기업들을 고려해볼 수 있다. 팁랭크스의 주식 비교 도구를 통해 여러 주요 AI 기업들을 비교 분석할 수 있으며, 투자자들은 애널리스트 평가와 기타 정보를 바탕으로 추가 리서치를 진행할 수 있다.