오픈AI, 10대 자살 소송 후 챗GPT `민감한 상황` 대응 개선 나서

AI 기업 오픈AI가 챗GPT가 한 10대의 자살에 관여했다는 소송이 제기된 후 챗봇의 안전성을 강화하겠다고 밝혔다. 16세 아담 레인의 부모는 이번 주 제기한 부당사망 소송에서 챗GPT가 자녀의 '자살 방법 탐색을 적극적으로 도왔다'고 주장했다.

이 사건은 광범위한 관심을 받으며 AI 도구가 사용자의 자해 관련 대화에 어떻게 대응하는지에 대한 새로운 우려를 불러일으켰다. 오픈AI는 최근 블로그 게시물에서 이번 소송을 직접 언급하지는 않았으나, 챗GPT가 긴 대화 중에 안전장치를 제대로 따르지 못할 수 있다는 점을 인정했다.

오픈AI, 새로운 안전장치 약속

'가장 필요한 순간 도움 제공'이라는 제목의 게시물에서 오픈AI는 '민감한 상황'에서 사용자를 더 잘 안내하기 위한 변화를 도입하겠다고 밝혔다. 회사는 위험한 대화를 '진정시키고' 사용자를 전문가 도움으로 안내하는 챗GPT의 능력을 개선할 계획이다. 또한 공인 치료사와 연결하는 방법을 시험하고, 챗봇을 통해 연락할 수 있는 자격을 갖춘 조력자 네트워크를 구축하는 방안도 검토 중이다.

오픈AI는 또한 곧 부모 통제 기능을 출시해 가족들이 10대의 챗GPT 사용을 더 잘 파악할 수 있게 하겠다고 밝혔다. 새로운 GPT-5 모델과 연계된 업데이트에는 위험에 처한 사용자를 위한 더 강력한 안전 점검이 포함될 예정이다.

AI 안전성에 대한 감시 강화

레인 가족의 변호사 제이 에델슨은 오픈AI가 가족에게 직접 연락하지 않은 점을 비판했다. 에델슨은 CNBC와의 인터뷰에서 '지구상에서 가장 강력한 소비자 기술을 사용하려면 창업자들이 도덕적 나침반을 가지고 있다고 믿을 수 있어야 한다'고 말했다.

레인의 사례가 유일한 것은 아니다. 다른 보고서들도 AI 대화와 자살을 연관 짓고 있어, 정신 건강 문제에서 이러한 도구들의 역할에 대한 의문이 제기되고 있다. AI 도입이 확대됨에 따라 성장과 안전성의 균형을 맞추려는 노력이 더욱 강화될 전망이다.

증권가가 주목하는 AI 투자 종목은

2025년 오픈AI 투자를 고려하는 투자자들은 이 회사가 비상장 기업이며 주식을 공개적으로 제공하지 않는다는 점에서 실망할 수 있다.

그러나 AI 분야에 관심 있는 투자자들은 다른 주요 AI 관련 주식들을 고려해볼 수 있다. 이를 위해 팁랭크스의 주식 비교 도구를 사용해 여러 주요 AI 기업들을 비교해볼 수 있으며, 투자자들은 애널리스트 평가와 기타 인사이트를 바탕으로 추가 리서치를 진행할 수 있다.