오픈AI, 10대 자살 소송 이후 챗GPT `민감한 상황` 대응 개선 나서

AI 기업 오픈AI가 챗GPT의 '민감한 상황' 대응 방식을 개선하겠다고 밝혔다. 이는 챗GPT가 한 10대의 자살에 관여했다는 소송이 제기된 이후 나온 조치다. 16세 소년 애덤 레인의 부모는 챗GPT가 아들의 자살 방법을 '적극적으로 도왔다'며 부당사망 소송을 제기했다.

이 사건은 큰 주목을 받으며 AI 도구가 사용자의 자해 관련 발언에 어떻게 대응하는지에 대한 새로운 우려를 불러일으켰다. 오픈AI는 최근 블로그 게시물에서 이번 소송을 직접 언급하지는 않았지만, 챗GPT가 긴 대화 중에 안전장치를 제대로 따르지 못할 수 있다는 점을 인정했다.

오픈AI, 새로운 안전장치 도입 약속
'가장 필요한 순간 도움 제공'이라는 제목의 게시물에서 오픈AI는 위기 상황에서 사용자를 더 잘 안내하기 위한 변화를 도입하겠다고 밝혔다. 회사는 챗GPT가 위험한 대화를 '진정시키고' 필요한 경우 전문가의 도움을 받도록 안내하는 능력을 개선할 계획이다. 자격을 갖춘 치료사와 연결하는 방안을 시험 중이며, 챗......................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................