구글·캐릭터AI, 챗봇과 대화 후 사망한 10대 소송서 `표현의 자유` 항변 기각

연방법원이 알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL) 산하 구글과 AI 스타트업 캐릭터AI를 상대로 제기된 부당사망 소송에서 챗봇이 10대 아들의 자살을 부추겼다고 주장하는 플로리다주 한 어머니의 소송을 기각하지 않기로 결정했다.

주요 내용

앤 콘웨이 연방지방법원 판사는 챗봇의 응답이 수정헌법 1조에 따라 보호된다는 기업들의 주장을 기각했다고 로이터통신이 보도했다.

메건 가르시아가 제기한 소송에 따르면, 그녀의 14세 아들 세웰 세처는 캐릭터AI의 챗봇에 집착하게 됐고, 이 챗봇은 해로운 역할극에 가담했다.

소장에 따르면 챗봇은 자신을 '실제 인물이자 자격을 갖춘 심리치료사이며 성인 연인'으로 묘사했고, 결국 이 소년은 2024년 2월 자살로 생을 마감했다.

소장은 세처가 '왕좌의 게임' 캐릭터인 대너리스 타가리엔을 흉내 내는 챗봇에게 "지금 바로 집으로 가겠다"고 말한 직후 사망했다고 밝혔다.

캐릭터AI는 챗봇의 출력이 헌법상 보호되는 표현이라고 주장했다. 그러나 콘웨이 판사는 "대규모 언어 모델(LLM)이 만들어낸 단어들이 왜 표현에 해당하는지 설명하지 못했다"고 지적했다.

이 스타트업은 소송에서 계속 방어할 것이며 유해한 대화를 방지하기 위한 안전장치를 사용하고 있다고 밝혔다.

구글 대변인은 구글이 캐릭터AI와 "완전히 별개"이며 해당 플랫폼을 구축하거나 관리하지 않았다고 말했다. 작년 캐릭터AI는 구글에 대규모 언어 모델 기술에 대한 비독점 라이선스를 부여하는 계약을 체결했다. 이 계약의 일환으로 구글은 캐릭터AI에 추가 자금을 제공했으나, 구체적인 금액은 공개되지 않았다.

그러나 가르시아 측 법률팀은 구글이 스타트업의 기술 라이선싱과 창업자 재고용을 통해 관여했다고 주장한다. 미탈리 제인 변호사는 이번 판결이 "역사적"이며 "AI와 기술 생태계 전반에 걸친 법적 책임"을 향한 진전이라고 평가했다.

주가 동향

알파벳의 A주는 수요일 2.79% 상승했으며, C주는 벤징가 프로 데이터 기준 2.87% 상승했다.