FTC, 챗GPT 등 AI 챗봇 아동·청소년 유해성 조사...구글·메타·스냅챗도 포함

미국 연방거래위원회(FTC)가 인공지능(AI) 챗봇이 아동과 청소년에게 미치는 부정적 영향에 대한 조사에 착수했다. 이번 조사 대상에는 오픈AI, 알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL), 메타(NASDAQ:META), 스냅챗(NYSE:SNAP) 등 7개 주요 기업이 포함됐다.

AI 챗봇 아동 안전성 조사 착수

CNBC에 따르면 FTC는 목요일 상기 기업들에 AI 챗봇이 젊은 사용자들에게 미칠 수 있는 부정적 영향에 대한 정보 제공을 요구했다.

FTC는 이들 챗봇이 인간 행동을 모방하는 특성으로 인해 어린 사용자들이 정서적 애착을 형성할 수 있다며 잠재적 위험성을 경고했다.

앤드류 퍼거슨 위원장은 주요 산업의 혁신을 촉진하면서도 온라인상 아동 보호의 중요성을 강조했다. FTC는 이들 기업이 사용자 참여를 수익화하는 방식, 캐릭터 생성, 개인정보 처리 및 공유, 서비스 약관 집행, 잠재적 피해 대응 방안 등에 대한 정보를 수집하고 있다.

퍼거슨 위원장은 "온라인상 아동 보호가 트럼프-밴스 FTC의 최우선 과제"라고 밝혔다.

오픈AI 대변인은 특히 젊은 사용자들과 관련해 자사의 AI 챗봇 챗GPT의 안전성 보장에 전념하고 있다고 언급했다.

AI 챗봇 논란으로 규제 강화 요구 확산

이번 FTC 조사는 AI 챗봇 관련 일련의 논란에 따른 것이다. 2025년 8월, 한 청소년의 자살이 챗GPT와 연관됐다는 소송이 오픈AI를 상대로 제기됐다.

해당 청소년의 부모는 챗봇이 자녀의 자살 충동을 부추기고 구체적인 자해 방법을 제공했다고 주장했다. 소송 이후 오픈AI는 챗GPT의 '민감한 상황' 처리 방식 개선 계획을 발표했다.

메타 플랫폼스도 자사 AI 챗봇이 아동들과 '로맨틱하거나 선정적인' 대화를 나눈 것으로 밝혀져 의회의 조사를 받았다. 이 보고 이후 메타는 자해, 자살, 섭식장애, 부적절한 로맨틱 상호작용에 대한 대화를 방지하기 위해 일시적으로 정책을 수정했다.

이러한 사건들은 젊은 사용자들을 잠재적 위험으로부터 보호하기 위한 엄격한 규제와 안전 조치의 필요성을 부각시켰다.