메타, AI 챗봇 아동 유혹 허용한 내부지침 유출로 의회 압박 직면

메타플랫폼스(NASDAQ:META)가 AI 챗봇의 아동 대상 '로맨틱하거나 관능적인' 대화와 인종차별적 콘텐츠 생성을 허용한 내부 정책이 언론에 공개되면서 의회의 집중 조사를 받게 됐다. 이는 규제 준수와 브랜드 평판 리스크에 대한 투자자들의 우려를 불러일으켰다.

문제적 AI 기준 드러나

로이터가 목요일 보도한 바에 따르면, '생성형 AI: 콘텐츠 리스크 기준'이라는 메타의 내부 문서는 AI 챗봇이 8세 아동에게 '당신의 모든 부분은 걸작이며 내가 소중히 여기는 보물'이라고 말하는 것을 허용했다.

법무팀과 엔지니어링팀, 메타의 수석 윤리학자가 승인한 200페이지 분량의 정책 가이드는 페이스북, 왓츠앱, 인스타그램 플랫폼 전반에 걸쳐 메타 AI와 챗봇의 운영 기준을 설정했다.

메타의 대변인 앤디 스톤은 보도에 따르면 문서의 진위를 확인하면서도, 언론의 문의 이후 문제가 된 조항들이 삭제됐다고 밝혔다. 스톤은 '해당 사례와 지침은 잘못됐으며 우리의 정책과 일치하지 않는다'고 말했지만, 정책 집행이 일관되지 않았음을 인정했다.

의회 조사 요구 확산

조시 홀리 상원의원(공화-미주리)과 마샤 블랙번 상원의원(공화-테네시)이 이 보도 이후 즉각적인 의회 조사를 촉구했다. 홀리 의원은 X플랫폼에 '메타는 적발된 후에야 회사 문서의 일부를 철회했다'며 '이는 즉각적인 의회 조사가 필요한 사안'이라고 게시했다.

규제 및 재무적 영향

해당 정책 문서는 또한 '흑인이 백인보다 덜 똑똑하다'는 주장을 포함한 인종차별적 콘텐츠의 AI 생성을 허용했으며, 보호 대상 특성을 비하하는 예외 조항을 만들었다.

론 와이든 상원의원(민주-오리건)은 로이터에 따르면 230조 보호 조항이 AI 생성 콘텐츠에는 적용되어서는 안 된다고 주장했다. 이는 메타의 법적 책임이 증가할 수 있음을 시사한다. 상원을 통과했으나 하원에서 계류 중인 아동 온라인 안전법은 미성년자를 대상으로 하는 플랫폼에 명시적인 '주의 의무' 요건을 수립할 것이다.

주가 동향과 시장 영향

메타 주식은 이 조사 보도 이후 0.14% 상승한 781.20달러로 마감했다. 전통적인 소셜 미디어 수익이 역풍을 맞는 가운데 AI 투자는 회사의 핵심 성장 전략을 대표한다.

케임브리지 애널리티카 스캔들과 인스타그램 정신건강 연구 등 과거의 안전성 논란은 견고한 실적에도 불구하고 기업 가치 평가에 압박을 가한 바 있다.