메타 감독위원회, AI 생성 포르노 콘텐츠에 대한 규제 강화 촉구

메타플랫폼스(Meta Platforms Inc., NASDAQ:META)의 내부 감독위원회가 자사 플랫폼에서의 AI 생성 포르노 콘텐츠에 대한 더 명확한 규제를 요구했다.

무슨 일이 있었나

로이터 통신은 목요일 메타가 자금을 지원하는 독립 기구인 감독위원회가 실제 인물을 대상으로 한 AI 생성 성적 묘사물의 확산을 방지하는 데 현행 규정이 부적절하다고 판단했다고 보도했다.

이번 결정은 감독위원회가 메타의 페이스북과 인스타그램 플랫폼에 게시된 유명 여성 2명의 포르노 딥페이크를 검토하고 확인한 후 내려졌다. 위원회는 메타의 "비하적 성적 포토샵" 규정이 위반됐으며, 회사가 해당 콘텐츠를 신속히 삭제하지 못했다고 밝혔다.

메타는 위원회의 권고사항을 검토하고 변경사항에 대해 추후 업데이트하기로 동의했다.

위원회는 또한 메타가 인도 여성의 이미지를 자동 삭제가 가능한 데이터베이스에 추가하지 않은 것에 대해 비판했으며, 이러한 관행에 우려를 표명했다.

메타의 시스템은 미국 유명인의 이미지를 자동으로 삭제했으며, 위원회는 이를 정당한 조치로 판단했다. 위원회는 메타에 생성형 AI를 포함한 더 넓은 범위의 편집 기술을 포괄하도록 규정을 확대할 것을 권고했다.

왜 중요한가

AI 생성 포르노 콘텐츠 문제는 전 세계적으로 우려가 커지고 있다. 영국에서는 정부가 이러한 딥페이크 제작을 범죄화하는 준비를 하고 있다. 미국에서는 의원들이 딥페이크 포르노 이미지를 게시하거나 게시 위협을 하는 행위를 불법화하는 '테이크 잇 다운 법안(Take It Down Act)'을 제안했다.

메타의 문제는 콘텐츠 통제를 넘어선다. 회사는 플랫폼에서 실제 사진을 AI 생성으로 잘못 라벨링해 사진작가들과 사용자들의 분노를 사고 있다. 한편 사이버보안 전문가들은 전 세계 기업들에 상당한 재정적 손실을 초래한 딥페이크 사기의 위협이 증가하고 있다고 경고했다.

이미지 크레딧 - Shutterstock