구글, 딥페이크 포르노 검색결과 제한... 메타·X도 대책 마련

알파벳(Alphabet Inc.)의 구글(Google)이 검색결과에서 노골적인 딥페이크 콘텐츠 확산을 막기 위한 새로운 조치를 도입했다.

구글의 제품 관리자 엠마 히감(Emma Higham)은 목요일 블로그 포스트를 통해 검색에서 노골적인 딥페이크를 제거하고 검색 결과 상위 노출을 방지하기 위한 새로운 온라인 안전 기능을 도입한다고 밝혔다.

히감은 "이러한 보호 조치는 이미 다른 유형의 비동의 이미지를 처리하는 데 성공적이었으며, 이제 가짜 노골적 이미지에 대해서도 동일한 기능을 구축했다"고 설명했다.

구글은 또한 노골적인 가짜 콘텐츠가 노출될 위험이 높은 검색어를 더 잘 관리하기 위해 검색 순위를 수정하고 있다. 가짜 노골적 이미지에 대한 삭제 요청이 많은 사이트는 구글 검색 순위에서 강등될 예정이다.

회사는 올해 딥페이크 콘텐츠를 찾는 검색어에 대한 노골적인 이미지 결과 노출이 70% 이상 줄었다고 밝혔다.

구글은 또한 진짜와 가짜 노골적 콘텐츠를 구별하여 정당한 이미지는 계속 노출되는 한편 딥페이크는 순위를 낮추는 작업을 진행 중이다.

히감은 "검색 엔진에서 이러한 콘텐츠를 구별하는 것은 기술적으로 어려운 과제지만, 우리는 정당한 콘텐츠를 더 잘 노출시키고 노골적인 가짜 콘텐츠의 순위를 낮추기 위해 지속적으로 개선하고 있다"고 말했다.

올해 1월, 일론 머스크(Elon Musk)의 X(구 트위터)에서 테일러 스위프트(Taylor Swift)의 AI 생성 포르노 이미지가 광범위하게 유포되며 큰 논란이 일었다.

X가 결국 해당 이미지를 삭제했지만, 이 사건은 사용자, 기술 기업, 입법자들 사이에서 더 큰 우려를 불러일으켰다.

지난달 미국 의원들은 메타 플랫폼(Meta Platforms Inc.)과 X 같은 소셜 미디어 기업들에게 이런 이미지를 플랫폼에서 삭제할 것을 요구하는 '테이크 잇 다운 법안(Take It Down Act)'을 발의했다.

이달 초 메타의 내부 감독위원회는 AI 생성 포르노 콘텐츠에 대한 더 명확한 규제를 요구했다. 이는 메타 플랫폼에서 유명 여성의 포르노 딥페이크 두 건이 확인된 후 나온 조치다.

머스크의 소셜 미디어 네트워크 X도 포르노 콘텐츠가 급증해 사용자들의 불편을 야기했다. 이에 플랫폼은 성인 콘텐츠에 대한 옵트인 메커니즘을 포함하도록 콘텐츠 정책을 수정했다.



이미지 출처: Shutterstock.com