증오 콘텐츠 180만건 감지... 밸브, 스팀에서 극단주의 방치 의혹

반명예훼손동맹(ADL)의 새 보고서가 게임 플랫폼 스팀에 만연한 극단주의와 혐오 콘텐츠의 심각성을 지적하며, 플랫폼이 이러한 자료의 확산을 방조하고 있다고 비난했다.

ADL의 조사 결과에 따르면, 스팀의 방대한 사용자 기반에 대한 '전례 없는' 분석을 통해 나치 이미지와 ISIS, 하마스 등 테러 조직 지지를 포함한 180만 건 이상의 혐오 관련 콘텐츠가 발견됐다.

벤징가는 플랫폼의 모회사인 밸브에 논평을 요청했으나, 기사 작성 시점까지 회신을 받지 못했다.

ADL 웹사이트에 게재된 이 보고서는 플랫폼 전반에서 발견된 콘텐츠 유형에 대해 광범위한 조사 결과를 제공한다.

조사 과정에서 ADL은 4억5800만 개의 사용자 프로필, 1억5200만 개의 그룹 아바타, 6억1000만 개 이상의 사용자 댓글을 검토했다. 가장 우려되는 발견 사항으로는 반유대주의 상징, 백인 우월주의 선전물, ISIS와 하마스에 대한 수천 건의 언급을 포함한 극단주의 집단 지지 등이 있었다.

ADL은 혐오 이미지 외에도 '1488', '세켈', '백인 우월주의' 등 불쾌한 키워드의 사용이 문제가 되고 있다고 지적했다. 극단주의적 맥락에서 사용된 18만5000개의 특정 용어가 확인됐다. 총 150만 명의 고유 사용자와 7만3000개 이상의 그룹이 이러한 콘텐츠를 공유한 것으로 나타났다.

이러한 충격적인 조사 결과에도 불구하고, ADL은 스팀의 콘텐츠 관리 정책에 중대한 허점이 있다고 지적한다. 밸브는 개발자 및 커뮤니티 가이드라인에서 '증오, 폭력 또는 차별을 조장하는 발언'을 명시적으로 금지하고 있지만, ADL은 이러한 규칙의 집행이 일관성이 없다고 주장한다.

밸브의 관리 도구 검토 필요성 제기

ADL의 보고서는 밸브의 관리 노력의 실효성에 의문을 제기한다. 회사는 사용자 프로필과 댓글을 선별하기 위해 필터와 자동화 도구를 사용하고 있지만, 이러한 조치가 플랫폼의 모든 영역에 일괄적으로 적용되지는 않는다.

특히 사용자들이 필터를 비활성화할 수 있어 유해 콘텐츠가 쉽게 검열망을 빠져나갈 수 있다. 또한 ADL은 밸브의 키워드 탐지 시스템이 쉽게 우회될 수 있다고 주장하며, 사용자들이 단어를 수정하거나 ASCII(미국 정보 교환 표준 부호) 아트를 사용해 관리 시스템을 피해가고 있다고 지적했다.

ADL은 "스팀이 기술적으로 플랫폼의 극단주의적이고 혐오스러운 콘텐츠를 관리할 능력이 있음에도 불구하고, 극단주의 콘텐츠의 확산은 부분적으로 밸브의 매우 관대한 콘텐츠 정책 접근 방식 때문"이라고 밝혔다.

또한 밸브가 드물게 극단주의 콘텐츠를 삭제한 경우가 있지만, 이는 일관된 선제적 전략의 일환이라기보다는 외부 압력이나 언론의 주목을 받은 후에야 이뤄진 경우가 많았다고 지적했다.

밸브 플랫폼 변화 촉구

ADL은 밸브에 콘텐츠 관리에 대한 대대적인 개선을 요구했다. 혐오와 극단주의를 명시적으로 금지하는 정책을 시행하고, 관리 관행에 대한 철저한 감사를 실시하며, 접근 방식 개선을 위해 연구자 및 시민 사회와 협력할 것을 촉구했다.

ADL의 전략 및 운영 이사인 다니엘 켈리는 "주요 게임 회사들이 극단주의자들의 지지를 다루지 않고 혐오의 확산을 허용하는 플랫폼에서 제품을 판매하고 있다"고 지적했다.

켈리는 "이는 누군가가 극단주의의 늪에 완전히 빠질 가능성을 높인다"고 덧붙였다.