X, 그록의 성적 이미지 생성 문제로 영국 조사 직면...규제 리스크 증가

영국 미디어 규제 당국이 X의 Grok AI 도구가 생성한 이미지와 관련해 조사에 착수했다. 이번 검토는 Grok이 동의 없이 가짜 누드 이미지를 생성하는 데 사용됐다는 주장을 다룬다. 일부 이미지에는 미성년자가 포함된 것으로 보이며, 이는 영국에서 심각한 법적 위험을 초래한다. 영국 법은 AI를 사용하더라도 이러한 이미지의 생성이나 공유를 금지하고 있다. 기술 플랫폼은 또한 사용자가 불법 콘텐츠를 보지 못하도록 차단하고 발견 즉시 삭제해야 한다. 따라서 이번 사건은 콘텐츠 규정을 넘어 플랫폼 의무 문제로 확대된다.

정치적 압력과 시장 리스크 증가

영국 총리 키어 스타머는 해당 이미지가 불법이라고 규정하고 조치를 촉구했다. 그는 또한 규제 당국이 규정을 집행하는 데 전폭적인 지원을 받고 있다고 밝혔다. 이에 따라 X에 대한 압력은 검토 단계에서 공개 조치로 전환됐다. 한편 프랑스와 인도의 규제 당국도 우려를 제기했다. 이는 이 문제가 한 시장에 국한되지 않음을 보여준다. X는 불법 게시물을 삭제하고 법을 위반한 사용자를 차단한다고 밝혔다. 그러나 영국 규제 당국은 위반 사실이 확인될 경우 강력한 조치를 취할 수 있다.

이러한 조치에는 플랫폼과 관련된 결제나 광고 차단이 포함될 수 있다. 드문 경우지만 영국 내 X 접속이 제한될 수도 있다. 전반적으로 이번 사건은 소셜 플랫폼의 AI 도구와 관련된 리스크가 증가하고 있음을 부각시킨다.

우리는 팁랭크스 비교 도구를 사용해 Grok, ChatGPT, Claude, Gemini와 유사한 챗봇을 운영하는 주요 상장 기업들을 정렬했다. 이는 각 주식과 AI 산업 전반에 대한 폭넓은 관점을 얻을 수 있는 훌륭한 도구다.