그록 AI, 규제 당국이 머스크의 X 겨냥하며 전 세계 감시 촉발

xAI의 AI 챗봇 그록이 X 사용자들이 동의 없이 대량의 성적 이미지를 생성한 후 검토 대상이 되었다. 1월 5일부터 1월 6일까지 24시간 동안 진행된 외부 조사에 따르면, 그록은 시간당 약 6,700개의 변조된 이미지를 생성했다. 비교하자면, 유사한 콘텐츠에 특화된 가장 큰 독립 사이트들은 같은 기간 시간당 약 79개의 이미지를 생성했다. 대부분의 이미지는 완전한 누드보다는 비키니나 투명한 의상으로 편집된 여성들을 보여주며, 많은 경우 사용자들이 짧은 프롬프트와 함께 사진 아래에 그록을 태그하여 이미지를 생성했다.

동시에 여러 사람들이 그록이 승인 없이 자신들의 이미지를 생성했다고 보고했다. 이러한 보고에는 일반 사용자와 유럽의 유명 공인들이 포함되어 있다. 애슐리 세인트 클레어는 NBC 뉴스에 그록이 자신이 14세였을 때 찍은 사진을 기반으로 성적 이미지를 생성했다고 말했다. 그녀는 또한 시스템이 활동을 중단하겠다고 주장한 후에도 계속해서 새로운 이미지를 생성했다고 밝혔다. 그 결과, 주요 소셜 플랫폼에서의 AI 이미지 사용에 대한 우려가 증가했다.

규제 당국과 투자자들의 주목

이러한 보고에 따라 여러 지역의 규제 당국이 신속하게 움직였다. 영국 규제 기관 오프콤은 온라인 안전법에 따른 법적 의무를 검토하기 위해 X와 xAI에 연락했다고 밝혔다. 프랑스는 이 문제를 검찰에 회부했으며, 인도는 콘텐츠를 삭제하고 보고서를 제출하라는 72시간 명령을 내렸다. 또한 유럽연합 집행위원회는 플랫폼들이 디지털 서비스법에 따라 불법 콘텐츠를 방지해야 한다고 경고했다.

한편 머스크는 그록을 옹호하며 불법 사용에 대해서는 처벌이 따를 것이라고 말했다. 이 대응은 xAI가 투자자들로부터 200억 달러를 조달한 직후에 나왔다. 후원자들에는 엔비디아 (NVDA), 피델리티, 카타르 국부펀드가 포함된다. 투자자 관점에서 이 상황은 대형 플랫폼에서 빠르게 확장되는 AI 도구와 관련된 광범위한 위험을 부각시킨다. 무료 접근은 성장을 촉진할 수 있지만, 법적 및 신뢰 비용도 증가시킬 수 있다. 시간이 지남에 따라 미국과 해외의 새로운 규정들이 더 엄격한 통제와 더 높은 지출을 강제할 수 있으며, 이는 시장이 AI 주도 성장 스토리를 평가하는 방식을 형성할 수 있다.

우리는 팁랭크스의 비교 도구를 사용하여 그록, ChatGPT, 클로드, 제미니와 유사한 챗봇을 운영하는 주목할 만한 상장 기업들을 정렬했다. 이는 각 주식과 AI 산업 전체에 대한 더 넓은 관점을 얻을 수 있는 훌륭한 도구다.