AI 도구에서 책임 문제로... 그록, 전 세계적 반발 직면

Grok의 부정적 흐름이 계속되고 있다. 필리핀이 말레이시아와 인도네시아에 이어 Grok AI 접속을 전국적으로 차단하기로 했다. 이번 결정은 AI 도구가 동의 없이 성적 이미지를 생성하는 데 사용된 방식에 대한 당국의 우려가 커지면서 나왔다.

목요일 헨리 아구다 정보통신기술부 장관은 정부가 국가통신위원회 및 국내 인터넷 제공업체들과 협력해 차단 조치를 시행하고 있다고 밝혔다. 이에 따라 모든 주요 통신사들이 가능한 한 빨리 Grok 접속을 제한할 것으로 예상된다.

규제 측면을 넘어, 이번 조치는 X와 AI 자회사 xAI의 사업에도 영향을 미칠 수 있다. 정부와 대형 기관들은 AI나 데이터 관련 계약을 체결할 때 안전 기록을 검토하는 경우가 많다. Grok에 대한 감시가 강화되면서 향후 공공 부문 계약은 국방이나 보안 관련 민감한 협약을 포함해 추가 검토를 받을 수 있다.

xAI는 국방부를 포함한 미국 정부 기관들과 협력해 왔지만, 해외에서의 규제 강화는 파트너들이 위험, 감독, AI 시스템의 장기 사용을 평가하는 방식에 영향을 줄 수 있다.

규제 당국이 개입하는 이유

이번 조치는 Grok의 이미지 도구가 여성과 미성년자의 사진을 성적 콘텐츠로 변조하는 데 사용됐다는 보고에 따른 것이다. 당국에 따르면 동의 없이 이미지가 변경된 사례가 포함돼 있으며, 이는 법적 및 안전 문제를 야기했다.

더 넓게 보면, 규제 당국은 이 문제가 AI 도구와 연관된 온라인 악용을 제한하려는 광범위한 노력의 일환이라고 밝혔다. 이미지 기반 AI의 오용은 개인 안전과 공공 신뢰에 위험을 초래한다고 지적했다.

한편 다른 국가들도 조치를 취하고 있다. 말레이시아와 인도네시아는 최근 유사한 이유로 Grok을 제한했으며, 이들 국가가 최초로 그러한 조치를 취했다. 동시에 영국과 유럽 일부 지역의 규제 당국은 X와 xAI가 Grok과 관련된 콘텐츠를 처리하는 방식을 검토하고 있다.

전반적으로 이 상황은 AI 개발자들이 통제 기능을 개선해야 한다는 압력이 커지고 있음을 보여준다. 특히 정부들이 경고 발령이 아닌 규칙 집행을 시작하면서 더욱 그렇다.

우리는 TipRanks의 비교 도구를 사용해 Grok 및 Gemini와 유사한 챗봇을 운영하는 주요 상장 기업들을 정렬했다. 이는 각 주식과 AI 산업 전반에 대한 폭넓은 관점을 얻을 수 있는 훌륭한 도구다.