머스크의 챗봇 `그록`, 논란의 `무필터` 이미지 생성... 부적절한 내용도 무단 생성

일론 머스크가 이끄는 xAI의 챗봇 '그록'이 논란에 휩싸였다. 그록이 정치인과 유명인의 부적절하고 기괴한 이미지를 생성하면서 일반적인 안전 장치가 없다는 문제가 제기됐다.

무슨 일이 있었나: X(구 트위터)의 유료 구독자들이 이용할 수 있는 그록의 새로운 이미지 생성 도구가 허위정보와 남용 규정을 위반하는 이미지들을 만들어내고 있다.

이 AI 챗봇은 도널드 트럼프 전 대통령이 세계무역센터 건물로 비행기를 몰고 가는 이미지, 테일러 스위프트와 알렉산드리아 오카시오-코르테스 의원 등 여성 유명인과 정치인들의 부적절한 차림의 이미지를 생성했다.

X 사용자들은 미키마우스가 아돌프 히틀러에게 경례하는 모습, 도널드 덕이 헤로인을 사용하는 모습의 AI 생성 이미지도 공유했다고 가디언이 보도했다.

벤징가에서도 몇 가지 이미지를 생성해봤다. 많은 사진들이 부적절했고 플랫폼이 이런 요청을 거부하지 않았지만, 일부 응답은 소셜미디어에서 돌아다니는 것만큼 충격적이지는 않았다.

머스크는 이 논란을 즐기는 듯했다. 그는 X에 "그록은 세상에서 가장 재미있는 AI!"라고 글을 올렸다.

머스크뿐만 아니라 X의 많은 사용자들도 그록의 능력에 대한 제한이 없다는 점에 만족하며 온갖 종류의 '무필터' 기괴한 이미지를 만들어내고 있다.

왜 중요한가: 그록의 이미지 생성 도구를 둘러싼 논란은 AI의 윤리적 사용에 대한 더 광범위한 논쟁 속에서 일어났다. 특히 이미지 생성 도구는 OpenAI, 알파벳의 구글, 마이크로소프트와 같은 기술 기업들에게 골치 아픈 문제가 되고 있다.

이는 허위정보와 공격적인 콘텐츠를 퍼뜨릴 수 있는 잠재력 때문이다. 올해 초, AI로 생성된 테일러 스위프트의 포르노 이미지가 X에서 광범위하게 퍼졌다.

구글 제미나이도 역사적 인물을 부정확하게 표현해 큰 비판을 받았다.

올해 초, AI로 생성된 딥페이크 포르노 콘텐츠의 급증에 대응해 의원들은 소셜미디어 기업들에게 이러한 이미지를 제거할 것을 요구하는 법안을 발의했다.

지난 5월, 바이트댄스가 소유한 틱톡은 투명성을 높이고 허위정보에 대응하기 위해 AI 생성 콘텐츠에 자동으로 라벨을 붙이겠다고 발표했다.

이미지 태그와 표 태그는 HTML 그대로 유지했습니다.

사진 출처: xAI