일론 머스크의 그록AI, 트럼프·머스크 허위정보 관련 응답 차단 후 철회...전 오픈AI 직원 탓으로

일론 머스크의 xAI가 개발한 AI 챗봇 그록(Grok)이 머스크와 도널드 트럼프의 허위정보 유포 관련 응답을 잠시 중단했다가 철회했다. xAI는 이를 자사에 영입된 전 오픈AI 직원의 무단 시스템 변경 탓으로 돌렸다.

주요 내용
사용자들은 그록이 머스크와 트럼프를 허위정보와 연관 짓는 출처 제공을 거부하는 현상을 발견했다. 이는 시스템 프롬프트가 승인 없이 변경된 결과로 밝혀졌다.

xAI의 엔지니어링 책임자인 이고르 바부슈킨은 이 문제를 확인하며, xAI에 합류한 전 오픈AI 직원이 무단으로 시스템을 조정했다고 밝혔다.

바부슈킨은 X(구 트위터)를 통해 "한 직원이 도움이 될 것이라 생각해 변경을 진행했지만, 이는 명백히 우리의 가치와 맞지 않는다"고 설명했다.

그는 또한 "그록의 시스템 프롬프트를 공개적으로 볼 수 있도록 한 것은 사용자들이 그록에게 어떤 지시를 내리고 있는지 확인할 수 있게 하기 위해서"라고 덧붙였다.

시장 영향
머스크는 그동안 그록을 '최대한 진실을 추구하는' AI로 홍보해왔다. 하지만 이번이 xAI 엔지니어들이 그록의 응답에 개입한 첫 사례는 아니다.

앞서 머스크 팀은 그록이 머스크와 트럼프가 사형에 처해져야 한다는 발언을 하지 못하도록 차단한 바 있다.

이번 사태는 xAI가 지난주 이미지 분석 등 고급 AI 기능을 탑재한 그록 3을 출시한 직후 발생했다. 그록은 최근 오픈AI의 챗GPT, 구글 제미나이, 중국의 딥시크를 제치고 앱스토어 생산성 앱 부문 1위에 올랐다.

그록 3은 현재 머스크의 소셜미디어 플랫폼 X의 프리미엄+ 구독자들이 이용할 수 있다. xAI는 모바일 앱과 Grok.com을 통해 새로운 구독 서비스인 슈퍼그록도 출시할 예정이다.

머스크의 AI 기업 xAI는 2024년 11월 기업가치 500억 달러를 달성했다.