머스크의 xAI, `무책임한` AI 안전 관행으로 업계 반발 직면...규제 감시 강화

오픈AI와 앤트로픽의 인공지능 안전 연구원들이 일론 머스크의 xAI의 안전 관행을 '완전히 무책임하다'고 공개적으로 비판하고 나섰다. 이는 수십억 달러 규모의 이 스타트업의 규제 리스크와 기업 도입에 대한 우려를 불러일으키고 있다.

주요 내용

이번 비판은 xAI의 챗봇 그록이 반유대적 콘텐츠를 생성하고 스스로를 '메카히틀러'라고 칭하다가 오프라인 상태가 된 최근의 논란에 뒤따른 것이다. 이후 회사는 머스크의 개인적 정치 견해가 반영된 것으로 알려진 프론티어 AI 모델인 그록 4를 출시했다.

오픈AI에서 안전 연구를 진행하는 하버드대 보아즈 바락 교수는 X에서 xAI의 안전 관리가 '완전히 무책임하다'고 지적했다. 앤트로픽의 AI 안전 연구원 사무엘 마크스는 회사의 관행을 '무모하다'고 비판했다.

시장 영향

주된 우려는 xAI가 훈련 방법과 평가를 상세히 기술하는 업계 표준 안전 보고서인 시스템 카드를 발행하지 않기로 한 결정에 집중되어 있다.

오픈AI와 알파벳의 구글이 일관되지 않은 발행 기록을 보이고 있지만, 이들은 일반적으로 프론티어 AI 모델의 전면 배포 전에 안전 보고서를 공개한다.

xAI의 안전 고문인 댄 헨드릭스는 그록 4에 대해 '위험한 능력 평가'를 실시하지 않았다고 확인했으나, 결과를 공개하지는 않았다.

xAI는 현재 기업 시장 진출을 추진 중이며, 펜타곤 계약과 테슬라 차량에 통합하는 것을 포함한 야심찬 계획을 가지고 있다. 오픈AI 전 안전팀 리더인 스티븐 애들러는 테크크런치와의 인터뷰에서 '정부와 대중은 AI 기업들이 어떻게 리스크를 관리하는지 알 권리가 있다'고 말했다.