메타, AI 보조기가 트럼프 암살 시도 부인한 것은 `환각` 때문... 구글은?

메타플랫폼스(Meta Platforms Inc.)(NASDAQ:META)가 AI 보조기가 도널드 트럼프 전 대통령에 대한 암살 시도를 거짓으로 부인한 것에 대해 비판을 받았다. 이에 대해 회사 측이 마침내 입장을 밝혔다.

무슨 일이 있었나: 화요일 블로그 게시물을 통해 메타의 글로벌 정책 책임자인 조엘 카플란(Joel Kaplan)은 이 문제를 언급하며 AI의 응답을 '불행한 일'이라고 표현했다. 그는 이 오류의 원인을 모든 생성형 AI 시스템에서 흔히 발생하는 문제인 '환각'으로 설명했다.

카플란은 "우리 시스템은 이 사건의 중요성과 심각성을 보호하려 했다"며 "메타 AI가 암살 시도에 대해 잘못된 정보를 제공하는 대신, 사건 발생 후에는 이에 대한 질문에 답변하지 않도록 프로그래밍했다"고 설명했다.

그는 또한 암살 시도 이후 트럼프의 사진이 '팩트 체크' 라벨로 표시된 문제에 대해서도 언급했다. 카플란은 비밀경호국 요원들이 웃고 있는 모습으로 조작된 전 대통령의 주먹을 들고 있는 사진이 유포되었다고 밝혔다.

"사진이 조작되었기 때문에 처음에는 팩트 체크 라벨이 정확히 적용되었다"고 말하면서도 "조작된 이미지와 원본 이미지의 유사성으로 인해 시스템이 실수로 실제 사진에도 팩트 체크 라벨을 적용했다"고 덧붙였다.

메타가 이 블로그 글을 게시한 후, 트럼프는 트루스 소셜을 통해 메타와 알파벳(Alphabet Inc.)(NASDAQ:GOOG)(NASDAQ:GOOGL)을 비난하며 "메타와 구글을 추궁하라. 우리가 그들을 모두 간파하고 있으며 이번에는 훨씬 더 강경하게 대응할 것임을 알려라"고 밝혔다.



왜 중요한가: 알파벳의 구글 역시 트럼프 암살 시도와 관련된 검색 결과를 검열했다는 의혹에 직면해 있다. 검색 및 광고 기술 거대 기업인 구글은 화요일 일론 머스크의 X(구 트위터)를 통해 이 문제에 대해 입장을 밝혔다.

구글은 정치적 폭력과 관련된 구식 내장 보호 장치로 인해 자동 완성 기능이 암살 시도에 대한 쿼리에 대한 예측을 생성하지 않았다고 밝혔다. 하지만 이 문제는 현재 해결되었다고 한다.

"일부 사람들은 '도널드 트럼프' 검색 시 '카말라 해리스'와 관련된 뉴스 기사가 나온다고 게시했다. 이 라벨들은 관련 뉴스 주제를 기반으로 자동 생성되며 시간이 지남에 따라 변경된다"고 기술 거대 기업은 설명했다.

구글 커뮤니케이션즈(@Google_Comms)는 X를 통해 "지난 며칠 동안 일부 X 사용자들이 검색이 특정 용어를 '검열'하거나 '금지'하고 있다고 주장했다. 그렇지 않으며, 우리는 이 점을 분명히 하고자 한다. 해당 게시물들은 시간을 절약하기 위해 쿼리를 예측하는 자동 완성 기능과 관련이 있다. 자동 완성..."이라고 밝혔다.