챗GPT 살인 누명 씌운 `환각` 사태...노르웨이 남성, 오픈AI 상대 법적 조치

샘 알트만이 이끄는 오픈AI가 챗GPT가 한 남성에게 자녀 살해 누명을 씌웠다는 이유로 법적 소송에 직면했다.

주요 내용
아르베 할마르 홀멘은 챗GPT에 "아르베 할마르 홀멘이 누구인가"라고 질문한 후 허위 사실을 발견했다.

AI 챗봇은 그가 두 아들을 살해하고 세 번째 아들을 살해하려 시도했으며, 21년형을 선고받았다는 허구의 이야기를 만들어냈다.

홀멘은 BBC와의 인터뷰에서 "불 없는 곳에 연기가 나지 않는다고 생각하는 사람들이 있다. 누군가가 이 내용을 읽고 사실이라고 믿을 수 있다는 점이 가장 두렵다"며 이러한 환각이 자신의 명예를 훼손했다고 말했다.

홀멘을 대리하는 디지털 권리 단체 노이브(Noyb)는 챗GPT의 응답이 명예훼손에 해당하며 개인정보의 정확성에 관한 유럽 데이터 보호법을 위반했다고 주장했다.

노이브의 변호사 요아킴 쇠데르베리는 "단순히 거짓 정보를 퍼뜨리고 마지막에 작은 면책 조항을 추가해 모든 내용이 사실이 아닐 수 있다고 하는 것은 안 된다"고 말했다.

마이크로소프트가 투자한 오픈AI는 이 문제가 챗GPT의 구버전에서 발생했으며, 실시간 웹 검색이 가능한 최신 모델들은 정확도가 향상되었다고 밝혔다.

회사 측은 성명을 통해 "모델의 정확도를 개선하고 환각을 줄이기 위한 새로운 방법을 계속 연구하고 있다"고 말했다.

시장 영향
이번 사건은 생성형 AI 모델이 그럴듯하지만 거짓된 내용을 만들어내는 'AI 환각' 현상에 대한 우려를 부각시켰다.

메타의 최고 AI 과학자이자 'AI의 대부'로 불리는 얀 르쿤은 AI 환각이 자동회귀 예측 과정에서 발생한다고 설명했다. AI가 단어나 토큰을 생성할 때마다 논리적 응답에서 벗어날 가능성이 있어 대화가 점차 잘못된 방향으로 흘러갈 수 있다는 것이다.

2023년 알파벳의 순다르 피차이 CEO도 AI 기술이 전반적으로 여전히 환각 문제를 해결하지 못했다고 인정했다.

올해 초 애플은 영국에서 부정확한 헤드라인을 생성하고 이를 사실인 것처럼 표현한 후 애플 인텔리전스 뉴스 요약 도구를 일시적으로 중단했다.

구글의 AI 제미나이도 환각 문제를 겪었다. 작년에는 피자에 치즈를 붙일 때 접착제를 사용하라고 조언하거나, 지질학자들이 하루에 돌 한 개를 섭취하라고 권장한다는 등의 이상한 주장을 내놓았다.