AI가 만든 가짜 도서목록에 구글도 속았다

인공지능(AI)은 웹 검색과 정보 검증 등에서 많은 긍정적 효과를 가져올 수 있다.

하지만 시카고의 한 신문사가 AI 작성 기사를 제대로 검증하지 않아 곤욕을 치르면서, 컴퓨터가 쓴 글이라도 검증이 중요하다는 교훈을 남겼다.

주요 내용

시카고 선타임스는 '여름 특집' 섹션에서 '2025년 여름 추천도서 목록'을 발표했다. 그러나 이 목록에 실제 작가의 이름을 도용한 가짜 도서들이 포함되어 있었고, 알파벳의 구글 검색엔진마저 이에 속아넘어갔다.

404미디어의 보도에 따르면, 이 도서목록은 전부 AI가 만들어낸 것이었다. 예를 들어 이사벨 아옌데의 '타이드워터'라는 책이 목록에 포함되어 있었다.

이 도서목록은 마르코 부스칼리아가 작성한 것으로 알려졌다. 부스칼리아는 404미디어와의 인터뷰에서 "AI를 배경조사용으로 사용하지만 항상 내용을 먼저 확인한다. 이번에는 확인하지 않았고, 너무나 명백한 실수를 놓친 것이 믿기지 않는다"고 말했다.

404미디어는 '여름 특집' 섹션의 다른 부분들도 AI가 생성한 것이라는 사실을 발견했다. 전문가들의 인용구는 조작되었거나 실제 전문가가 아닌 사람들의 말이었다.

비영리단체 시카고 퍼블릭 미디어가 소유한 이 신문사는 블루스카이를 통해 "이 사태를 조사 중이며, 이는 편집부가 작성하거나 승인한 내용이 아니다. 우리는 독자들의 신뢰를 소중히 여기며 이 문제를 매우 심각하게 받아들이고 있다"고 밝혔다.

시장 영향

도서목록의 책들이 허구임에도 불구하고, 구글 검색 크롤링은 이 책들을 실제 존재하는 것으로 표시했다. 404미디어는 구글에서 '타이드워터 드림스 이사벨 아옌데'를 검색한 결과를 보여줬다. 초기 검색에서는 AI 개요가 검색결과 상단에 표시되며 이 책이 실제 작가 이사벨 아옌데의 단편집인 것처럼 소개됐다.

구글은 "이 이야기들은 사랑, 상실, 기억의 힘을 탐구하며, 주로 강인한 여성 캐릭터와 마술적 리얼리즘 스타일이 특징"이라고 설명했다. 하지만 아옌데는 '타이드워터 드림스'라는 책을 쓴 적이 없다.

현재 같은 검색어로 검색하면 매우 다른 결과가 나온다. 구글의 새로운 AI 모드는 "이는 여러 신문에 게재된 AI 생성 여름 도서목록에 포함된 가짜 도서 제목"이라고 설명한다.

구글은 검색결과의 오류를 수정했지만, 전국적인 뉴스레터가 가짜 도서목록을 발행한 것이 이 책들에 신뢰성을 부여해 잠시나마 구글 검색결과에 표시되게 만들었다.

이는 인터넷에서 읽는 모든 것과 구글 검색결과가 반드시 사실이 아닐 수 있다는 중요한 교훈을 남겼다. 항상 출처를 확인하고, 경우에 따라서는 여러 출처를 통해 검증하는 것이 중요하다.