가짜뉴스 전문가, 법정 문서 작성에 챗GPT 사용 시인... `허위 정보 추가됐다`

가짜뉴스 전문가 제프 행콕이 법정 문서의 인용 정리를 위해 오픈AI의 챗GPT를 사용했다고 시인했다. 이 과정에서 발생한 '환각' 현상으로 문서의 신뢰성이 의문시되고 있다.

스탠퍼드 소셜미디어 연구소를 설립한 행콕은 선서 진술서 초안 작성에 챗GPT를 활용했으나, 이 과정에서 오류가 발생했다고 인정했다. 그러나 그는 이러한 부정확성이 문서의 핵심 주장에는 영향을 미치지 않는다고 주장했다.

행콕은 후속 제출 문서에서 "선서 진술서의 본질적 내용은 내가 직접 작성하고 검토했으며, 이 분야의 최신 학술 연구에 근거한 각 주장을 굳건히 지지한다"고 밝혔다.

행콕의 선서 진술서는 현재 연방 법원에서 유튜버 크리스토퍼 콜스(Mr. Reagan)와 주 의원 메리 프랜슨이 제기한 소송의 대상인 미네소타주의 '선거에 영향을 미치는 딥페이크 기술 사용' 법을 지지하는 내용이다.

이들의 변호인단은 존재하지 않는 인용 문헌으로 인해 해당 문서가 '신뢰할 수 없다'고 주장하며 문서 삭제를 요청했다.

행콕은 초안 작성에 챗GPT를 사용했지만 실제 글쓰기에는 의존하지 않았다고 해명했다. 그는 선서 진술서의 주장들이 학술 연구에 의해 뒷받침된다고 강조했다. 그는 관련 논문을 찾기 위해 구글 스칼라와 GPT-4를 사용했으나, 이 과정에서 '환각'이라고 알려진 인용 오류가 발생했다고 설명했다.

행콕은 "법원이나 변호인을 오도할 의도는 없었다"고 밝혔다.

이번 사건은 법률 분야에서 AI의 신뢰성에 대한 우려를 더욱 부각시켰다.

2023년 5월에도 한 변호사가 챗GPT가 만들어낸 존재하지 않는 판례를 준비서면에 인용해 법정에 혼란을 일으킨 바 있다.

이는 선다 피차이 구글 CEO가 언급한 AI의 '환각' 문제의 심각성을 다시 한번 보여주는 사례다.

챗GPT의 후속 버전인 GPT-4 출시 등 AI 기술의 급속한 발전으로 일론 머스크와 오픈AI CEO 샘 알트만 같은 기술 업계 리더들은 AI의 잠재적 위험성에 대해 지속적으로 경고하고 있다.

이 기사에는 특정 기업의 주가 동향이 언급되지 않았습니다.