선거일 앞두고 오픈AI 챗GPT, 딥페이크 25만건 차단... 허위정보 대책 나서

AI 기반 허위정보 확산을 막기 위해 오픈AI의 챗GPT가 2024년 대선 한 달 전부터 후보들의 딥페이크 이미지 생성 요청 25만 건을 거부했다.

주요 내용

지난주 오픈AI는 챗GPT가 회사의 AI 아트 생성기 달리(DALL-E)를 이용한 후보자들의 딥페이크 이미지 생성 요청 25만 건을 거절했다고 밝혔다.

챗GPT는 또한 투표 관련 실무적 질문에 대해 미국 주 국무장관협회가 운영하는 투표 정보 사이트 CanIVote.org로 사용자를 안내하도록 프로그래밍되었다.

11월 5일 선거일 한 달 전부터 챗GPT는 약 100만 건의 응답을 통해 사용자들을 이 투표 사이트로 안내했다.

선거 당일, 챗GPT는 선거 결과에 대한 질문에 AP통신 등 신뢰할 수 있는 언론사를 참조하도록 설정되었다.

오픈AI는 블로그 포스트를 통해 "선거일과 그 다음날 약 200만 건의 챗GPT 응답에 이 메시지가 포함되었다"고 밝혔다.

시장 영향

이번 발표는 AI가 딥페이크와 음모론을 생성해 온라인상에 퍼뜨림으로써 선거운동을 방해할 수 있다는 우려가 커지는 가운데 나왔다.

1월, 뉴햄프셔 유권자들은 조 바이든 대통령의 딥페이크 음성으로 주 예비선거에 투표하지 말라고 촉구하는 로보콜을 받았다.

올해 초 디지털 혐오 대응 센터는 오픈AI와 마이크로소프트의 AI 이미지 생성 도구가 선거 관련 허위정보에 오용될 수 있다는 우려를 제기했다.

8월 말, 오픈AI는 2024년 선거 기간 동안 여론 조작을 위해 챗GPT를 활용한 이란의 은밀한 영향력 작전을 적발해 해체했다.

10월까지 오픈AI는 자사가 발표한 54페이지 분량의 보고서에 따르면 선거 개입을 위해 AI 모델을 오용하려던 20개 이상의 글로벌 작전과 기만 네트워크를 저지했다.

면책조항: 이 콘텐츠는 AI 도구의 도움을 받아 부분적으로 작성되었으며, 벤징가 편집자들의 검토와 발행을 거쳤습니다.