트럼프-해리스 대결 앞두고 챗GPT 모회사 오픈AI, 선거 개입 시도 포착... "의미있는 돌파구 없어"

챗GPT의 모회사인 오픈AI가 자사 플랫폼이 전 세계 민주 선거에 개입하려는 악의적 주체들에 의해 오용되고 있다고 밝혔다.

수요일 발표된 54페이지 분량의 보고서에 따르면, 오픈AI는 자사 모델을 악용하려 한 20건 이상의 글로벌 작전과 기만 네트워크를 저지했다. 위협은 AI로 생성된 웹사이트 기사부터 가짜 계정의 소셜 미디어 게시물에 이르기까지 다양했다.

보고서는 또한 선거 관련 AI 사용이 단순한 콘텐츠 생성 요청부터 소셜 미디어 게시물을 분석하고 대응하는 복잡한 다단계 노력에 이르기까지 다양했다고 강조했다.

AI 스타트업은 "위협 행위자들이 계속해서 진화하고 우리 모델을 실험하고 있지만, 이것이 실질적으로 새로운 멀웨어를 만들거나 바이러스성 청중을 구축하는 능력에서 의미 있는 돌파구로 이어졌다는 증거는 보지 못했다"고 밝혔다.

소셜 미디어 콘텐츠의 대부분은 미국과 르완다의 선거와 관련이 있었고, 일부는 인도와 EU의 선거와 관련이 있었다.

이러한 시도에도 불구하고 오픈AI는 선거 관련 작전 중 어느 것도 자사 도구를 사용해 바이러스성 참여를 유도하거나 지속적인 청중을 구축하는 데 성공하지 못했다고 밝혔다.

오픈AI는 또한 중국 기반으로 의심되는 위협 행위자인 '스위트스펙터'가 직원들의 개인 및 회사 이메일 계정을 스피어피싱하려 했으나 실패했다고 전했다.

이번 오픈AI의 보고서는 미국 대선을 한 달 앞두고 나왔다. 최근 로이터/입소스 여론조사에 따르면 카말라 해리스가 도널드 트럼프를 근소하게 앞서고 있다. 해리스는 46%, 트럼프는 43%의 지지율을 보였는데, 이는 트럼프가 이전의 6포인트 격차를 좁힌 것으로 더욱 치열한 경쟁을 반영한다.

올해 초 오픈AI와 마이크로소프트의 AI 이미지 생성 도구가 선거 관련 허위정보를 퍼뜨리는 데 사용된다는 보고가 있었다.

이전에는 러시아, 중국, 이란, 이스라엘과 연관된 네트워크들이 전 세계적인 허위정보 유포를 위해 오픈AI의 AI 도구를 악용한 것으로 밝혀졌다.

2024년 2월에는 GPT-4와 구글의 제미나이 같은 AI 챗봇들이 미국 대선 예비선거에 대한 거짓되고 오해의 소지가 있는 정보를 퍼뜨리고 있다는 사실이 발견됐다.

이에 따라 구글은 AI 챗봇 제미나이가 허위정보의 원천이 되는 것을 방지하기 위해 선제적 조치를 취했다.