오픈AI, 미 대선 개입 이란 조직의 챗GPT 계정 차단... "의미있는 영향력 행사 실패"

오픈AI가 챗GPT를 활용한 이란의 은밀한 영향력 행사 시도를 적발해 무력화했다. 이는 지난 5월 이후 AI 모델의 적대적 사용을 공개한 두 번째 사례다.

마이크로소프트가 지원하는 오픈AI에 따르면, '스톰-2035'로 명명된 이 작전은 2024년 선거 기간 동안 여론을 조작하기 위해 챗GPT 계정을 이용해 콘텐츠를 생성하고 있었다. 관련 계정들은 오픈AI 서비스 이용이 금지됐다.

이 작전은 미국 정치, 글로벌 이슈, 미 대선 등 다양한 주제에 대한 장문의 기사와 짧은 소셜미디어 댓글을 생성했다. 이 콘텐츠들은 소셜미디어와 뉴스 매체를 가장한 웹사이트를 통해 공유됐다.

그러나 이 작전의 노력에도 불구하고 의미 있는 수준의 청중 참여를 이끌어내지는 못했다. 대부분의 소셜미디어 게시물은 최소한의 상호작용만 있었고, 웹 기사들도 널리 공유되지 않았다고 이 AI 스타트업은 밝혔다. 오픈AI의 조사는 마이크로소프트가 제공한 정보의 도움을 받았다.

오픈AI는 "이 작전은 주로 가자 지구 분쟁, 올림픽 경기에서의 이스라엘의 존재감, 미국 대선 등 여러 주제에 대한 콘텐츠를 생성했다"고 설명했다.

오픈AI는 이러한 활동을 차단하는 데 도움을 주기 위해 정부, 선거운동 관계자, 업계 이해관계자들과 위협 정보를 공유했다.

이번 사건은 AI 도구를 사용한 허위정보 캠페인이라는 더 큰 추세의 일부다. 지난 5월 오픈AI는 러시아, 중국, 이란, 이스라엘과 연관된 네트워크들이 전 세계적으로 허위정보를 퍼뜨리기 위해 자사의 AI 모델을 악용하고 있다고 밝힌 바 있다.

당시 오픈AI는 5개의 은밀한 영향력 행사 작전이 오도하는 텍스트와 이미지를 생성하기 위해 자사의 AI 모델을 사용했다고 공개했다.

6월에는 미중 간 긴장이 고조되고 중국의 첨단 AI 기술 접근을 제한하라는 미국 정부의 압박이 커지는 가운데 오픈AI가 중국에서의 도구 접근을 제한할 계획이라고 발표했다. 이러한 제한에도 불구하고 중국의 개발자들은 가상사설망(VPN)과 다른 방법을 통해 오픈AI의 도구를 계속 사용해왔다.

도널드 트럼프 대선 캠프에 대한 사이버 공격 이후 선거 보안에 대한 우려가 커졌다. 전직 백악관 관리들은 누군가가 2016년의 전략을 다시 사용하고 있을 수 있다고 시사하며 잠재적인 향후 사이버 공격 가능성에 대해 경고했다.

목요일, 알파벳의 구글은 이란 혁명수비대와 연계된 해커들이 조 바이든 대통령과 도널드 트럼프 전 대통령의 대선 캠프 관계자들의 개인 이메일 계정을 표적으로 삼았다고 확인했다.

5월부터 시작된 이 공격들은 현직 및 전직 정부 관리들과 선거 캠프 관계자들을 겨냥했다.