中 범죄조직, 챗GPT로 美 부동산 중개인 대상 `돈세탁 사기` 자행..."매우 효율적" 평가

오픈AI의 챗GPT가 중국계 범죄조직이 운영하는 아시아 사기 조직망에서 미국 부동산 중개인들을 속이는 데 사용되고 있는 것으로 드러났다.

챗GPT로 미국 부동산 중개인 사기 행각

올해 초 방콕의 사기 조직에서 구출된 사기범 오킨도는 로이터통신과의 인터뷰에서 자신을 포함한 조직원들이 강제로 챗GPT 무료 버전을 사용해 미국인들을 속여 가짜 암호화폐 투자에 끌어들였다고 밝혔다. 이른바 '돈세탁 사기'로 알려진 이 수법은 피해자의 신뢰를 얻은 뒤 돈을 빼돌리는 방식이다.

오킨도의 증언은 그의 구출에 관여한 반인신매매 단체 HAART 케냐의 관계자에 의해 확인됐다. 그의 진술 내용은 로이터가 인터뷰한 다른 강제 노동자들의 증언과도 일치했다. 오킨도는 미국 부동산 중개인들을 대상으로 사기를 벌였으며, 질로닷컴(NASDAQ:Z) 등의 부동산 웹사이트에서 부유한 투자자로 위장해 피해자들을 유인했다.

구출된 사기범은 또한 매일 최소 2명의 부동산 중개인에게 허위 투자금을 입금하도록 설득하고, 항상 10명의 '고객'과 동시에 연락을 유지하는 것이 그들의 할당 목표였다고 밝혔다.

오킨도는 챗GPT를 활용해 새로운 사기 수법을 고안했으며, 때로는 이전 사기 피해자들조차 추가로 속일 수 있을 정도로 효과적이었다고 전했다. "AI와 함께 일하는 것은 정말 효율적이었다"고 그는 말했다.

AI 사기 위험 증가로 업계 안전장치 강화

이번 사건은 사기 행위에 AI가 악용되는 것에 대한 우려를 더욱 키웠다. 챗GPT의 소유사인 오픈AI는 AI의 사기 관련 오용을 식별하고 차단하기 위해 적극적으로 노력하고 있다고 밝혔다.

이는 AI가 금융 보안에 미치는 잠재적 위협에 대한 업계 리더들의 경고가 이어지는 가운데 발생했다. 오픈AI의 CEO 샘 알트만은 이전에 AI가 현재의 인증 방식을 무력화할 수 있다는 위험성을 경고한 바 있다.

AI는 또한 딥페이크 경제와 같은 다른 사기 활동에도 사용되고 있으며, 사기꾼들이 생성형 AI를 사용해 기업 직원으로 위장하여 브랜드 평판을 훼손하는 사례도 있다.

하지만 기술 기업들은 이러한 사기 행위에 대응하기 위한 조치를 취하고 있다. 예를 들어 구글(NASDAQ:GOOGL)(NASDAQ:GOOG)은 자사의 온디바이스 제미나이 AI 모델을 배포하여 실시간으로 사기성 웹사이트를 감지하고 차단함으로써 보안 능력을 크게 강화했다.