오픈AI CEO "음성 인증, 더는 보안 수단 못돼...AI 사기 위험 경고"

테크 업계 최고 전문가로부터 금융업계가 경각심을 일깨우는 경고를 받았다. 지난주 워싱턴에서 열린 연방준비제도(Fed) 컨퍼런스에서 샘 알트만 오픈AI CEO는 단호하게 경고했다. AI 기술로 인해 누군가의 목소리를 모사하는 것이 매우 쉬워졌으며, 이는 수십억 달러의 자산과 소비자 신뢰를 위험에 빠뜨릴 수 있다는 것이다.

알트만은 "아직도 일부 금융기관에서 음성 인증을 사용하고 있다는 것이 놀랍다"며 "이는 매우 위험한 일이다. AI는 이미 그런 보안체계를 완전히 무력화했다"고 지적했다. 즉, 은행이 음성 인증을 보안 수단으로 여긴다면 이제는 새로운 보안 체계를 도입해야 한다는 의미다.

음성 인증의 부상과 몰락

음성 인증은 새로운 기술이 아니다. 10여 년 전, 부유층과 보안에 민감한 고객들은 계좌 접근을 위해 특정 문구를 읽어야 하는 음성 기반 인증을 선호했다. 수년간 이 방식은 미래지향적이고 거의 뚫을 수 없는 것처럼 보였다. 하지만 AI 혁명으로 상황이 완전히 바뀌었다.

오늘날 AI 음성 복제 기술은 말투, 억양, 심지어 감정적 톤까지도 놀라울 정도로 정확하게 모방할 수 있다. 결과적으로 범죄자들은 이제 몇 초 분량의 음성 샘플과 적절한 도구만 있으면 음성 인증을 우회할 수 있게 됐다. 알트만의 메시지는 분명하다. 한때 최첨단 보안으로 여겨졌던 것이 이제는 명백한 취약점이 됐다는 것이다.

AI 사기 위험 고조에 규제당국 해법 모색

규제당국도 이 문제의 시급성을 인식하고 있다. 미셸 보우먼 연준 감독 부의장은 알트만의 우려에 공감을 표하며 기술 업계와 금융 감독기관 간의 협력 가능성을 제시했다. 보우먼은 "이는 우리가 협력할 수 있는 분야가 될 수 있다"며 사기꾼들을 앞서가기 위해 공공과 민간 부문의 협력이 필요할 수 있다고 시사했다.

도전 과제는 만만치 않다. 알트만에 따르면 AI가 생성한 음성(그리고 곧 딥페이크 영상)이 "현실과 구분할 수 없게" 되면서, 은행들은 생체인식, 행동 분석, 다중인증 등을 결합한 새로운 인증 방식으로 전환해야 한다. 위험은 크고, 대응 시간은 촉박하다.

시장 영향

구식 보안 조치에 의존하는 은행들과 그들의 고객들은 큰 위험에 노출되어 있다. AI의 급속한 발전으로 사기꾼들은 강력한 새로운 도구를 손에 넣었고, 금융업계는 이에 대응하기 위해 혁신해야 한다.