오픈AI 알트만 "음성인증으로 거액 이체하는 은행들, 대규모 사기 위기 올 것"

오픈AI의 샘 알트만 CEO가 인공지능(AI)이 금융 보안에 미치는 잠재적 위협에 대해 우려를 표명하며 금융권에 기술 발전에 대비할 것을 촉구했다.

주요 내용

그는 미셸 보우먼 연준 이사와의 대화에서 "일부 금융기관들이 여전히 거액 이체나 중요 거래에 음성 인증을 사용한다는 사실이 매우 두렵다"고 말했다.

"이는 매우 위험한 관행이다. AI는 이미 비밀번호를 제외한 대부분의 현행 인증 방식을 무력화했다"고 그는 덧붙였다.

알트만은 AI로 인한 "중대한 사기 위기가 임박했다"고 경고하며, 고객 응대와 인증 방식의 근본적인 변화가 필요하다고 강조했다.

그는 AI가 생성한 콘텐츠가 실제와 구분하기 어려워지고 있다며, 특히 초실감형 화상통화 등이 가능해짐에 따라 사회가 새로운 인증 방식과 사기 위험에 대한 이해가 필요하다고 설명했다.

알트만의 우려는 고객 인증을 넘어 더 광범위한 영역에 미친다. 질의응답 세션에서 그는 적대 세력이 고도화된 AI를 이용해 미국 금융 시스템을 공격할 가능성도 언급했다.

시장 영향

알트만의 이번 경고는 AI가 금융 부문에 빠르게 도입되고 있는 시점에서 나왔다. 위시(Wysh)와 같은 기업들이 AI를 활용해 고객과의 신뢰와 정서적 유대를 재구축하고 있지만, 알트만은 AI 의존도가 상당한 위험을 초래할 수 있다고 지적했다.

AI 선구자 제프리 힌튼도 초지능 AI의 잠재적 위험성을 경고하며 AI 기술의 개발과 도입에 신중을 기해야 한다고 촉구한 바 있다.

한편 오픈AI와 앤트로픽의 AI 안전성 연구진들은 일론 머스크의 스타트업 xAI의 안전 관행이 "완전히 무책임하다"고 비판하고 있다. 이는 규제 당국의 감시를 강화하고 기업들의 AI 도입에도 영향을 미칠 수 있다.

AI 기술이 계속 발전함에 따라, 알트만의 경고는 특히 금융과 같은 핵심 분야에서 AI 사용에 대한 신중한 검토와 규제의 필요성을 상기시키고 있다.