AI 발전 속도 가속화...안전 대책은 뒤처져

영국 AI 보안 연구소의 새로운 연구에 따르면 AI 역량이 빠른 속도로 향상되고 있다. 데이터에 따르면 특정 기술 작업에서 AI 성능이 8개월마다 두 배로 증가하고 있으며, 이는 안전 시스템이 구축되거나 테스트되는 속도보다 훨씬 빠르다.

이에 따라 전문가들은 AI 시스템이 더 복잡한 역할을 맡게 되면서 정부와 기업이 통제력을 유지하는 데 어려움을 겪을 수 있다고 경고한다. 영국 첨단연구발명청의 프로그램 디렉터인 데이비드 달림플은 AI가 중요한 시스템에 광범위하게 사용되기 전에 사회가 강력한 안전장치를 준비할 충분한 시간이 없을 수 있다고 말했다.

특히 최근 테스트 결과 AI 모델이 이제 견습생 수준의 사이버 보안 작업을 약 50%의 확률로 완료할 수 있는 것으로 나타났다. 이는 2023년 말 9% 미만에서 급격히 증가한 수치다. 또한 연구진은 일반적으로 인간이 숙달하는 데 10년 이상 걸리는 전문가 수준의 사이버 작업을 완료할 수 있는 최초의 AI 시스템을 테스트했다.

경제적 압박이 배포 속도를 가속화할 수 있어

동시에 경제적 인센티브로 인해 기업들이 안전 통제 장치가 완전히 준비되기 전에 고급 AI 시스템을 출시하도록 압박받을 수 있다. 달림플은 5년 내에 기계가 인간보다 더 빠르고 저렴하게 가장 가치 있는 작업을 수행할 수 있을 것으로 예상한다.

앞으로 그는 2026년 말까지 AI 시스템이 하루 분량의 연구 개발 작업을 자동화할 수 있을 것으로 믿고 있다. 그 결과 AI는 규제 당국이 쉽게 따라갈 수 없는 속도로 스스로를 개선하기 시작할 수 있다. 이는 진전이 가속화되는 동안 감독은 따라잡기 위해 고군분투하는 피드백 루프를 만든다.

한편 영국 AI 보안 연구소는 AI 시스템이 스스로를 복제할 수 있는 능력도 테스트했다. 성공률은 2년 동안 5% 미만에서 60% 이상으로 상승했다. 이러한 시스템이 실제 환경에서 성공할 가능성은 여전히 낮지만, 개선 속도는 연구자들 사이에서 우려를 불러일으켰다.

전반적으로 보고서는 안전 도구가 개선되고 있지만 테스트된 모든 AI 모델이 여전히 취약점을 보였다고 지적한다. 일부 방어 시스템은 이제 돌파하는 데 더 오래 걸리지만, 완전히 안전한 시스템은 없었다.

투자자들에게 메시지는 명확하다. AI는 통제 장치가 구축되는 것보다 빠른 속도로 더 강력해지고 있다. 따라서 주요 위험은 기술적인 것뿐만 아니라 경제적인 것이기도 하다. 경쟁과 비용 압박이 안전 계획이 현실적으로 지원할 수 있는 것보다 더 빠르게 도입을 추진할 수 있기 때문이다.

우리는 팁랭크스의 비교 도구를 사용하여 AI 혁명에 막대한 투자를 하고 있는 주목할 만한 상장 기업들을 식별했다. 목록에는 엔비디아(NVDA), 알파벳(GOOGL), 아마존(AMZN)과 같은 주요 기업들이 포함되어 있다.