AI 기업 앤트로픽은 자사의 클로드 모델이 일부 코딩 작업에서 인간 엔지니어를 능가했다는 내부 데이터를 공개하며, 세계가 고도화된 인공지능 시스템에 대한 통제력을 상실할 수 있다고 경고했다. 이 회사는 6월 4일 보고서를 통해 클로드가 2026년 5월 자사 시스템에 병합된 코드의 80% 이상을 작성했다고 밝혔다. 이러한 결과를 바탕으로 앤트로픽은 AI가 인간의 개입 없이 스스로 개선되기 시작하기 전에 AI 개발 속도를 늦추기 위한 글로벌 계획이 필요하다고 촉구했다.
앤트로픽의 연구원 마리나 파바로와 잭 클라크는 "AI가 스스로를 구축할 때"라는 제목의 블로그 게시물에서 클로드 코드 모델이 얼마나 빠르게 발전하고 있는지를 보여주는 내부 데이터를 공유했다. 가장 어려운 개방형 작업에서 클로드의 성공률은 6개월 만에 26%에서 76%로 상승했다.
회사는 또한 엔지니어링 팀이 현재 2024년 대비 하루에 약 8배 많은 코드를 출시하고 있다고 밝혔다. 클로드가 800개 이상의 버그를 해결하여 API 오류 유형을 줄인 사례도 언급했는데, 한 엔지니어는 이 작업을 인간이 완료하는 데 4년이 걸렸을 것으로 추정했다.
회사는 실험적 워크플로우에서 클로드의 성능이 급격히 향상되었다고 덧붙였다. 2025년 5월 약 3배 속도 향상에서 2026년 4월에는 약 52배로 증가했다. 앤트로픽은 클로드가 이제 명확하게 정의된 작업에서 숙련된 인간 연구원을 능가한다고 밝혔다.
앤트로픽은 이러한 연구 결과가 더 면밀한 주의를 요하는 시사점을 갖고 있다고 밝혔다. 회사는 클로드가 예상보다 빠르게 AI 개발을 가속화하고 있다고 말했다.
이러한 추세가 계속되고 확대될 경우, 앤트로픽은 인간의 도움 없이 스스로 더 발전된 후속 시스템을 설계하고 구축할 수 있는 시스템으로 이어질 수 있다고 경고했다. 회사는 이 과정을 "재귀적 자기 개선"이라고 설명했다.
앤트로픽은 이러한 발전이 의학, 기술, 경제 등의 분야에 큰 이익을 가져올 수 있음을 인정했다. 그러나 회사는 안전 위험이 증가할 수 있으며 이러한 AI 시스템에 대한 통제력을 상실할 가능성도 높아질 것이라고 경고했다.
회사는 자사 연구소가 언젠가 스스로 개선될 수 있는 시스템을 포함하여 강력한 AI 시스템의 위험을 연구할 것이라고 밝혔다. 또한 안전 연구와 정책이 보조를 맞출 수 있도록 세계가 AI 개발을 늦추거나 잠시 중단할 수 있는 선택권을 가져야 한다고 덧붙였다.
회사는 또한 국가들이 공동 합의와 준수 검증 시스템이 필요할 수 있다고 제안했다. 앤트로픽은 자기 개선형 AI가 확실한 것은 아니며 아직 발생하지 않았지만, 많은 정부가 예상하는 것보다 빨리 도래할 수 있다고 말했다.
앤트로픽은 여전히 비상장 기업이며 어떤 공개 증권거래소에도 주식이 상장되어 있지 않다. 회사가 2026년 5월 말 비공개 기업공개 서류를 제출했지만, 공식 상장일은 정하지 않았다. AI 산업에 대한 투자 기회를 찾는 투자자들은 엔비디아(NVDA), 마이크론(MU), 마이크로소프트(MSFT)와 같은 상장 기업을 고려할 수 있다. 이들 주식에 대한 증권가 평가와 전망은 팁랭크스 주식 비교 센터에서 확인할 수 있다.
