앤트로픽 AI, 2,000개 결함 발견...마이크로소프트와 팔로 알토 네트웍스 대응 경쟁

앤트로픽의 최신 AI 작업이 사이버 보안과 경제 전반에 파급 효과를 일으키고 있다. 새로운 도구들은 소프트웨어 위험이 얼마나 빠르게 확대될 수 있는지, 그리고 AI 에이전트가 실제 거래를 어떻게 형성할 수 있는지를 보여주고 있다.

소프트웨어 수정 급증

우선, 앤트로픽의 클로드 미토스 프리뷰 모델이 소프트웨어 결함을 얼마나 빠르게 찾아낼 수 있는지로 주목받고 있다. 회사는 이 모델이 단 7주 만에 운영체제와 웹 브라우저의 오래된 문제를 포함해 주요 시스템 전반에서 2,000개 이상의 이전에 알려지지 않은 취약점을 발견했다고 밝혔다.

이에 따라 대형 기술 기업들이 이미 대응에 나서고 있다. 마이크로소프트(MSFT)는 미토스를 보안 프로세스에 통합할 것이라고 밝혔으며, 최근 패치 화요일 업데이트에서 기록적인 수준인 167개의 문제를 수정했다. 모질라 역시 파이어폭스 150 릴리스에서 이 모델의 도움으로 발견된 271개의 취약점을 해결했다고 밝혔다.

동시에 발견 속도가 우려를 낳고 있다. 한 전문가는 "AI가 이제 기업들이 수정할 수 있는 것보다 훨씬 빠르게 결함을 찾아내고 있다"고 지적했으며, 이는 위험 탐지와 대응 사이의 격차가 커지고 있음을 보여준다.

이제 정부와 은행들도 개입하고 있다. 스콧 베센트 재무장관과 제롬 파월 연방준비제도 의장을 포함한 미국 관리들은 은행들에 자체 시스템에서 이 도구를 테스트할 것을 촉구했다. 동시에 유럽과 인도의 규제 당국도 잠재적 위험을 검토하고 있다. 도이체방크 최고경영자는 "모두가 미토스에 접근하려고 노력하고 있다"고 말했으며, 이는 수요가 얼마나 빠르게 증가하고 있는지를 보여준다.

그러나 이 모델의 힘은 양날의 검이다. 팔로알토 네트웍스(PANW)는 유사한 도구가 해커들이 "업계가 접한 적 없는 자율 공격 에이전트를 만들 수 있게 할 것"이라고 경고했다. 이러한 위험으로 인해 앤트로픽은 현재 접근을 제한하고 오픈소스 보안 노력을 지원하기 위해 최대 1억 달러의 사용 크레딧을 제공하기로 약속했다.

AI 에이전트가 시장 결과를 형성하기 시작

한편, 앤트로픽은 AI가 경제 환경에서 어떻게 작동할 수 있는지도 테스트하고 있다. 최근 내부 실험에서 회사는 69개의 AI 에이전트를 배치해 간단한 온라인 시장에서 상품을 사고팔게 했다. 이들 에이전트는 인간의 개입 없이 목록 작성, 제안, 거래를 처리했다.

총 186건의 거래가 4,000달러를 약간 넘는 금액으로 완료됐다. 그러나 핵심 발견은 거래량이 아니라 모델 성능에 따른 결과 차이였다. 앤트로픽의 더 발전된 모델로 구동된 에이전트는 판매 시 더 높은 가격을 받고 구매 시 더 적게 지불했으며, 이는 더 작은 모델을 사용한 에이전트와 비교했을 때 나타난 결과다.

그럼에도 사용자들은 이러한 격차를 인지하지 못했다. 모든 거래에서 공정성 평가가 거의 동일했으며, 이는 약한 에이전트가 사용자에게 명확한 신호 없이 더 나쁜 결과를 초래할 수 있음을 시사한다. 앤트로픽은 이러한 격차가 실제 시장에 나타날 경우 "손해를 보는 쪽 사람들이 자신이 더 나쁜 상황에 있다는 것을 깨닫지 못할 수 있다"고 지적했다.

앞으로 증권가는 이러한 유형의 활동이 증가할 것으로 예상한다. 맥킨지는 AI 주도 상거래가 2030년까지 전 세계 소매 지출에서 3조 달러에서 5조 달러를 이동시킬 수 있다고 추정한다. 포레스터 역시 올해 말까지 기업 판매자의 20%가 AI 주도 협상에 직면할 것으로 예상한다.

팁랭크스 비교 도구를 사용해 앤트로픽의 클로드와 오픈AI의 챗GPT와 같은 챗봇을 사용하는 주요 기업들을 비교했다. 비교 도구는 투자자들이 각 주식과 업계 전반에 대한 더 넓은 전망을 얻는 데 도움을 준다.