AI 위험이 일자리와 시장 강타할 수 있다며 앤트로픽 CEO "인류는 깨어나야"

앤트로픽의 최고경영자 다리오 아모데이는 빠른 AI 발전에 따른 위험에 대해 인류가 경각심을 가져야 한다고 경고했다. 이번 주 발표한 긴 에세이에서 아모데이는 AI가 규제, 일자리, 안전 계획이 따라잡을 수 있는 속도보다 빠르게 발전할 수 있다고 경고했다. 그는 AI가 곧 많은 분야에서 최고 과학자, 리더, 엔지니어보다 더 뛰어난 능력을 갖출 수 있으며, 이러한 수준의 능력이 불과 몇 년 내에 도래할 수 있다고 밝혔다. 아모데이는 "인류는 거의 상상할 수 없는 힘을 곧 손에 쥐게 될 것"이라며 현재 시스템이 이를 관리할 준비가 되어 있지 않을 수 있다고 덧붙였다.

투자자들에게 이 경고가 중요한 이유는 AI 성장이 이제 대형 상장 기업 및 광범위한 시장 추세와 밀접하게 연결되어 있기 때문이다. AI는 여전히 기술 지출의 가장 강력한 장기 동력 중 하나로 남아 있다.

아모데이는 그가 강력한 AI라고 부르는 것에 초점을 맞췄는데, 이는 심각한 피해에 대한 장벽을 급격히 낮출 수 있다. 그는 AI가 한 개인이 한때 훈련된 전문가에게만 제한되었던 도구를 만들 수 있게 할 수 있다고 경고하며, 단독 행위자가 박사급 과학자와 동등한 기술을 얻을 수 있다고 썼다. 그 결과 무기, 사이버 범죄 또는 대규모 피해와 관련된 위험이 증가할 수 있다. 그는 또한 AI가 통제 불능 상태가 되거나, 권위주의적 통제를 강화하거나, 악의적 행위자가 대규모로 활동하도록 도울 수 있다고 경고했으며, 이는 글로벌 안정성에 압력을 가할 수 있다.

정책 지연 속 시장은 전진

그러나 아모데이는 안전 우려와 비즈니스 압력 사이의 긴장이 커지고 있다고 지적하며, 정부가 이제 통제보다는 속도와 우위에 더 집중하고 있다고 말했다. 그는 "이러한 동요는 불행한 일"이라며 AI 위험이 2023년보다 2026년에 더 가까워질 수 있다고 언급했다. 이러한 견해는 주 차원의 AI 규제를 제한하고 더 빠른 AI 개발을 촉진하는 도널드 트럼프 대통령의 행정명령을 포함한 최근 미국 정책 움직임과 대조를 이룬다.

아모데이는 또한 중국에 첨단 AI 칩을 판매하려는 계획을 비판하며, 이를 적대 국가에 핵무기를 판매하는 것에 비유했다. 이러한 발언은 AI 부문 내부의 깊은 분열을 강조한다. 앤트로픽은 ChatGPT의 창시자인 오픈AI와 직접 경쟁하고 있으며, 아모데이는 안전 제한을 둘러싼 샘 알트먼과의 충돌 이후 오픈AI를 떠났다. 현재 앤트로픽은 회사 가치를 약 3,500억 달러로 평가할 수 있는 250억 달러 규모의 자금 조달 라운드를 협의 중이다.

한편 주요 칩 및 클라우드 기업들은 AI 확장의 중심에 남아 있다. 엔비디아(NVDA)와 같은 기업은 대형 AI 모델을 구동하는 하드웨어를 공급하고, 마이크로소프트(MSFT)는 산업 전반에 걸쳐 AI 사용을 확장하는 클라우드 시스템을 제공한다. 동시에 아모데이는 AI가 일자리 손실을 초래하고 부를 집중시켜 실리콘밸리에 더 많은 권력을 부여할 수 있다고 경고했다. 그는 "이것이 함정"이라며 보상이 클 때 자제가 어렵다고 언급했다. 투자자들에게 시사점은 균형 잡혀 있지만 명확하다. AI 성장은 여전히 강력하지만, 안전과 정책 논쟁이 다시 이야기의 중심으로 돌아오고 있다.

우리는 TipRanks의 비교 도구를 사용하여 ChatGPT, Grok, Claude와 유사한 챗봇을 사용하는 주목할 만한 상장 기업들을 비교했다. 이는 각 주식과 AI 산업 전체에 대한 더 넓은 관점을 얻을 수 있는 훌륭한 도구다.