기업들이 투자 수익률에 집중하면서 미국 기업들의 AI 지출 축소

미국 기업들이 AI 예산 관리에 나서기 시작했다. TIAA, 카바나(CVNA), 프린시펄 파이낸셜 그룹(PFG) 등의 기업들은 직원들의 기술 사용을 저해하지 않으면서도 증가하는 AI 비용을 통제하기 위해 토큰 한도나 지출 기대치를 설정하고 있다.

이러한 변화는 기업 AI 도입의 새로운 단계를 나타낸다. 많은 기업들이 초기에는 직원들에게 AI 도구를 자유롭게 실험할 수 있도록 했다. 이제 기술 책임자들은 얼마나 많은 AI 사용이 실제로 생산적인지, 그리고 언제 높은 지출이 단순히 낭비가 되는지를 판단하려 하고 있다.

토큰은 AI 모델이 처리하는 정보 단위이며, 직원들이 더 많이 사용할수록 기업은 더 많은 비용을 지불하게 된다. 문제는 소프트웨어 엔지니어, 애널리스트, 마케터, 재무 직원이 얼마나 많은 토큰을 필요로 해야 하는지에 대한 명확한 기준이 없다는 것이다.

TIAA의 최고운영책임자 사스트리 두르바술라는 금융서비스 회사가 각 부서의 AI 사용 방식을 연구하고 각 기능별로 초기 토큰 한도를 설정했다고 밝혔다. 직원들은 더 높은 한도를 요청할 수 있지만, 회사는 추가 사용이 가치 있는 작업을 생산하는지 검토한다.

두르바술라는 일부 리서치 애널리스트들이 단순히 "토큰을 소진하고 있었다"고 말했다. 이러한 경우 TIAA는 더 나은 프롬프트 엔지니어링에 집중하고 직원들을 AI를 더 효율적으로 사용하도록 설계된 사전 구축 프롬프트로 안내하고 있다.

카바나는 엄격한 AI 한도 회피

카바나는 다른 접근 방식을 취하고 있다. 중고차 판매업체인 이 회사는 직원들에게 엄격한 한도 대신 월간 AI 지출 기대치를 제공하고, 사용량이 목표와 어떻게 비교되는지 보여주는 주간 업데이트를 제공한다.

카바나의 엔지니어링 수석 부사장 알렉스 데브카르는 엄격한 상한선이 직원들이 높은 수익을 낼 수 있는 AI 프로젝트를 추진하는 것을 막을 수 있다고 말했다.

"우리의 기대치가 불완전하다면, 높은 투자수익률을 가지고 우리 비즈니스를 강력하게 변화시킬 수 있는 것들을 차단하는 것"이라고 데브카르는 말했다.

지출이 회사의 예상 수준에 근접하면, 카바나는 그것이 낭비적인 사용을 반영하는지 아니면 확대할 가치가 있는 가치 있는 응용을 반영하는지 판단하기 위해 활동을 검토한다.

프린시펄 파이낸셜은 중간 지점을 선택했다. 이 회사는 직원들에게 동일한 엄격한 토큰 한도를 사용하지만 추가 용량을 요청하기 쉽게 만들었다. 최고정보책임자 캐시 케이는 프린시펄이 초기에 한도를 너무 낮게 설정하여 일부 직원들이 AI 사용을 배급하게 되었다고 말했다. 회사는 나중에 상한선을 높였다.

AI 지출은 투자수익률로 이동 중

기업들은 여전히 직원들이 AI를 사용하기를 원하지만, 더 높은 토큰 사용이 비용을 정당화할 만큼 충분한 생산성이나 재무적 가치로 이어지는지 측정하기 시작하고 있다. 이는 AI 제공업체들이 고객이 더 적은 토큰으로 더 많은 작업을 수행할 수 있도록 돕는 더 저렴한 모델과 더 효율적인 추론을 제공하도록 더 많은 압력을 가할 수 있다.

이러한 발전은 기업의 AI 수요가 약화되고 있다는 것을 보여주지는 않는다. 그러나 고객들이 기술에 대한 지출 방식에 대해 더 규율적으로 변하고 있음을 시사한다. 더 큰 질문은 더 엄격한 통제가 결국 AI 사용 증가를 늦출 것인지, 아니면 기업들이 실험에서 비용과 수익 측정으로 이동함에 따라 새로운 기술의 정상적인 진화를 나타내는 것인지 여부다.