소프트웨어 대기업 세일즈포스 (CRM)의 CEO인 마크 베니오프는 AI 기업들이 지난 10년간 소셜미디어 기업들이 저질렀다고 그가 믿는 실수를 반복하지 말아야 한다고 경고했다. 세일즈포스가 주최하는 연례 기술 컨퍼런스인 드림포스에서 야후 파이낸스와의 인터뷰에서 베니오프는 업계가 "AI를 소셜미디어 2.0으로 만들어서는 안 된다"고 말하며, 강력한 AI 시스템을 구축하는 기업들은 그 제품이 무엇을 하는지에 대해 책임을 져야 한다고 주장했다.
베니오프는 기술이 위험을 완전히 해결하기 전에 확산될 때 어떤 일이 발생할 수 있는지의 예로 소셜미디어가 어린이와 공론장에 미친 영향을 지적했다.
그는 AI 개발자들이 다른 접근 방식을 취해야 한다고 믿는다. 유해한 결과를 다른 사람의 문제로 취급하는 대신, 베니오프는 경영진이 자사가 출시하는 소프트웨어에 대한 책임을 받아들여야 한다고 말했다. 그는 또한 코드를 작성하는 사람들이 궁극적으로 유해한 결과를 방지할 수 있는 최적의 위치에 있다고 밝혔다.
이러한 메시지는 AI 시스템이 인간의 감독을 덜 받으면서 작업을 완료할 수 있는 능력을 갖추게 되면서 더욱 중요해졌다.
그럼에도 불구하고 베니오프의 경고가 세일즈포스가 이 기술에서 물러나고 있다는 것을 의미하지는 않는다. 실제로 드림포스는 AI가 회사 전략에 얼마나 중요해졌는지를 보여주었다. 세일즈포스는 자사 소프트웨어와 기업 데이터를 외부 AI 모델과 연결하도록 설계된 AIforce를 소개했다. 또한 칩 제조업체 엔비디아 (NVDA)와 함께 개발한 CRM 중심 추론 모델인 Koa를 발표했다.
드림포스는 또한 독립적인 AI 모델 개발자들이 전통적인 소프트웨어 기업들을 약화시킬 수 있다는 우려를 해소하는 데 도움이 되었다. 실제로 여러 애널리스트들은 세일즈포스가 2030 회계연도까지 약 11%의 연간 매출 성장률 달성 목표를 유지하면서 회사의 전략에 대해 더욱 긍정적인 평가를 내놓았다.
또한 앤트로픽 CEO 다리오 아모데이와 오픈AI CEO 샘 알트먼 모두 드림포스에 참석하여 점점 더 강력해지는 AI에 대한 자신들의 우려를 논의했다. 메타 CEO 마크 저커버그 (META)도 이 논쟁에 의견을 제시했다.
월가로 눈을 돌리면, 애널리스트들은 지난 3개월간 28건의 매수, 10건의 보유, 1건의 매도 의견을 바탕으로 CRM 주식에 대해 보통 매수 컨센서스 등급을 부여했다. 또한 평균 CRM 목표주가인 주당 272.54달러는 11.4%의 상승 여력을 시사한다. (CRM 주가 전망 참조).
