IBM, 초고속 AI 기업용 서비스 위해 그록과 파트너십 체결

IBM(NYSE:IBM)이 기업용 에이전트 AI 도입 가속화를 위해 그록(Groq)과 파트너십을 체결했다.

이번 제휴를 통해 IBM의 왓슨엑스 오케스트레이트(watsonx Orchestrate)와 그록의 고성능 추론 플랫폼인 그록클라우드(GroqCloud)가 통합돼 규제 산업과 상업 부문에서 더 빠르고 비용 효율적인 AI 기능을 제공하게 된다.

협력의 일환으로 IBM과 그록은 그록의 언어처리장치(LPU) 아키텍처를 왓슨엑스 오케스트레이트와 결합하고, 레드햇의 오픈소스 vLLM 기술을 개선해 IBM 그래나이트 모델을 지원할 예정이다.

이번 통합은 고객사들에게 실제 애플리케이션에서 AI 에이전트를 구축할 수 있는 확장 가능한 인프라를 제공하는 것을 목표로 한다.

많은 기업들이 비용과 지연 시간 문제로 AI 시범 프로젝트를 실제 운영으로 전환하는 데 어려움을 겪고 있다. 자체 LPU를 탑재한 그록클라우드는 기존 GPU 시스템보다 5배 이상 빠른 추론 속도를 제공하며, 전 세계적으로 워크로드가 확장되어도 낮은 지연 시간을 유지한다.

이 시스템은 의료 분야와 같은 복잡한 워크플로우를 지원하며, IBM의 AI 에이전트는 대량의 데이터를 처리하고 정확한 실시간 응답을 제공할 수 있다.

IBM 고객사들은 또한 그록이 제공하는 시스템을 인사, 소매, 금융 서비스 분야에서 프로세스 자동화와 생산성 향상을 위해 활용하고 있다. 양사는 그록의 추론 성능과 IBM의 오케스트레이션 도구를 결합해 기업 고객을 위한 AI 구축을 더 빠르고 안정적으로 만드는 것을 목표로 하고 있다.

IBM의 소프트웨어 수석 부사장 겸 최고상업책임자인 롭 토마스는 "많은 대기업들이 AI 추론을 실험할 때는 다양한 선택지가 있지만, 실제 운영 단계로 가려면 복잡한 워크플로우를 성공적으로 구축해 높은 품질의 경험을 보장해야 한다"고 말했다.

이번 발표는 IBM이 오라클 플랫폼에 3개의 새로운 AI 에이전트를 출시한다는 소식에 이은 것으로, 생태계 전반에 걸친 자동화와 상호운용성을 강화하려는 IBM의 광범위한 노력을 반영한다. 왓슨엑스 오케스트레이트를 통한 그록클라우드 접근은 즉시 이용 가능하며, 글로벌 기업들의 안전하고 규정을 준수하는 AI 구축을 지원한다.