타코벨, AI 주문시스템서 물컵 1만8000개 주문사고...운영방식 재검토

타코벨이 수백만 건의 주문을 성공적으로 처리했음에도 바이럴 주문 실수가 잇따르자 드라이브스루에서의 AI 활용 방식을 재검토하고 있다.
바이럴 주문 실수로 AI 주문시스템 재검토 착수
타코벨은 2023년부터 미국 내 500개 이상의 드라이브스루 매장에 음성 AI 시스템을 도입해 주문 오류를 줄이고 서비스 속도를 높이고자 했다. 하지만 AI가 반복적으로 프롬프트를 되풀이하거나 물컵 1만8000개와 같은 장난성 주문을 수락하는 모습이 담긴 고객 영상이 퍼지면서 재검토가 불가피해졌다고 경영진은 밝혔다.
타코벨의 데인 매슈스 디지털기술책임자(CTO)는 월스트리트저널과의 인터뷰에서 "모든 이들과 마찬가지로 때로는 실망스럽지만, 때로는 정말 놀라운 성과를 보여준다"며 "솔직히 말해 많이 배우고 있다"고 말했다. 그는 "음성 AI를 언제 사용하고 언제 모니터링하거나 개입해야 하는지에 대해 팀을 지도할 것"이라고 덧붙였다.
타코벨, 인간-AI 하이브리드 접근방식 채택
매슈스는 타코벨이 각 매장별로 맞춤형 운.............................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................