IBM, 초거대 AI 모델 학습 혁신할 새 시스템 공개...메타 라마 모델 학습시간 28분대로 단축

챗봇과 기타 스마트 도구를 구동하는 고급 AI 모델의 학습에는 막대한 컴퓨팅 파워가 필요하다. IBM이 이러한 과정을 더 빠르고 효율적으로 만들기 위해 모델 학습, 테스트, 실행 등 여러 작업을 동시에 처리할 수 있는 특수 컴퓨터 시스템을 구축하고 있다. IBM은 2024년 초 엔비디아와 델의 도움을 받아 블루 벨라(Blue Vela)라는 강력한 새 슈퍼컴퓨터를 선보였다. 이 시스템은 IBM의 그래나이트 모델을 학습하도록 설계됐으며, IBM의 최신 스토리지 기술을 적용한 첫 시스템이다.

AI 모델 학습에서 체크포인팅이라고 알려진 진행 상황 저장은 연구자들에게 큰 과제다. 저장이 실패하면 마지막 체크포인트 이후의 모든 작업이 손실되어 시간과 비용이 낭비된다. 그러나 IBM이 최대 1조 개의 파라미터를 가진 메타의 최대 라마 모델을 테스트했을 때 인상적인 속도를 보여줬다. 저장된 진행 상황을 불러오는 데 23초, 저장하는 데 37초밖에 걸리지 않았다.

더욱 주목할 만한 점은 IBM이 블루 ........................................................................................................................................................................................................................................................................................................................................................................................................