IBM, 메모리 사용량 70% 줄인 새로운 AI 모델 출시

기술 대기업 IBM (IBM)이 최근 그래나이트 4.0을 출시했다. 이는 기존 시스템보다 더 빠르고 저렴하며 안전하도록 설계된 새로운 오픈소스 AI 모델 세트다. 수천억 개 또는 수조 개의 매개변수를 가진 극도로 큰 모델 구축에 집중하는 다른 기술 회사들과 달리, IBM은 다른 접근법을 취하고 있다. 실제로 IBM은 강력한 성능을 유지하면서도 메모리 사용량을 70% 이상 줄이는 하이브리드 아키텍처를 사용해 크기보다 효율성을 우선시하고 있다.
구체적으로 그래나이트 4.0은 트랜스포머 레이어와 새로운 유형의 AI 시퀀스 모델인 맘바-2를 결합한다. 기존 트랜스포머는 강력하지만 긴 문서를 처리하거나 많은 사용자를 동시에 처리할 때 느리고 비용이 많이 든다. 반면 맘바-2는 제곱적이 아닌 선형적으로 확장되어 정보를 더 효율적으로 처리하므로 메모리 요구량을 크게 줄이는 데 도움이 된다. 그 결과 IBM은 실용적으로 실행할 수 있으면서도 우수한 성능을 발휘하는 모델을 만들어냈다.
또한 그래나이트 ............................................................................................................................................................................................................................................................................................................................................................................................................................................................................