IBM, AI 모델 보안강화 위해 해커원과 버그바운티 프로그램 출시

생성형 AI가 연구 실험 단계에서 기업과 고객이 실제 사용하는 시스템으로 발전하기까지는 불과 몇 년밖에 걸리지 않았다. 하지만 AI 사용이 확대되면서 기업들은 이러한 도구의 안전성과 신뢰성 확보가 필요한 상황이다. 이에 기술 대기업 IBM이 보안 취약점 발견 전문기업 해커원과 협력해 자사의 그래나이트 AI 모델을 대상으로 하는 버그바운티 프로그램을 시작한다.

이 프로그램은 윤리적 해커들이 해커원 플랫폼을 통해 그래나이트 모델을 테스트하고 의도하지 않은 방식으로 작동하도록 유도하는 방식으로 진행된다. 연구자들이 모델을 성공적으로 속이면 AI 안전성, 보안, 거버넌스 전문가로 구성된 IBM 내부 팀이 결과를 분석하고 이를 모델 개선에 활용한다. IBM은 발견된 문제의 중요도에 따라 최대 10만 달러의 보상금을 제공할 예정이다.

또한 이 프로그램은 모든 대규모 언어 모델과 함께 작동하도록 설계된 오픈소스 안전 도구인 그래나이트 가디언으로 시작된다. 목표는 실제 상황에서 모델의 한계를 시험하는 것이다. 발견된 모든 결함은 모델 개선에 도움이 되며 개발자 커뮤니티에 AI 보안에 대한 교훈을 제공한다. 그래나이트는 이미 가디언을 통해 99.97%의 탈옥 시도를 차단하는 등 가장 안전한 오픈소스 모델 중 하나로 평가받고 있다. 그럼에도 IBM은 AI를 더욱 안전하게 만들기 위해 이러한 노력을 지속할 방침이다.

투자의견

월가는 IBM 주식에 대해 지난 3개월간 매수 8건, 보유 5건, 매도 1건의 의견을 제시하며 '매수' 쪽에 무게를 두고 있다. IBM의 주당 목표주가는 294.69달러로, 현재 주가 대비 20.2%의 상승 여력이 있는 것으로 분석된다.