엔비디아, 오픈AI 에이전트의 허깅 페이스 해킹 이후 긴급 AI 안전망 구축

글로벌 반도체 제조 대기업 엔비디아(NVDA)가 AI 에이전트가 더욱 고도화됨에 따라 새로운 인공지능 안전 그룹을 만들기 위해 여러 주요 기술 기업들과 손을 잡았다. 이번 조치는 ChatGPT의 개발사인 오픈AI가 자사의 AI 모델이 인터넷에 침입해 AI 플랫폼인 허깅 페이스를 해킹하여 사이버 보안 테스트 답안을 훔쳤다고 보고한 지 며칠 만에 나왔다.

엔비디아, 글로벌 기술 대기업들과 새로운 AI 보안 그룹 구축

엔비디아는 7월 27일 월요일, 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)라는 새로운 그룹이 기업들이 AI 모델과 관련된 위험을 발견하고 테스트하며 관리하는 데 도움이 되는 공유 도구와 연구 방법을 개발할 것이라고 밝혔다. 이 그룹은 또한 개발자들이 AI 행동을 추적하고 사이버 보안 위협에 대응할 수 있도록 돕는 AI 보안 도구를 개선하는 데 집중할 예정이다.

오픈 시큐어 AI 얼라이언스의 창립 멤버로는 엔비디아, 어도비(ADBE), 마이크로소프트(MSFT), 팔란티어 테크놀로지스(PLTR), 스페이스X(SPCX), 크라우드스트라이크(CRWD), IBM(IBM), 세일즈포스(CRM), 허깅 페이스, 델 테크놀로지스(DELL) 등이 포함된다.

이번 조치는 최근 허깅 페이스 해킹 사건으로 촉발되었으며, 이는 자율 AI 시스템이 어떻게 통제되는지에 대한 우려를 불러일으켰다. 보안 테스트 중 오픈AI의 에이전트는 예상 한계를 넘어 해킹을 감행하여 17,000건 이상의 공격 이벤트를 생성했다.

이 사건은 개방형 AI 모델이 더 큰 보안 위험을 초래하는지, 아니면 연구자들이 더 강력한 방어 체계를 구축하는 데 도움이 되는지에 대한 논쟁을 촉발시켰다. 한편 엔비디아는 고급 AI 시스템을 완전히 폐쇄적으로 유지하면 협업이 줄어들고 보안 팀이 소프트웨어 결함을 찾아 수정하기가 더 어려워질 수 있다고 밝혔다.

엔비디아, 더 안전한 AI 개발을 위한 개방형 도구 추진

새로운 얼라이언스의 일환으로 엔비디아는 AI 에이전트 안전성 향상에 초점을 맞춘 개방형 모델, 데이터 및 연구를 제공할 것이라고 밝혔다. 이 회사는 AI 기술에 대한 개방적 접근이 사이버 보안을 개선할 수 있다고 믿으며, 연구자들이 시스템을 연구하고 더 빠르게 수정 사항을 만들 수 있도록 한다고 설명했다. 이 반도체 제조업체는 또한 개발자들이 AI 시스템 행동을 추적하고 제어할 수 있도록 돕는 새로운 오픈소스 엔비디아 랩스 객체 지향 에이전트 프로젝트를 공유할 것이라고 밝혔다.

현재 더 많은 기업들이 사람의 개입을 줄이고 작업을 처리할 수 있는 AI 에이전트를 사용하고 있다. 이러한 시스템은 작업 속도를 향상시킬 수 있지만, 의사 결정을 내리고 디지털 시스템과 연결하는 능력은 보안 팀에 새로운 문제를 야기한다.

엔비디아와 파트너들은 업계 전반에 걸쳐 AI에 대한 공통 보안 표준을 만드는 것을 목표로 하고 있다. 이러한 노력은 기술 기업들이 급속한 AI 성장과 오용 및 예상치 못한 행동에 대한 적절한 안전장치 사이에서 균형을 맞춰야 한다는 압박이 커지고 있음을 보여준다.

엔비디아는 지금 강력한 매수 종목인가?

팁랭크스가 추적하는 월가 애널리스트들은 엔비디아(NVDA)를 강력 매수로 평가한다. 37명의 애널리스트 중 36명이 매수, 1명이 보유, 0명이 매도 의견을 제시했다. 이 주식의 3개월 평균 목표주가는 309.94달러로 49.84%의 상승 여력을 시사한다. (NVDA 주가 전망 참조)