오픈AI 수석고문, 퇴사 후 경고 "오픈AI는 물론 어떤 선도 연구소도 AGI 준비 안 돼"

오픈AI의 또 다른 고위 인사가 회사를 떠나면서, 자신의 전 직장은 물론 어떤 인공지능 기업도 인공일반지능(AGI) 개발에 적절히 대비하지 못하고 있다고 경고했다.

무슨 일이 있었나: AGI 준비태세 수석고문으로 재직했던 마일스 브런디지(Miles Brundage)는 목요일 블로그 게시물을 통해 사임을 발표했다. 이는 AI 연구 기업 오픈AI에서 최근 이어지고 있는 고위급 인사 이탈의 최신 사례다.

브런디지는 "오픈AI는 물론 다른 어떤 선도 연구소도 준비가 되어 있지 않으며, 세계 역시 준비되지 않았다"고 밝히며 첨단 AI 개발에 대한 업계의 준비 부족을 강조했다.

브런디지의 퇴사는 최근 오픈AI에서 있었던 여러 주요 인사들의 이탈에 뒤이은 것이다. CTO 미라 무라티(Mira Murati)와 일야 서츠케버(Ilya Sutskever), 얀 라이크(Jan Leike) 등 안전 팀의 핵심 멤버들이 최근 회사를 떠났다.

오픈AI에서 6년간 재직하는 동안 브런디지는 외부 레드팀 프로그램 구축과 시스템 카드 개발 추진 등 회사의 배포 관행을 형성하는 데 중요한 역할을 했다. 그는 AI 정책 연구와 옹호에 초점을 맞춘 비영리 단체를 출범할 계획이다.

이번 퇴사는 오픈AI가 1,570억 달러의 기업 가치로 65억 달러 이상의 자금을 확보하는 등 상당한 투자를 유치하고 있는 가운데 일어났다. 그러나 브런디지는 특히 재앙적 위험을 초래할 수 있는 시스템과 관련해 AI 산업 전반의 안전 및 보안 접근 방식에 대해 우려를 표명했다.

브런디지는 "AI 역량이 매우 빠르게 향상되고 있으며 정책 입안자들이 더 시급히 행동해야 한다고 생각한다"며 AI 산업 전반에 걸친 규제 강화와 안전 조치의 필요성을 강조했다.