챗GPT 모회사 오픈AI, 생물무기 오용 우려에 안전 감독위원회 설립

챗GPT의 모회사인 오픈AI가 안전과 보안에 초점을 맞춘 독립 이사회 감독위원회를 설립했다고 발표했다. 이는 최근 지속된 보안 프로세스 논란에 대응하기 위한 조치다.

무슨 일이 있었나

오픈AI는 월요일 블로그 포스트를 통해 지난 5월 구성된 안전 및 보안 위원회가 이제 독립 이사회 감독위원회로 기능할 것이라고 밝혔다.

이 위원회는 카네기멜론대학교 컴퓨터과학부 기계학습과 디렉터인 지코 콜터가 이끌게 된다.

다른 위원으로는 오픈AI 이사회 멤버이자 쿼라 공동창업자인 애덤 디안젤로, 전 NSA 국장이자 이사회 멤버인 폴 나카소네, 소니 전 부사장 니콜 셀리그먼 등이 포함됐다.

위원회의 임무는 "오픈AI의 모델 배포 및 개발을 이끄는 안전 및 보안 프로세스를 감독"하는 것이다.

위원회는 오픈AI의 프로세스와 안전장치에 대한 90일 검토를 완료했으며, 이사회에 권고사항을 제시했다.

여기에는 안전과 보안을 위한 독립적 거버넌스 수립, 보안 조치 강화, 오픈AI 업무에 대한 투명성 제고, 외부 기관과의 협력, 회사의 안전 프레임워크 통합 등이 포함된다.

위원회는 또한 모델 출시를 감독하며, 안전 문제가 해결될 때까지 출시를 지연시킬 수 있는 권한도 갖게 된다.

왜 중요한가

오픈AI는 논란과 고위 임원 이탈을 겪었으며, 회사가 안전하게 운영하기에는 너무 빠르게 성장하고 있다는 우려가 제기됐다.

현재 오픈AI는 회사 가치를 1500억 달러 이상으로 평가할 수 있는 자금 조달을 추진 중이다. 스라이브 캐피털이 10억 달러 투자 계획으로 이번 라운드를 주도하고 있으며, 타이거 글로벌도 참여할 것으로 예상된다. 마이크로소프트, 엔비디아, 애플도 투자 논의 중인 것으로 알려졌다.

AI 스타트업은 또한 '추론과 어려운 문제 해결'에 중점을 둔 'o1'이라는 새로운 모델을 출시했다.

이달 초 오픈AI는 o1이 생물무기 제작에 잠재적으로 오용될 수 있다고 인정하며, 화학·생물·방사능·핵(CBRN) 무기 관련 문제에 대해 '중간 위험'으로 평가했다.