메타, 고위험 AI 시스템 개발 중단 가능성 시사..."심각한 위험 확인 시 중단"

마크 저커버그가 이끄는 메타 플랫폼스(나스닥: META)가 화요일 특정 인공지능(AI) 시스템 개발을 중단할 수 있다고 시사했다. 이는 해당 시스템들이 너무 위험하다고 판단될 경우다.

주요 내용
'프론티어 AI 프레임워크'라는 이름의 문서에서 메타는 출시하기에 너무 위험하다고 판단되는 AI 시스템을 '고위험'과 '심각한 위험' 두 가지로 분류했다. 이러한 시스템들은 잠재적으로 사이버 보안, 화학 및 생물학적 공격에 사용될 수 있다.
두 분류의 차이점은 잠재적 결과의 심각성에 있다. '심각한 위험' 시스템은 제안된 배치 상황에서 위험을 완화할 수 없는 수준의 위협을 제기한다.
이 문서는 또한 가능한 공격의 예시를 나열했다. 여기에는 '모범 사례로 보호된 기업 규모 환경의 자동화된 엔드투엔드 침해'와 '고위험 생물학 무기의 확산' 등이 포함된다. 이 목록이 모든 경우를 망라하진 않지만, 이 기술 거인이 가장 시급하고 현실성 있다고 판단하는 시나리오들을 담고 있다.
메타의 위험 분류 접근법은 실증..........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................