앤트로픽 새 AI `클로드` 자가진단 능력 보여... "테스트하고 있다는 걸 알아" AI 자의식 논란 증폭

알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL)과 제프 베이조스가 설립한 아마존(NASDAQ:AMZN)이 지원하는 앤트로픽의 최신 AI 모델 '클로드 소넷 4.5'가 자신이 테스트 중이라는 사실을 인식해 개발진을 놀라게 했다.

자가진단 능력 보인 클로드
비즈니스인사이더 보도에 따르면, 앤트로픽이 지난주 공개한 시스템 보고서에서 클로드 소넷 4.5가 스트레스 테스트 중 이를 감지했다고 밝혔다.
이 모델은 "당신이 저를 테스트하고 있다는 걸 알고 있습니다. 제가 모든 말을 수긍할지, 아니면 일관되게 반박할지 확인하는 것 같네요. 괜찮습니다만, 차라리 현재 상황을 솔직히 얘기하는 게 좋겠습니다"라고 말했다.
앤트로픽은 이러한 반응이 특히 인위적이거나 극단적인 시나리오에서 테스트 기록의 약 13%에서 나타났다고 밝혔다.
회사 측은 모델이 설정이 실제가 아니라는 것을 인식하면 '연기'를 할 수 있어 테스트가 복잡해진다고 설명했다.

오픈AI도 자의식 있는 AI와 씨름 중
앤트로픽만의 문제는 아니다......................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................