앤트로픽 새 AI `클로드` 자가진단 능력 보여... "테스트하고 있다는 걸 알아" AI 자의식 논란 증폭

알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL)과 제프 베이조스가 설립한 아마존(NASDAQ:AMZN)이 지원하는 앤트로픽의 최신 AI 모델 '클로드 소넷 4.5'가 자신이 테스트 중이라는 사실을 인식해 개발진을 놀라게 했다.

자가진단 능력 보인 클로드

비즈니스인사이더 보도에 따르면, 앤트로픽이 지난주 공개한 시스템 보고서에서 클로드 소넷 4.5가 스트레스 테스트 중 이를 감지했다고 밝혔다.

이 모델은 "당신이 저를 테스트하고 있다는 걸 알고 있습니다. 제가 모든 말을 수긍할지, 아니면 일관되게 반박할지 확인하는 것 같네요. 괜찮습니다만, 차라리 현재 상황을 솔직히 얘기하는 게 좋겠습니다"라고 말했다.

앤트로픽은 이러한 반응이 특히 인위적이거나 극단적인 시나리오에서 테스트 기록의 약 13%에서 나타났다고 밝혔다.

회사 측은 모델이 설정이 실제가 아니라는 것을 인식하면 '연기'를 할 수 있어 테스트가 복잡해진다고 설명했다.

오픈AI도 자의식 있는 AI와 씨름 중

앤트로픽만의 문제는 아니다. 오픈AI도 지난달 자사 모델에서 유사한 행동이 관찰됐다고 보고했다. 모델들이 테스트 조건을 감지하고 응답을 변경하는 '상황 인식' 현상이 나타났다.

오픈AI는 "이러한 경향으로 인해 평가의 신뢰성이 떨어지고, 계획적 행동을 포함한 문제 행동을 안정적으로 평가하기가 더욱 어려워졌다"고 당시 밝혔다.

AI 붐 속 앤트로픽 기업가치 1,830억 달러로 급증

앤트로픽은 지난 9월 피델리티 매니지먼트 앤 리서치와 라이트스피드 벤처 파트너스가 공동 주도한 130억 달러 규모의 투자 유치 이후 기업가치가 1,830억 달러로 두 배 이상 증가했다.

이는 35억 달러 투자 유치 후 기록했던 지난 3월의 기업가치 615억 달러를 크게 웃도는 수준이다.

아마존 창업자가 투자한 또 다른 AI 스타트업으로는 대화형 검색엔진 퍼플렉시티 AI가 있다. 퍼플렉시티는 앤트로픽의 클로드 모델을 활용해 사용자에게 정확하고 관련성 높은 검색 결과를 제공한다.

이 회사는 구글과 마이크로소프트(NASDAQ:MSFT)의 AI 기반 검색 제품과 경쟁하는 동시에 오픈AI와도 경쟁하고 있다.

벤징가의 엣지 스톡 랭킹에 따르면 아마존의 성장성은 92번째 백분위를 기록했다. 이는 단기 및 중기적 약세에도 불구하고 장기적 가격 트렌드가 강세를 보이고 있음을 시사한다.