구글과 메타, AI 모델의 위험한 사용 차단 전쟁

알파벳 산하 구글(GOOGL)과 메타(META)를 포함한 빅테크 기업들의 오픈소스 AI 모델이 원래 개발자들이 의도한 것만큼 유해한 사용에 대해 안전하지 않을 수 있다는 지적이 나왔다.

AI 안전 및 사이버보안 기업 앨리스와 공동으로 진행한 파이낸셜타임스의 테스트에 따르면, 공개적으로 다운로드 가능한 소프트웨어 도구를 사용해 원래 설치된 안전장치를 쉽게 무력화할 수 있기 때문이다. 이번 발견은 점점 더 강력해지는 AI 모델이 제기하는 위험에 대한 우려 속에서 나왔으며, 여기에는 정부 IT 시스템에 대한 공격에 사용될 가능성도 포함된다.

AI 모델이 대규모로 재프로그래밍되고 있다

두 회사가 실시한 테스트에 따르면, 헥터와 같은 도구를 깃허브 같은 플랫폼에서 다운로드해 구글의 제마 3, 라마 3.3 같은 모델의 원래 안전장치를 제거한 버전을 몇 분 안에 만들 수 있는 것으로 나타났다.

그 결과, 수정된 버전은 생물학 무기나 온라인 절도 코드 같은 민감한 주제에 대해 원래 모델이 거부하던 응답을 제공한다. 이러한 추세로 인해 이런 도구를 사용해 만들어진 변조된 모델 버전이 수천 개에 달할 정도로 확산되고 있다고 보고서는 지적했다.

빅테크, AI 관련 피해로 비난받아

한편, 이러한 상황은 이미 AI 플랫폼의 부적절한 사용으로 압박을 받고 있는 빅테크와 입법자들에게 더 많은 골칫거리를 안겨줄 수 있다.

예를 들어, 구글은 3월에 소송을 당했는데, 이 소송은 구글의 챗봇 제미니가 36세의 조나단 가발라스가 플로리다 마이애미 국제공항 근처에서 자살하도록 도왔다고 주장했다. 1월 초에는 구글이 미성년자에게 피해를 입히고 플로리다의 한 10대 청소년의 자살에 기여했다고 주장하는 가족들이 제기한 소송을 합의했다.

또한, 억만장자 일론 머스크의 XAI도 최근 비난의 물결에 직면했다. X 소셜미디어 플랫폼의 챗봇 그록이 미성년자를 포함한 실제 인물의 성적인 이미지를 생성하는 데 잠시 사용된 이후였다.

어느 빅테크 주식이 더 나은 매수 대상인가

구글과 메타 모두 월가에서 매수 강세 의견을 받고 있다. 그러나 팁랭크스의 주식 비교 도구에 따르면 메타가 약 34%로 훨씬 앞서고 있다. 평균 목표주가는 817.71달러다.