구글과 메타, AI 모델의 위험한 사용 사례와 싸움 벌여

알파벳(GOOGL)의 구글과 메타(META)를 포함한 기술 기업들의 오픈소스 AI 모델이 원래 개발자들이 의도한 것만큼 유해한 사용에 대해 안전하지 않을 수 있다.

이는 AI 안전 및 사이버보안 기업 앨리스와 협력해 파이낸셜타임스가 실시한 테스트에 따르면, 공개적으로 다운로드 가능한 소프트웨어 도구를 사용해 원래 설치된 보안장치를 쉽게 무력화할 수 있기 때문이다. 이번 발견은 정부 IT 시스템 공격에 악용될 가능성을 포함해 점점 더 강력해지는 AI 모델이 제기하는 위험에 대한 우려가 커지는 가운데 나왔다.