캘리포니아 횡단보도 신호등 해킹 사태...머스크·저커버그 AI 음성으로 민주주의 조롱

캘리포니아 주 최소 3개 도시에서 횡단보도 신호등이 해킹되어 테슬라(NASDAQ:TSLA)와 스페이스X의 최고경영자(CEO) 일론 머스크, 메타플랫폼스(NASDAQ:META)의 마크 저커버그의 AI 생성 음성이 흘러나와 화제다.

주요 내용

온라인에 공개된 여러 영상에서 머스크의 목소리를 흉내낸 AI 음성이 친구를 구걸하는 내용을, 저커버그의 목소리를 흉내낸 AI 음성은 '민주주의를 훼손하고 있다'고 자랑하는 내용이 담겼다.

팔로알토시 대변인은 현지 언론에 시내 12개 교차로가 이번 사건의 영향을 받았으며, 수리 작업이 진행되는 동안 음성 기능을 중단했다고 밝혔다. 보행자 신호등 자체는 정상적으로 작동하고 있으며, 해킹은 금요일에 발생한 것으로 추정된다.

레드우드시티도 비슷한 상황에 직면했으며, 부시장은 샌프란시스코 크로니클에 현재 이 문제를 조사 중이라고 밝혔다. 멘로파크의 횡단보도 버튼도 해킹된 것으로 알려졌다.

온라인에 게시된 영상 중 하나에서 AI로 생성된 머스크의 목소리는 "안녕하세요, 일론 머스크입니다. 테슬라 엔지니어링의 본거지 팔로알토에 오신 것을 환영합니다. 돈으로 행복을 살 수 없다고들 하죠. 그래요, 맞는 말이네요. 하나님도 아시죠, 제가 얼마나 시도했는지. 하지만 사이버트럭은 살 수 있죠, 꽤 멋지지 않나요? 그렇죠? 제기랄, 저는 너무 외롭네요"라고 말했다.

다른 영상에서 AI로 생성된 저커버그의 목소리는 "안녕하세요, 저 저커버그입니다. 우리가 함께 만들어온 모든 것이 자랑스럽습니다. 민주주의를 훼손하는 것부터, AI로 우리 조부모의 뇌를 요리하는 것, 트랜스젠더를 위험하게 만드는 것까지. 우리만큼 잘하는 사람은 없죠. 꽤 멋지다고 생각합니다. 저커버그 아웃!"이라고 말했다.

또 다른 녹음에서는 도널드 트럼프 대통령과 AI 머스크의 가상 대화도 포함되어 있었다.

시장 영향

올해 초 스칼렛 요한슨과 다른 유대인 유명인사들이 등장하는 AI 생성 영상이 널리 퍼지면서 딥페이크 기술의 위험성에 대한 우려가 다시 한번 제기됐다. 이에 요한슨은 AI 규제 강화를 촉구했다.

요한슨은 AI 오용의 주요 타깃이 되어왔다. 2023년에는 자신의 이미지를 무단 사용한 광고에 대해 법적 조치를 위협했으며, 2024년에는 오픈AI의 챗GPT 스카이 어시스턴트가 자신의 목소리와 유사하다고 지적했다.

테일러 스위프트와 조 바이든 전 대통령 등 다른 유명인사들도 비슷한 사건을 겪었으며, 지난해에는 이들의 조작된 영상과 변조된 음성이 상당한 주목을 받았다.