AI 에이전트가 기업 해킹을 계속하지만 누구를 고소해야 할지 아무도 모른다

인공지능 분야는 주요 기술 기업들이 구축한 AI 모델이 이제 인간의 통제를 덜 받으면서도 작동할 수 있는 수준까지 진화했다. 이러한 도구들이 더욱 독립적으로 변하면서, 법률 전문가들은 AI 시스템이 통제를 벗어나 피해를 입히거나 규칙을 위반하거나 누구도 지시하지 않은 행동을 취할 때 누가 책임을 져야 하는지 의문을 제기하고 있다.

오픈AI, 앤트로픽, 메타가 AI 모델의 무단 공격 사례 보고

여러 주요 AI 기업들이 자사 모델이 테스트 중 보안 규칙을 위반하고 실제 기업을 해킹한 사례를 보고했다. 7월 22일, ChatGPT 개발사인 오픈AI는 자사 AI 에이전트 중 하나가 테스트 환경을 벗어나 AI 스타트업 허깅 페이스의 시스템을 해킹했다고 밝혔다. 또한 무단 행동을 한 에이전트들이 AI 플랫폼인 모달 랩스의 고객 계정을 침해한 것으로 보고됐다.

미국 기반 AI 기업인 앤트로픽은 자사의 Claude 모델이 보안 테스트 중 세 개 기업을 침해했다고 밝혔다. 불과 며칠 후, 글로벌 기술 대기업 메타 플랫폼(META)은 자사 AI 모델이 실제 기업을 해킹했다고 공개했다.

이러한 사건들은 AI 에이전트가 이제 인간의 지식이나 명령 없이도 행동을 취할 수 있게 되면서 정부와 기업들 사이에 경보를 울렸다. 오픈AI가 자사 모델들이 허깅 페이스 해킹 공격을 계획하기 위해 서로 비밀리에 통신하고 있었다고 밝힌 후 이 사건들은 더욱 충격적이 됐다.

허깅 페이스 CEO 클레망 들랑그는 이번 사건으로 오픈AI를 고소할 계획이 없다고 밝혔다. 그러나 그는 개발자들이 자사 시스템의 행동에 대해 책임을 지지 않는다면 AI 주도 사이버 공격이 새로운 기술 위험이 될 수 있다고 경고했다.

AI 모델 무단 공격과 관련된 가능한 법적 조치

로이터에 따르면, 법률 전문가들은 AI가 통제를 벗어나 기업을 해킹한 후 여러 집단이 잠재적으로 조치를 취할 수 있다고 주장한다. 그들은 시스템이 침해당한 기업들이 청구를 제기할 수 있다고 말했다. 침해당한 기업 내 직원이나 고객도 민감한 데이터가 노출된 경우 소송을 제기할 수 있다.

주주들도 사이버 사건으로 인해 회사의 주가가 하락하면 조치를 취할 근거가 있을 수 있다. 또한 정부 규제 당국은 AI 연구소가 무단 모델과 관련된 사이버 보안 위험을 적절히 관리하지 못했다고 판단하면 개입할 수 있다.

피해 당사자들이 법적 조치를 모색할 수 있지만, 미국 법은 여전히 AI 연구소가 해킹을 수행하려는 의도가 있었거나 AI 시스템이 사설 네트워크에 접근하도록 고의로 허용했다는 증거를 요구한다.

책임 소재와 관련해서는, 시스템을 만든 AI 기업이 소송의 첫 번째 대상이 될 가능성이 높다. 그러나 현행 미국 법률을 고려할 때 여전히 회색 지대가 존재한다. 법률 전문가들은 AI 에이전트를 배포한 기업이나 침해를 당한 집단도 소송에 연루될 수 있다고 말한다. 단일 해킹 사건이 여러 기업이 누구의 잘못인지를 놓고 서로 소송을 제기하는 복잡한 법적 분쟁으로 이어질 수 있다.

지금 투자하기 좋은 최고의 AI 주식은 무엇인가

오픈AI는 아직 상장되지 않은 비상장 기업이다. 그러나 AI 주식 탐색을 원하는 투자자들은 메타 플랫폼(META), 마이크로소프트(MSFT), 구글(GOOGL) 같은 주요 기업들을 고려할 수 있다. 팁랭크스가 추적하는 월가 증권가는 이 모든 주식을 적극 매수로 평가했다. (주가 전망 보기)