AI 발달로 온라인상 인간 정체성 재정립 불가피

인터넷 역사에서 사용자가 실제 인간임을 확인하는 신뢰할 만한 방법의 부재는 단순한 불편함이나 스팸, 가짜 리뷰, 봇이 주도하는 참여 전쟁의 원인 정도로 여겨졌다. 하지만 이제는 근본적인 결함이 되고 있다.

AI 음성 복제 기술로 기업들이 사기꾼들에게 수백만 달러를 송금하는 사례가 발생했고, 합성 미디어는 존재하지 않는 사람들이 등장하는 가상의 사건을 만들어내고 있다. 플랫폼들은 조직적으로 운영되는 가짜 계정들로 넘쳐나면서 실제와 인공의 경계가 그 어느 때보다 모호해졌고, 이로 인해 디지털 신뢰의 기반이 흔들리고 있다.

자연스러운 대응은 한 사람당 하나의 계정을 보장하는 신원 인증 시스템을 요구하는 것이다. 하지만 모든 온라인 사용자가 인증을 받게 되면, 한 문제를 해결하는 대신 다른 문제가 발생할 수 있다. 보편적인 신원 확인 시스템은 역사상 가장 완벽한 감시 도구가 될 위험이 있다.

과제는 단순히 인간임을 증명하는 것이 아니라, 우리를 인간답게 만드는 프라이버시와 자율성을 희생하지 않으면서 이를 증명하는 것이다.

프라이버시 관련 6가지 함정

1. 인증 프라이버시: 생체정보, 정부 발급 신분증 또는 기타 민감한 데이터를 노출하지 않고 어떻게 신원을 확인할 수 있는가? 중앙화된 데이터베이스는 해커들의 표적이 된다. KYC는 해결책이 되지 못하며, 누구나 여러 계정을 만들 수 있고 위험한 중앙 통제점을 만든다.
2. 마스터키 취약성: 디지털 신원 시스템은 단일 '마스터키'에 의존하는 경향이 있다. 하지만 이 키는 취약하고 강요될 수 있다. 정부는 국경에서 이를 요구할 수 있고 해커들은 탈취할 수 있다. 사용자들도 이를 분실할 수 있다. 비탈릭 부테린은 이미 국가가 입국 조건으로 키 제출을 요구할 수 있다고 경고했다.
3. 플랫폼 간 연결: 하나의 인증된 신원이 모든 플랫폼에서 추적된다면, 맥락이 붕괴된다. 직장, 가족, 친구들 사이에서의 정체성은 분리되어야 한다. 현재 온라인에서 여러 계정을 사용하는 방식은 취약하고 여전히 연결될 수 있다.
4. 거래 추적 가능성: 영지식 증명 기반의 ID도 사용자를 노출시킬 수 있다. 가명 지갑에서 '주요' 지갑으로 자산을 이동하면 추적이 가능해진다. 월드코인의 앱별 ID는 부분적인 해결책이지만, 거래 연결은 여전히 큰 문제로 남아있다.
5. 플랫폼 수준의 추적: 신원이 플랫폼 간에 연결되지 않더라도, 각 플랫폼은 내부적으로 상세한 프로필을 구축할 수 있다. 구글이 Gmail, 유튜브, 검색에서 같은 인증된 사용자의 모든 계정을 알고 있다면, 신원을 모르더라도 프로파일링은 계속된다.
6. 가명성의 종말: 미인증 계정이 후순위가 되면 가명성이 사라진다. 하지만 가명성은 필수적이다. 내부고발자를 보호하고, 창의성을 키우며, 평판에 영구적인 영향 없이 실험을 가능하게 한다. 비탈릭이 언급했듯이 '가짜 계정'과 '진짜 계정'은 사소한 것이 아닌 필수적인 요소다.

현재 해결책의 한계

대부분의 신원 증명 프로젝트는 이러한 문제 중 한두 가지만 다루며, 여섯 가지를 모두 해결하는 경우는 드물다. 월드코인은 독점 하드웨어에 의존하고, 거래 추적 방지를 해결하지 못하며, 사용자가 마스터키 손상에 취약하다. 다른 접근방식들은 프로파일링으로 수익을 창출하는 비즈니스 모델에서 플랫폼이 복수 신원을 수용할 것이라고 가정한다.

전체적인 설계가 없다면, 신원 증명은 인터넷 인프라에 감시를 내장하는 결과를 초래할 수 있다.

세션 방식의 가능성

유망한 방향 중 하나는 '세션'이다. 이는 루트 신원과 연결되지만 이를 노출하지 않는 암호학적으로 파생된 하위 신원이다.

각 세션은 어떤 인간인지 밝히지 않으면서 인간임을 증명한다. 세션들은 서로 공개적으로 연결될 수 없고 루트와도 연결되지 않으며, 루트로부터 신뢰성을 상속받지만 자체적인 키, 지갑, 평판으로 운영된다.

세션이 손상되면 전체 신원을 잃지 않고 해당 세션만 취소할 수 있다. 세션 로직은 일회용이나 맥락 특정적일 수 있어 세밀한 프라이버시를 가능하게 한다.

실제로 이는 정부가 '키'를 요구할 때 일회용 세션 키를 제공할 수 있다는 것을 의미한다. 세션이 해킹되면 디지털 생활을 잃지 않고 해당 세션만 폐기할 수 있다. 플랫폼은 단일 보편적 신원 대신 세션 기반 인증을 요청할 수 있어 맥락 붕괴를 방지한다.

세션은 신용카드 토큰화와 유사하다. '실제' 카드는 보호된 채로 유지되고, 플랫폼은 일회용이며 추적 불가능한 번호로만 거래한다.

앞으로의 과제

세션은 만능 해결책이 아니며 사용자들은 여러 하위 신원 관리를 번거롭게 느낄 수 있다. 악의적인 앱이 실수로 연결성을 노출할 수 있으며, 어떤 암호화 방식도 플랫폼이 자신들의 이익을 위해 1인 1계정 모델을 선택하는 것을 막을 수 없다.

하지만 세션은 설계 공간을 변화시킨다. 플랫폼이 인증된 사용자당 여러 페르소나를 지원하기 쉽게 만든다. 프라이버시를 기본값으로 설정하고, 개인에게 강요와 도난에 대항할 수 있는 수단을 제공한다.

더 큰 질문

더 깊은 과제는 기술적인 것이 아닌 정치적인 것이다. 어떻게 프라이버시를 프리미엄 기능이 아닌 기본값으로 만들 수 있을까? 어떻게 플랫폼이 우리를 하나의 데이터 착취 가능한 프로필로 통합하는 대신 복수의 신원을 지원하도록 유도할 수 있을까? 어떻게 신원 인프라가 국가나 기업이 아닌 시민을 위해 봉사하도록 거버넌스를 설계할 수 있을까?

AI는 사칭을 저렴하고 확장 가능하며 점점 더 설득력 있게 만들고 있다. 인간임을 증명하는 것은 더 이상 선택사항이 아니다. 하지만 신원 증명이 프라이버시와 함께 발전하지 않는다면, 우리는 온라인에서 인간이 된다는 것이 영구적인 감시를 의미하는 시스템을 구축할 위험이 있다.

앞으로 나아갈 길은 더 많은 감시가 아닌, 우리의 복잡성을 전제하고 보호하는 설계에 투자하는 것이다.