인스타그램 대표 `게시물 맥락 이해 도움 기능` 도입 시사... "AI가 현실과 허구 구분 모호하게 해"

애덤 모세리 인스타그램 대표가 소셜미디어 플랫폼에서 실제 이미지와 AI 생성 이미지를 구별하기 어려워지는 문제에 대해 우려를 표명했다.

주요 내용

모세리 대표는 일요일 스레드에 올린 일련의 게시물을 통해 소셜미디어 플랫폼들이 사용자들의 온라인 콘텐츠 진위 판단을 돕기 위해 더 많은 맥락 정보를 제공해야 한다고 강조했다.

이는 AI 기술의 고도화로 사용자들이 실제 콘텐츠를 식별하기 어려워지는 상황에서 나온 경고다.

모세리 대표는 AI가 '명확히' 현실과 혼동될 수 있는 콘텐츠를 생산하고 있다고 지적했다. 그는 사용자들에게 이미지의 출처를 고려할 것을 당부했고, 플랫폼들이 AI 생성 콘텐츠에 가능한 한 정확한 라벨을 붙여야 한다고 제안했다.

다만 그는 일부 AI 콘텐츠는 이러한 라벨을 피할 수 있다고 인정하며 "항상 누가 말하고 있는지를 고려하라"고 조언했다.

시장 영향

현재 메타 플랫폼스(나스닥:META)는 모세리 대표가 설명한 광범위한 맥락 정보를 제공하고 있지 않지만, 회사는 콘텐츠 정책에 상당한 변화를 암시한 바 있다.

모세리 대표의 비전은 X(구 트위터)의 '커뮤니티 노트'와 같은 사용자 주도 관리 시스템, 유튜브나 블루스카이 같은 플랫폼의 맞춤형 관리 필터와 맥락을 같이 한다.

AI 생성 콘텐츠 문제는 새로운 것은 아니지만 점점 더 정교해지고 확산되고 있다. 이전 플로리다에서는 한 젊은 투자자가 존재하지 않는 부동산을 구매하려다 속을 뻔한 사건이 AI의 사기 활용 가능성을 부각시켰다.

더불어 구글 딥마인드의 연구에 따르면 공인의 딥페이크가 AI 지원 사이버 공격보다 더 흔한 것으로 나타나, AI 기술의 오용이 심각한 수준임을 시사했다.

이러한 도전에 대응해 메타는 이전에 AI 생성 허위정보 퇴치를 위한 조치를 취한 바 있다. 올해 5월 초 회사는 중국과 러시아 등에서 시작된 여러 가짜 뉴스 캠페인을 해체했는데, 이들은 AI를 사용해 허위 정보를 퍼뜨리고 있었다.