FTC 의장 리나 칸 "AI 악용해 장례 참석객에 더 비싼 항공권 판매할 수도"... 취약계층 겨냥 우려

연방거래위원회(FTC) 리나 칸 의장이 항공사들이 인공지능(AI)을 잘못 사용해 장례식에 참석하는 승객들에게 더 높은 요금을 부과할 가능성에 대해 우려를 제기했다.

2024 패스트컴퍼니 이노베이션 페스티벌에서 연설한 칸 의장은 AI가 사기와 가격 차별을 가능케 하는 위험성을 강조했다. 그는 AI 도구가 사기를 가속화하고 소비자 데이터를 기반으로 한 개인화된 가격 책정을 허용하고 있다고 비즈니스 인사이더가 수요일 보도했다.

칸 의장은 AI가 이미 피싱과 같은 전통적인 온라인 사기를 자동화하고 있으며 음성 복제와 같은 새로운 사기 수법을 도입하고 있다고 설명했다. 또한 소매업체들이 AI 기반 감시 기술을 사용해 특정 고객에 대한 가격을 조정할 수 있다고 경고했다.

FTC는 시장 상황에 따라 가격을 조정하는 동적 가격 책정과는 다른 AI의 가격 차별 역할을 조사하고 있다. 칸 의장은 AI가 디지털 기업들이 수집한 개인 데이터를 기반으로 다양한 가격을 책정할 수 있다고 지적했다.

그는 견과류 알레르기가 있는 사람들에게 그래놀라 바를 더 비싸게 판매하거나 레스토랑이 QR 코드를 사용해 개인화된 메뉴를 제공하는 등의 예를 들었다.

"또는 가족의 사망으로 전국을 가로질러 비행기를 타야 하는 사람에게 더 비싼 항공권을 판매할 수도 있습니다"라고 칸 의장은 말했다.

7월 FTC는 8개 기업에 소비자 데이터를 사용하는 '감시 가격 책정 제품 및 서비스'에 대한 정보를 제공하도록 요구하는 시장 조사를 실시했다. 칸 의장은 이러한 관행이 소비자에게 미치는 영향을 파악하기 위해 이를 검토하는 것이 중요하다고 강조했다.

칸 의장은 사회가 이러한 표적 가격 책정을 수용할 것인지, 아니면 이를 방지하기 위한 규제를 도입할 것인지에 대해 의문을 제기하며 마무리했다. 그는 또한 라이드셰어링과 같은 분야에서의 동적 가격 책정으로 인해 사람들이 변동 가격에 더 익숙해졌다고 언급했다.