SafeRent, 저소득층 임차인 차별 논란... AI 스크리닝 알고리즘 관련 230만 달러 소송 합의

AI 기반 임차인 심사 도구 개발사 SafeRent Solutions이 매사추세츠주에서 제기된 집단소송을 합의로 마무리했다.

주요 내용
앤젤 켈리 미국 연방지방법원 판사는 수요일 약 230만 달러 규모의 합의안에 최종 승인을 내렸다.
이번 소송은 SafeRent의 알고리즘이 흑인과 히스패닉계 임차인, 그리고 주거 바우처를 사용하는 임차인들에게 다른 신청자들보다 불균형적으로 낮은 점수를 매겼다고 주장했다.
저소득층일 가능성이 높은 주거 바우처 사용자들은 AI 점수에 따라 주거 신청이 거부될 가능성이 더 높았던 것으로 알려졌다.
합의의 일환으로 SafeRent는 주거 바우처를 사용하는 신청자들을 평가할 때 AI 생성 점수 사용을 중단하기로 했다.
또한 회사는 집주인들에게 바우처 사용 신청자의 수락 또는 거부에 대한 어떠한 권고도 하지 않기로 했다.
SafeRent의 대변인 야즈민 로페즈는 더버지와의 인터뷰에서 "이번 사건에서 SRS 점수를 변호하는 것이 SafeRent가 주거 공급자들에게 신청자 심......................................................................................................................................................................................................................................................................................................................................................................................................................................................................