Alat Penyaringan Pemilik Tanah AI Akan Menghentikan Penilaian Penyewa Berpenghasilan Rendah Setelah Gugatan Diskriminasi

SafeRent, alat penyaringan AI yang digunakan oleh tuan tanah, tidak akan lagi menggunakan “skor” berbasis AI untuk mengevaluasi apakah seseorang yang menggunakan voucher perumahan akan menjadi penyewa yang baik. Pada hari Rabu, Hakim Distrik AS Angel Kelley mengeluarkan persetujuan akhir untuk penyelesaian sekitar $2,3 juta untuk mencegah SafeRent mendiskriminasi penyewa berdasarkan pendapatan dan ras.

Dia Penyelesaian tersebut timbul dari gugatan class action yang diajukan pada tahun 2022. di Massachusetts. Gugatan tersebut menuduh bahwa sistem penilaian SafeRent secara tidak proporsional merugikan orang-orang yang menggunakan voucher perumahan, khususnya pelamar kulit hitam dan Hispanik. Selain melanggar hukum Massachusetts, pengaduan tersebut juga menuduh SafeRent melanggar Undang-Undang Perumahan yang Adil, yang melarang diskriminasi dalam perumahan.

Seperti yang dijelaskan dalam gugatan awal, algoritme penilaian SafeRent menggunakan faktor-faktor seperti riwayat kredit dan utang non-sewa untuk memberikan skor SafeRent kepada calon penyewa. Tuan tanah kemudian dapat menggunakan skor ini untuk menentukan apakah akan menerima atau menolak permintaan sewa seseorang. Gugatan tersebut menyatakan bahwa prosesnya tidak transparan, karena SafeRent tidak memberi tahu tuan tanah bagaimana mereka memperoleh skor seseorang. Dan sistem tersebut diduga secara tidak adil memberikan skor yang lebih rendah kepada penyewa berkulit hitam dan Hispanik, serta orang-orang yang menggunakan voucher perumahan, sehingga menyebabkan tuan tanah menolak permohonan perumahan mereka.

Berdasarkan perjanjian lima tahun, SafeRent tidak akan lagi menampilkan skor penyaringan penyewa untuk pemohon yang menggunakan voucher perumahan secara nasional, juga tidak akan dapat menyertakan skor ketika tuan tanah menggunakan model SafeRent Score yang “terjangkau”. Layanan SafeRent juga tidak dapat menampilkan rekomendasi apakah akan “menerima” atau “menolak” permohonan seseorang jika menggunakan voucher perumahan. Artinya, tuan tanah kini harus mengevaluasi penyewa yang menggunakan voucher perumahan berdasarkan keseluruhan riwayat mereka, bukan hanya skor SafeRent mereka.

“Skor kredit dan skor yang dimodelkan serupa, seperti skor SafeRent, didasarkan pada informasi yang ada[en] terbukti memprediksi pembayaran kewajiban kredit,” kata Shennan Kavanagh, direktur Pusat Hukum Konsumen Nasional, dalam sebuah pernyataan. “Tidak ada bukti bahwa data tersebut memprediksi apakah penyewa akan membayar sewa.”

Uang yang terkumpul sebagai bagian dari penyelesaian akan diberikan kepada pemohon sewa yang berbasis di Massachusetts yang menggunakan voucher perumahan dan tidak dapat memperoleh perumahan karena skor penyewa SafeRent mereka. “Meskipun SafeRent tetap percaya pada SRS [SafeRent Solutions] Skornya mematuhi semua undang-undang yang berlaku, litigasi memakan waktu dan mahal,” kata juru bicara SafeRent Yazmín López dalam sebuah pernyataan kepada Tepi. “Menjadi semakin jelas bahwa mempertahankan Skor SRS dalam kasus ini akan mengalihkan waktu dan sumber daya yang dapat digunakan SafeRent dengan lebih baik untuk memenuhi misi intinya dalam menyediakan alat yang dibutuhkan penyedia perumahan untuk menyaring pelamar.”

SafeRent adalah perangkat lunak manajemen properti berbasis algoritma terbaru untuk menangani tindakan hukum. Pada bulan Agustus, Departemen Kehakiman menggugat RealPage mengklaim perangkat lunak penetapan harga algoritmiknya meningkatkan harga sewa.