Thuật toán Được Cho Là Phạt Người Thuê Nhà Màu Da Đen. Chính Phủ Hoa Kỳ Đang Theo Dõi

Hai năm trước, Mary Louis nộp đơn thuê căn hộ tại Granada Highlands ở Malden, Massachusetts. Cô ấy thích căn hộ có hai phòng tắm đầy đủ và có một hồ bơi trên địa bàn. Nhưng chủ nhà từ chối cho cô ấy thuê căn hộ, được cho là do một điểm số được gán cho cô ấy bởi thuật toán kiểm tra người thuê nhà của SafeRent.

Louis đáp lại bằng các tài liệu chứng minh 16 năm thanh toán thuê đúng hẹn, nhưng không thành công. Thay vào đó, cô ấy chọn một căn hộ khác đắt hơn 200 đô la mỗi tháng ở khu vực có tỷ lệ tội phạm cao hơn. Nhưng một đơn kiện tập thể được Louis và những người khác nộp đơn vào tháng 5 năm ngoái cho rằng các điểm số của SafeRent dựa một phần vào thông tin trong bản báo cáo tín dụng đồng nghĩa với việc phân biệt đối xử với người thuê nhà da đen và gốc Hispano, vi phạm Đạo luật Nhà ở Công bằng. Luật lệ động này cấm phân biệt đối xử dựa trên chủng tộc, khuyết tật, tôn giáo hoặc nguồn gốc quốc gia và đã được Quốc hội thông qua vào năm 1968 một tuần sau vụ ám sát của Martin Luther King Jr.

Vụ án đó vẫn đang chờ xử, nhưng Bộ Tư pháp Hoa Kỳ đã cảnh báo đến các chủ nhà và nhà sản xuất thuật toán kiểm tra người thuê nhà trong tuần qua. SafeRent đã lập luận rằng các thuật toán sử dụng để kiểm tra người thuê nhà không phải là đối tượng của Đạo luật Nhà ở Công bằng, vì điểm số của nó chỉ tư vấn cho chủ nhà và không đưa ra quyết định. Bản tóm tắt của Bộ Tư pháp, được nộp chung với Bộ Nhà ở và Phát triển Đô thị, bác bỏ tuyên bố đó, nói rằng hành động và luật lệ liên quan không để lại sự mập mờ nào.

“Các nhà cung cấp nhà ở và các công ty kiểm tra người thuê nhà sử dụng thuật toán và dữ liệu để kiểm tra người thuê nhà không được miễn trách nhiệm khi phương pháp của họ gây ra đặc quyền, từ chối quyền tiếp cận của người da màu đến cơ hội nhà ở công bằng,” lãnh đạo bộ phận quyền công dân của Bộ Tư pháp Kristen Clarke nói trong một tuyên bố.

Như trong nhiều lĩnh vực kinh doanh và chính phủ, thuật toán gán điểm cho người dùng đã trở nên phổ biến trong ngành nhà ở. Nhưng mặc dù được cho là cải thiện hiệu suất hoặc xác định “người thuê nhà tốt hơn,” như hình ảnh tiếp thị của SafeRent gợi ý, các thuật toán kiểm tra người thuê nhà có thể đang đóng góp vào việc phân biệt đối xử trong nhà ở theo hình thức lịch sử, mặc dù đã có thập kỷ luật pháp về quyền dân sự. Một nghiên cứu của Viện Nghiên cứu Kinh tế Quốc gia Hoa Kỳ năm 2021 sử dụng bot có tên liên quan đến các nhóm khác nhau để nộp đơn cho hơn 8,000 chủ nhà đã phát hiện ra sự phân biệt đối xử đáng kể đối với người thuê nhà màu sắc, đặc biệt là người Mỹ gốc Phi.

“Điều này là một sự giảm bớt về mặt này được đưa ra một cách nghiêm túc—có một sự hiểu biết rằng thuật toán không phải là nguyên tắc hay không chủ quan và xứng đáng nhận cùng mức độ kiểm tra như những người quyết định của con người,” Michele Gilman, giáo sư luật tại Đại học Baltimore và cựu luật sư quyền dân sự tại Bộ Tư pháp, nói. “Ngay cả việc Bộ Tư pháp tham gia cũng là một bước lớn.”

Một điều tra năm 2020 của The Markup và Propublica phát hiện rằng thuật toán kiểm tra người thuê nhà thường gặp những khó khăn như nhầm lẫn về danh tính, đặc biệt là đối với người da màu có họ phổ biến. Một đánh giá của Propublica về thuật toán do công ty RealPage có trụ sở tại Texas sản xuất năm ngoái gợi ý rằng nó có thể đẩy giá thuê lên.

Một vụ án khác chống lại SafeRent dưới Đạo luật Nhà ở Công bằng đã kết luận tại tòa liên bang ở Connecticut vào tháng 11 và đang chờ quyết định của một thẩm phán. Nó được đưa ra bởi Carmen Arroyo và những người khác, họ nói rằng thuật toán CrimSAFE của công ty coi một cáo buộc trộm cửa hàng sau đó bị bãi bỏ là “diskwalifikasio,” dẫn đến yêu cầu từ chối cho con trai khuyết tật của cô ấy, người không thể nói hoặc đi. Vụ án cáo buộc rằng hệ thống phân biệt đối xử dựa trên khuyết tật, nguồn gốc quốc gia và chủng tộc.

Đáp lại bản tóm tắt của Bộ Tư pháp và Bộ Nhà ở và Phát triển Đô thị, Andrew Soukup, luật sư đại diện cho SafeRent, nói rằng công ty nhằm cung cấp dự đoán cho quản lý tài sản và chủ nhà để họ có thể đưa ra quyết định đúng đắn nhưng không tự thực hiện quyết định nhà ở. “SafeRent không quyết định xem có duyệt đơn thuê nhà của ai không. Những quyết định đó được đưa ra bởi quản lý tài sản và chủ nhà,” ông nói trong một tuyên bố.

Sự can thiệp của Bộ Tư pháp trong vụ án SafeRent là một phần của những nỗ lực gần đây của chính phủ Hoa Kỳ để thực thi luật quyền dân sự đối với thuật toán đưa ra quyết định quan trọng về cuộc sống của người dân. Cùng ngày đó, bộ tư pháp công bố điều khoản của một thỏa thuận giải quyết với Meta về việc bán quảng cáo được cho là vi phạm Đạo luật Nhà ở Công bằng. Công ty đã phát triển một hệ thống để giảm phân biệt đối xử trong quảng cáo Facebook và sẽ tiếp tục được giám sát bởi chính phủ liên bang cho đến năm 2026.

“Sự theo dõi của Chính phủ liên bang đối với Meta nên gửi một tín hiệu mạnh tới các công ty công nghệ khác rằng họ cũng sẽ phải chịu trách nhiệm nếu không giải quyết được sự phân biệt đối xử của thuật toán vi phạm luật quyền dân sự của chúng ta,” nói Clarke, lãnh đạo bộ phận quyền công dân của Bộ Tư pháp trong một tuyên bố. Năm ngoái, cô làm việc với Ủy ban Cơ hội Nghề nghiệp Bình đẳng để phát hành hướng dẫn cho doanh nghiệp sử dụng thuật toán tuyển dụng về cách tránh vi phạm Đạo luật về Người Mỹ Khuyết tật.

Cả hai can thiệp này đều cho thấy Bộ Tư pháp đang quyết tâm thực thi luật chống phân biệt đối xử liên bang để bảo vệ quyền lợi của người dân trong thời đại của thuật toán. “Rõ ràng, quảng cáo khác với việc kiểm tra người thuê nhà, nhưng nó đã làm cho những ngành công nghiệp khác biết rằng họ không thể trốn tránh sau sự thiếu minh bạch nữa và sẽ có sự chịu trách nhiệm lớn hơn,” nói Gilman, giáo sư luật tại Đại học Baltimore. Cô đã đại diện cho khách hàng thu nhập thấp trong 25 năm, và trong vài năm qua, cô đã gặp thêm nhiều trường hợp nơi cô nghi ngờ một thuật toán đang làm việc trong bóng tối từ chối cho khách hàng nhà ở. Nhưng liệu luật chống phân biệt đối xử hiện hành có đủ hay liệu cần có luật mới để bảo vệ khỏi thuật toán có hại là một vấn đề chưa được giải quyết.

Tín hiệu được gửi đến ngành nhà ở tuần này bởi Bộ Tư pháp dường như đồng bộ với các tuyên bố khác của chính phủ Biden về việc đối mặt với vai trò mà trí tuệ nhân tạo có thể đóng trong việc vi phạm quyền nhân quyền. Năm ngoái, Nhà Trắng đề xuất Dự thảo Quyền Bảo vệ của Trí Tuệ Nhân Tạo, một bộ nguyên tắc nhằm bảo vệ công dân khỏi thuật toán trong những lĩnh vực quan trọng của cuộc sống như nhà ở, chăm sóc sức khỏe, tài chính và các quyền lợi từ chính phủ. Chính phủ Trump đã cố làm cho việc truy cứu trách nhiệm các chủ nhà sử dụng thuật toán kiểm tra người thuê nhà khó khăn hơn dưới Đạo luật Nhà ở Công bằng.