
Nếu bạn bị bắt vào tù ở New Jersey, một thẩm phán sẽ quyết định liệu có giữ bạn đến khi xét xử hay thả tự do. Một yếu tố mà thẩm phán phải cân nhắc: kết quả từ một thuật toán có tên là PSA ước tính khả năng bạn bỏ phiếu tòa án hoặc phạm tội khác.
New Jersey đã áp dụng đánh giá rủi ro theo thuật toán vào năm 2014 theo sự thúc đẩy, phần nào, của Tổ chức Công bằng Trước Phiên Tòa phi lợi nhuận. Tổ chức quyền lực tại Baltimore đã nhiều năm nay ủng hộ việc sử dụng thuật toán thay vì tiền bảo lãnh, giúp chúng lan rộng đến hầu hết các tiểu bang trong cả nước.
Sau đó, vào đầu tháng này, PJI đột ngột thay đổi quan điểm. Trong một tuyên bố đăng trực tuyến, nhóm nói rằng các công cụ đánh giá rủi ro như những cái mà họ trước đây đã khuyến khích không có chỗ trong công bằng trước phiên tòa vì chúng duy trì bất bình đẳng chủng tộc.
“Chúng tôi đã thấy ở các quận sử dụng công cụ và thấy số người ở tù giảm mà họ không thể giảm bất bình đẳng, và trong một số trường hợp họ thậm chí thấy bất bình đẳng tăng,” nói Tenille Patterson, một đối tác điều hành tại PJI.
Khi được yêu cầu chỉ ra một tiểu bang nơi công cụ đánh giá rủi ro không thành công, cô chỉ vào New Jersey. Các số liệu của tiểu bang công bố vào năm ngoái cho thấy số người ở tù giảm gần một nửa sau những thay đổi, có hiệu lực từ năm 2017, loại bỏ tiền bảo lãnh và giới thiệu thuật toán PSA. Nhưng đối với nhóm những người bị giam giữ, đối tượng về địa lý vẫn giữ nguyên: khoảng 50% là người da đen và 30% là người da trắng.
Pete McAleer, người phát ngôn cho Văn phòng Hành chính Tòa án New Jersey, nói rằng PSA một mình không thể mong đợi loại bỏ bất bình đẳng hàng thế kỷ và rằng các cải cách của tiểu bang đã ngăn chặn nhiều bị cáo người da đen và Hispanic bị giam giữ. Ông nói rằng các quan chức tiểu bang đang tìm cách loại bỏ bất bình đẳng còn lại trong hệ thống tư pháp của mình.
Sự chuyển đổi của PJI từ người ủng hộ thành đối thủ của thuật toán đánh giá rủi ro phản ánh những lo ngại ngày càng tăng về vai trò của thuật toán trong tư pháp hình sự và các lĩnh vực khác.
Trong một lá thư mở vào tháng 7 năm ngoái, 27 nhà nghiên cứu nổi tiếng đề xuất việc từ bỏ các đánh giá rủi ro trước phiên xử. Các nhà nghiên cứu cho biết các công cụ thường được xây dựng trên dữ liệu phản ánh sự bất bình đẳng về chủng tộc và dân tộc trong công tác cảnh sát, truy tố và quyết định tư pháp. “Những vấn đề này không thể được giải quyết bằng các sửa chữa kỹ thuật,” nói trong lá thư.
Tháng trước, lo ngại về độ chệch chủng tộc đã khiến Tòa án Tối cao Ohio xóa khỏi danh sách cải cách tiền đặt bảo hiểm một đề xuất để tiểu bang này áp dụng các công cụ đánh giá rủi ro. Những đề xuất của tòa án sẽ trở thành luật tự động vào mùa hè này trừ khi cả hai thượng nghị viện của tiểu bang ngăn chặn chúng. Tháng 12, một ủy ban tại Massachusetts từ chối công cụ đánh giá rủi ro trong báo cáo cải cách tiền đặt bảo hiểm của tiểu bang đó và chỉ trích có thể có độ chệch chủng tộc. Cử tri California sẽ quyết định vào tháng 11 liệu có hủy bỏ một luật tiểu bang mới sẽ loại bỏ tiền bảo lãnh và yêu cầu sử dụng các đánh giá rủi ro hay không.
Ngoài hệ thống tiền đặt bảo hiểm, những người chỉ trích đã cảnh báo về việc tin tưởng mù quáng vào thuật toán trong các lĩnh vực đa dạng như nhận diện khuôn mặt, nơi nhiều thuật toán có tỷ lệ lỗi cao hơn đối với da sẫm màu; chăm sóc sức khỏe, nơi các nhà nghiên cứu phát hiện bằng chứng cho thấy một hệ thống quản lý chăm sóc được sử dụng rộng rãi đẩy bệnh nhân da đen ra phía sau; và các đề xuất trực tuyến, bị buộc tội gia tăng lý thuyết âm mưu và lời lẽ kích động gặp nhiều tranh cãi.

Các thuật toán đánh giá rủi ro như PSA đã lan rộng khắp toàn bộ Hoa Kỳ như một phần của nỗ lực loại bỏ hoặc giảm thiểu việc sử dụng tiền bảo lãnh để quyết định ai được về nhà đợi ngày xử. Những người cải cách tư pháp hình sự xem tiền bảo lãnh là không công bằng đối với những người từ cộng đồng nghèo, thiểu số, thường chỉ bị giam giữ với các cáo buộc nhẹ. Thay vì một vị thẩm phán quyết định một mình, có thể giới thiệu đầu vào con người với các công thức toán học dựa trên thống kê từ các vụ án trước đây được coi là công bằng hơn. Một báo cáo gần đây từ tổ chức phi lợi nhuận Media Mobilizing Project ở Philadelphia và MediaJustice ở Oakland phát hiện rằng những công cụ như vậy được sử dụng ít nhất tại một số quận thuộc 46 tiểu bang và Quận Columbia.
PSA là một trong những thuật toán được sử dụng phổ biến nhất. Nó được phát triển bởi Quỹ Arnold, một tổ chức từ thiện hiện được gọi là Arnold Ventures, đã tặng hơn 500,000 đô la cho PJI kể từ năm 2017.
“Nhiều tiểu bang và khu vực đã áp dụng những công cụ này, và PJI cùng Quỹ Arnold đã khuyến khích sử dụng,” nói Ben Winters, một nhà nghiên cứu về dữ liệu và thuật toán trong tư pháp hình sự tại Trung tâm Thông tin Quyền riêng tư Điện tử. “Bây giờ có sự chuyển hướng về sự hoài nghi và rút lui.”
Tuần trước, Advancing Pretrial Policy and Research, được Quỹ Arnold tài trợ và phân phối PSA, đăng một phản hồi về sự thay đổi của PJI, nói rằng các công cụ như PSA không thể một mình khắc phục vấn đề công bằng trong tư pháp trước phiên xử. Trong một tuyên bố gửi tới MYTOUR, các giám đốc đồng sáng lập của APPR, Madeline Carter và Alison Shames, nói rằng PSA là “một chiến lược trong một phương pháp toàn diện để đạt được tư pháp trước phiên xử công bằng, chính xác và hiệu quả.”
Hầu hết các công cụ đánh giá rủi ro đều khá đơn giản và tạo điểm dựa trên một số lượng nhỏ dữ liệu về một người và vụ án của họ. PSA sử dụng chín yếu tố, bao gồm tuổi tác, tiền án và các cáo buộc đang chờ xử lý.
Bằng chứng về cách những công cụ như vậy hoạt động trong thực tế khá hiếm, nhưng các nghiên cứu gần đây cho thấy kết quả có thể đầy ngạc nhiên và không đồng đều. Một nghiên cứu về Virginia, nơi áp dụng đánh giá rủi ro từ năm 2002, phát hiện rằng thường xuyên có thẩm phán phủ định đề xuất của công cụ đánh giá rủi ro theo thuật toán, và rằng sự chênh lệch chủng tộc tăng lên ở các quận sử dụng đánh giá rủi ro nhiều nhất. Một nghiên cứu về Kentucky, một nơi áp dụng sớm, phát hiện rằng sau khi công cụ đánh giá rủi ro được giới thiệu, các bị cáo trắng thường được cung cấp lời ra tù mà không cần đặt cọc nhiều hơn so với người da đen.
Ngày càng có nhiều lo ngại về sự thiên vị ẩn sau các thống kê dưới cơ sở dữ liệu các thuật toán đánh giá rủi ro xuất phát từ thực tế của cảnh sát và tư pháp Mỹ. Nó trở nên phổ biến vào năm 2016 khi một cuộc điều tra của ProPublica mô tả cách một thuật toán mang tên COMPAS được sử dụng ở quận Broward, Florida, đã đánh giá quá cao rủi ro phạm tội lại của bị cáo da đen.
Patterson của PJI nói rằng nhóm đã thay đổi quan điểm về các thuật toán trong tư pháp trước phiên xử chủ yếu là vì kể từ năm 2018, nhóm đã tăng cường hơn về công bằng chủng tộc và bắt đầu lắng nghe nhiều hơn đến các tổ chức cơ sở. “Chúng tôi nghe thấy những người trong cộng đồng này nói rằng đây là những công cụ gây tổn thương,” Patterson nói.
Ly hôn cải cách đặt cọc từ các thuật toán đánh giá rủi ro có thể không dễ dàng. Julian Adler, giám đốc chính sách và nghiên cứu tại Trung tâm Đổi mới Tư pháp, một tổ chức phi lợi nhuận đã làm việc với New York State và Arnold Ventures, nói rằng hai thứ này đã được kết nối chặt chẽ—một phần nhờ vào công việc của PJI. “Điều này đặt ra nhiều câu hỏi về tương lai,” ông nói.
PJI cho biết họ đã bắt đầu trò chuyện với các quan chức ở những nơi đã theo lời khuyên trước đó của họ về cách họ có thể theo đuổi theo hình thức phi lợi nhuận trong việc lật đổ thuật toán đánh giá rủi ro. Các phương án thay thế bao gồm việc đặt ra các quy tắc đơn giản, rõ ràng giúp đưa hầu hết các bị cáo về nhà và hướng dẫn thẩm phán về những điều gì có thể chứng minh việc giữ người đó trong tù. PJI dự kiến sẽ công bố hướng dẫn cập nhật, không sử dụng thuật toán về cải cách đặt cọc vào tháng sau—có thể làm tăng đà cho sự phản đối lại các thuật toán đánh giá rủi ro.
More Great MYTOUR Stories
- Đi đến xa (và hơn nữa) để bắt những kẻ gian marathon
- Quả cược táo bạo của NASA để đưa đất sao hỏa về Trái Đất
- Làm thế nào bốn hacker Trung Quốc, theo cáo buộc, đã làm sập Equifax
- Vancouver muốn tránh những sai lầm của các thành phố khác với Uber và Lyft
- Một cuối tuần tại Concours d'Lemons, triển lãm ô tô tồi nhất thế giới
- 👁 Lịch sử bí mật của công nghệ nhận diện khuôn mặt. Ngoài ra, tin tức mới nhất về Trí tuệ Nhân tạo
- ✨ Tối ưu hóa cuộc sống tại nhà của bạn với những lựa chọn tốt nhất từ đội ngũ Gear của chúng tôi, từ robot hút bụi đến đệm giá rẻ đến loa thông minh
