Thuật toán Nên Đã Làm cho Tòa Án Công Bằng Hơn. Điều Gì Đi Sai?

Các nhà lập pháp Kentucky nghĩ rằng việc yêu cầu các thẩm phán tham khảo thuật toán khi quyết định xem có nên giữ bị cáo trong tù trước phiên xử sẽ làm cho hệ thống tư pháp của tiểu bang trở nên rẻ hơn và công bằng hơn bằng cách thả nhiều người ra. Nhưng thực tế lại không như vậy.

Trước khi luật năm 2011 có hiệu lực, không có sự khác biệt đáng kể giữa tỷ lệ bị cáo da đen và da trắng được giải phóng để đợi xử án tại nhà mà không cần tiền bảo lãnh. Sau khi bắt buộc phải xem xét một điểm số dự đoán nguy cơ người đó tái phạm hoặc bỏ phiên tòa, các thẩm phán của tiểu bang bắt đầu cho ra người da trắng ra khỏi tù mà không cần tiền bảo lãnh nhiều hơn so với người da đen. Tỷ lệ người da đen được giải phóng mà không cần tiền bảo lãnh chỉ tăng nhẹ, lên hơn 25%. Tỷ lệ cho người da trắng tăng lên hơn 35%. Kentucky đã thay đổi thuật toán của mình hai lần kể từ năm 2011, nhưng dữ liệu có sẵn cho thấy khoảng cách giữa chúng vẫn giữ nguyên khoảng cách gần như không đổi qua đầu năm 2016.

Kinh nghiệm của Kentucky, được mô tả trong một nghiên cứu được công bố vào đầu năm nay, rất hợp lý. Nhiều tiểu bang và quận nay tính toán “điểm rủi ro” cho bị cáo tội hình sự để ước lượng khả năng người đó tái phạm trước phiên tòa hoặc trốn khỏi phiên tòa; một số sử dụng các công cụ tương tự trong hình phạt. Chúng được cho là giúp thẩm phán đưa ra quyết định công bằng hơn và giảm số người đang ở trong tù hoặc trại giam, đôi khi là một phần của việc loại bỏ tiền bảo lãnh. Kể từ năm 2017, Kentucky đã thả một số bị cáo đánh giá là rủi ro thấp chỉ dựa trên ý kiến của thuật toán, mà không cần sự tham gia của thẩm phán.

Cách mà những thuật toán này thay đổi cách hệ thống tư pháp được thực hiện chủ yếu là không biết. Các nhà báo và học giả đã chỉ ra rằng các thuật toán đánh giá rủi ro có thể không công bằng hoặc có thiên hướng phân biệt chủng tộc. Câu hỏi quan trọng hơn về việc chúng có giúp thẩm phán đưa ra quyết định tốt hơn và đạt được mục tiêu đã nêu của các công cụ là chưa có câu trả lời chính xác.

Nghiên cứu tại Kentucky là một trong những đánh giá độc lập, chi tiết đầu tiên về những gì xảy ra khi thuật toán được tích hợp vào hệ thống tư pháp. Nó phát hiện ra rằng dự án đã không đạt được mục tiêu và thậm chí tạo ra các bất bình đẳng mới. “Những ảnh hưởng khác biệt so với những gì nhà lập pháp có thể đã kỳ vọng,” Megan Stevenson, giáo sư luật tại Đại học George Mason, tác giả của nghiên cứu đó, nói.

Stevenson quan tâm đến Kentucky một phần vì nó là một nhà tiên phong trong việc cải thiện tiền bảo lãnh và công bằng của thuật toán. Tiểu bang bắt đầu sử dụng điểm rủi ro trước phiên xử vào năm 1976, một hệ thống đơn giản gán điểm cho bị cáo dựa trên câu hỏi về tình trạng việc làm, giáo dục và tiền án. Hệ thống đã được hoàn thiện theo thời gian, nhưng điểm được sử dụng một cách không đồng nhất. Năm 2011, đạo luật HB 463 bắt buộc sử dụng chúng cho quyết định trước phiên tòa của thẩm phán, tạo ra một thử nghiệm tự nhiên.

Những nhà lập pháp tại Kentucky dự kiến HB 463 để giảm tỷ lệ giam giữ, một động cơ phổ biến để sử dụng điểm rủi ro. Chúng được cho là giúp thẩm phán đánh giá tốt hơn về người an toàn để thả. Việc thả người giúp họ tiếp tục công việc và cuộc sống gia đình và tiết kiệm chi phí cho chính phủ. Hơn 60% trong số 730,000 người đang bị giữ trong nhà tù địa phương ở Mỹ chưa bị kết án, theo tổ chức phi lợi nhuận Prison Policy Initiative.

Hệ thống được sử dụng tại Kentucky vào năm 2011 sử dụng một hệ thống điểm để tạo điểm ước tính rủi ro rằng bị cáo sẽ bỏ phiên tòa hoặc tái phạm trước phiên xử. Một cấu trúc đơn giản chuyển đổi điểm thành một xếp hạng rủi ro thấp, trung bình hoặc cao. Theo đạo luật, những người được đánh dấu là có rủi ro thấp hoặc trung bình nên được thả mà không cần tiền bảo lãnh.

Nhưng có vẻ như các thẩm phán không tin tưởng vào hệ thống đó. Sau khi đạo luật có hiệu lực, họ bác bỏ đề xuất của hệ thống hơn hai phần ba thời gian. Nhiều người được thả về nhà, nhưng sự tăng lên là nhỏ; vào cùng thời điểm, cơ quan báo cáo có nhiều vụ án tình nghi hơn từ những người được thả đợi xử. Theo thời gian, thẩm phán quay trở lại cách làm trước đây của họ. Trong vài năm, tỷ lệ nhỏ hơn của bị cáo được thả so với trước khi dự luật có hiệu lực.

Mặc dù có nhiều bị cáo được thả mà không cần tiền bảo lãnh, nhưng thay đổi chủ yếu giúp người da trắng. “Trung bình những bị cáo trắng được hưởng lợi nhiều hơn so với những bị cáo da đen,” Stevenson nói. Mô hình này tiếp tục sau khi Kentucky áp dụng một thuật toán đánh giá rủi ro phức tạp hơn vào năm 2013.

Một giải thích được hỗ trợ bằng dữ liệu Kentucky, theo cô ấy, là các thẩm phán đã phản ứng khác nhau với điểm rủi ro ở các khu vực khác nhau của tiểu bang. Ở các hạt nông thôn, nơi hầu hết bị cáo là người da trắng, thẩm phán đã thả rất nhiều người mà không cần tiền bảo lãnh. Các thẩm phán ở các hạt thành thị, nơi nguồn bị cáo đa dạng hơn, thay đổi thói quen ít hơn.

Một nghiên cứu riêng sử dụng dữ liệu Kentucky, được trình bày tại một hội nghị vào mùa hè này, cho thấy một tác động đáng lo ngại khác cũng đang diễn ra. Nó chỉ ra rằng thẩm phán có khả năng bác bỏ khuyến nghị mặc định để miễn giảm tiền bảo lãnh đối với những bị cáo rủi ro trung bình nếu những bị cáo đó là người da đen.

Nhà nghiên cứu Harvard Alex Albright, người làm chủ nghiên cứu đó, cho biết nó cho thấy cần có nhiều sự chú ý hơn đối với cách con người hiểu đoán của thuật toán. “Chúng ta nên đặt nhiều nỗ lực vào cách chúng ta đào tạo người ta sử dụng các dự đoán như chúng ta đã làm với dự đoán,” cô ấy nói.

Michael Thacker, người phối hợp đánh giá rủi ro với dịch vụ tiền xử lý Kentucky, cho biết cơ quan của ông cố gắng giảm thiểu độ chệch tiềm ẩn trong các công cụ đánh giá rủi ro và thảo luận với các thẩm phán về khả năng “độ chệch tiềm ẩn” trong cách họ hiểu các điểm rủi ro.

Một thử nghiệm kiểm tra cách thẩm phán phản ứng với điểm rủi ro giả định để xác định hình phạt cũng đã tìm thấy bằng chứng cho thấy lời khuyên của thuật toán có thể gây ra những vấn đề không mong muốn. Nghiên cứu, đang chờ xuất bản, đã yêu cầu 340 thẩm phán quyết định hình phạt cho các vụ án ma túy giả tạo. Một nửa số thẩm phán nhìn thấy “vụ án” với điểm rủi ro ước tính bị cáo có nguy cơ tái bắt từ trung bình đến cao và một nửa không.

Khi họ không được cung cấp một điểm rủi ro, các thẩm phán nghiêm túc hơn với các bị cáo giàu có hơn là những người nghèo. Việc thêm thuật toán đã đảo ngược xu hướng: Người bị cáo giàu có có 44% khả năng bị phạt nhưng những người nghèo có 61% khả năng. Mô hình này vẫn giữ nguyên sau khi kiểm soát giới tính, chủng tộc, quan điểm chính trị và khu vực thẩm phán.

“Tôi nghĩ rằng đánh giá rủi ro có lẽ sẽ không ảnh hưởng nhiều đến hình phạt,” nói Jennifer Skeem, một giáo sư tại Đại học California, Berkeley, làm việc trong nghiên cứu với đồng nghiệp từ Đại học California, Irvine và Đại học Virginia. “Bây giờ chúng tôi hiểu rằng đánh giá rủi ro có thể tương tác với thẩm phán để làm tăng chênh lệch.”

Có lý do để nghĩ rằng nếu điểm rủi ro được triển khai một cách cẩn thận, chúng có thể giúp làm cho hệ thống tư pháp hình sự công bằng hơn. Việc yêu cầu tiền bảo lãnh làm tăng bất công bằng bằng cách trừng phạt những người có thu nhập hạn chế đã được nhiều người công nhận rộng rãi. Một nghiên cứu của Viện Nghiên cứu Kinh tế Quốc gia năm 2017 sử dụng hồ sơ New York City để dự đoán rằng một thuật toán dự đoán liệu ai đó có bỏ phiếu tòa có thể giảm số người ở tù lên đến 42% và giảm tỷ lệ tù nhân da đen và gốc Hispanic mà không làm tăng tội phạm.

Thật không may, cách thuật toán đánh giá rủi ro đã được triển khai trên toàn Hoa Kỳ đều rối bời hơn so với thế giới giả định trong những nghiên cứu như vậy.

Thuật toán tư pháp hình sự nói chung là tương đối đơn giản và tạo ra điểm từ một số lượng nhỏ thông tin như tuổi, tội ác và tiền án. Nhưng các nhà phát triển đôi khi đã hạn chế cơ quan chính phủ sử dụng công cụ của họ từ việc công bố thông tin về thiết kế và hiệu suất của chúng. Các khu vực chưa cho phép người ngoại đạo truy cập vào dữ liệu cần thiết để kiểm tra hiệu suất của họ.

“Những công cụ này đã được triển khai từ mong muốn hợp lý về quyết định dựa trên bằng chứng, nhưng không thể nói rằng đã được thực hiện cẩn thận đủ,” nói Peter Eckersley, giám đốc nghiên cứu tại Đối tác về Trí tuệ Nhân tạo, một tổ chức phi lợi nhuận được thành lập bởi các công ty công nghệ lớn để xem xét cách công nghệ ảnh hưởng đến xã hội. PAI đã phát hành một báo cáo vào tháng 4 mô tả về vấn đề với thuật toán đánh giá rủi ro và đề xuất các cơ quan bên ngoài được bổ nhiệm để kiểm tra hệ thống và tác động của họ.

Stevenson cũng đồng tình rằng cần có sự minh bạch lớn hơn - nhưng cũng thừa nhận cảm giác của mình có thể là quá muộn để biến thuật toán đánh giá rủi ro thành một thành công, khi danh tiếng kém và những lợi ích hẹp mà chúng có vẻ mang lại. “Hệ thống tư pháp hình sự đã có ít lòng tốt lừng tận rồi, tôi không muốn người ta mất đi thêm hy vọng hoặc niềm tin vào điểm này,” bà nói.

Nhiều Bài Viết Tuyệt Vời Trên MYTOUR

• Không ai đang xem những bộ phim quái vật khổng lồ hay nhất
• Làm thế nào để tận dụng tối đa pin điện thoại thông minh của bạn
• Bạn đang đua về một bức tường. Bạn nên phanh chặt hay là né tránh
• Lịch sử của kế hoạch ném bom hạt nhân vào bão (và những điều khác nữa)
• Đối với những chiến binh cầm kiếm này, những trận chiến trung cổ vẫn còn sống
• 👁 Nhận dạng khuôn mặt đột ngột xuất hiện khắp nơi. Bạn có nên lo lắng không? Ngoài ra, đọc tin tức mới nhất về trí tuệ nhân tạo
• ✨ Tối ưu hóa cuộc sống tại nhà của bạn với những lựa chọn tốt nhất từ đội ngũ Gear của chúng tôi, từ robot hút bụi đến chiếc đệm giá rẻ đến loa thông minh.