Covid-19 Chứng Minh Đã Đến Lúc Loại Bỏ Thuật Toán 'Dự Đoán' Cảnh Sát

Khi mùa hè kết thúc, chính quyền địa phương đang quay trở lại hội trường hội đồng và đối mặt với áp lực lớn. Ngân sách đô thị đang mất hàng trăm triệu đô la do ảnh hưởng của virus corona. Trong khi đó, một cuộc nổi dậy theo thế hệ đang thúc đẩy chính phủ của chúng ta rút vốn khỏi cảnh sát hóa quân, phân loại nó là đồng thời đòi hỏi nguồn lực mà khu dân cư của chúng ta đã bị thiếu hụt hàng thế kỷ - những nguồn lực thực sự tăng cường an toàn.

Sự hỗ trợ rộng rãi cho những cuộc gọi này gửi đi những tín hiệu hy vọng về hướng mà thành phố và đất nước chúng ta đang hướng đến. Nhưng nếu chúng ta muốn đến đó, chúng ta phải chú ý không lặp lại những sai lầm của quá khứ.

Trong đợt khủng hoảng kinh tế lớn nhất mà đất nước này đối mặt, vào năm 2008, các nhà quyết định chính trị địa phương cố gắng tiết kiệm chi phí trong khi làm cho cộng đồng của họ trở nên 'an toàn' hơn với những giải pháp công nghệ mới. Trong những năm sau đó, các đơn vị cảnh sát, quan tòa và tòa án đã tích hợp công nghệ này - như thuật toán dự đoán tội phạm, nhận diện khuôn mặt và phần mềm xử lý trước phiên tòa và án phạt - sâu bên trong hệ thống pháp luật hình sự của Hoa Kỳ, ngay cả khi ngân sách tăng và lực lượng cảnh sát ngày càng mạnh. Nhưng thay vì thực sự dự đoán và giảm tội phạm và bạo lực, những thuật toán này thúc đẩy các hệ thống quá mức cảnh sát và tăng cường việc giam giữ đại trà, duy trì độc ác và làm tăng căng thẳng giữa cảnh sát và cộng đồng.

Những nhà thiết kế khẳng định rằng cảnh sát dự đoán có thể tiết kiệm tiền thông qua việc 'thông minh' hóa việc định rõ mục tiêu của nguồn lực cảnh sát, nhưng thuật toán được thiết kế để dự đoán nơi tội phạm sẽ xảy ra chỉ làm cho sự triển khai lớn và thường là bạo lực vào các khu vực đã phải đối mặt với nghèo đói và sự giảm đầu tư. Cuối cùng, những thuật toán này không giảm số tiền người đóng thuế chi trả cho cảnh sát. Ngược lại, khi các bộ phận trên khắp đất nước lắp đặt cảnh sát dự đoán, ngân sách cảnh sát tiếp tục tăng, đặc biệt là theo tỷ lệ so với tổng chi tiêu của thành phố. Đồng thời, hệ thống pháp luật hình sự trở nên nghiêm ngặt hơn, đặc biệt đối với những người da đen và da nâu. Những cộng đồng bị buộc tội nằm trong cảnh sát dự đoán sau đó bị đánh giá bằng một bộ thuật toán khác khi bước vào phiên xét xử của họ: 'thuật toán trước phiên tòa.' Phần mềm này sắp xếp những người bị buộc tội thành các hạng mục 'rủi ro' và 'không rủi ro' - giữ những người chưa được xét xử hoặc kết án giam giữ lâu hơn, phá hỏng cơ hội bảo vệ của họ và bất chấp quan điểm Mỹ về sự cho rằng vô tội.

Nhưng lý do cho tất cả những gì được gọi là 'cảnh sát dự đoán' này tan nát khi bạn nhìn vào dữ liệu pháp lý và hình sự đến từ những tháng đầu tiên của Covid.

Khi đại dịch coronavirus bao trùm Philadelphia, ví dụ, những người bị giam giữ, gia đình, tổ chức và các nhân tố trong hệ thống pháp lý đã thúc đẩy tòa án phóng thích hơn một nghìn người từ những nhà tù nơi giữ khoảng cách xã hội gần như không thể. Đồng thời, các cảnh sát, sợ rằng nhà tù quá tải khi tòa án đóng cửa và bắt được coronavirus, đã ngừng bắt giữ những người vi phạm hạng mục thấp. Các đội cảnh sát trên toàn quốc đã áp dụng những biện pháp tương tự.

Tại thành phố sau thành phố nơi những thay đổi này được thực hiện, các chính quyền địa phương đang chứng kiến nhiều loại tội phạm giảm đi. Trong khi một số loại bạo lực tại nhiều thành phố - bao gồm Philadelphia, nơi tôi đang sống - đang tăng dần khi thất nghiệp tăng và nghèo đen sâu, không có dữ liệu nào hỗ trợ niềm tin rằng việc trống rỗng nhà tù và hạn chế bắt giữ gây ra bạo lực trong cộng đồng của chúng ta. Hội đồng Quốc gia Các Tòa Án Nhà Nước cho thấy rằng hai điểm dữ liệu quan trọng mà hệ thống trước phiên tòa theo dõi - liệu ai đó có trở lại tòa án hay không, và liệu họ có bị bắt giữ lại trước khi đối mặt với phiên xử - đã giảm mạnh trên toàn quốc. Nghiên cứu và trải nghiệm sống của chúng ta trong đợt bùng phát Covid-19 đều chứng minh rằng bạn có thể bắt giữ và giam giữ ít người hơn trong cộng đồng của chúng ta mà không làm đảm bảo an toàn hoặc tiêu tốn tiền không cần thiết để giam giữ họ.

Những dấu hiệu tích cực này nhấn mạnh tầm quan trọng của việc chấm dứt quyết định dựa trên thuật toán, dù là thông qua 'cảnh sát dự đoán' hoặc các thuật toán khác được sử dụng trong hệ thống pháp luật hình sự. Khi chính quyền địa phương của chúng ta trở lại với ngân sách trống rỗng hơn và áp lực ngân sách đô thị lớn, chúng ta nên nhanh chóng hủy bỏ những mô hình này trong mọi ngữ cảnh của hệ thống pháp luật hình sự. Một số thành phố đã bắt đầu hành động: Chicago, sau nhiều năm theo đuổi chiến lược tương tự như Philadelphia, đã loại bỏ thuật toán 'danh sách nóng' đáng sợ của mình sau khi thừa nhận rằng công cụ không giảm bạo lực, trong khi lại làm tăng cường cảnh sát phân biệt chủng tộc. Và Santa Cruz đã cấm 'cảnh sát dự đoán' vào mùa hè này, với ông trưởng cảnh sát Santa Cruz Andy Mills mô tả dữ liệu thiên vị và tác động của những thuật toán này như 'một điểm mù mà tôi không nhìn thấy.'

Cộng đồng chịu ảnh hưởng từ cảnh sát quá mức và giam giữ đại trà, cũng như các học giả và nghiên cứu viên pháp lý, đã đưa ra lo ngại về những công nghệ này từ nhiều năm nay. Dự án Liên minh Chuyển động, nơi tôi làm giám đốc chính sách, gần đây đã hợp tác với MediaJustice để nghiên cứu cách các công cụ đánh giá rủi ro thực sự được triển khai ở hàng trăm thành phố trên toàn quốc. Sau hàng chục cuộc trò chuyện với các chính phủ triển khai những thuật toán này, chúng tôi phát hiện ra rằng đa số thậm chí không ghi chép cách những công cụ này ảnh hưởng đến số lượng người bị giam giữ hay sự phân chia chủng tộc trong nhà tù của họ.

Đối mặt với một phong trào đòi công bằng chủng tộc thông qua việc cắt giảm, giải ngũ và bãi bỏ cảnh sát trên khắp đất nước, những nhà khoa học dữ liệu da đen, đã nghiên cứu tác động phân biệt chủng tộc của công nghệ nhận diện khuôn mặt trong nhiều năm, cuối cùng đã giành chiến thắng lớn với việc cấm sử dụng chúng ở một số thành phố. Phần còn lại của quốc gia cần phải tiếp theo trên việc giám sát và các công nghệ cảnh sát phân biệt chủng tộc trong toàn bộ hệ thống pháp luật hình sự. Khi các thành phố và bang của chúng ta sắp mở cửa lại tòa án và nhà tù, chúng ta phải từ chối những nỗ lực hiện tại để tái khám phá những mô hình dự đoán thất bại này. Thay vì mở rộng lực lượng cho cộng đồng da đen một cách đáng kể, các thành phố lại đang thử nghiệm thuật toán dự đoán nhắm vào nhóm người trẻ da đen. Khi cảnh sát quay trở lại làm nhiệm vụ của họ, họ đang làm đầy những nhà tù của mình và nhìn lại thuật toán để giảm quá tải. Các thành phố như Pittsburgh đang xem xét việc tái chế thuật toán cảnh sát để dự đoán vấn đề phúc lợi trẻ em, và PredPol đang quảng cáo công cụ của mình để hỗ trợ thực thi Covid-19 - điều mà cả hai công cụ đều không được hiệu chỉnh để thực hiện.

Chúng ta có một khoảng thời gian hẹp để cấm hình thức 'tù nhân điện tử' này và ngăn chặn công nghệ mới rơi vào tay cảnh sát, thay vì theo đuổi con đường mà đất nước đã đi sau đợt suy thoái kinh tế cuối cùng. Phương pháp 'cảnh sát vụng trộm' phân biệt chủng tộc, được hoan nghênh vào những năm đầu thập kỷ 2000 như một best practice dựa trên dữ liệu, không biến mất - nó chỉ đơn giản là tiến hóa thành một hệ thống khác dựa trên dữ liệu được lựa chọn một cách chọn lọc và có nền tảng trong sự phân biệt đối với người da đen. Thay vì sử dụng tiền bảo lãnh hoặc thuật toán để quyết định ai xứng đáng được tự do, các quan chức nên theo dõi dữ liệu, mà cho thấy chúng ta có thể an toàn phóng thích đa số lớn người trước phiên tòa. Và thay vì sử dụng thuật toán để triển khai những phiên bản mới của 'cảnh sát dự đoán,' chính quyền địa phương phải lắng nghe những phong trào trên đường phố và đầu tư vào những nguồn lực thực sự cải thiện an toàn trong khu dân cư của chúng ta.

Mytour Opinion đăng bài viết của các độc giả bên ngoài đại diện cho nhiều quan điểm khác nhau. Đọc thêm ý kiến ở đây và xem hướng dẫn đăng bài ở đây. Gửi bài viết ý kiến tại [email protected].

Những bài viết tuyệt vời khác của Mytour

• Tuần của tôi với sự minh bạch cực độ tại một hội thảo kinh doanh Trung Quốc
• Tại sao các trang trại năng lượng mặt trời giết chim? Gọi người quan sát chim bằng trí tuệ nhân tạo
• Làm thế nào Facebook và các trang web khác thao túng lựa chọn quyền riêng tư của bạn
• Sự gia tăng của r/The_Donald do tình yêu thù hận - và sự tiêu diệt khốc liệt của nó
• Thủ thuật cho chuyến đi nghỉ dưỡng xóa xác
• 🎙️ Nghe Get Mytour, podcast mới của chúng tôi về cách tương lai được hiện thực hóa. Đón xem các tập mới nhất và đăng ký 📩 thông báo để theo dõi tất cả các chương trình của chúng tôi
• 🎧 Âm thanh không ổn đúng không? Kiểm tra tai nghe không dây, thanh âm và loa Bluetooth yêu thích của chúng tôi