Phần Mềm Nhận Diện Khuôn Mặt Dẫn Đến Việc Bị Bắt. Nó Hoàn Toàn Sai Lầm

Carronne Sawyer đã nghỉ làm một tuần để đưa chồng Alonzo ra khỏi tù. Bà biết rằng vào thời điểm cảnh sát cáo buộc anh tấn công một tài xế xe buýt gần Baltimore và đánh cắp điện thoại di động của họ, anh đang ngủ trên sofa với bà. Nhưng một nhà phân tích tình báo sử dụng phần mềm nhận diện khuôn mặt đã đánh dấu anh là một phù hợp có thể với nghi phạm được thấy trên camera an ninh từ xe buýt, bản ghi cảnh sát cho thấy, và một sĩ quan đã xác nhận điều đó.

Tại đồn cảnh sát và trong cuộc họp với cựu quan chấp hành của chồng, người đã xác nhận sự phù hợp được đề xuất bởi phần mềm, Carronne đã chú ý đến các chi tiết trong những bức ảnh trên điện thoại của bà mà con gái bà vừa chụp. Chồng bà cao hơn nghi phạm trong video, bà giải thích, và anh ta có râu và khoảng trống giữa răng. Chân phải của anh ta trượt ra khi anh ta đi, điều mà bà không thấy trong đoạn video về vụ tấn công.

“Tôi nói chồng tôi 54 tuổi. Người này trông như là con trai của chúng tôi,” Carronne nói. Alonzo cuối cùng đã được thả sau chín ngày ở tù, bà nói, trong thời gian đó anh ta đã bị bỏ lỡ buổi biểu diễn tưởng nhớ Gladys Knight của vợ và công việc làm thợ cắt tóc của mình, và không thể hoàn thành một hợp đồng xây dựng mà anh ta đã đảm bảo. “Tôi chỉ biết ơn vì tôi đã có thể làm tất cả công việc và chạy đi chạy lại, vì nếu tôi không làm, anh ấy vẫn sẽ ngồi đó vì một điều mà anh ấy không làm,” Carronne nói. Cuộc đau khổ của gia đình Sawyer diễn ra vào mùa xuân năm 2022 nhưng trước đây chưa được báo cáo.

Khoảng thời gian Alonzo được thả, nạn nhân trong vụ việc trên xe buýt nhận diện một người khác là nghi phạm trong đoạn video, Deon Ballard, người cao nhỏ hơn 7 inch và trẻ hơn hơn 20 tuổi so với Sawyer, theo các tài liệu buộc tội. Mẹ của Ballard và một sĩ quan cảnh sát đã bắt giữ anh ta xác nhận việc nhận diện đó, một văn bản cho thấy, và anh ta sẽ phải đối mặt với phiên tòa vào tháng 4.

Cảnh sát Quản lý Giao thông Maryland không phản hồi sau nhiều lần yêu cầu để bình luận và ông John Cox, phó chủ án sư quận Baltimore từ chối xác nhận Ballard và Sawyer đã bị bắt giữ vì cùng một tội ác. MYTOUR không thể nói chuyện với Alonzo Sawyer, người đang chịu án tù tại một nhà tù Maryland về một tội ác không liên quan đến vụ việc trên xe buýt.

Vụ án Alonzo Sawyer là thêm vào chỉ một số ít các trường hợp biết đến về những người vô tội bị bắt giữ sau các cuộc điều tra có sự nhầm lẫn trong nhận diện khuôn mặt—tất cả đều là nam giới da đen. Ba trường hợp nổi lên vào năm 2019 và 2020, và một trường hợp khác vào tháng trước, trong đó cư dân Georgia Randal Reid đã được thả sau khi một thẩm phán hủy một lệnh bắt giữ liên quan đến anh ta trong các vụ ăn cắp ví da thương hiệu ở Louisiana.

Carronne Sawyer gọi lại trải nghiệm của chồng mình trước công chúng trong tháng này, gọi điện đến Nhà Quốc gia Maryland qua video để ủng hộ một dự luật đề xuất để hạn chế việc cảnh sát sử dụng nhận diện khuôn mặt. Công nghệ này chủ yếu không được quy định ở Hoa Kỳ, nhưng một loạt các hạn chế địa phương và thậm chí cấm đã được thông qua trong những năm gần đây.

Những cuộc tranh luận dẫn đến những chính sách đó thường tập trung vào cuộc thảo luận về những hậu quả từ việc cảnh sát sử dụng các thuật toán nhận diện khuôn mặt, như tác động làm lạnh trái tự do ngôn luận và biểu tình, hoặc hậu quả của việc sử dụng công cụ giám sát một cách chệch lệch đối với cộng đồng da màu. Ở Baltimore, vụ án của Sawyer mang đến một lời nhắc mạnh mẽ hơn về lý do để hạn chế công nghệ này.

Charles Sydnor, một thượng nghị sĩ bang Maryland đại diện cho Quận Baltimore, nói rằng việc biết về vụ án Alonzo Sawyer vào mùa thu năm 2022 đã truyền cảm hứng cho ông để tái giới thiệu phiên bản của dự luật đề xuất quy định về nhận diện khuôn mặt, sau khi một phiên bản không thành công năm ngoái. “Không chỉ ở Maryland, mà còn ở trong khu vực của tôi, lãnh thổ nhà tôi,” Sydnor nói. “Tôi nghi ngờ có thể có một số người trong lực lượng an ninh nói rằng, thì đàn ông đã được thả sau chín ngày, nên hệ thống hoạt động. Nếu nhận diện khuôn mặt dẫn đến cuộc điều tra đưa người vô tội vào tù, đó là một vấn đề.”

Sydnor đã cố gắng đặt rào cản cho nhận diện khuôn mặt trong nhiều năm. Năm 2020, ông đưa ra một dự luật có hiệu lực tạm thời một năm về việc cấm sử dụng công nghệ này của chính phủ bang và địa phương. Những vụ bắt giữ sai lầm của những người đàn ông da đen sau những kết quả không chính xác từ phần mềm nhận diện khuôn mặt mà bắt đầu xuất hiện vào cuối năm đó đem đến một cảm giác cấp bách mới.

Hệ thống nhận diện khuôn mặt có lịch sử nhầm lẫn người có da sẫm màu, và hơn 60% cư dân Baltimore tự nhận mình là người da đen. Sydnor nói ông cảm thấy có một nhu cầu cấp bách để thiết lập quy định để bảo vệ quyền họ. Ông chuyển sang đề xuất các hạn chế về nhận diện khuôn mặt mà không cấm sau khi kết luận rằng công nghệ này đã quá phổ biến để cấm là không thực tế.

Dự luật được đề xuất của Sydnor và một tương đương được giới thiệu trong Phòng Delegates của Nghị viện Maryland, sẽ hạn chế việc cảnh sát sử dụng nhận diện khuôn mặt chỉ trong các trường hợp liên quan đến tội ác bạo lực, buôn người, hoặc “đe dọa liên tục đến an toàn công cộng hoặc an ninh quốc gia.” Họ cũng sẽ hạn chế cảnh sát chỉ tìm kiếm những kết quả nhận diện khuôn mặt trong cơ sở dữ liệu ảnh giấy phép lái xe và ảnh chụp mug shot, từ chối dịch vụ như của Clearview AI, một công ty khởi nghiệp đã lấy tỷ lệ tỉ ảnh khuôn mặt từ web, bao gồm cả từ các trang mạng xã hội.

Những dự luật cũng yêu cầu báo cáo hàng năm chi tiết về việc cảnh sát sử dụng công nghệ, các kỳ kiểm tra năng lực cho những nhà phân tích nhân viên chọn những phù hợp có thể từ danh sách do một thuật toán chọn, và cảnh sát phải có bằng chứng không chỉ là kết quả nhận diện khuôn mặt để bắt giữ.

Sydnor thừa nhận rằng dự luật đề xuất có thể không ngăn chặn vụ án tiếp theo giống như vụ của Alonzo Sawyer, nhưng ông hy vọng nó sẽ dẫn đến các kết quả tốt hơn. “Dự luật này đã được giới thiệu như là một sự thoả thuận. Chắc chắn rằng nó không mạnh mẽ như tôi mong muốn,” Sydnor nói. “Họ sẽ không ngừng sử dụng [nhận diện khuôn mặt]. Miễn là không có biện pháp nào đặt ra, họ sẽ tiếp tục sử dụng nó mà không bị quy định.”

Các dự luật Maryland được đề xuất đã được phát triển với sự đóng góp từ một nhóm làm việc mà trong đó các lập pháp viên tiểu bang đã họp với các viên kiện và bảo vệ công bố, các cơ quan chức năng an ninh và các tổ chức tự do dân sự như ACLU và Innocence Project.

Maryland là một địa điểm duy nhất để thảo luận về quy định nhận diện khuôn mặt, theo lời của Andrew Northrup, một luật sư thuộc bộ phận phân tích hình sự của Văn phòng Bảo vệ Dân sự Maryland. Anh gọi Baltimore là “một hòn ốc nghiên cứu cho công nghệ giám sát”, vì theo một phân tích của Viện Vera Justice năm 2021, thành phố này chi tiêu nhiều tiền hơn trên đầu người cho cảnh sát so với 72 thành phố lớn khác ở Hoa Kỳ, và có một lịch sử dài về công nghệ giám sát trong lĩnh vực cảnh sát.

Việc sử dụng công nghệ giám sát xâm phạ bao gồm nhận diện khuôn mặt tại Baltimore trong thời kỳ biểu tình sau cái chết của Freddie Gray năm 2015 đã đưa cựu chủ tịch Ủy ban Giám sát và Cải cách Hạ viện Elijah Cummings bám sát vấn đề này trong Quốc hội. Và năm 2021, Hội đồng Thành phố Baltimore đã bỏ phiếu để đặt một hiệp định tạm thời một năm về việc sử dụng nhận diện khuôn mặt bởi các đối tác công cộng và tư nhân, nhưng không áp dụng cho cảnh sát, hiệp định hết hiệu lực vào tháng 12.

Northrup phát biểu ủng hộ dự luật và yêu cầu kiểm tra năng lực tại buổi nghe của Ủy ban Tư pháp Phòng Delegates trong tháng này, được Carronne Sawyer phát biểu. Anh cảnh báo rằng khi việc sử dụng công nghệ trở nên phổ biến hơn, nhận diện khuôn mặt kém có thể thay thế nhận dạng chứng kiến kém là một nguồn chính của các vụ kết án sai lầm. Đa số mọi người đều kém tốt khi nhận ra những người lạ, Northrup nói, ngay cả khi được hỗ trợ bởi thuật toán.

Tổ chức đại diện cho cảnh sát và các viên kiện Maryland đã tham gia vào quá trình hình thành của dự luật đề xuất thông qua nhóm làm việc nhưng vẫn đưa ra phản đối. Trong buổi nghe Ủy ban Tư pháp, Chủ tịch Hiệp hội Cảnh sát Maryland Russ Hamill nói rằng những gì đã xảy ra với Alonzo Sawyer là kinh khủng, nhưng ông phát biểu phản đối dự luật. Ông nói rằng nó quá chặt chẽ trong việc hạn chế loại các vụ án mà nhận diện khuôn mặt có thể được sử dụng và cũng than phiền về sự hạn chế của nó đối với cơ sở dữ liệu ảnh mà cảnh sát có thể tìm kiếm.

Nick Picerno, đội trưởng cảnh sát quận Montgomery, một khu đô thị gần Washington, DC, cũng nói rằng những phần của dự luật đó sẽ làm trở ngại cho cảnh sát. Ông nói rằng các viên chức trong đội của ông trước đây đã sử dụng công nghệ này để nhận diện một nghi phạm phơi bày không chừng nào bị ghi lại trên camera cửa ra vào và để xác định một nạn nhân lạm dụng trẻ em trong một video TikTok. Ông yêu cầu đề xuất được sửa đổi để cho phép sử dụng nhận diện khuôn mặt để xác định cả nghi phạm và nhân chứng trong nhiều hơn nhiều hạng mục tội phạm, bao gồm cả việc sở hữu vũ khí, tình dục trẻ em, bạo lực gia đình và tàn ác đối với động vật.

Deborah Levi, một luật sư bảo vệ cộng đồng ở Baltimore, cho biết trong buổi nghe của mình, yêu cầu ghi chú của bà cho thấy rằng chỉ riêng Cơ quan Cảnh sát Baltimore đã sử dụng nhận diện khuôn mặt hơn 800 lần trong năm 2022. Trong một trường hợp, cảnh sát đã chạy một bức ảnh Instagram của một người cầm súng thông qua phần mềm nhận diện khuôn mặt, sau đó đã đảm bảo một quyết định tìm kiếm không cần thông báo cho địa chỉ của người được đề xuất là đối tượng phù hợp, bà nói.

Carronne Sawyer ủng hộ dự luật đề xuất vì bà tin rằng điều khoản nói rằng nhận diện khuôn mặt “không thể là cơ sở duy nhất để xác định tích cực” có thể đã tạo ra sự khác biệt trong vụ án của chồng bà. Cảnh sát đã thay đổi cách bà cảm thấy với cảnh sát và làm mất niềm tin của bà vào quy trình đúng đắn, bà nói, khiến bà tin rằng xã hội cần gấp phải có quy định như đang được thảo luận tại Maryland.

“Tôi chỉ nghĩ về việc bao nhiêu người khác đã trải qua những gì chồng tôi phải trải qua mà không có ai đứng lên bảo vệ họ,” bà nói. “Bao nhiêu người đang ngồi trong tù bây giờ vì điều gì đó họ không làm vì nhận diện khuôn mặt và các cơ quan cảnh sát không làm nghiên cứu cơ bản của họ?”

Quốc hội bang Maryland kết thúc vào tháng 4 và sẽ không họp lại cho đến tháng 1 năm 2024. Nếu những dự luật đề xuất không được thông qua trước thời điểm đó, việc sử dụng nhận diện khuôn mặt của cảnh sát sẽ tiếp tục không được quy định trong tiểu bang ít nhất một năm nữa.