Một Dự Luật Được Đưa Ra Tại Quốc Hội Sẽ Hạn Chế Việc Sử Dụng Công Nghệ Nhận Diện Khuôn Mặt

Tuần này, IBM, Amazon và Microsoft đã thông báo họ sẽ ngừng bán công nghệ nhận diện khuôn mặt cho cảnh sát Hoa Kỳ và kêu gọi Quốc Hội áp đặt quy tắc về việc sử dụng công nghệ này.

Một dự luật cải cách cảnh sát được giới thiệu tại Hạ Viện vào thứ Hai bởi các đảng viên nổi tiếng của Đảng Dân chủ, nhằm đáp ứng vào những tuần biểu tình phản đối các thực práctice cảnh sát phân biệt chủng tộc, sẽ thực hiện điều đó. Tuy nhiên, một số người bảo vệ quyền riêng tư nói rằng các hạn chế của nó không đủ chặt chẽ và có thể làm cho việc cảnh sát sử dụng công nghệ nhận diện khuôn mặt hợp pháp hôm nay.

“Chúng tôi lo lắng,” nói Neema Guliani, cố vấn pháp lý cấp cao cho ACLU tại Washington, DC, trích dẫn bằng chứng cho thấy nhiều thuật toán nhận diện khuôn mặt không chính xác trên làn da tối. Cô yêu cầu cấm nhận diện khuôn mặt của liên bang “trừ khi và cho đến khi nó có thể được sử dụng một cách tôn trọng đối với tự do dân sự”; Guliani nói rằng không rõ liệu điều đó có thể thực hiện được hay không. Năm ngoái, một số thành phố, trong đó có San Francisco, đã cấm sử dụng công nghệ này bởi các cơ quan chính phủ.

Dự luật Đối với Công Lý trong Cảnh Sát sẽ, giữa những điều khác, chặt chẽ định nghĩa về hành vi sai trái của cảnh sát và cấm việc sử dụng kỹ thuật nén cổ như kỹ thuật đã giết chết George Floyd ở Minneapolis tháng trước. Dự luật này do các thượng nghị sĩ Cory Booker (D-New Jersey) và Kamala Harris (D-California), cùng các đại biểu Karen Bass (D-California) và Jerrold Nadler (D-New York) tài trợ. Một tóm tắt năm trang của các điều chính chính của dự luật không đề cập đến việc nó bao gồm những hạn chế đầu tiên của liên bang đối với công nghệ nhận diện khuôn mặt.

Không có quy tắc nào trực tiếp hạn chế những gì một văn phòng lớn hoặc đội cảnh sát thành phố có thể làm với công nghệ nhận diện khuôn mặt.

Một phần của dự luật yêu cầu các viên chức liên bang mặc đồ đồng phục, như các đặc vụ FBI, phải đeo camera trên người và sử dụng camera ghi hình trên các phương tiện đánh dấu. Nó nêu rõ rằng công nghệ nhận diện khuôn mặt không thể được tích hợp vào những thiết bị này hoặc được sử dụng để quét video từ camera trên người theo thời gian thực, ví dụ như để nhận diện những người quan trọng trong đám đông. Để áp dụng công nghệ nhận diện khuôn mặt vào video từ camera trên người, các đặc vụ liên bang phải có một lệnh tìm kiếm sau khi thuyết phục một thẩm phán rằng thông tin đó “liên quan đến một điều tra hình sự đang diễn ra.

Một quy định khác chỉ định rằng các đội cảnh sát sử dụng các hỗ trợ tài trợ liên bang để mua hoặc thuê camera trên người phải áp dụng chính sách về việc sử dụng công nghệ nhận diện khuôn mặt trên hình ảnh từ các thiết bị này, bao gồm việc đảm bảo sự chấp thuận của một thẩm phán và chỉ triển khai nó trong trường hợp của “mối đe dọa nguy hiểm hoặc tội ác nghiêm trọng.”

Jameson Spivack, một chuyên viên chính sách tại Trung tâm Quyền Riêng tư và Công nghệ của Georgetown, nói rằng những hạn chế đó sẽ không ảnh hưởng nhiều đến cách công nghệ nhận diện khuôn mặt được sử dụng bởi cơ quan thực thi pháp luật ở Hoa Kỳ. Công nghệ này thường được áp dụng nhiều hơn vào hình ảnh từ nguồn khác ngoài camera trên người hoặc camera trên xe, chẳng hạn như camera giám sát, đôi khi được yêu cầu từ công dân hoặc doanh nghiệp tư nhân. “Nếu Quốc Hội thông qua dự luật này chỉ rơi vào những chấm nhỏ liên quan đến nhận diện khuôn mặt, các công ty có thể quay lại bán cho cảnh sát và không có nhiều thay đổi,” Spivack nói.

Nhóm quyền dân sự chống lại giám sát và nhận diện khuôn mặt nói rằng điều đó sẽ làm lo lắng vì công nghệ này không đáng tin cậy và mở rộng quyền lực của cảnh sát—tác động này gánh nặng nhiều nhất đối với cộng đồng màu sắc.

“Tôi rất thất vọng về việc Quốc Hội sẽ áp dụng loại tiếp cận quy định như vậy,” nói Albert Fox Cahn, người sáng lập tổ chức phi lợi nhuận Surveillance Technology Oversight Project và là một nghiên cứu viên tại Trường Luật NYU. “Đây là một công nghệ có độ chệch rất lớn sẽ đặt người Mỹ màu sắc vào tình thế bị áp đặt sai lầm hơn so với người Mỹ trắng.”

IBM và Amazon không phản hồi yêu cầu ý kiến về Đạo luật Công lý trong Cảnh sát; Microsoft từ chối bình luận. IBM đã ngừng bán công nghệ nhận diện khuôn mặt vĩnh viễn; Microsoft và Amazon đều tạm dừng bán chỉ đối với cảnh sát Hoa Kỳ cho đến khi quy định liên bang được áp dụng, với Amazon nói rằng thời gian tạm nghỉ của họ sẽ kéo dài 12 tháng.

Các nhà cung cấp công nghệ nhận diện khuôn mặt đã đối mặt với sự quan sát kỹ lưỡng từ các nhà nghiên cứu và những người bảo vệ quyền riêng tư trong những năm gần đây vì bằng chứng cho thấy công nghệ thường xuyên mắc nhiều lỗi hơn trên làn da tối so với làn da sáng.

Một báo cáo của Viện Khoa học và Công nghệ Quốc gia được công bố vào tháng 12 phát hiện rằng khi phân tích ảnh chụp hình người bị bắt, nhiều thuật toán nhận diện khuôn mặt thương mại báo cáo nhiều dương tính giả mạo hơn đối với người Mỹ gốc Ấn, người da đen và người Á-Âu, mặc dù một số phần mềm được thử nghiệm thể hiện sự chênh lệch tối thiểu.

Hai nghiên cứu học thuật ảnh hưởng đã phát hiện rằng các dịch vụ được cung cấp bởi IBM, Microsoft và Amazon cố gắng xác định giới tính của người từ khuôn mặt của họ rất chính xác đối với những người có làn da sáng, nhưng rất không chính xác đối với những người có làn da tối, đặc biệt là phụ nữ. Cả ba công ty đều nói rằng họ đã cải thiện công nghệ của mình kể từ đó.

Nhà nghiên cứu MIT Joy Buolamwini, một trong những tác giả của những nghiên cứu đó và người sáng lập nhóm chiến dịch Algorithmic Justice League, thích rằng Đạo luật Công lý trong Cảnh Sát chặn nhận diện khuôn mặt thời gian thực trên camera trên người. Nghiên cứu gần đây đã cho thấy sự không ổn định của cảnh quay này làm giảm độ chính xác. Nhưng cô nói rằng các quy tắc liên bang về nhận diện khuôn mặt cũng nên bao gồm nhiều ứng dụng khác của công nghệ.

“Bất kể độ chính xác của những hệ thống này, giám sát hàng loạt do nhận diện khuôn mặt kích hoạt có thể dẫn đến hiệu ứng đóng băng và làm im lặng sự phản đối,” Buolamwini nói. Tháng trước, cô làm tác giả chung của một bài báo đề xuất sự tạo ra một cơ quan liên bang mới để quy định nhận diện khuôn mặt, theo mô hình của Cơ quan Quản lý Thực phẩm và Dược phẩm.

Những động đất từ cái chết của George Floyd đều gợi ý rằng những ý tưởng mới lạ như vậy có thể đạt được sự xem xét nghiêm túc hơn so với trước đây. Các nhóm quyền dân sự cũng mong đợi các nghị định tiểu bang và địa phương bổ sung hạn chế nhận diện khuôn mặt, giống như những nghị định đã được thông qua tại San Francisco và Oakland ở California, và Somerville, ở Massachusetts, cấm việc sử dụng nhận diện khuôn mặt của chính phủ.

Ba công ty công nghệ lớn đã yêu cầu quy tắc nhận diện khuôn mặt của liên bang trong tuần này được dự kiến sẽ tham gia tích cực trong việc cố gắng hình thành chúng. IBM, Amazon và Microsoft đều đã đề cập đến nhận diện khuôn mặt trong các bản báo cáo v lobbying của họ tại Thượng viện trong năm nay.

Microsoft cũng đã là một người chơi tích cực trong việc lập pháp về nhận diện khuôn mặt ở các tiểu bang, bao gồm cả quê hương của mình là Washington. Họ đã hỗ trợ một dự luật nhận diện khuôn mặt được thông qua vào tháng 3 có hiệu lực từ tháng 7 năm 2021 và yêu cầu cảnh sát phải có lệnh tìm kiếm cho mọi việc sử dụng công nghệ này. ACLU và các nhóm quyền riêng tư khác nói rằng biện pháp này quá yếu đuối, chỉ trích đóng góp vào việc một dự luật tương tự, cũng được Microsoft hỗ trợ, thất bại tại Quốc hội California tháng trước.

Cập nhật, 12-6-20, 6:10pm ET: Bài viết này đã được cập nhật để phản ánh rõ hơn quan điểm của ACLU.

Những điều tuyệt vời khác từ Mytour

• Nhà phát hiện ra vắc xin đầu tiên là ai?
• Làm thế nào để biểu tình an toàn: Những điều cần làm và những điều cần tránh
• Khi chăm sóc sức khỏe chuyển sang trực tuyến, bệnh nhân bị bỏ lại phía sau
• Nhân viên Walmart đang chứng minh rằng trí tuệ nhân tạo chống trộm của họ không hoạt động
• Những thú tội của Marcus Hutchins, kẻ hack đã cứu lấy internet
• 👁 Não có phải là một mô hình hữu ích cho trí tuệ nhân tạo không? Cùng: Đọc tin tức trí tuệ nhân tạo mới nhất
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để duy trì sức khỏe? Xem lựa chọn của đội ngũ Gear chúng tôi cho các thiết bị theo dõi sức khỏe tốt nhất, trang thiết bị chạy bộ (bao gồm giày và tất chạy bộ), và tai nghe tốt nhất