Nhận Diện Khuôn Mặt Đã Đạt Đến Điểm Chết Ngỏ

Khi công nghệ nhận diện khuôn mặt đã phát triển từ những dự án mới thành các nền tảng phần mềm mạnh mẽ, các nhà nghiên cứu và những người bảo vệ quyền tự do công dân đã cảnh báo về nguy cơ mất quyền riêng tư. Những lo ngại ngày càng tăng cao đã đạt đến đỉnh điểm vào thứ Tư tại Quốc hội.

Cảnh báo về nhận diện khuôn mặt đã trở nên cấp bách trong những năm gần đây, khi các nghiên cứu chỉ ra rằng các hệ thống vẫn sản xuất tỷ lệ lỗi dương tương đối cao và liên tục chứa đựng độ chệch về tộc và giới tính. Tuy nhiên, công nghệ này vẫn tự do lan rộng ở Hoa Kỳ, lan truyền trong các cơ quan chức năng ở mọi cấp độ của chính phủ, cũng như giữa các nhà tư pháp và trường học tư. Tại buổi lưu động trước Ủy ban Quản lý và Cải cách Hạ viện, sự thiếu quy định đã thu hút sự quan ngại từ cả hai đảng.

"Năm mươi triệu máy ảnh [được sử dụng để giám sát ở Hoa Kỳ]. Vi phạm Quyền Làm Thời, Quyền Diệt Chất, quyền thẩm tra công lý. Mọi loại lỗi. Những lỗi đó ảnh hưởng không công bằng đến người Mỹ gốc Phi," nhà nghị sĩ Jim Jordan, Đảng viên Cộng hòa Ohio, kinh ngạc. "Không có quan chức được bầu cử đã chấp thuận cho các tiểu bang hoặc chính phủ liên bang, FBI, để sử dụng cái này. Có lẽ nên có một số hạn chế. Dường như đến lúc cần một thời gian nghỉ."

Ban chấp hành tư pháp của cuộc điều trần - một đội ngũ các chuyên gia bao gồm các học giả pháp lý, người bảo vệ quyền riêng tư, nhà nghiên cứu độ chệch thuật toán và một cảnh sát chuyên nghiệp - chủ yếu lặp lại đánh giá đó. Hầu hết đều yêu cầu tạm ngừng sử dụng hệ thống nhận diện khuôn mặt của chính phủ cho đến khi Quốc hội có thể thông qua các điều luật hạn chế và quy định công nghệ một cách đầy đủ và thiết lập các tiêu chuẩn minh bạch. Một đề xuất cách mạng như vậy có vẻ ngớ ngẩn trên sàn Quốc hội chỉ một năm trước đây. Nhưng một lệnh cấm như vậy đã được thông qua tại San Francisco, và các thành phố như Somerville, Massachusetts, cũng như Oakland, California, dường như sẵn sàng theo đuổi.

"Hiến pháp thứ Tư sẽ không cứu chúng ta khỏi mối đe dọa quyền riêng tư do nhận diện khuôn mặt gây ra," như Andrew Ferguson, giáo sư tại Trường Luật David A. Clarke thuộc Đại học Quận Columbia, nói trong bài làm chứng của mình. "Chỉ có pháp luật mới có thể đáp ứng những mối đe dọa thời gian thực của công nghệ thời gian thực. Pháp luật phải bảo vệ quyền riêng tư với tầm nhìn về quy mô, quy mô và sự tinh tế ngày càng tăng của những hệ thống giám sát này."

Một loạt các sự cố và tiết lộ gần đây đã chỉ ra rõ mức độ công nghệ đã được áp dụng rộng rãi, và những vấn đề của nó có thể trở nên nghiêm trọng mà không có sự giám sát và sự minh bạch tăng lên về người sử dụng công nghệ và cách các hệ thống đó hoạt động. Một báo cáo tuần trước từ các nhà nghiên cứu Luật Georgetown, ví dụ, chỉ ra rằng cả Chicago và Detroit đều đã mua hệ thống theo dõi nhận diện khuôn mặt thời gian thực - mặc dù mỗi thành phố đều nói rằng họ chưa sử dụng các nền tảng đó. Một báo cáo Georgetown bổ sung cung cấp bằng chứng về việc lạm dụng và thao túng nhận diện khuôn mặt bởi Sở Cảnh sát New York. Các sĩ quan được cho là đưa bản vẽ vào hệ thống nhận diện khuôn mặt hoặc ảnh của những người nổi tiếng họ nghĩ giống một nghi can - Woody Harrelson, trong một ví dụ - và cố gắng xác định người dựa trên những hình ảnh không liên quan đó.

Ngày thứ Tư, một hệ thống nhận diện khuôn mặt đã đánh dấu sai sinh viên Amara Majeed của Đại học Brown là nghi can trong vụ nổ nhà thờ ở Sri Lanka. Và vào thứ Tư, Colorado Springs Independent báo cáo rằng từ tháng 2 năm 2012 đến tháng 9 năm 2013, các nhà nghiên cứu tại Đại học Colorado tại Colorado Springs đã chụp ảnh sinh viên và những người qua đường khác mà không có sự đồng ý của họ, để tạo ra một cơ sở dữ liệu đào tạo nhận diện khuôn mặt là một phần của dự án do chính phủ tài trợ. Tương tự, NBC News báo cáo đầu tháng 5 rằng ứng dụng lưu trữ và chia sẻ ảnh Ever đã mở quiet sử dụng ảnh từ hàng triệu người dùng của mình để đào tạo một hệ thống nhận diện khuôn mặt mà không có sự đồng ý tích cực của họ.

"Chúng tôi và những người khác trong lĩnh vực đã dự đoán từ lâu rằng sẽ có những sự nhận diện sai lầm. Chúng tôi dự đoán sẽ có lạm dụng. Chúng tôi dự đoán sẽ có giám sát nhà nước, không chỉ là sau sự nhận diện khuôn mặt pháp lý," như Alvaro Bedoya, giám đốc sáng lập Trung tâm Quyền riêng tư & Công nghệ Luật Georgetown, nói trong bài làm chứng của mình. "Và tất cả những điều đó đều trở nên thật. Ai nói rằng công nghệ này còn non trẻ chưa làm bài tập nhà của họ."

Tại cuộc điều trần Hạ viện vào ngày thứ Tư, các nhân chứng cũng nhấn mạnh rằng công nghệ nhận diện khuôn mặt không chỉ là một cơ sở dữ liệu tĩnh, mà ngày càng được sử dụng trong các lưới đánh cá thời gian thực, rộng lớn và không cụ thể - một cách sử dụng công nghệ đôi khi được gọi là "giám sát khuôn mặt." Và với những điểm yếu lớn của nhận diện khuôn mặt, đặc biệt là trong việc xác định chính xác những người da màu, phụ nữ và những người không tuân theo giới tính, các nhân chứng lập luận rằng công nghệ hiện tại không nên được phép sử dụng bởi cảnh sát. Joy Buolamwini, một nhà nghiên cứu tại Viện Công nghệ Massachusetts và người sáng lập Liên minh Công lý Algorithmic, nói cô gọi các bộ dữ liệu được sử dụng để đào tạo hầu hết các hệ thống nhận diện khuôn mặt là "bộ dữ liệu nam trắng", vì hầu hết các ảnh được sử dụng là của nam trắng.

"Chỉ trong tuần này, một người đàn ông kiện Uber sau khi tài khoản lái xe của anh ấy bị vô hiệu hóa do các sự cố nhận diện khuôn mặt [được cho là]," Buolamwini nói với Ủy ban Giám sát và Cải cách vào ngày thứ Tư. "Người thuê nhà ở Brooklyn đang phản đối việc lắp đặt một hệ thống nhận diện khuôn mặt không cần thiết. Nghiên cứu mới đang chỉ ra độ chệch trong việc sử dụng công nghệ phân tích khuôn mặt cho mục đích chăm sóc sức khỏe, và nhận diện khuôn mặt đang được bán cho các trường học. Khuôn mặt của chúng ta có thể là biên giới cuối cùng của quyền riêng tư."

Đại diện ở nhiều phạm vi chính trị đều nói vào ngày thứ Tư rằng ủy ban sẵn sàng phát triển các điều luật song phương hạn chế và thiết lập giám sát cho việc sử dụng nhận diện khuôn mặt bởi cảnh sát và các đối tượng khác ở Hoa Kỳ. Nhưng kết quả hữu ích ở cấp liên bang đã ít có từ nhiều năm nay. Và sự ủng hộ trong lĩnh vực tư nhân cũng đã đối mặt với nhiều khó khăn lớn. Ví dụ, vào ngày thứ Tư, cổ đông Amazon đã từ chối hai đề xuất liên quan đến kiểm soát việc sử dụng phần mềm nhận diện khuôn mặt gây tranh cãi của công ty để cho phép nghiên cứu về bảo mật và quyền lợi dân sự.

Tuy nhiên, với sự phổ biến ngày càng rõ ràng của nhận diện khuôn mặt, các nhà bảo vệ quyền riêng tư nhìn thấy năm 2019 như một điểm quay tiềm năng.

"Tôi nghĩ là đã quá muộn để ngăn chặn sự lan rộng của công nghệ nhận diện khuôn mặt. Cả chính phủ và các đối tác doanh nghiệp đều đang sử dụng nó mỗi ngày một cách mới," nói Tiffany Li, một luật sư quyền riêng tư tại Dự án Xã hội Thông tin của Trường Luật Yale. "Hy vọng chúng ta đạt đến một điểm quan trọng nơi chúng ta bắt đầu thực sự làm việc trên những vấn đề đó một cách chân thành. Có thể khoảnh khắc đó là bây giờ."

Những Sự Kiện Tuyệt Vời Khác Từ Mytour

• Bên trong cuộc sống kỹ thuật số-analog lai của trẻ em
• Thảm họa Chernobyl có thể còn tạo nên một thiên đàng
• Bên trong hoạt động giám sát khổng lồ của Trung Quốc
• Độ phức tạp của Bluetooth đã trở thành một rủi ro về an ninh
• Tôi tức giận về những email tự động lừa đảo của Square
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để duy trì sức khỏe? Kiểm tra các chọn lựa của đội ngũ Gear của chúng tôi cho các thiết bị theo dõi sức khỏe tốt nhất, đồ chạy bộ (bao gồm giày và tất), và tai nghe tốt nhất.
• 📩 Nhận thêm nhiều thông tin nội bộ của chúng tôi với bản tin hàng tuần Backchannel của chúng tôi