Các cơ quan liên bang đang nhanh chóng tăng cường việc sử dụng công nghệ nhận diện khuôn mặt

Mặc dù có sự phản đối ngày càng tăng, chính phủ Hoa Kỳ đang tiếp tục tăng cường việc sử dụng công nghệ nhận diện khuôn mặt gây tranh cãi.

Văn phòng Chính phủ Hoa Kỳ về Trách nhiệm Tài chính công bố một báo cáo vào ngày 24 tháng 8 năm 2021, chi tiết về việc sử dụng công nghệ nhận diện khuôn mặt hiện tại và kế hoạch trong tương lai của các cơ quan liên bang. GAO đã khảo sát 24 bộ và cơ quan - từ Bộ Quốc phòng đến Cơ quan Quản lý Doanh nghiệp Nhỏ - và phát hiện 18 báo cáo đã sử dụng công nghệ này và 10 báo cáo có kế hoạch mở rộng việc sử dụng nó.

Báo cáo được công bố hơn một năm sau khi Ủy ban Chính sách Công nghệ Hoa Kỳ của Hiệp hội Công nghệ Thông tin, tổ chức giáo dục và nghiên cứu máy tính lớn nhất thế giới, kêu gọi dừng ngay lập tức mọi sử dụng của chính phủ đối với công nghệ nhận diện khuôn mặt.

Ủy ban Chính sách Công nghệ Hoa Kỳ là một trong những nhóm và nhân vật nổi tiếng, bao gồm ACLU, Hội đồng Thư viện Hoa Kỳ và Báo cáo viên Đặc biệt của Liên Hợp Quốc về Tự do Ngôn luận và Ý kiến, yêu cầu hạn chế việc sử dụng công nghệ này. Một chủ đề chung trong phản đối này là thiếu tiêu chuẩn và quy định cho công nghệ nhận diện khuôn mặt.

Một năm trước đây, Amazon, IBM và Microsoft cũng thông báo rằng họ sẽ ngừng bán công nghệ nhận diện khuôn mặt cho các đội cảnh sát đang chờ quy định liên bang về công nghệ này. Quốc hội đang cân nhắc về một lệnh tạm ngừng việc sử dụng công nghệ này của chính phủ. Một số thành phố và tiểu bang, đặc biệt là Maine, đã áp đặt các hạn chế.

Tại sao các chuyên gia máy tính nói không

Ủy ban Chính sách Công nghệ của Hiệp hội Máy tính Thế giới, người đã đưa ra lời kêu gọi tạm ngừng, bao gồm các chuyên gia máy tính từ giảng đường, công nghiệp và chính phủ, nhiều trong số họ đã tích cực tham gia vào phát triển hoặc phân tích công nghệ. Là chủ tịch của ủy ban tại thời điểm công bố tuyên bố và là một nhà nghiên cứu khoa học máy tính, tôi có thể giải thích điều gì đã thúc đẩy ủy ban chúng tôi đề xuất lệnh ngừng này và có lẽ quan trọng hơn, điều gì sẽ làm cho ủy ban rút lại lời kêu gọi này.

Nếu điện thoại của bạn không nhận diện khuôn mặt và yêu cầu bạn nhập mật khẩu, hoặc nếu phần mềm sắp xếp ảnh bạn đang sử dụng nhận diện sai người trong gia đình, thì không có tổn thất nào đáng kể. Ngược lại, nếu bạn trở nên chịu trách nhiệm về bị bắt giữ hoặc bị từ chối vào một cơ sở vì thuật toán nhận diện không hoàn hảo, tác động có thể rất đột ngột.

Tuyên bố chúng tôi viết đề cập đến nguyên tắc sử dụng công nghệ nhận diện khuôn mặt trong những ứng dụng quan trọng này. Trong số những nguyên tắc này, nguyên tắc đầu tiên và quan trọng nhất là cần phải hiểu rõ về độ chính xác của các hệ thống này. Một trong những vấn đề chính với những thuật toán này là chúng hoạt động khác nhau đối với các nhóm dân tộc khác nhau.

Một đánh giá về các nhà cung cấp công nghệ nhận diện khuôn mặt của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ đã phát hiện ra rằng hầu hết các hệ thống được thử nghiệm có sự khác biệt rõ ràng trong khả năng so khớp hai hình ảnh của cùng một người khi so sánh một nhóm dân tộc với nhóm khác. Một nghiên cứu khác cho thấy các thuật toán chính xác hơn đối với nam da trắng so với nữ da đen. Các nhà nghiên cứu cũng đang khám phá làm thế nào các đặc điểm khác như tuổi tác, bệnh tật và tình trạng khuyết tật ảnh hưởng đến hệ thống này. Những nghiên cứu này cũng đang phát hiện ra những chênh lệch.

Nhiều yếu tố khác nhau cũng ảnh hưởng đến hiệu suất của những thuật toán này. Hãy xem xét sự khác biệt giữa cách bạn có thể trông trong một bức ảnh gia đình đẹp mắt bạn đã chia sẻ trên mạng xã hội so với một bức ảnh bạn được chụp bởi một camera an ninh mờ, hoặc một chiếc xe cảnh sát di chuyển, vào một đêm sương muối. Một hệ thống được huấn luyện trên cái trước có hiệu suất tốt trong ngữ cảnh sau không? Cách mà ánh sáng, thời tiết, góc máy và các yếu tố khác ảnh hưởng đến những thuật toán này vẫn là một câu hỏi mở.

Trong quá khứ, các hệ thống khớp dấu vết vân tay hoặc mảnh vết DNA phải được đánh giá chính thức và thiết lập tiêu chuẩn trước khi chúng được tin dùng bởi cảnh sát và những người khác. Cho đến khi thuật toán nhận diện khuôn mặt có thể đạt đến các tiêu chuẩn tương tự - và các nhà nghiên cứu cũng như cơ quan quản lý thực sự hiểu rõ cách ngữ cảnh sử dụng công nghệ ảnh hưởng đến độ chính xác của nó - các hệ thống không nên được sử dụng trong các ứng dụng có thể gây hậu quả nghiêm trọng cho cuộc sống của người dân.

Sự minh bạch và trách nhiệm

Cũng quan trọng là các tổ chức sử dụng công nghệ nhận diện khuôn mặt cung cấp một dạng thông báo công khai có ý nghĩa và liên tục. Nếu một hệ thống có thể dẫn đến việc bạn mất tự do hoặc mạng sống, bạn nên biết rằng nó đang được sử dụng. Ở Hoa Kỳ, đây là một nguyên tắc áp dụng cho việc sử dụng nhiều công nghệ có thể gây hại, từ camera quay phim giám sát đến các camera giám sát video, và quan điểm của USTPC là các hệ thống nhận diện khuôn mặt cũng nên tuân theo tiêu chuẩn này.

Để có sự minh bạch, cũng cần có các quy tắc quy định việc thu thập và sử dụng thông tin cá nhân dưới cơ sở đào tạo của hệ thống nhận diện khuôn mặt. Công ty Clearview AI, hiện đang sử dụng phần mềm của mình được các cơ quan cảnh sát trên khắp thế giới, là một ví dụ điển hình. Công ty thu thập dữ liệu của mình - hình ảnh khuôn mặt của cá nhân - mà không có thông báo.

Clearview AI thu thập dữ liệu từ nhiều ứng dụng, nhà cung cấp và hệ thống khác nhau, tirâm tận dụng các luật lệ lỏng lẻo về việc thu thập như vậy. Trẻ em đăng video về bản thân trên TikTok, người dùng đánh dấu bạn bè trong ảnh trên Facebook, người tiêu dùng thực hiện mua sắm qua Venmo, những người tải video lên YouTube và nhiều người khác đều tạo ra những hình ảnh có thể được liên kết với tên họ và được cắp từ những ứng dụng này bởi các công ty như Clearview AI.

Bạn có trong bộ dữ liệu Clearview sử dụng không? Bạn không cách nào biết. Quan điểm của ACM là bạn nên có quyền biết, và các chính phủ nên đặt ra giới hạn về cách dữ liệu này được thu thập, lưu trữ và sử dụng.

Năm 2017, Hội đồng Kỹ thuật Chính sách Công nghệ của Hiệp hội máy tính và đối tác của nó tại châu Âu đã phát hành một tuyên bố chung về thuật toán quyết định tự động về cá nhân có thể dẫn đến phân biệt đối xử gây hại. Tóm lại, chúng tôi kêu gọi các nhà quyết định chính trị áp dụng cùng các tiêu chuẩn cho các tổ chức sử dụng phân tích dữ liệu như trong những trường hợp con người truyền thống đã đưa ra quyết định, cho dù đó là quản lý giao thông hay truy cứu hình sự.

Điều này bao gồm việc hiểu rõ các đối đầu giữa các rủi ro và lợi ích của các công nghệ tính toán mạnh khi chúng được áp dụng vào thực tế và xác định rõ nguyên tắc về ai chịu trách nhiệm khi xảy ra thiệt hại. Các công nghệ nhận diện khuôn mặt thuộc vào loại này, và quan trọng là hiểu cách đo lường rủi ro và lợi ích của chúng cũng như ai chịu trách nhiệm khi chúng gặp sự cố.

Bảo vệ cộng đồng

Một trong những vai trò chính của chính phủ là quản lý rủi ro của công nghệ và bảo vệ dân chúng. Những nguyên tắc mà Hội đồng Kỹ thuật Chính sách Công nghệ của Hiệp hội máy tính đã đề cập đã được sử dụng trong việc quy định hệ thống giao thông, sản phẩm y tế và dược phẩm, các phương pháp an toàn thực phẩm và nhiều khía cạnh khác của xã hội. Hội đồng Kỹ thuật Chính sách Công nghệ của Hiệp hội máy tính, nói một cách ngắn gọn, đề nghị chính phủ nhận thức khả năng gây hậu quả lớn cho nhiều người do các hệ thống nhận diện khuôn mặt, thông qua sai lầm và độ chệch.

Những hệ thống này vẫn còn ở giai đoạn đầu của sự chín muồi, và có nhiều điều mà những nhà nghiên cứu, chính phủ và ngành công nghiệp chưa hiểu rõ về chúng. Cho đến khi công nghệ nhận diện khuôn mặt được hiểu rõ hơn, việc sử dụng chúng trong các ứng dụng có tác động lớn nên được tạm dừng cho đến khi chúng có thể được quy định đúng đắn.

Bài viết của James Hendler, Giáo sư Khoa học Máy tính, Web và Nghệ thuật Kỹ thuật, Viện Công nghệ Rensselaer

Bài viết này được tái xuất bản từ trang The Conversation theo giấy phép Creative Commons. Đọc bài viết gốc.