Amazon Tham Gia Cuộc Gọi của Microsoft Về Quy tắc về Nhận Diện Khuôn Mặt

Ở Quận Washington, tiểu bang Oregon, các đội phó của trưởng công an gửi hình ảnh của nghi phạm lên dịch vụ máy chủ đám mây của Amazon.¹ Các thuật toán của ông lớn thương mại điện tử này so sánh những khuôn mặt đó với một cơ sở dữ liệu có hàng chục nghìn bức ảnh mugshot, sử dụng dịch vụ phân tích hình ảnh Rekognition của Amazon.

Việc sử dụng nhận diện khuôn mặt như vậy của cảnh sát thực sự là không được quy định. Nhưng một số nhà phát triển công nghệ muốn thay đổi điều đó. Trong một bài đăng trên blog vào thứ Năm, Amazon yêu cầu Quốc hội đặt ra một số quy tắc về việc sử dụng công nghệ này, lặp lại một cuộc gọi của Microsoft vào tháng 12. Các thông báo đến trong bối cảnh sự chú ý ngày càng tăng về việc sử dụng và độ chính xác của nhận diện khuôn mặt bởi các nhà nghiên cứu, nhà lập pháp và các tổ chức tự do dân sự.

Trong bài đăng, Michael Punke, phó chủ tịch chính sách công cộng toàn cầu tại bộ phận đám mây của Amazon, AWS, viết rằng công ty “ủng hộ việc tạo ra một khung pháp luật quốc gia về việc sử dụng nhận diện khuôn mặt thông qua giám sát video và hình ảnh trên các khu vực công cộng hoặc thương mại.”

Amazon đang chịu áp lực từ các tổ chức nhân quyền sau các thử nghiệm của các nhà nghiên cứu và ACLU phát hiện rằng chức năng phân tích hình ảnh và nhận diện khuôn mặt của Rekognition của Amazon ít chính xác hơn đối với người da đen. Hai nhà nghiên cứu báo cáo vào tháng 1 rằng một dịch vụ của AWS cố gắng xác định giới tính của người trong ảnh, riêng biệt từ dịch vụ nhận diện khuôn mặt, ít chính xác hơn đối với phụ nữ da đen. Khi ACLU thử nghiệm dịch vụ nhận diện khuôn mặt của Amazon bằng cách sử dụng hình ảnh của các thành viên Quốc hội, dịch vụ đó—một cách sai lầm—tìm thấy trùng khớp cho 28 người trong bộ sưu tập hình ảnh mugshot. Những kết quả dương giả chiếm nhiều nhất là những người da màu.

Amazon đã phản đối những nghiên cứu đó. Bài viết của Punke vào thứ Năm nói rằng trong cả hai trường hợp, Rekognition “không được sử dụng đúng cách”—một khẳng định bị các nhà nghiên cứu bên ngoài phủ nhận. Tuy nhiên, bài đăng trên blog của Amazon vào thứ Năm cho thấy công ty này dường như nhận ra có lý do để lo ngại.

Amazon muốn có pháp luật “bảo vệ quyền dân sự cá nhân và đảm bảo rằng chính phủ sẽ minh bạch trong việc sử dụng công nghệ nhận diện khuôn mặt,” Punke viết. Bài viết của ông nói rằng thông điệp này dành cho những người làm luật và được thông tin từ cuộc trò chuyện với khách hàng, nhà nghiên cứu, học giả và những người làm chính sách. Amazon từ chối bình luận về đề xuất luật tiểu bang Washington. Một thành viên của hội đồng quản trị San Francisco muốn cấm các cơ quan thành phố sử dụng công nghệ này hoàn toàn.

Cuộc kêu gọi của Amazon về hành động của liên bang về nhận diện khuôn mặt trùng với lời kêu gọi vào tháng 12 của Tổng giám đốc Microsoft Brad Smith, người yêu cầu chính phủ quy định công nghệ để ngăn chặn xâm phạm quyền riêng tư hoặc các hình thức mới của phân biệt đối xử. “Chúng tôi tin rằng cách duy nhất để bảo vệ trước cuộc đua đến đáy là xây dựng một nền tảng trách nhiệm hỗ trợ cho sự cạnh tranh sức khỏe trên thị trường,” Smith nói vào tháng 12.
Một số nhà lập pháp muốn đưa ra đề xuất. Tháng 11 năm ngoái, tám thành viên Dân chủ của Quốc hội viết thư cho CEO của Amazon Jeff Bezos yêu cầu ông về bảo vệ quyền riêng tư tích hợp vào Rekognition, và công bố dữ liệu về độ chính xác trên các nhóm dân số khác nhau. Một dự luật đang xem xét tại tiểu bang Washington được hỗ trợ từ Microsoft sẽ cấm việc sử dụng nhận diện khuôn mặt trên các luồng giám sát mà không có trát tư except trong tình trạng khẩn cấp, trong khi một dự luật được đề xuất tại Massachusetts sẽ áp đặt một tạm ngừng về công nghệ cho đến khi có các quy định mới. Amazon từ chối bình luận về dự luật tiểu bang Washington được đề xuất. Một thành viên của hội đồng quản trị San Francisco muốn cấm các cơ quan thành phố sử dụng công nghệ này hoàn toàn.

Cả Microsoft lẫn Amazon đều không đặt quá nhiều nguy cơ về doanh thu ngay lập tức khi họ đề xuất hạn chế cách khách hàng sử dụng một trong các sản phẩm của họ, theo Clare Garvie, một nghiên cứu viên tại Trung tâm Quyền riêng tư và Công nghệ của Đại học Georgetown. Mặc dù nổi bật, Garvie nói rằng cả hai công ty đều không phải là những người chơi lớn trên thị trường cung cấp phần mềm nhận diện khuôn mặt cho cơ quan chức năng hoặc cơ quan chính phủ Hoa Kỳ.

Lĩnh vực đó được thống trị bởi những cái tên ít quen thuộc như IDEMIA, hỗ trợ đối với đơn đăng ký hộ chiếu Hoa Kỳ, và NEC Corporation, làm việc trong một thử nghiệm của Cơ quan Biên phòng kiểm tra hành khách quốc tế tại một số sân bay. Một người phát ngôn của NEC đã đưa Mytour đến một tuyên bố tháng 12 của Tổng giám đốc kiêm Giám đốc điều hành của công ty Takashi Niino, người nói ông “hoan nghênh cuộc tranh luận này” về việc quy định về nhận diện khuôn mặt. IDEMIA không phản hồi khi được yêu cầu.

Bộ phận đám mây của Amazon đã thể hiện sự quan tâm đối với các hợp đồng chính phủ. Họ đã giành được một số hợp đồng liên bang lớn, bao gồm cả với CIA, và vẫn đang tham gia đấu thầu cho JEDI, một hợp đồng Pentagon trị giá 10 tỷ đô la. Tại hội nghị Mytour25 năm ngoái, Bezos nói rằng các công ty công nghệ nên tự hào khi làm việc với chính phủ và quân đội Hoa Kỳ. “Tôi thích đất nước này”, ông nói.

Bài đăng trên blog của Amazon ngày thứ Năm cho thấy cách công ty đã thay đổi quan điểm về việc cảnh sát nên sử dụng công nghệ của họ. Bài đăng cho biết khi cơ quan chức năng sử dụng nhận diện khuôn mặt, họ nên cấu hình để báo cáo rằng một khuôn mặt khớp với một khuôn mặt khác chỉ khi phần mềm có độ tin cậy là 99%

Tuy nhiên, một bài đăng năm 2017 trên trang AWS của một chuyên viên phân tích hệ thống từ văn phòng Cảnh sát Quận Washington cho thấy mã nguồn chỉ sử dụng ngưỡng tin cậy 85%. Một năm sau, Amazon phê phán nghiên cứu của ACLU trong đó các thành viên của quốc hội được kết nối không đúng với ảnh chụp hình với hệ thống mặc định của Amazon là 80%, nói rằng nó hướng dẫn cơ quan chức năng sử dụng ngưỡng 95%. Một ngày sau đó, công ty đề xuất sử dụng ngưỡng 99% thay vì.

Tuần trước, văn phòng Cảnh sát Quận Washington nói với Gizmodo rằng họ không sử dụng bất kỳ ngưỡng nào khi sử dụng dịch vụ của Amazon. Phó Jeff Talbot nói rằng văn phòng đã chú ý thiết kế các giao thức an toàn xung quanh việc sử dụng nhận diện khuôn mặt. Họ không đặt ngưỡng vì công cụ được thiết kế để cung cấp gợi ý cho các điều tra viên, người quyết định xác định nghi phạm, ông nói. “Chúng tôi hoàn toàn ủng hộ việc xây dựng pháp luật để quy định việc sử dụng công nghệ một cách thích hợp và có trách nhiệm và sẵn sàng tham gia cuộc trò chuyện,” ông nói.

Garvie, nghiên cứu viên tại Georgetown, nói rằng cô khích lệ khi ngành công nghiệp đang tìm kiếm quy tắc cho việc sử dụng nhận diện khuôn mặt trong lực lượng cảnh sát. Nhưng cô nói rằng không rõ liệu sự thay đổi có phản ánh ý thức cao hơn về những thiệt hại tiềm ẩn của công nghệ, hay là một cố gắng trước áp lực ngày càng tăng từ các nhà lập pháp hoặc công dân. “Họ có thể nhìn thấy rằng quy định là không thể tránh khỏi, hoặc các cơ quan đã trở nên một chút không thoải mái với việc sử dụng công nghệ không được quy định,” Garvie nói.

Bài đăng của Amazon gợi ý rằng mặc dù cần có nhiều quy tắc hơn, vấn đề không phải là khẩn cấp. Nó khẳng định rằng dịch vụ của công ty có một “lịch sử hoạt động mạnh mẽ” và nói rằng “trong hơn hai năm chúng tôi cung cấp Amazon Rekognition, chúng tôi chưa nhận được một báo cáo nào về việc sử dụng sai lầm bởi cơ quan chức năng.”

Garvie nói rằng điều đó là vô lý khi không có hướng dẫn chung về cách cơ quan chức năng nên sử dụng nhận diện khuôn mặt. Nghiên cứu của Georgetown đã phát hiện ra rằng nhiều cơ quan không có các biện pháp kiểm tra và cân nhắc, hoặc kiểm toán, về việc sử dụng công nghệ này. “Misuse có nghĩa gì khi không có quy tắc về sử dụng và lạm dụng?” cô nói.

Neema Singh Guliani, cố vấn pháp lý hàng đầu của ACLU, trích dẫn tuyên bố nghi ngờ đó là một lý do Amazon không thể tin tưởng để làm việc với cơ quan chức năng. Cô nói rằng công ty chưa chứng minh được sự sẵn sàng chịu trách nhiệm đúng đắn cho một công nghệ có thể nguy hiểm, “điều này càng làm nổi bật sự cần thiết và khẩn cấp để Amazon rút khỏi lĩnh vực giám sát hoàn toàn.”

¹ SỬA LỖI, 10:50 PM: Một phiên bản trước của câu chuyện này đã nói sai rằng Cảnh sát Quận Washington sử dụng một ứng dụng di động để gửi ảnh của nghi can đến dịch vụ máy chủ đám mây của Amazon.

Những điều tuyệt vời khác từ Mytour

• Tất cả những lần Facebook hành động nhanh chóng (và làm hỏng mọi thứ)
• Yếu tố quyết định để tổ chức cuộc điều tra trực tuyến đầu tiên của đất nước
• Cách làm cho ngôi nhà của bạn tiết kiệm năng lượng hơn
• Thế giới có thể thực sự cạn kiệt dân số
• Tìm Lena, thánh bảo vệ của các tập tin JPEG
• 👀 Đang tìm kiếm những thiết bị công nghệ mới nhất? Kiểm tra các hướng dẫn mua hàng và các ưu đãi tốt nhất của chúng tôi suốt cả năm
• 📩 Nhận thêm nhiều thông tin cực kỳ thú vị với bản tin hàng tuần của chúng tôi, Backchannel