Liệu Khuôn Mặt Của Chúng Ta Có Xứng Đáng Được Bảo Vệ Như Chiếc Điện Thoại Của Chúng Ta?

Trong tháng 6 năm 2002, Steven Spielberg ra mắt một bộ phim mới mà ông đạo diễn, Minority Report, dựa trên một câu chuyện ngắn nổi tiếng năm 1956 của nhà văn khoa học viễn tưởng Philip K. Dick. Đặt trong năm 2054 ở Washington, DC không có tội phạm, bộ phim có sự tham gia của Tom Cruise, người đóng vai trò là trưởng đội Precrime - đội cảnh sát chọn lọc bắt giữ kẻ giết người trước khi họ thực hiện tội ác. Nhóm này có quyền thực hiện bắt giữ dựa trên những tưởng tượng của ba người có khả năng nhìn thấy tương lai. Nhưng không lâu sau đó, Cruise phải trốn khỏi đội của mình - trong một thành phố mà mọi thứ đều được theo dõi - khi những người có khả năng tâm linh dự đoán rằng anh sẽ phạm một vụ án mạng.

Hơn 15 năm sau, cách tiếp cận này đối với lực lượng chức năng dường như hiện thực hơn nhiều. Nhưng hôm nay, một khía cạnh của Minority Report có vẻ sẽ đến sớm hơn cả năm 2054. Khi Cruise đang trốn chạy, anh ta bước vào cửa hàng Gap. Nhà bán lẻ này có công nghệ nhận diện từng khách hàng mới vào và ngay lập tức hiển thị trên một kiosk những hình ảnh quần áo mà nó cho rằng khách hàng sẽ thích. Một số người có thể thấy những ưu đãi hấp dẫn. Người khác có thể thấy chúng phiền phức hoặc thậm chí là kinh tởm. Nói một cách đơn giản, việc bước vào một cửa hàng trở thành một trải nghiệm giống như chúng ta đôi khi cảm thấy sau khi duyệt web và sau đó chuyển sang feed truyền thông xã hội chỉ để thấy quảng cáo mới quảng cáo những gì chúng ta vừa xem.

Trong Minority Report, Spielberg đề xuất khán giả cân nhắc về cách công nghệ có thể được sử dụng và lạm dụng - để loại bỏ tội phạm trước khi chúng được thực hiện, cũng như lạm dụng quyền của người dân khi mọi thứ đi sai. Công nghệ nhận diện khuôn mặt mà nhận diện Cruise trong cửa hàng Gap được thông tin từ một chip được gắn vào bên trong anh ta. Nhưng những tiến bộ công nghệ thực tế của hai thập kỷ đầu tiên của thế kỷ 21 đã vượt xa cả trí tưởng tượng của Spielberg, vì hôm nay không cần có chip đó. Công nghệ nhận diện khuôn mặt, sử dụng thị giác máy tính được trang bị trí tuệ nhân tạo với camera và dữ liệu trong đám mây, có thể nhận diện khuôn mặt của khách hàng khi họ bước vào cửa hàng dựa trên lần ghé thăm của họ tuần trước - hoặc cách đây một giờ. Điều này đang tạo ra một trong những cơ hội đầu tiên cho ngành công nghiệp công nghệ và chính phủ để giải quyết các vấn đề đạo đức và nhân quyền cho trí tuệ nhân tạo một cách tập trung và cụ thể, bằng cách quyết định cách nào nhận diện khuôn mặt nên được quy định.

Điều bắt đầu với hầu hết mọi người như một kịch bản đơn giản, chẳng hạn như việc lưu trữ và tìm kiếm ảnh, nhanh chóng trở nên phức tạp hơn rất nhiều. Đã có nhiều người thoải mái sử dụng nhận diện khuôn mặt thay vì mật khẩu để mở khóa iPhone hoặc laptop Windows. Và nó không dừng lại ở đó.

Máy tính hiện có khả năng thực hiện những gì hầu hết chúng ta làm từ khi mới sinh ra - nhận diện khuôn mặt của người khác. Đối với hầu hết chúng ta, điều này có lẽ bắt đầu từ khả năng nhận diện mẹ của chúng ta. Một trong những niềm vui của việc làm cha mẹ đến khi trẻ mới biết đi là khi bé phát nổ hứng khởi khi bạn trở về nhà. Phản ứng này, kéo dài cho đến khi bắt đầu đối mặt với tuổi teen, dựa trên khả năng nhận diện khuôn mặt bẩm sinh của con người. Mặc dù điều này quan trọng đối với cuộc sống hàng ngày của chúng ta, chúng ta hầu như không bao giờ dừng lại để nghĩ về điều gì làm cho nó trở nên có thể.

Như đã biết, khuôn mặt của chúng ta độc đáo như vân tay của chúng ta. Những đặc điểm khuôn mặt của chúng ta bao gồm khoảng cách giữa đồng tử, kích thước của cái mũi, hình dạng của nụ cười và đường cắt của cái cằm. Khi máy tính sử dụng ảnh để vẽ biểu đồ những đặc điểm này và kết hợp chúng lại, chúng tạo ra nền tảng cho một phương trình toán học có thể được truy cập bởi các thuật toán.

Mọi người đang đưa công nghệ này vào hoạt động trên toàn thế giới theo cách sẽ làm cho cuộc sống trở nên tốt đẹp hơn. Ở một số trường hợp, đó có thể là vấn đề của sự thuận tiện cho người tiêu dùng. Ngân hàng Quốc gia Úc, sử dụng công nghệ nhận diện khuôn mặt của Microsoft, đang phát triển khả năng để bạn có thể đến một máy rút tiền tự động để bạn có thể rút tiền một cách an toàn mà không cần thẻ ngân hàng. Máy rút tiền tự động sẽ nhận diện khuôn mặt của bạn và sau đó bạn có thể nhập mã PIN và hoàn tất giao dịch của mình.

Trong những tình huống khác, những lợi ích mang tính toàn cầu hơn. Tại Washington, DC, Viện Nghiên cứu Gen Học Quốc gia đang sử dụng nhận diện khuôn mặt để giúp các bác sĩ chẩn đoán một căn bệnh được biết đến là hội chứng DiGeorge, hoặc hội chứng xóa bỏ 22q11.2. Đây là một căn bệnh thường gặp hơn ở những người gốc Phi, Á, hoặc gốc Latin. Nó có thể dẫn đến nhiều vấn đề sức khỏe nặng nề, bao gồm tổn thương đến tim và thận. Nhưng nó cũng thường thể hiện bản chất của mình trong những đặc điểm khuôn mặt tinh tế có thể được máy tính nhận diện bằng các hệ thống nhận diện khuôn mặt, giúp bác sĩ chẩn đoán cho bệnh nhân cần trợ giúp.

Những tình huống này minh họa những cách quan trọng và cụ thể mà nhận diện khuôn mặt có thể được sử dụng để hưởng ích cho xã hội. Đó là một công cụ mới cho thế kỷ 21.

Giống như nhiều công cụ khác, tuy nhiên, nó cũng có thể trở thành một vũ khí. Một chính phủ có thể sử dụng nhận diện khuôn mặt để xác định mọi người tham gia một cuộc biểu tình hòa bình, theo dõi mọi hành động một cách có thể làm lạnh sự tự do diễn đạt và khả năng tụ tập. Và ngay cả trong một xã hội dân chủ, cảnh sát có thể quá mức phụ thuộc vào công cụ này để xác định một nghi phạm mà không nhận thức được rằng nhận diện khuôn mặt, giống như mọi công nghệ khác, không luôn hoạt động hoàn hảo.

Vì tất cả những lý do này, nhận diện khuôn mặt dễ dàng trở thành một phần của những vấn đề chính trị và xã hội rộng lớn và đặt ra một câu hỏi quan trọng: Chúng ta muốn trí tuệ nhân tạo dạng này đóng vai trò gì trong xã hội của chúng ta?

Một cái nhìn ngắn gọn về những điều phía trước đột ngột nổi lên vào mùa hè năm 2018, liên quan đến một trong những chủ đề chính trị nóng bỏng nhất của mùa. Trong tháng 6, một người đàn ông ở Virginia, một người tự miêu tả là "người làm đồ phần mềm tự do," rõ ràng cũng có một quan tâm mạnh mẽ đối với các vấn đề chính trị rộng lớn. Anh ta đã đăng một loạt tweet về một hợp đồng mà Microsoft có với Cơ quan Thực thi Di trú và Hải quan Hoa Kỳ, hay ICE, dựa trên một câu chuyện đăng trên blog quảng bá của công ty vào tháng 1. Đó là một bài viết mà thực sự mọi người trong công ty đều đã quên. Nhưng nó nói rằng công nghệ của Microsoft cho ICE đã vượt qua ngưỡng an ninh cao và sẽ được cơ quan triển khai. Nó nói rằng công ty tự hào hỗ trợ công việc của cơ quan này, và nó bao gồm một câu về tiềm năng kết quả cho ICE sử dụng nhận diện khuôn mặt.

Trong tháng 6 năm 2018, quyết định của chính phủ Trump tách các trẻ em khỏi cha mẹ tại biên giới miền Nam Hoa Kỳ đã trở thành một vấn đề nổ tung. Một tuyên bố quảng cáo được đưa ra vài tháng trước đó giờ đây trông khác biệt nhiều. Và việc sử dụng công nghệ nhận diện khuôn mặt cũng trở nên khác biệt. Người ta lo lắng về cách ICE và các cơ quan di trú khác có thể sử dụng như một công cụ như thế nào. Điều này có nghĩa là camera kết nối với đám mây có thể được sử dụng để xác định người di cư khi họ đi dọc một con phố thành phố? Điều này có nghĩa là, với tình trạng công nghệ này, với rủi ro đầu hàng, nó có thể nhận diện sai người và dẫn đến việc giữ người sai? Đây chỉ là hai trong số nhiều câu hỏi.

Đến lúc tối ở Seattle, các tweet về blog quảng cáo đang lan rộng trên internet, và đội ngũ truyền thông của chúng tôi đang làm việc trên một câu trả lời. Một số nhân viên trong đội kỹ thuật và đội tiếp thị đề xuất rằng chúng ta chỉ cần kéo bài đăng xuống, nói: "Nó khá cũ và không có ảnh hưởng kinh doanh nào ở thời điểm này." Ba lần, Frank Shaw, trưởng bộ phận truyền thông của Microsoft, khuyên họ không nên kéo nó xuống. "Nó chỉ làm tình hình trở nên tồi tệ hơn," ông nói. Tuy nhiên, một số người không thể kiềm chế được cám dỗ và xóa một phần của bài đăng. Dĩ nhiên, sau đó mọi thứ trở nên tồi tệ hơn và một chuỗi báo cáo tiêu cực nữa theo sau. Và đến sáng hôm sau, mọi người đã học được bài học rõ ràng và bài đăng đã trở lại dưới hình thức ban đầu của nó.

Như thường xuyên diễn ra, chúng tôi phải làm rõ điều gì mà hợp đồng của công ty với ICE thực sự bao gồm.

Khi chúng tôi đi sâu vào vấn đề, chúng tôi biết được rằng hợp đồng không được sử dụng cho nhận diện khuôn mặt chút nào. Cũng may mắn, Microsoft không làm việc trên bất kỳ dự án nào để tách trẻ em khỏi gia đình tại biên giới. Thay vào đó, hợp đồng đang giúp ICE chuyển công việc email, lịch, tin nhắn và quản lý tài liệu của họ lên đám mây. Nó giống với các dự án mà chúng tôi đang làm với khách hàng, bao gồm cả các cơ quan chính phủ khác, ở Mỹ và trên khắp thế giới.

Tuy nhiên, một cuộc tranh cãi mới nảy sinh.

Một số người đề xuất rằng Microsoft hủy bỏ hợp đồng và dừng mọi công việc với ICE, một chủ đề kiên cố về việc sử dụng công nghệ của chính phủ mà sẽ trở nên phổ biến trong mùa hè đó. Một nhóm nhân viên đã phổ biến một đơn yêu cầu dừng hợp đồng với ICE. Vấn đề này bắt đầu làm nổi sóng ngành công nghiệp công nghệ rộng lớn hơn. Cũng có sự tích cực từ nhân viên tại công ty phần mềm dựa trên đám mây Salesforce, tập trung vào hợp đồng của nó với Cơ quan Hải quan và Bảo vệ Biên giới Mỹ. Điều này diễn ra sau sự tích cực từ nhân viên Google, đã khiến công ty hủy bỏ dự án phát triển trí tuệ nhân tạo cho quân đội Mỹ. Và ACLU nhắm đến Amazon, hỗ trợ nhân viên Amazon bày tỏ lo ngại về Rekognition, dịch vụ nhận diện khuôn mặt của nó.

Với ngành công nghiệp công nghệ và cộng đồng doanh nghiệp rộng lớn hơn, loại hoạt động tích cực từ nhân viên này là mới mẻ. Một số người thấy có một liên kết với vai trò mà các công đoàn đã đóng trong một số ngành công nghiệp trong hơn một thế kỷ. Nhưng các công đoàn chủ yếu tập trung vào điều kiện kinh tế và làm việc của các thành viên của họ. Hoạt động tích cực của nhân viên vào mùa hè năm 2018 khác biệt. Hoạt động này kêu gọi các nhà tuyển dụng hãy chấp nhận các quan điểm về các vấn đề xã hội cụ thể. Nhân viên không có gì trực tiếp hoặc gián tiếp để đạt được. Thay vào đó, họ muốn nhà tuyển dụng của họ đứng lên bảo vệ các giá trị và quan điểm xã hội mà họ nghĩ là quan trọng.

Sự thay đổi đưa lãnh đạo doanh nghiệp vào một lãnh vực mới. Tại một bữa tối nhỏ tôi tham dự ở Seattle, Giám đốc điều hành của một công ty công nghệ tóm tắt sự lo âu chung. "Tôi cảm thấy chuẩn bị tốt cho hầu hết công việc của mình," ông nói, mô tả cách ông đã thăng tiến. "Nhưng bây giờ tôi đang bị đẩy vào một cái gì đó hoàn toàn khác. Tôi thực sự không biết làm thế nào để đáp ứng những nhân viên muốn tôi đối mặt với lo ngại của họ về nhập cư, vấn đề khí hậu và rất nhiều vấn đề khác.

Trở nên ngày càng quan trọng khi chúng tôi làm rõ khi nào chúng tôi nghĩ rằng hợp lý cho công ty đưa ra một quan điểm về một vấn đề công cộng và khi nào chúng tôi không nên. Chúng tôi không xem vai trò lãnh đạo doanh nghiệp như là một giấy phép để sử dụng tên của công ty để đối phó với bất kỳ vấn đề nào dưới ánh mặt trời. Cần phải có một kết nối quan trọng nào đó với chúng tôi. Chúng tôi cảm thấy trách nhiệm của chúng tôi về cơ bản là giải quyết các vấn đề công cộng ảnh hưởng đến khách hàng và việc sử dụng công nghệ của chúng tôi, nhân viên của chúng tôi cả khi làm việc và trong cộng đồng của họ, và doanh nghiệp của chúng tôi cũng như nhu cầu của cổ đông và đối tác của chúng tôi. Điều này không giải đáp mọi câu hỏi, nhưng nó cung cấp một khung làm việc hữu ích cho cuộc trao đổi với nhân viên của chúng tôi.

Câu hỏi của nhân viên cũng đẩy chúng tôi một cách tích cực để nghĩ sâu hơn về mối quan hệ của chúng tôi với chính phủ và những thách thức do công nghệ mới như nhận diện khuôn mặt gây ra.

Một mặt, chúng tôi không thoải mái với đề xuất rằng chúng tôi phản ứng với sự kiện của ngày bằng cách tẩy chay các cơ quan chính phủ, đặc biệt là ở các xã hội dân chủ được quản lý bởi pháp luật. Phần này là một phản ứng có nguyên tắc. Như tôi thường nhắc nhở mọi người, không ai bầu chúng tôi. Có vẻ không chỉ là kỳ lạ mà còn là không dân chủ khi muốn các công ty công nghệ kiểm soát chính phủ. Như một nguyên tắc chung, dường như hợp lý hơn là yêu cầu một chính phủ được bầu cử để quy định các công ty hơn là yêu cầu các công ty không được bầu cử quy định một chính phủ như vậy. Satya Nadella và tôi thường thảo luận về điểm này và chúng tôi tin rằng nó quan trọng.

Cũng có một khía cạnh thực tế. Chúng tôi nhận ra sự phụ thuộc rất lớn của tổ chức và cá nhân vào công nghệ của chúng tôi. Quá dễ dàng để tạo ra hỗn loạn và hậu quả không mong muốn nếu chúng ta đơn giản là tắt công nghệ dựa trên một sự phản đối về điều gì đó mà một cơ quan chính phủ đang làm.

Khía cạnh thực tế này trở nên rõ ràng vào tháng 8 năm 2018. Khi tôi lái xe đi làm vào một buổi sáng thứ Sáu, tôi nghe một cuộc phỏng vấn trên podcast The Daily từ The New York Times đã đi vào tận cùng của vấn đề. Vấn đề của ngày là sự không thể của chính phủ đáp ứng thời hạn của tòa án để hòa nhập trẻ em nhập cư với gia đình của họ. Khi tôi nghe, tôi nhận ra giọng của Wendy Young, người dẫn đầu tổ chức Kids in Need of Defense, hoặc KIND, một tổ chức pro bono mà tôi đã làm chủ tịch hơn một thập kỷ. Khi Wendy giải thích, chính phủ đã triển khai chính sách tách gia đình ban đầu "mà không có suy nghĩ nào được đưa ra về cách bạn hòa nhập lại gia đình sau này".

Mặc dù tôi đã quen với tình hình này dựa trên một số cuộc trò chuyện với Wendy, tôi bị ấn tượng bởi một chi tiết bổ sung được báo cáo bởi các nhà báo New York Times Caitlin Dickerson và Annie Correal. Họ giải thích rằng nhân viên của Cơ quan Biên giới và Hải quan đã sử dụng một hệ thống máy tính với một menu thả xuống khi người ta ban đầu vượt biên. Các đặc vụ sẽ phân loại ai đó là người trẻ em không được đi kèm, người lớn độc thân hoặc người lớn có trẻ em, có nghĩa là một gia đình. Khi trẻ em sau đó bị tách rời khỏi phụ huynh, thiết kế hệ thống máy tính bắt buộc các đặc vụ phải quay lại và thay đổi phân loại này - ví dụ, bằng cách nhập tên của một đứa trẻ như một người trẻ em không được đi kèm và tên của phụ huynh như một người lớn độc thân. Quan trọng là điều này đã ghi đè lên dữ liệu trước đó, có nghĩa là hệ thống không còn giữ lại phân loại gia đình mà trước đó đã liệt kê tất cả mọi người cùng nhau. Do đó, chính phủ không còn bản ghi nào kết nối các thành viên gia đình.

Điều này không chỉ là một câu chuyện về nhập cư và gia đình. Đó cũng là một câu chuyện về công nghệ. Chính phủ đang sử dụng một cơ sở dữ liệu có cấu trúc hoạt động cho một quy trình nhưng không phải cho quy trình khác. Thay vì cập nhật hệ thống IT để hỗ trợ các bước mới liên quan đến việc tách gia đình, chính phủ đã tiến lên mà không suy nghĩ về kiến trúc máy tính cần thiết. Sau khi đã nhìn thấy hệ thống CBP tại một trung tâm chỉ huy gần biên giới Mexico trong một chuyến thăm với Wendy chỉ vài tháng trước đó, tôi không ngạc nhiên khi thấy hệ thống của nó lạc hậu. Nhưng tôi vẫn kinh ngạc vì chính phủ đã không suy nghĩ về những tác động của những gì nó cần về cơ sở hạ tầng công nghệ cơ bản.

Khi tôi bước vào phòng họp sáng đó nơi đội ngũ lãnh đạo cấp cao của Satya đang tập trung cho cuộc họp thứ Sáu của chúng tôi, tôi chia sẻ những gì tôi đã nghe. Khi chúng tôi thảo luận về nó, chúng tôi nhận ra rằng nó liên quan đến những lo ngại rộng lớn của chúng tôi về đề xuất của một số người rằng các công ty công nghệ tự giác tắt các cơ quan chính phủ khỏi tất cả các dịch vụ dựa trên các chính sách mà chúng ta phản đối. Công nghệ đã trở thành một hạ tầng chính của cuộc sống của chúng tôi, và việc không cập nhật nó - hoặc tệ hơn, quyết định đơn giản là tắt nó - có thể gây ra mọi loại hậu quả không mong muốn và không lường trước. Như Satya đã lưu ý một số lần trong những cuộc trò chuyện nội bộ của chúng tôi, chính phủ đang sử dụng email như một công cụ để đưa các gia đình quay lại với nhau. Nếu chúng ta tắt nó, ai biết điều gì sẽ xảy ra?

Điều này dẫn chúng tôi kết luận rằng tẩy chay một cơ quan chính phủ ở Mỹ là cách tiếp cận sai lầm. Nhưng những người đề xuất hành động như vậy, bao gồm một số nhân viên của chúng tôi, đang đặt một số câu hỏi đúng. Công nghệ nhận diện khuôn mặt, ví dụ, tạo ra những thách thức cần được chú ý nhiều hơn. Khi chúng tôi suy nghĩ qua, chúng tôi kết luận rằng công nghệ mới này nên được quy định bởi các luật lệ mới. Đó là cách duy nhất để bảo vệ nhu cầu quan trọng về quyền riêng tư của công dân và giải quyết các rủi ro về độ chệch và phân biệt đối xử trong khi vẫn khuyến khích sự đổi mới tiếp tục.

Nhu cầu về một cách tiếp cận có nguyên tắc này được củng cố khi một lực lượng cảnh sát địa phương tại California liên lạc với chúng tôi và nói họ muốn trang bị tất cả các ô tô và camera cơ thể của họ với khả năng chụp ảnh của người nào đó bị dừng lại, thậm chí là thông thường, để xem có trùng với một cơ sở dữ liệu của những người nghi ngờ về tội phạm khác. Chúng tôi hiểu lý luận nhưng khuyến cáo rằng công nghệ nhận diện khuôn mặt vẫn quá non trẻ để triển khai trong loại tình huống này. Việc sử dụng như vậy, ít nhất là vào năm 2018, sẽ dẫn đến quá nhiều kết quả dương giả và gắn cờ cho những người đã bị nhận diện sai, đặc biệt là nếu họ là người màu hoặc phụ nữ, với tỷ lệ lỗi cao hơn.

Những trải nghiệm này bắt đầu mang lại một số hiểu biết về những nguyên tắc chúng tôi có thể áp dụng vào nhận diện khuôn mặt. Nhưng chúng tôi lo lắng rằng sẽ ít ảnh hưởng thực tế nếu chúng tôi theo đuổi con đường cao cả chỉ để bị đánh bại bởi các công ty không áp đặt biện pháp an toàn hoặc hạn chế gì cả, dù những công ty đó ở phía bắc của Seattle hoặc ở phía bắc Thái Bình Dương. Nhận diện khuôn mặt, giống như nhiều công nghệ dựa trên trí tuệ nhân tạo khác, được cải thiện với lượng dữ liệu lớn. Điều này tạo động lực để thực hiện nhiều thương vụ ban đầu nhất có thể và do đó có rủi ro cuộc đua thương mại xuống đáy, với các công ty công nghệ phải lựa chọn giữa trách nhiệm xã hội và thành công trên thị trường.

Cách duy nhất để bảo vệ trước cuộc đua xuống đáy này là xây dựng một sàn trách nhiệm hỗ trợ sự cạnh tranh lành mạnh trên thị trường. Và một sàn vững chắc yêu cầu chúng ta đảm bảo rằng công nghệ này, cùng với các tổ chức phát triển và sử dụng nó, được quản lý bởi nguyên tắc pháp luật. Chúng tôi rút ra những hiểu biết từ việc quy định lịch sử về các công nghệ khác nhau. Có nhiều thị trường mà một cách tiếp cận cân đối đối với quy định đã tạo ra một động lực lành mạnh cho người tiêu dùng và nhà sản xuất. Ngành công nghiệp ô tô đã dành nhiều thập kỷ trong thế kỷ 20 để chống lại yêu cầu về quy định, nhưng ngày nay có sự đánh giá rộng rãi về vai trò quan trọng của luật pháp trong việc có dây an toàn và túi khí phổ quát cũng như hiệu suất nhiên liệu cao hơn. Điều tương tự cũng đúng đối với an toàn không gian, thực phẩm và dược phẩm.

Tất nhiên, nói về nhu cầu về quy định và định rõ loại quy định nào là hợp lý là một việc, và việc khác là định rõ loại quy định nào là hợp lý nhất. Tháng 7 năm 2018, chúng tôi đã công bố một danh sách câu hỏi mà chúng tôi nghĩ cần được xem xét và đã hỏi mọi người ý kiến ​​về câu trả lời có thể. Cuộc thảo luận bắt đầu với nhân viên và chuyên gia công nghệ, nhưng nhanh chóng mở rộng ra khắp đất nước và toàn cầu.

Tôi bị ấn tượng bởi phản ứng của các lập pháp viên mà tôi gặp tại Quốc hội quốc gia ở Paris. Như một thành viên nói, “Không có công ty công nghệ nào đang hỏi chúng tôi những câu hỏi này. Tại sao bạn khác biệt?” Nhận diện khuôn mặt là loại vấn đề mà chúng tôi đôi khi phân biệt với những người khác trong ngành công nghệ. Có lẽ hơn bất cứ điều gì khác, điều này phản ánh những gì chúng tôi đã học từ cuộc chiến đấu về đối trọng nhà độc quyền của chúng tôi vào những năm 1990. Lúc đó, chúng tôi đã lập luận, giống như nhiều công ty và ngành công nghiệp khác, rằng quy định là không cần thiết và có khả năng gây hại. Nhưng một trong những bài học nhiều bài học chúng tôi đã học từ trải nghiệm đó là cách tiếp cận đó không nhất thiết hoạt động cho các sản phẩm có ảnh hưởng sâu rộng trên xã hội hoặc kết hợp giữa những ứng dụng có lợi và có thể gây rắc rối.

Chúng tôi không còn chia sẻ sự chống đối mà hầu hết các công ty công nghệ truyền thống đã thể hiện đối với sự can thiệp của chính phủ. Chúng tôi đã chiến đấu trận chiến đó rồi. Thay vào đó, chúng tôi đã ủng hộ những gì chúng tôi coi là một cách tiếp cận quy định tích cực nhưng cân bằng hơn. Đó là một trong những lý do chúng tôi kêu gọi luật quyền riêng tư liên bang tại Hoa Kỳ ngay từ năm 2005. Chúng tôi biết sẽ có những ngày chính phủ sẽ làm sai chi tiết và khiến chúng tôi có thể hối hận vì đã ủng hộ sự tham gia của nó. Nhưng chúng tôi tin rằng cách tiếp cận chung này sẽ tốt hơn cho công nghệ và xã hội so với một thực hành dựa hoàn toàn vào ngành công nghiệp công nghệ để tự giải quyết mọi thứ.

Chìa khóa là phải tìm ra những điều cụ thể. Một bài viết của Nitasha Tiku trên Mytour đã nắm bắt được tầm quan trọng của động lực này. Như cô ghi chú vào cuối năm 2018, “sau một năm khủng khiếp về những scandal công nghệ, thậm chí các giám đốc không ưa chính phủ cũng đã bắt đầu bày tỏ sự sẵn lòng với pháp luật.” Nhưng, như cô nhận ra, mục tiêu của chúng tôi là đưa “nó một bước xa hơn” bằng cách đề xuất một đề xuất cụ thể để chính phủ quy định công nghệ nhận diện khuôn mặt.

Chúng tôi tin rằng pháp luật có thể giải quyết ba vấn đề chính - rủi ro thiên lệch, quyền riêng tư và bảo vệ tự do dân chủ. Chúng tôi tin rằng một thị trường hoạt động tốt có thể giúp đẩy nhanh tiến trình giảm thiên lệch. Không khách hàng nào chúng tôi gặp quan tâm đến việc mua dịch vụ nhận diện khuôn mặt có tỷ lệ lỗi cao và dẫn đến phân biệt đối xử. Nhưng thị trường không thể hoạt động nếu khách hàng thiếu thông tin. Giống như các nhóm như Consumer Reports đã thông tin cho công chúng về những vấn đề như an toàn ô tô, chúng tôi tin rằng các nhóm học thuật và khác có thể kiểm tra và cung cấp thông tin về độ chính xác của các dịch vụ nhận diện khuôn mặt cạnh tranh. Điều này sẽ làm tăng cường sức mạnh cho các nhà nghiên cứu như Joy Buolamwini tại Viện Công nghệ Massachusetts để theo đuổi nghiên cứu có thể thúc đẩy chúng ta. Chìa khóa là yêu cầu các công ty tham gia thị trường phải làm cho việc kiểm tra sản phẩm của họ trở nên khả thi. Đó là những gì chúng tôi đề xuất, thực tế là sử dụng quy định để củng cố thị trường.

Để giảm thiểu rủi ro phân biệt đối xử, chúng tôi tin rằng một luật pháp mới cũng nên yêu cầu các tổ chức triển khai nhận diện khuôn mặt đào tạo nhân viên xem xét kết quả trước khi đưa ra quyết định chủ chốt - thay vì chỉ đơn giản chuyển quyết định cho máy tính. Trong số những điều khác, chúng tôi lo lắng rằng rủi ro thiên lệch có thể được làm trầm trọng hơn khi tổ chức triển khai nhận diện khuôn mặt một cách khác biệt so với những gì được thiết kế khi công nghệ này được thiết kế. Nhân viên được đào tạo có thể giúp giải quyết vấn đề này.

Một câu hỏi phức tạp hơn là khi nào cơ quan thực thi pháp luật được phép sử dụng nhận diện khuôn mặt để thực hiện giám sát liên tục đối với những người cụ thể khi họ đi lại trong ngày. Dân chủ luôn phụ thuộc vào khả năng của mọi người gặp gỡ và trò chuyện với nhau, và chia sẻ quan điểm của họ cả ở riêng tư và ở công cộng. Điều này phụ thuộc vào việc mọi người có thể di chuyển tự do và không bị giám sát liên tục bởi chính phủ.

Có nhiều ứng dụng chính phủ của công nghệ nhận diện khuôn mặt bảo vệ an toàn công cộng và thúc đẩy dịch vụ tốt hơn cho công dân mà không gây ra những lo ngại như vậy. Nhưng khi kết hợp với camera phổ cập và sức mạnh và lưu trữ tính toán lớn trên đám mây, công nghệ nhận diện khuôn mặt có thể được chính phủ sử dụng để thực hiện giám sát liên tục đối với những người cụ thể. Nó có thể làm điều này bất cứ lúc nào hoặc thậm chí là luôn luôn. Việc sử dụng công nghệ như vậy có thể mở ra giám sát hàng loạt ở quy mô chưa từng có.

Như George Orwell mô tả trong tiểu thuyết 1984, một tầm nhìn về tương lai sẽ yêu cầu công dân tránh xa giám sát của chính phủ bằng cách tìm đường một cách bí mật đến một phòng tối để gõ mã trên cánh tay của nhau - vì nếu không thì máy quay và máy ghi âm sẽ ghi lại và ghi lại khuôn mặt, giọng nói và mọi từ ngữ của họ. Orwell vẽ tầm nhìn đó gần 70 năm trước. Chúng tôi lo lắng rằng công nghệ hiện nay đã làm cho loại tương lai đó trở nên có thể.

Câu trả lời, theo quan điểm của chúng tôi, là để pháp luật cho phép các cơ quan thực thi pháp luật sử dụng nhận diện khuôn mặt để thực hiện giám sát liên tục đối với những người cụ thể chỉ khi nó có được một quyết định của tòa án như một quyết định tìm kiếm cho việc giám sát này, hoặc khi có một tình huống khẩn cấp liên quan đến nguy cơ nguy hiểm cho sinh mạng con người. Điều này sẽ tạo ra các quy tắc cho các dịch vụ nhận diện khuôn mặt tương tự như những quy tắc hiện tại đối với việc theo dõi của cá nhân thông qua các vị trí GPS được tạo ra bởi điện thoại di động của họ. Như Tòa án Tối cao đã quyết định vào năm 2018, cảnh sát không thể có được bản ghi điện thoại di động mà cho thấy các trạm điện thoại di động, và do đó là vị trí vật lý, mà ai đó đã đi qua mà không có một quyết định tìm kiếm. Như chúng tôi đã đặt nó, “Liệu khuôn mặt của chúng ta có xứng đáng với sự bảo vệ giống như điện thoại của chúng ta không? Từ quan điểm của chúng tôi, câu trả lời là một tiếng 'có'.

Nhu cầu về sự lãnh đạo của chính phủ không làm giảm trách nhiệm đạo đức của các công ty công nghệ. Công nghệ nhận diện khuôn mặt nên được phát triển và sử dụng một cách nhất quán với giá trị xã hội được rộng rãi chấp nhận. Chúng tôi đã công bố sáu nguyên tắc tương ứng với đề xuất của chúng tôi, mà chúng tôi đã tiếp tục áp dụng cho công nghệ nhận diện khuôn mặt của mình, và chúng tôi đang tạo ra hệ thống và công cụ để triển khai chúng. Các công ty công nghệ khác và các nhóm bảo vệ quyền lợi đang theo đuổi các phương pháp tương tự.

Vấn đề nhận diện khuôn mặt mang lại cái nhìn về sự tiến triển có thể xảy ra với những thách thức đạo đức khác của trí tuệ nhân tạo. Mặc dù người ta có thể bắt đầu, như chúng tôi đã làm, với những nguyên tắc rộng lớn có thể áp dụng cho tất cả, những nguyên tắc này được kiểm tra khi thực hiện trong các công nghệ trí tuệ nhân tạo cụ thể và các tình huống cụ thể. Đó cũng là lúc những ứng dụng của trí tuệ nhân tạo có thể gây tranh cãi nhiều hơn.

Sẽ còn nhiều vấn đề khác. Và giống như với nhận diện khuôn mặt, mỗi vấn đề sẽ đòi hỏi công việc cụ thể để lọc qua những cách tiếp cận có thể sử dụng công nghệ. Nhiều vấn đề sẽ đòi hỏi sự kết hợp giữa quy định mới và tự quyết định tích cực của các công ty công nghệ. Và nhiều vấn đề sẽ đưa ra những quan điểm quan trọng và khác nhau giữa các quốc gia và văn hóa. Chúng ta sẽ cần phát triển khả năng tốt hơn để các quốc gia có thể tiến nhanh và cùng nhau giải quyết những vấn đề này một cách định kỳ. Đó là cách duy nhất để đảm bảo rằng máy móc vẫn chịu trách nhiệm trước con người.

Từ CÔNG CỤ VÀ VŨ KHÍ: Hứa hẹn và Nguy cơ của Kỷ nguyên Số bởi Brad Smith và Carol Ann Browne; Lời mở đầu của Bill Gates, xuất bản bởi Penguin Press, một nhãn hiệu của Penguin Publishing Group, một bộ phận của Penguin Random House LLC. Bản quyền © 2019 bởi Bradford L. Smith.

Khi bạn mua một sản phẩm bằng cách sử dụng các liên kết bán lẻ trong câu chuyện của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng liên kết nhỏ. Đọc thêm về cách điều này hoạt động.

Những bài viết tuyệt vời khác từ Mytour

• Mạng Wi-Fi 6 là gì và tôi sẽ nhận được nó khi nào?
• The Dark Crystal: Age of Resistance, sẽ khiến bạn và trẻ con của bạn kinh ngạc theo mọi cách tốt nhất
• Hành trình của một nhà khoa học để đưa việc séquen xét DNA đến mọi đứa trẻ ốm
• Tùy chọn của bạn để sửa chữa một thiết bị Apple bị hỏng vừa trở nên tốt hơn nhiều
• Thư viện ảnh: Kế hoạch táo bạo của Luxembourg khai thác tiểu hành tinh để đào khoáng khoáng chất quý
• 👁 Nhận diện khuôn mặt đột nhiên xuất hiện khắp mọi nơi. Bạn có nên lo lắng không? Ngoài ra, đọc tin tức mới nhất về trí tuệ nhân tạo
• 🎧 Âm thanh không nghe đúng? Kiểm tra tai nghe không dây, thanh âm và loa Bluetooth yêu thích của chúng tôi