Microsoft Muốn Dừng Cuộc 'Đua Xuống Đáy' của Trí Tuệ Nhân Tạo

Sau một năm đầy rẫy với các vụ scandal công nghệ, ngay cả các nhà quản lý tránh xa chính phủ cũng đã bắt đầu tuyên bố sự sẵn lòng với việc lập luật. Nhưng vào ngày Thứ Năm, Tổng Giám Đốc Microsoft Brad Smith đã đi một bước xa hơn, kêu gọi chính phủ quy định việc sử dụng công nghệ nhận diện khuôn mặt để đảm bảo rằng nó không xâm phạm quyền riêng tư cá nhân hoặc trở thành công cụ phân biệt đối xử hoặc giám sát.

Các công ty công nghệ thường phải chọn lựa giữa trách nhiệm xã hội và lợi nhuận, nhưng hậu quả của việc nhận diện khuôn mặt quá nghiêm trọng để tiếp tục như mọi khi, Smith nói. “Chúng tôi tin rằng cách duy nhất để bảo vệ chống lại cuộc đua này xuống đáy là xây dựng một nền tảng trách nhiệm hỗ trợ cho cạnh tranh sức khỏe trên thị trường,” ông nói trong một bài phát biểu tại Viện Brookings. “Chúng ta phải đảm bảo rằng năm 2024 không trông giống như một trang trong cuốn tiểu thuyết 1984.”

Để giải quyết vấn đề thiên vị, Smith nói rằng luật pháp nên yêu cầu các công ty cung cấp tài liệu về những gì công nghệ của họ có thể và không thể làm, theo cách mà khách hàng và người tiêu dùng có thể hiểu. Ông cũng nói rằng luật pháp nên yêu cầu “xem xét của con người có ý nghĩa về kết quả nhận diện khuôn mặt trước khi đưa ra quyết định cuối cùng” cho các mục đích “quan trọng,” như các quyết định có thể gây tổn thương cơ thể hoặc tinh thần hoặc vi phạm quyền riêng tư hoặc quyền cơ bản. Là một biện pháp bảo vệ quyền riêng tư khác, Smith nói rằng nếu nhận diện khuôn mặt được sử dụng để xác định người tiêu dùng, luật pháp nên yêu cầu “thông báo rõ ràng một cách nổi bật rằng các dịch vụ này đang được sử dụng.”

Smith cũng nói rằng các nhà lập pháp nên mở rộng yêu cầu về lệnh tìm kiếm đối với việc sử dụng công nghệ nhận diện khuôn mặt. Ông nhấn mạnh một quyết định của Tòa án Tối cao Hoa Kỳ vào tháng Sáu yêu cầu cơ quan chức năng phải có được lệnh tìm kiếm để lấy thông tin điện thoại di động hiển thị vị trí người dùng. “Liệu khuôn mặt của chúng ta có xứng đáng được bảo vệ như điện thoại của chúng ta không?” ông hỏi. “Từ quan điểm của chúng tôi, câu trả lời là một cách rõ ràng.”

Smith nói rằng các công ty và chính phủ sử dụng công nghệ nhận diện khuôn mặt nên minh bạch về công nghệ của họ, bao gồm việc đưa nó ra kiểm tra bởi các bên ngoại vi. “Như một xã hội, chúng ta cần có pháp luật mà sẽ đưa các nhóm kiểm tra không thiên vị như Consumer Reports và các bên tương đương của họ vào một vị trí mà họ có thể kiểm tra các dịch vụ nhận diện khuôn mặt về độ chính xác và thiên vị không công bằng một cách chính xác và công bằng,” Smith nói.

Bài phát biểu của Smith vào Thứ Năm lặp lại lời kêu gọi quy định công nghệ nhận diện khuôn mặt mà ông đã đề xuất lần đầu vào tháng Bảy, nhưng cung cấp các thông tin cụ thể mới. Ông liệt kê sáu nguyên tắc mà ông nói rằng nên hướng dẫn việc sử dụng và quy định về nhận diện khuôn mặt: công bằng, minh bạch, có trách nhiệm, không phân biệt đối xử, thông báo và đồng ý, và giám sát hợp pháp. Ông nói rằng Microsoft sẽ công bố một tài liệu với gợi ý về việc thực hiện những nguyên tắc này vào tuần sau.

Khi các chính phủ và các công ty ngày càng triển khai công nghệ nhận diện khuôn mặt trong các lĩnh vực như công lý hình sự hay ngân hàng, cả những nhà phê bình và người lao động trong ngành công nghệ đều đã đưa ra những lo ngại. Amazon Rekognition, công nghệ nhận diện khuôn mặt của công ty, được cảnh sát ở Orlando, Florida sử dụng. Hiến pháp Quyền Bảo vệ Dân Quyền (ACLU) đã kiểm tra công cụ của Amazon và phát hiện ra rằng nó nhận dạng sai các thành viên trong Quốc hội.

Cũng vào thứ Năm, Viện nghiên cứu AI Now đã phát hành một báo cáo mới nhấn mạnh về sự cấp bách của việc các công ty mở thuật toán của họ cho việc kiểm tra. “Các công ty AI nên từ chối quyền bí mật thương mại và các yêu sách pháp lý khác có thể ngăn chặn việc chịu trách nhiệm về thuật toán trong lĩnh vực công cộng,” báo cáo nói. “Chính phủ và các cơ quan công cộng phải có khả năng hiểu và giải thích cách và tại sao quyết định được đưa ra, đặc biệt là khi quyền truy cập của người dân vào chăm sóc sức khỏe, nhà ở, phúc lợi và việc làm đang bị đe dọa.”

Các nhà sáng lập AI Now, Kate Crawford và Meredith Whittaker, cho biết sự chú ý của họ đến bí mật thương mại xuất phát từ một hội thảo diễn ra vào đầu năm nay với các chuyên gia pháp luật hàng đầu. “Họ hiện đang kiện các thuật toán, nếu bạn muốn nói như vậy,” Crawford nói. “Điều đáng ngạc nhiên là nghe hàng chục luật sư chia sẻ về việc tìm thông tin cơ bản làm khó khăn đến thế nào.”

Báo cáo của họ cũng thảo luận về việc sử dụng phân tích tình cảm, nơi công nghệ nhận diện khuôn mặt có thể được sử dụng để phát hiện cảm xúc. Một sinh viên sau đại học tại Đại học St. Thomas ở Minnesota đã phát triển một hệ thống dựa trên công cụ của Microsoft để quan sát sinh viên trong lớp học bằng webcam. Hệ thống này được thiết kế để dự đoán cảm xúc và gửi báo cáo đến giáo viên. AI Now nói rằng điều này đặt ra câu hỏi về khả năng của công nghệ nhận diện khuôn mặt hiểu được các trạng thái cảm xúc phức tạp, khả năng của sinh viên để tranh luận với các kết quả, và cách mà nó có thể ảnh hưởng đến những gì được giảng dạy trong lớp học. Đại học St. Thomas nói rằng hệ thống này chưa bao giờ được sử dụng trong lớp học và việc phát triển đã dừng lại vào mùa xuân này.¹

Giáo sư trường kinh doanh Đại học New York, Michael Posner, giám đốc Trung tâm Doanh nghiệp và Nhân quyền tại trường, người đã từng làm việc với các công ty công nghệ về tin giả và can thiệp của Nga. Theo ông, các công ty luôn miễn cưỡng khi phải tương tác với cả chính phủ và người tiêu dùng. “Họ không thích sự can thiệp của chính phủ vào bất kỳ mặt nào, không muốn bị quy định bởi chính phủ. Họ không chủ động trong việc công bố thông tin và rất ngần ngại khi cần thông báo cho mọi người về những gì đang diễn ra. Họ cũng rất miễn cưỡng khi làm việc với nhau,” Michael Posner nói.

Tuy nhiên, ông hy vọng rằng sự lãnh đạo từ một công ty “trưởng thành” hơn như Microsoft có thể khuyến khích một cách tiếp cận mở hơn. Amazon không trả lời câu hỏi về hướng dẫn cho công nghệ nhận diện khuôn mặt của họ.

¹ SỬA LỖI, 12 tháng 12, 7:35 PM: Một phiên bản trước của câu chuyện này không chính xác khi nói rằng Đại học St. Thomas đã triển khai hệ thống phân tích tình cảm trong một lớp học.

Những bài viết tuyệt vời khác trên Mytour

• Một tài xế Tesla đang ngủ đã làm nổi bật điểm yếu lớn nhất của hệ thống tự lái
• HÌNH ẢNH: Dành sự chú ý đúng đắn cho các loài động vật trong bức ảnh chân dung
• Hướng dẫn Mytour về mua sắm trực tuyến (và bán lẻ số)
• Bên trong cuộc chiến đắt đỏ để ảnh hưởng đến luồng Instagram của bạn
• Những người mê âm nhạc ghi lại buổi hòa nhạc yêu thích của bạn
• Đam mê tìm hiểu sâu hơn về chủ đề yêu thích tiếp theo của bạn? Đăng ký nhận tin Backchannel