Chính phủ cảnh báo nhà tuyển dụng về các thuật toán tuyển dụng phân biệt đối xử

Khi các công ty ngày càng sử dụng trí tuệ nhân tạo trong quá trình tuyển dụng, các nhà hoạch định chính sách, luật sư và nhà nghiên cứu đã tiếp tục đề xuất cảnh báo. Các thuật toán được phát hiện tự động gán điểm khác nhau cho ứng viên dựa trên các tiêu chí tùy ý như việc họ đeo kính hoặc khăn quàng đầu, có tủ sách phía sau hay không. Thuật toán tuyển dụng có thể trừ điểm cho ứng viên có tên nghe 'Mỹ đen', nhắc đến trường đại học nữ, và thậm chí là khi họ gửi hồ sơ bằng một loại tệp tin cụ thể. Chúng có thể bất lợi cho những người nói lắp hoặc có khuyết tật về vận động giới hạn khả năng tương tác với bàn phím.

Tất cả điều này đã diễn ra mà không được kiểm soát rộng rãi. Nhưng bây giờ, Bộ Tư pháp Hoa Kỳ và Ủy ban Cơ hội việc làm công bằng đã cung cấp hướng dẫn về những gì các doanh nghiệp và cơ quan chính phủ phải làm để đảm bảo việc sử dụng trí tuệ nhân tạo trong quá trình tuyển dụng tuân thủ Đạo luật người khuyết tật người Mỹ.

"Chúng ta không thể để những công cụ này trở thành lối đi công nghệ cao dẫn đến phân biệt đối xử," Chủ tịch Ủy ban Cơ hội việc làm công bằng Charlotte Burrows nói trong một buổi họp báo vào thứ Năm. EEOC yêu cầu nhà tuyển dụng không chỉ tiết lộ với ứng viên khi nào công cụ thuật toán được sử dụng để đánh giá họ mà còn các đặc điểm mà thuật toán đánh giá.

Hôm nay chúng ta đang đổ chuông báo động về những nguy hiểm liên quan đến sự phụ thuộc mù quáng vào trí tuệ nhân tạo và các công nghệ khác mà chúng ta đang thấy ngày càng được sử dụng nhiều hơn bởi nhà tuyển dụng

Ủy ban Thương mại Liên bang đã đưa ra hướng dẫn rộng rãi về cách doanh nghiệp có thể sử dụng các thuật toán vào năm 2020 và lại vào năm 2021, và một cơ quan Nhà Trắng đang làm việc về một Hiến pháp Quyền lợi của Trí tuệ Nhân tạo, nhưng hướng dẫn mới này cho thấy cách mà hai cơ quan sẽ xử lý vi phạm luật dân quyền liên bang liên quan đến việc sử dụng các thuật toán.

Người khuyết tật thất nghiệp với tỷ lệ gấp đôi so với trung bình quốc gia, theo dữ liệu của Cục Thống kê Lao động Hoa Kỳ. Người có khuyết tật liên quan đến sức khỏe tâm thần cũng trải qua mức độ thất nghiệp cao, và Burrows nói rằng nhà tuyển dụng phải thực hiện các bước kiểm tra phần mềm mà họ sử dụng để đảm bảo họ không khóa người khuyết tật ra khỏi thị trường lao động.

Một số hành động được ủng hộ bởi EEOC và DOJ vào thứ Năm đã được đề xuất trước đó trong báo cáo năm 2020 của Trung tâm Dân chủ và Công nghệ về cách phần mềm tuyển dụng có thể phân biệt đối xử với người khuyết tật. Chúng bao gồm loại bỏ việc sàng lọc tự động người khuyết tật và cung cấp 'sự điều chỉnh hợp lý' cho những người có thể gặp khó khăn khi tương tác với phần mềm hoặc phần cứng liên quan trong quá trình tuyển dụng. Báo cáo CDT cũng kêu gọi kiểm tra thuật toán tuyển dụng trước và sau khi chúng được sử dụng - một bước không được EEOC bao gồm - và đề cập đến độ chênh lệch trong việc tuyển dụng người khuyết tật trực tuyến như một 'bất công vô hình'.

Khi còn là một thiếu niên, Lydia X.Z. Brown nghĩ việc điền các bài kiểm tra tính cách trong đơn xin việc là một trò chơi thú vị hoặc kỳ lạ. Họ không thể chứng minh được điều này, nhưng bây giờ họ nghi ngờ rằng họ đã gặp phải phân biệt đối xử khi nộp đơn xin việc ở trung tâm mua sắm gần nơi họ lớn lên ở Massachusetts. Là một trong các tác giả của báo cáo phân biệt đối xử khi tuyển dụng của CDT năm 2020, Brown gọi hướng dẫn của Thứ Năm là một chiến thắng lớn, sau nhiều năm tận tụy, đối với những người có khuyết tật như họ.

"Thật sự thú vị khi thấy điều đó được công bố, và tôi hy vọng điều này sẽ dẫn đến hành động thực thi mạnh mẽ hơn," họ nói, thêm rằng họ hy vọng hướng dẫn trong tương lai sẽ công nhận vai trò có ảnh hưởng của sự giao cắt trong cách mà người khuyết tật từ các nền tảng đẳng cấp, giới tính hoặc sắc tộc khác nhau có thể trải qua phân biệt xử lý khác nhau. Những lời phê bình tương tự đã được đưa ra về một luật của Thành phố New York yêu cầu kiểm tra độc hại về chủng tộc và giới tính trong các thuật toán tuyển dụng.

Lợi ích lớn nhất của những tài liệu này, theo Ben Winters từ Trung tâm Thông tin Quyền riêng tư Điện tử, là nó cho các công ty biết rằng DOJ và EECC đang chú ý và diễn đạt loại trách nhiệm mà các công ty có, bao gồm cả trách nhiệm pháp lý cho phân biệt đối xử do phần mềm của một nhà cung cấp bên thứ ba gây ra.

“Điều này thông báo cho nhà tuyển dụng biết rằng các cơ quan này đang mong đợi họ có tiêu chuẩn cao hơn đối với các nhà cung cấp họ sử dụng,” Winters nói.

Hành động chung của Bộ Tư pháp và EEOC là hành động đầu tiên của hai cơ quan này có trách nhiệm bảo vệ công chúng và có thể là tín hiệu cho mong muốn rộng lớn hơn trong việc truy tố các trường hợp phân biệt xử lý do tự động hóa gây ra. Mặc dù có dấu hiệu gần đây về việc tăng cường nỗ lực quy định, Quốc hội Mỹ vẫn chưa thông qua luật yêu cầu kiểm tra hoặc hạn chế việc sử dụng các hệ thống trí tuệ nhân tạo đang đưa ra các quyết định quan trọng về cuộc sống của người dân trong các lĩnh vực như tuyển dụng, giáo dục, cho vay tài chính và chăm sóc sức khỏe.