Ôi tuyệt vời - Trí tuệ nhân tạo không chỉ có thể có đặc tính phân biệt chủng tộc và giới tính, mà còn có thể có đặc tính phân biệt đối xử dựa trên tuổi tác

Chúng ta đã chấp nhận việc sử dụng trí tuệ nhân tạo (AI) trong các quy trình phức tạp - từ chăm sóc sức khỏe đến việc sử dụng hàng ngày trên mạng xã hội - thường mà không có sự nghiên cứu phê phán, cho đến khi quá muộn. Việc sử dụng trí tuệ nhân tạo không thể tránh khỏi trong xã hội hiện đại của chúng ta, và nó có thể duy trì độ chệch mà người dùng không nhận thức được bất kỳ định kiến nào. Khi các nhà cung cấp dịch vụ chăm sóc sức khỏe dựa vào công nghệ có độ chệch, có những ảnh hưởng thực sự và nguy hiểm.

Điều này trở nên rõ ràng gần đây khi một nghiên cứu chỉ ra rằng máy đo mức oxy trong máu - một công cụ quan trọng cho quản lý lâm sàng của COVID-19 - không chính xác bằng trên da người da màu so với da người trắng. Những phát hiện này đã dẫn đến một cuộc đánh giá về độ chệch chủng tộc đang diễn ra rộng rãi, trong một nỗ lực để tạo ra các tiêu chuẩn quốc tế cho việc kiểm tra thiết bị y tế.

Có những ví dụ trong lĩnh vực chăm sóc sức khỏe, kinh doanh, chính phủ và cuộc sống hàng ngày, nơi các thuật toán có độ chệch đã dẫn đến vấn đề như tìm kiếm có tính chất phân biệt giới tính và dự đoán phân biệt chủng tộc về khả năng tái phạm của một tội phạm viên.

Thường cho rằng trí tuệ nhân tạo có tính khách quan hơn con người. Tuy nhiên, thực tế là các thuật toán AI ra quyết định dựa trên dữ liệu được chú thích bởi con người, có thể có độ chệch và loại trừ. Nghiên cứu hiện tại về độ chệch trong trí tuệ nhân tạo chủ yếu tập trung vào giới tính và chủng tộc. Nhưng liệu trí tuệ nhân tạo có thể có đặc tính phân biệt dựa trên tuổi tác không?

Công nghệ có tính phân biệt đối xử dựa trên tuổi tác?

Trong năm 2021, Tổ chức Y tế Thế giới phát hành báo cáo toàn cầu về việc già hóa, kêu gọi hành động cấp bách để chống lại sự phân biệt đối xử dựa trên tuổi tác vì ảnh hưởng rộng rãi của nó đối với sức khỏe và phúc lợi.

Phân biệt đối xử dựa trên tuổi tác được định nghĩa là “quá trình đặt những đặc điểm rối loạn và phân biệt đối xử hệ thống đối với những người già.” Nó có thể là rõ ràng hoặc ngụ ý, và có thể có dạng thái độ tiêu cực, các hoạt động phân biệt đối xử hoặc các thực hành tổ chức.

Sự phổ biến của phân biệt đối xử dựa trên tuổi tác đã được đưa ra ánh sáng trong suốt đại dịch COVID-19. Người già đã bị gán nhãn là “gánh nặng cho xã hội,” và ở một số quốc gia, tuổi tác đã được sử dụng như tiêu chí duy nhất cho các liệu pháp cứu chữa.

Phân biệt đối xử số hóa tồn tại khi đặc tính phân biệt dựa trên tuổi tác được tạo hoặc được hỗ trợ bởi công nghệ. Một báo cáo gần đây chỉ ra rằng một “thế giới số” với hơn 2,5 triệu tỷ byte dữ liệu được tạo ra mỗi ngày. Tuy nhiên, mặc dù người già đang sử dụng công nghệ ngày càng nhiều — và hưởng lợi từ việc sử dụng đó — họ vẫn là đối tượng tuổi tác ít có khả năng truy cập máy tính và internet nhất.

Độ tuổi số hóa có thể xuất hiện khi thái độ phân biệt đối xử dựa trên tuổi tác ảnh hưởng đến thiết kế công nghệ, hoặc khi sự phân biệt đối xử dựa trên tuổi làm cho việc người cao tuổi truy cập và tận hưởng đầy đủ lợi ích của công nghệ số trở nên khó khăn hơn.

Vòng luân phiên của bất công

Có nhiều chu kỳ bất công lồng vào nhau, nơi các độ chệch công nghệ, cá nhân và xã hội tương tác để tạo ra, củng cố và đóng góp vào sự phân biệt đối xử số hóa.

Rào cản đối với việc tiếp cận công nghệ có thể loại trừ người cao tuổi khỏi quá trình nghiên cứu, thiết kế và phát triển các công nghệ số. Việc vắng mặt của họ trong thiết kế và phát triển công nghệ cũng có thể được biện minh bằng niềm tin phân biệt đối xử rằng người cao tuổi không thể sử dụng công nghệ. Do đó, người cao tuổi và quan điểm của họ hiếm khi được đưa vào quá trình phát triển trí tuệ nhân tạo và các chính sách, nguồn lực và dịch vụ hỗ trợ liên quan.

Những trải nghiệm và nhu cầu đặc biệt của người cao tuổi thường bị bỏ qua, mặc dù tuổi tác là chỉ số mạnh mẽ hơn về việc sử dụng công nghệ so với các đặc điểm dân số khác bao gồm chủng tộc và giới tính.

Trí tuệ nhân tạo được đào tạo bằng dữ liệu, và sự vắng mặt của người cao tuổi có thể tái tạo hoặc thậm chí làm tăng cường những giả định phân biệt đối xử dựa trên tuổi tác trong đầu ra của nó. Nhiều công nghệ trí tuệ nhân tạo tập trung vào một hình ảnh rập khuôn về người cao tuổi yếu đuối — một phần hẹp của dân số mà bỏ qua quá trình giàu sức khỏe. Điều này tạo ra một vòng lặp phản hồi tiêu cực không chỉ làm giảm khả năng người cao tuổi sử dụng trí tuệ nhân tạo mà còn gây ra mất mát dữ liệu thêm từ những đối tượng dân số này có thể cải thiện độ chính xác của trí tuệ nhân tạo.

Ngay cả khi người cao tuổi được bao gồm trong các tập dữ liệu lớn, họ thường được nhóm theo các phân đoạn tùy ý của nhà phát triển. Ví dụ, người cao tuổi có thể được xác định là tất cả mọi người từ 50 tuổi trở lên, mặc dù các độ tuổi trẻ hơn lại được chia thành các khoảng tuổi hẹp hơn. Kết quả là, người cao tuổi và nhu cầu của họ có thể trở nên vô hình đối với các hệ thống trí tuệ nhân tạo.

Đến cả khiệm cận này, các hệ thống trí tuệ nhân tạo củng cố bất bình đẳng và làm tăng cường sự loại trừ xã hội đối với các phần của dân số, tạo ra một “tầng lớp số hóa” chủ yếu bao gồm những người cao tuổi, người nghèo, nhóm có màu da và nhóm bị margilan hóa.

Giải quyết vấn đề phân biệt đối xử số hóa

Chúng ta phải hiểu rõ những rủi ro và tổn thất liên quan đến các độ chệch liên quan đến tuổi tác khi ngày càng có nhiều người cao tuổi chú ý đến công nghệ.

Bước đầu tiên là nhận thức về sự tồn tại của phân biệt đối xử số hóa cùng với các dạng độ chệch thuật toán khác như phân biệt đối xử theo chủng tộc và giới tính. Họ cần hướng sự cố gắng của mình vào việc xác định và đo lường nó. Bước tiếp theo là phát triển các biện pháp an toàn cho các hệ thống trí tuệ nhân tạo để giảm thiểu các kết quả phân biệt đối xử theo tuổi tác.

Hiện tại có rất ít sự đào tạo, kiểm toán hoặc giám sát về các hoạt động được thúc đẩy bởi trí tuệ nhân tạo từ quan điểm quy định hay pháp lý. Ví dụ, Chế độ quản lý trí tuệ nhân tạo hiện tại của Canada đang thiếu sót nghiêm trọng.

Điều này đặt ra một thách thức, nhưng cũng là một cơ hội để bao gồm phân biệt đối xử theo tuổi cùng với các hình thức độ chệch khác và kỳ thị đang cần được loại bỏ. Để chống lại phân biệt đối xử số hóa, người cao tuổi phải được bao gồm một cách có ý nghĩa và hợp tác trong việc thiết kế công nghệ mới.

Bài viết của Charlene Chu, Giáo sư Trợ giúp, Khoa Y dược Lawrence S. Bloomberg, Đại học Toronto; Kathleen Leslie, Giáo sư Trợ giúp tại Khoa Y dược, Đại học Athabasca; Rune Nyrup, Nghiên cứu viên cấp cao, Lịch sử và Triết học Khoa học, Đại học Cambridge, và Shehroz Khan, Giáo sư Trợ giúp (Tình trạng), Viện Vật liệu sinh học & Kỹ thuật Y sinh, Đại học Toronto

Bài viết này được tái xuất bản từ The Conversation theo giấy phép Creative Commons. Đọc bài viết gốc.