Trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe có thể làm tăng cường các bất bình đẳng về dân tộc và thu nhập, các nhà khoa học cảnh báo

Các nhà khoa học lo ngại rằng việc sử dụng mô hình Trí tuệ nhân tạo như ChatGPT trong lĩnh vực chăm sóc sức khỏe sẽ làm gia tăng các bất bình đẳng.

Các nhà dịch tễ học từ các trường đại học Cambridge và Leicester cảnh báo rằng các mô hình ngôn ngữ lớn (LLM) có thể củng cố những bất bình đẳng cho cộng đồng dân tộc thiểu số và các quốc gia có thu nhập thấp.

Lo ngại của họ xuất phát từ các độ chệch dữ liệu hệ thống. Các mô hình Trí tuệ nhân tạo được sử dụng trong chăm sóc sức khỏe được đào tạo trên thông tin từ trang web và văn bản khoa học. Nhưng bằng chứng cho thấy rằng dữ liệu về dân tộc thường bị thiếu hụt từ những nguồn này. 

Do đó, các công cụ Trí tuệ nhân tạo có thể ít chính xác hơn đối với nhóm dân tộc ít được đại diện. Điều này có thể dẫn đến các đề xuất về thuốc không hiệu quả hoặc tư vấn y tế có tính phân biệt chủng tộc.

“Được rộng rãi chấp nhận rằng có mối liên quan giữa nền rủi ro khác nhau và việc đến từ một nền dân tộc thiểu số trên nhiều nhóm bệnh,” các nhà nghiên cứu nói trong bài nghiên cứu của họ.

“Nếu văn bản xuất bản đã chứa đựng độ chệch lệch và ít chính xác, thì hợp lý khi mô hình Trí tuệ nhân tạo trong tương lai sẽ duy trì và làm gia tăng chúng.”

Các nhà khoa học cũng lo lắng về mối đe dọa đối với các quốc gia có thu nhập thấp và trung bình (LMICs). Các mô hình Trí tuệ nhân tạo chủ yếu được phát triển ở các quốc gia giàu có, cũng chiếm ưu thế trong việc tài trợ cho nghiên cứu y tế.

Do đó, LMICs bị “thiếu hụt nghiêm trọng” trong dữ liệu đào tạo y tế. Điều này có thể dẫn đến việc công cụ Trí tuệ nhân tạo cung cấp lời khuyên không tốt cho những người ở những quốc gia này. 

Dù có những lo ngại này, các nhà nghiên cứu nhận ra những lợi ích mà Trí tuệ nhân tạo mang lại cho y học. Để giảm thiểu các rủi ro, họ đề xuất một số biện pháp.

Đầu tiên, họ muốn các mô hình mô tả rõ dữ liệu được sử dụng trong quá trình phát triển. Họ cũng kêu gọi thêm nghiên cứu để địa chỉ bất bình đẳng về sức khỏe trong nghiên cứu, bao gồm việc tuyển dụng và ghi chép thông tin về dân tộc.

Dữ liệu đào tạo nên đại diện đầy đủ, đồng thời cần thêm nghiên cứu về việc sử dụng Trí tuệ nhân tạo cho các nhóm bị margination. Những can thiệp này, theo các nhà nghiên cứu, sẽ thúc đẩy sự công bằng và bao hàm trong chăm sóc sức khỏe. 

“Chúng ta phải thận trọng, nhận ra rằng chúng ta không thể và không nên ngăn chặn sự tiến triển,” bác sĩ Mohammad Ali từ Đại học Leicester nói.