Trí tuệ nhân tạo Có Thể Dự Đoán Sự Chết. Nhưng Nếu Thuật toán Bị Độc Ác?

Tháng trước, Đại học Nottingham công bố một nghiên cứu trong PloSOne về một mô hình trí tuệ nhân tạo mới sử dụng học máy để dự đoán nguy cơ chết sớm, sử dụng dữ liệu sức khỏe đã lưu trữ (về tuổi và yếu tố lối sống) của người Anh từ 40 đến 69 tuổi. Nghiên cứu này được tiến hành vài tháng sau một nghiên cứu chung giữa Đại học California, San Francisco, Stanford và Google, nơi công bố kết quả khai thác dữ liệu dựa trên học máy từ hồ sơ sức khỏe điện tử để đánh giá khả năng một bệnh nhân sẽ chết trong bệnh viện. Một trong những mục tiêu của cả hai nghiên cứu là đánh giá làm thế nào thông tin này có thể giúp các bác sĩ quyết định bệnh nhân nào có thể hưởng lợi nhiều nhất từ can thiệp.

Cơ quan FDA cũng đang xem xét cách trí tuệ nhân tạo sẽ được sử dụng trong chăm sóc sức khỏe và đã đăng một cuộc gọi tháng trước để xây dựng một khung quy định cho trí tuệ nhân tạo trong chăm sóc y tế. Khi cuộc trò chuyện xoay quanh trí tuệ nhân tạo và y học tiến triển, rõ ràng chúng ta phải có sự giám sát cụ thể về vai trò của trí tuệ nhân tạo trong việc xác định và dự đoán sự chết.

Có một số lý do cho hiện tượng này. Đầu tiên, các nhà nghiên cứu và nhà khoa học đã đặt ra những lo ngại về sự chệch lệch tiếp tục xâm nhập vào trí tuệ nhân tạo. Như bác sĩ Eric Topol, tác giả của cuốn sách Y học Sâu: Trí tuệ Nhân tạo trong Y tế, đã mô tả, thách thức về độ chệch trong học máy xuất phát từ các "đầu vào thần kinh" được nhúng trong thuật toán, có thể bao gồm độ chệch của con người. Và mặc dù các nhà nghiên cứu đang thảo luận về vấn đề này, vấn đề vẫn còn tồn tại. Ví dụ điển hình: Việc ra mắt một học viện AI mới tại Stanford cách đây vài tuần đã bị kiểm tra vì thiếu đa dạng về dân tộc.

Tiếp theo là vấn đề về độ chệch không ý thức, hoặc độ chệch ngụ ý, trong chăm sóc sức khỏe, đã được nghiên cứu một cách kỹ lưỡng, cả khi nó liên quan đến các bác sĩ trong y học học thuật và đối với bệnh nhân. Có những khác biệt, ví dụ, trong cách điều trị đau cho các nhóm dân tộc khác nhau, mặc dù ảnh hưởng có thể thay đổi tùy thuộc vào giới tính và gánh nặng nhận thức của bác sĩ. Một nghiên cứu đã phát hiện ra rằng những độ chệch này có thể ít xảy ra hơn đối với bác sĩ da đen hoặc nữ. (Cũng đã phát hiện ra rằng các ứng dụng sức khỏe trên điện thoại thông minh và thiết bị đeo cũng bị độ chệch).

Năm 2017, một nghiên cứu đã thách thức tác động của những độ chệch này, phát hiện ra rằng mặc dù các bác sĩ có thể ngụ ý ưa thích bệnh nhân da trắng, nhưng có thể không ảnh hưởng đến quyết định lâm sàng của họ. Tuy nhiên, đó chỉ là một điểm ngoại lệ trong đám đông các nghiên cứu khác phát hiện ra điều ngược lại. Ngay cả ở cấp độ khu vực, mà nghiên cứu Nottingham đã xem xét, vẫn tồn tại độ chệch—ví dụ, người da đen có thể có kết quả tồi tệ hơn đối với một số bệnh nếu họ sống trong cộng đồng có độ chệch chủng tộc cao hơn. Và độ chệch dựa trên giới tính không thể bị phớt lờ: Phụ nữ có thể bị điều trị ít quyết liệt hơn sau cơn đau tim (hội chứng cảm thông cảm cấp tính), ví dụ,

Khi nói đến cái chết và chăm sóc cuối đời, những độ chệch này có thể làm nổi bật lo ngại, vì chúng có thể duy trì những khác biệt hiện tại. Một nghiên cứu năm 2014 phát hiện rằng những người quyết định thay mặt cho bệnh nhân không da trắng có khả năng rút máy thở hơn so với bệnh nhân da trắng. Nghiên cứu SUPPORT (Nghiên cứu để Hiểu Biết Dự Đoán và Sở Thích Đối với Kết Quả và Rủi Ro của các Phương Pháp Điều Trị) đã kiểm tra dữ liệu từ hơn 9.000 bệnh nhân tại năm bệnh viện và phát hiện rằng bệnh nhân da đen nhận ít can thiệp hơn vào cuối đời, và rằng trong khi bệnh nhân da đen bày tỏ mong muốn thảo luận về hồi sức tim phổi (CPR) với bác sĩ, họ ít có khả năng thảo luận này theo cách có ý nghĩa thống kê. Các nghiên cứu khác cũng rút ra các kết luận tương tự về bệnh nhân da đen báo cáo rằng họ được thông tin ít hơn về chăm sóc cuối đời.

Tuy nhiên, những xu hướng này không nhất quán. Một nghiên cứu từ năm 2017, phân tích dữ liệu khảo sát, không tìm thấy sự khác biệt đáng kể trong chăm sóc cuối đời có thể liên quan đến chủng tộc. Và theo một bác sĩ chăm sóc dưỡng đặc biệt chỉ ra, nhiều nghiên cứu khác đã phát hiện ra rằng một số nhóm dân tộc ưa thích chăm sóc tích cực hơn vào cuối đời—và điều này có thể liên quan đến việc phản ứng chống lại hệ thống chăm sóc sức khỏe có độ chệch hệ thống. Mặc dù sở thích có thể khác nhau giữa các nhóm dân tộc, độ chệch vẫn có thể xảy ra khi bác sĩ có thể không ý thức không cung cấp tất cả các lựa chọn hoặc đưa ra giả định về những lựa chọn mà một bệnh nhân cụ thể có thể ưa thích dựa trên chủng tộc của họ.

Tuy nhiên, trong một số trường hợp, việc sử dụng AI cẩn thận có thể hữu ích như một phần của đánh giá cuối đời, có thể giảm hiệu ứng của độ chệch. Năm ngoái, các nhà nghiên cứu Trung Quốc đã sử dụng trí tuệ nhân tạo để đánh giá chết não. Đáng chú ý, bằng cách sử dụng một thuật toán, máy có khả năng phát hiện hoạt động não mà bác sĩ sử dụng các kỹ thuật tiêu chuẩn đã bỏ sót. Những kết quả này gợi nhớ đến trường hợp của Jahi McMath, cô bé đã rơi vào tình trạng thức ăn nằm sau một biến chứng trong quá trình loại bỏ amidan. Độ chệch ngụ ý có thể đã đóng vai trò không chỉ trong cách cô và gia đình của cô được đối xử, mà có thể là trong các cuộc trò chuyện xoay quanh việc liệu cô còn sống hay đã chết. Tuy nhiên, Topol cảnh báo rằng việc sử dụng AI để đánh giá hoạt động não nên được xác nhận trước khi sử dụng ngoài môi trường nghiên cứu.

Chúng ta biết rằng các nhà cung cấp dịch vụ y tế có thể cố gắng đào tạo bản thân họ để loại bỏ những độ chệch ngụ ý. Bài đào tạo độ chệch không ý thức mà Stanford cung cấp là một lựa chọn, và đó là điều mà tôi đã hoàn thành. Các tổ chức khác đã bao gồm đào tạo tập trung vào tự nghiệm hoặc tâm thức. Nhưng đây là một thách thức hoàn toàn khác khi tưởng tượng việc loại bỏ độ chệch từ các thuật toán và bộ dữ liệu mà chúng được đào tạo.

Xét cho cùng, với việc hội đồng tư vấn toàn diện mà Google vừa mới phát động để giám sát đạo đức đằng sau trí tuệ nhân tạo đã bị hủy bỏ, một lựa chọn tốt hơn sẽ là cho phép một cơ quan quy định trung ương hơn—như xây dựng trên đề xuất của Cơ quan Quản lý Thực phẩm và Dược phẩm—có thể phục vụ các trường đại học, ngành công nghiệp công nghệ và bệnh viện.

Trí tuệ nhân tạo là một công cụ hứa hẹn đã chứng minh được tính hữu ích của nó trong việc chẩn đoán, nhưng dự đoán về cái chết, và có thể là việc xác định cái chết, là một lĩnh vực độc đáo và thách thức có thể đầy rẫy những độ chệch giống như ảnh hưởng đến giao tiếp giữa bác sĩ và bệnh nhân. Và một ngày nào đó, dù chúng ta đã sẵn sàng hay chưa, chúng ta sẽ đối mặt với vấn đề thực tế và triết học khi máy móc tham gia vào quá trình xác định cái chết của con người. Hãy đảm bảo rằng công nghệ này không thừa hưởng định kiến của chúng ta.

Ý kiến ​​của Mytour được đăng tải bởi các độc giả bên ngoài và đại diện cho một loạt các quan điểm. Đọc thêm ý kiến tại đây. Gửi bài viết tại [email protected]

Những Câu Chuyện Tuyệt Vời Hơn Của Mytour

• Con người có phù hợp cho không gian không? Một nghiên cứu nói có thể không
• Mẹo để tận dụng tối đa Spotify
• Những dấu vết ấn tượng của đèn máy bay vào buổi tối
• Lập trình là cho mọi người - miễn là bạn nói tiếng Anh
• Bên trong 'chiến tranh du kích' của Airbnb đối với chính quyền địa phương
• 🎧Những thứ không nghe đúng? Kiểm tra tai nghe không dây, thanh âm, và loa bluetooth yêu thích của chúng tôi
• 📩Muốn thêm? Đăng ký bản tin hàng ngày của chúng tôi và không bao giờ bỏ lỡ những câu chuyện mới và tuyệt vời nhất của chúng tôi