Dù đạt độ chính xác 90% trong các thử nghiệm, AI lại thất bại nặng nề khi triển khai vào thực tế

AI không chịu áp lực giữa việc 'thử' và 'thật', nhưng cách hoạt động máy móc vẫn khiến chất lượng kết quả giảm sút.

Đại dịch Covid-19 vẫn đang diễn biến phức tạp, khiến bệnh viện ở nhiều nơi đều đối mặt với tình trạng quá tải. Một số chuyên gia còn lo ngại về khả năng sụp đổ của hệ thống y tế địa phương khi bị vượt quá khả năng kiểm soát.

Một nghiên cứu mới từ Google Health đã chỉ ra rằng, các hệ thống AI, dù chính xác, cũng có thể phạm sai lầm nghiêm trọng khi không quen với môi trường làm việc.

Luật lệ về việc sử dụng AI trong phòng khám hiện tại tập trung vào việc đảm bảo độ chính xác của thiết bị, chứ không quan tâm đến việc cải thiện chăm sóc bệnh nhân. Emma Beede từ Google Health cho rằng, cách tiếp cận này cần phải thay đổi.

'Chúng ta cần hiểu cách AI có thể hỗ trợ con người trong những tình huống cụ thể, đặc biệt trong lĩnh vực chăm sóc sức khỏe, trước khi áp dụng rộng rãi', cô Beede nhấn mạnh.

Thái Lan là quốc gia đầu tiên thử nghiệm công nghệ AI trong điều kiện thực tế. Bộ Y tế của họ đang cố gắng chẩn đoán 60% số người mắc tiểu đường để xác định ai có nguy cơ mắc bệnh màng lưới, nhằm giảm tỷ lệ mùa lòa do tiểu đường.

Mặc dù vẫn chờ chứng nhận từ FDA, Google được phép lắp đặt hệ thống trí tuệ nhân tạo để hỗ trợ Thái Lan chống di chứng tiểu đường. Cô Beede và đồng nghiệp tới 11 phòng khắp cả nước Thái, cài đặt hệ thống deep learning để phát hiện bệnh mắt trên bệnh nhân tiểu đường.

Thường, y tá chụp ảnh mắt bệnh nhân và gửi cho chuyên gia - quy trình có thể kéo dài tới 10 tuần. Hệ thống AI của Google Health xác nhận bệnh màng lưới mắt với độ chính xác lên tới 90%, tương đương với chuyên gia; quá trình chẩn đoán chỉ mất dưới 10 phút.

Nghe có vẻ ấn tượng, nhưng máy chỉ đạt được độ chính xác nêu trên trong môi trường phòng thí nghiệm. Vì không biết chính xác máy móc hoạt động thế nào trong thực tế, Google Health cố gắng tìm hiểu thêm. Sau nhiều tháng theo dõi, phỏng vấn y bác sĩ về trải nghiệm sử dụng hệ thống AI, các chuyên gia Google nhận ra kết quả không mấy tích cực.

Khi mọi thứ suôn sẻ, AI có thể tăng tốc độ chẩn đoán bệnh. Nhưng đôi khi cỗ máy từ chối đưa ra kết quả. Giống nhiều hệ thống nhận dạng hình ảnh khác, chúng đã quen với ảnh chất lượng cao nên sẽ từ chối phân tích ảnh thấp hơn mức quy chuẩn. Nó từ chối nhận hơn 20% ảnh do y bác sĩ đưa vào phân tích.

Những bệnh nhân có ảnh bị AI từ chối sẽ phải thăm khám lại ở phòng khám khác; không phải ai cũng có điều kiện đi lại như vậy. Y tá gặp nhiều khó khăn khi chụp ảnh, nhiều khi họ cho rằng ảnh rõ mắt người bệnh, không cần tái khám. Thỉnh thoảng việc chụp lại ảnh hoặc chỉnh sửa cũng mất nhiều thời gian.

Vì yêu cầu y bác sĩ phải tải ảnh lên kho lưu trữ đám mây để xử lý hình ảnh, tốc độ Internet chậm có thể làm trì hoãn quá trình chẩn đoán. “Bệnh nhân thích kết quả liền tay, nhưng tốc độ chậm khiến họ phàn nàn nhiều. Họ phải chờ ở đây từ 6 giờ sáng, và trong hai tiếng đầu làm việc chúng tôi chỉ chẩn đoán được 10 bệnh nhân”, một y tá nói.

Nhóm Google Health đang thảo luận với nhân viên y tế địa phương để phát triển phương án làm việc mới. Sẽ có thời điểm y tá có thể tự đưa ra chẩn đoán cho các trường hợp đơn giản/những bức ảnh dễ, và các chuyên gia Google sẽ điều chỉnh hệ thống để nó có thể nhận dạng ảnh chất lượng thấp tốt hơn.

Tuy nhiên, nguy cơ vẫn tồn tại

“Đây là nghiên cứu vô cùng quan trọng đối với những ai muốn tham gia vào lĩnh vực [nhận dạng hình ảnh] và áp dụng giải pháp AI vào thực tế”, nhà nghiên cứu Hamid Tizhoosh từ Đại học Waterloo, Canada, nhấn mạnh. Tizhoosh, một chuyên gia trong lĩnh vực nhận dạng hình ảnh y học, lên án việc sử dụng công cụ AI trong chẩn đoán Covid-19 một cách vội vã. Ông cho rằng nghiên cứu mới của Google Health là một cảnh báo, cho thấy AI vẫn còn rất xa mới chỉ là bước khởi đầu.

Michael Abramoff, một bác sĩ chuyên về mắt và nhà khoa học máy tính tại Đại học Iowa, đã dành nhiều năm phát triển hệ thống AI nhận dạng bệnh mắt. Abramoff cũng là CEO của công ty khởi nghiệp liên quan đến mắt mang tên IDx Technologies, hợp tác với IBM Watson. Bác sĩ Abramoff cảnh báo về việc sử dụng AI trong chẩn đoán một cách vội vã, và nhận phản hồi tiêu cực từ những người có kinh nghiệm xấu với AI trong chẩn đoán bệnh.

“Tôi hạnh phúc vì Google sẵn lòng theo dõi từng bước làm việc trong phòng khám. Bởi vì trong lĩnh vực chăm sóc sức khỏe, không chỉ có thuật toán mới là quan trọng”, bác sĩ Abramoff nhấn mạnh.

Ông cũng đặt câu hỏi về việc so sánh độ chính xác của AI với con người. Con người có khả năng thảo luận, trong khi một hệ thống chỉ biết từ chối khi nó phát hiện hai giá trị “đúng” và “sai”. Bác sĩ Abramoff cho rằng một hệ thống AI cần tham gia vào quá trình thảo luận về những điểm chưa rõ.

Khi mọi thứ trôi chảy, hiệu suất làm việc tăng lên đáng kể. Nhóm nghiên cứu Beede và đồng nghiệp đã chứng kiến cách hệ thống AI hỗ trợ các bác sĩ tài năng. “Có những y tá chỉ làm việc một mình nhưng lại chẩn đoán được tới 1.000 bệnh nhân, với công cụ này, họ sẽ làm việc một cách trôi chảy hơn nữa”, cô Beede nói.

“Bệnh nhân không quan tâm AI hay con người làm chẩn đoán. Họ chỉ quan tâm đến kết quả chẩn đoán là gì”.

Tham khảo Technology Review