Báo cáo: Apple đang phát triển một tính năng kinh hoàng trên iPhone sử dụng trí tuệ nhân tạo để 'phát hiện' tự kỷ

Bạn đã biết rằng Neural đang trình diễn vào mùa thu năm nay? Cùng với đội ngũ chuyên gia tuyệt vời, chúng tôi sẽ khám phá tương lai của trí tuệ nhân tạo trong Hội nghị TNW 2021. Đảm bảo đặt vé của bạn ngay bây giờ!

Khu vườn gói kín của Apple cho trí tuệ nhân tạo thường giữ cho công ty Cupertino tránh xa khỏi tầm ngắm của truyền thông chỉ trích. Vì vậy, đây là một cú sốc khi một câu chuyện bộc lộ rằng ngôi nhà mà Jobs và Woz xây dựng cũng nguy hiểm và điên rồ như phần lớn công nghệ lớn khác khi nói đến học máy.

Ví dụ A: The Wall Street Journal hôm nay đã đưa tin rằng Apple đang phát triển một hệ thống trí tuệ nhân tạo sử dụng dữ liệu sinh trắc học từ người dùng iPhone để chẩn đoán bệnh tâm thần và tự kỷ.

Ý tưởng lớn ở đây là, giống như khả năng của Apple Watch phát hiện cảm xúc tim mạch, iPhone của bạn sẽ có khả năng xử lý dữ liệu trong nền trong quá trình sử dụng bình thường và xác định xem bạn đang trải qua tâm lý căng thẳng. Hoặc, rõ ràng, tự kỷ. Hai điều này không nhất thiết phải liên quan đến nhau.

Phía trước: Đừng bao giờ dùng 1,000 từ để giải thích vấn đề ở đây. Bạn không thể phát hiện tự kỷ bằng iPhone. Đơn giản là không thể.

Những người tự kỷ tồn tại trên một phổ tâm lý và cảm xúc giống như những người không tự kỷ. Không có bài kiểm tra nào cho tự kỷ. Bác sĩ không sử dụng tiêu chí cố định để chẩn đoán tự kỷ. Để đưa ra chẩn đoán về tự kỷ, cần nhiều cuộc thảo luận và quan sát từ bác sĩ.

Kiểm tra số lượng lớn các bài nghiên cứu/bài báo/sách có trên Google Scholar về khó khăn trong việc chẩn đoán bệnh tâm thần và tự kỷ:

Hơn nữa, tự kỷ không phải là một bệnh có thể chữa trị hoặc một dạng bệnh tâm thần. Nhiều người tự kỷ coi bản thân là hoàn toàn khỏe mạnh và cảm thấy ý nghĩa rằng họ cần 'điều trị' là một sự xúc phạm.

Nền: Nhưng vấn đề thực sự đối với Apple đơn giản hơn nhiều: Trí tuệ nhân tạo không thể phát hiện bệnh tâm thần hoặc tự kỷ. Dứt khoát.

Nó có thể được đào tạo để tìm kiếm dấu hiệu mà các nhà nghiên cứu tin rằng có thể liên quan đến những điều kiện đó, nhưng ngay cả khi đó, chúng ta nói về biểu hiện khuôn mặt, cách bạn nhập nhanh từ và cách giọng của bạn âm thanh khi bạn nói chuyện. Đây là luồng dữ liệu có thể biến động mạnh qua các nhóm dân số. Nó vượt ra khỏi phạm vi của các nghiên cứu ngắn hạn để áp dụng những thước đo này vào các thuật toán học sâu.

Góc nhìn nhạt nhòa: Không có lý do gì phải phát triển sản phẩm này. Dĩ nhiên, nghiên cứu và phát triển chưa bao giờ là dấu hiệu cho việc một tính năng sẽ thực sự xuất hiện trong sản xuất. Nhưng đây là một giả định sai từ đầu. Đơn giản là, không có cơ sở khoa học cho sản phẩm này. Nó giống như dầu rắn.

Khi một sản phẩm của Apple phát hiện một tình trạng tim có thể gây hại, nó đang phát hiện một sự kiện. Sự kiện đó có thể xảy ra hoặc không xảy ra. Nhưng khi trí tuệ nhân tạo cố gắng phát hiện điều gì đó có tính chất chủ quan, như là dấu hiệu của tự kỷ chẳng hạn, nó không tìm kiếm một sự kiện chẩn đoán duy nhất. Nó đang cố gắng tìm kiếm bằng chứng tùy ý của tự kỷ ẩn trong dữ liệu. Đó không phải là cách chẩn đoán bệnh tâm thần và tự kỷ hoạt động.

Hậu quả của việc chẩn đoán sai bệnh tâm thần hoặc tự kỷ có thể làm hủy hoại. Sự kỳ thị đối với những người có vấn đề tâm thần thường được làm trầm trọng bởi sự kỳ thị hợp thành khi tìm kiếm liệu pháp.

Và sự kỳ thị đối với những người có tự kỷ đã dẫn đến những điều thực sự tồi tệ. Sự kỳ thị này đặt ở trung tâm của phong trào ủng hộ bệnh tật (thường được gọi là 'anti-vaxxers'). Cho công chúng một thiết bị mà họ tin rằng có thể phát hiện tự kỷ hoặc bệnh tâm thần là chắc chắn sẽ gây hại.

Hy vọng rằng điều này sẽ không bao giờ ra khỏi phòng thí nghiệm.