Nếu Trí Tuệ Nhân Tạo Dự Đoán Tương Lai Của Bạn, Liệu Bạn Còn Tự Do?

Khi bạn đọc những từ này, có lẽ có hàng chục thuật toán đang dự đoán về bạn. Có lẽ là một thuật toán đã xác định rằng bạn sẽ tiếp xúc với bài viết này vì nó dự đoán bạn sẽ đọc nó. Các dự đoán thuật toán có thể quyết định liệu bạn có được vay mượn, có công việc hay một căn hộ hay bảo hiểm và nhiều hơn thế nữa.

Những phân tích dự đoán này đang chiếm lĩnh thêm và thêm các lĩnh vực của cuộc sống. Và tuy nhiên không ai đã hỏi ý kiến của bạn để tạo ra những dự đoán như vậy. Không có cơ quan chính phủ giám sát chúng. Không ai thông báo cho bạn về những dự báo quyết định số phận của bạn. Thậm chí, tìm kiếm trong văn học học thuật về đạo đức của dự đoán cho thấy đó là một lĩnh vực kiến thức chưa được khám phá. Như một xã hội, chúng ta chưa suy nghĩ kỹ về những ảnh hưởng đạo đức của việc dự đoán về con người—những sinh linh được cho là được trang bị với sự hành động và tự do.

Thách thức những con số quả là cốt lõi của ý nghĩa của việc làm con người. Những anh hùng vĩ đại nhất của chúng ta là những người đã thách thức số phận của mình: Abraham Lincoln, Mahatma Gandhi, Marie Curie, Helen Keller, Rosa Parks, Nelson Mandela, và vượt xa ngoài sự mong đợi. Mọi giáo viên đều biết đến những đứa trẻ đã đạt được nhiều hơn những gì được chia bài cho họ. Ngoài việc cải thiện cơ sở của mọi người, chúng ta muốn một xã hội cho phép và kích thích những hành động thách thức số phận. Tuy nhiên, càng sử dụng AI để phân loại con người, dự đoán tương lai của họ và đối xử với họ tương ứng, chúng ta lại hạn chế khả năng hành động của con người, điều này sẽ đưa chúng ta vào những rủi ro chưa từng có.

Loài người đã sử dụng dự đoán từ trước thời kỳ của Bạch Dinh. Chiến tranh đã được xảy ra dựa trên những dự đoán đó. Trong những thập kỷ gần đây hơn, dự đoán đã được sử dụng để thông tin các thực hành như đặt giá bảo hiểm. Những dự báo này thường liên quan đến nhóm lớn người—ví dụ, có bao nhiêu người trong số 100,000 người sẽ gặp tai nạn xe hơi. Một số người trong số họ sẽ cẩn thận và may mắn hơn so với những người khác, nhưng giá bảo hiểm được giữ nguyên đều (ngoại trừ các phân loại rộng như nhóm tuổi) dưới giả định rằng việc kết hợp rủi ro cho phép chi phí cao hơn của những người ít cẩn thận và may mắn hơn được bù đắp bởi chi phí tương đối thấp của những người cẩn thận và may mắn. Càng lớn bể, càng dễ dự đoán và giữ giá bảo hiểm ổn định.

Ngày nay, dự đoán chủ yếu được thực hiện thông qua các thuật toán học máy sử dụng thống kê để điền vào những khoảng trống của điều chưa biết. Thuật toán văn bản sử dụng cơ sở dữ liệu ngôn ngữ khổng lồ để dự đoán kết thúc có vẻ hợp lý nhất cho một chuỗi từ. Các thuật toán trò chơi sử dụng dữ liệu từ các trò chơi trước đó để dự đoán bước di chuyển tiếp theo tốt nhất có thể. Và các thuật toán được áp dụng vào hành vi của con người sử dụng dữ liệu lịch sử để suy luận về tương lai của chúng ta: chúng ta sẽ mua gì, liệu chúng ta có kế hoạch đổi việc làm, liệu chúng ta sẽ mắc bệnh, liệu chúng ta sẽ phạm tội hay gặp tai nạn xe hơi. Dưới mô hình như vậy, bảo hiểm không còn là về việc kết hợp rủi ro từ nhóm lớn người. Ngược lại, dự đoán đã trở thành cá nhân hóa, và bạn ngày càng trả tiền theo cách của riêng mình, dựa trên điểm rủi ro cá nhân của bạn—điều này đặt ra một loạt các vấn đề đạo đức mới.

Đặc điểm quan trọng của dự đoán là chúng không mô tả hiện thực. Dự báo liên quan đến tương lai, không phải hiện tại, và tương lai là điều chưa trở thành thực tế. Một dự đoán là một phỏng đoán, và mọi loại đánh giá chủ quan và định kiến về rủi ro và giá trị đều được tích hợp vào nó. Có thể có các dự báo chính xác hơn hoặc ít chính xác hơn, chắc chắn, nhưng mối quan hệ giữa xác suất và thực tế thực sự là mỏng manh và đầy đạo đức vấn đề hơn nhiều so với một số người giả định.

Tuy nhiên, các tổ chức hiện nay thường cố gắng làm cho dự đoán giống như một mô hình của hiện thực khách quan. Và thậm chí khi dự đoán của AI chỉ là xác suất, chúng thường được hiểu là xác định trong thực tế—một phần vì con người kém hiểu biết về xác suất và một phần là do động cơ xung quanh việc tránh rủi ro cuối cùng làm tăng cường dự đoán. (Ví dụ, nếu dự đoán ai đó có khả năng làm nhân viên kém chất lượng là 75%, các công ty sẽ không muốn chấp nhận rủi ro tuyển họ khi có ứng viên với điểm rủi ro thấp hơn).

Cách chúng ta sử dụng dự đoán đưa ra những vấn đề đạo đức liên quan đến một trong những cuộc tranh luận cổ nhất trong triết học: Nếu có một ôn tri độc lập, chúng ta có thể coi mình thực sự tự do không? Nếu Chúa biết tất cả những gì sẽ xảy ra, điều đó có nghĩa là mọi thứ sẽ xảy ra đã được quyết định trước—nếu không thì sẽ không thể biết trước. Hàm ý là cảm giác tự do ý nghĩa đó chỉ là một cảm giác. Quan điểm này được gọi là chủ nghĩa dự định thần học.

Điều đáng lo ngại ở cuộc tranh luận này, trên hết là những câu hỏi xoay quanh Chúa, là ý tưởng rằng, nếu dự báo chính xác có thể xảy ra (bất kể ai là người thực hiện), thì điều đã được dự báo đã được quyết định trước. Trong thời đại của trí tuệ nhân tạo, lo ngại này trở nên quan trọng hơn, vì phân tích dự đoán liên tục nhắm đến những người.

Một vấn đề đạo đức quan trọng là bằng cách dự đoán về hành vi của con người giống như chúng ta dự đoán về thời tiết, chúng ta đang xem xét người như là vật thể. Một phần của việc đối xử tôn trọng với người là nhận thức về khả năng và khả năng thay đổi của họ cũng như hoàn cảnh của họ. Nếu chúng ta quyết định rằng chúng ta biết trước tương lai của ai đó trước khi nó đến và đối xử với họ theo cách đó, chúng ta không đang mang lại cơ hội cho họ hành động tự do và thách thức dự đoán đó.

Một vấn đề đạo đức thứ hai, liên quan đến việc dự đoán hành vi của con người, là bằng cách đối xử với con người như là vật thể, chúng ta đang tạo ra những tiên đoán tự thị. Hiếm khi dự đoán là không thiên lệch. Thường xuyên, hành động của dự đoán can thiệp vào hiện thực nó chỉ đơn giản quan sát. Ví dụ, khi Facebook dự đoán một bài đăng sẽ trở nên phổ biến, nó tối đa hóa sự phổ biến của bài đăng đó, và hóa ra, bài đăng trở nên phổ biến. Hoặc, hãy trở lại với ví dụ của thuật toán xác định bạn không có khả năng làm nhân viên giỏi. Khả năng bạn không có công việc có thể được giải thích không phải là do độ chính xác của thuật toán, mà vì thuật toán đang khuyến cáo các công ty không nên tuyển bạn và các công ty lấy lời khuyên của nó. Bị đưa vào danh sách đen bởi một thuật toán có thể hạn chế nghiêm trọng các lựa chọn trong cuộc sống của bạn.

Những nhà triết học quan tâm đến chủ nghĩa dự định thần học trong quá khứ lo lắng rằng nếu Chúa là ôn tri và vô lực, thì khó trách Chúa về điều ác. Như David Hume viết, “Hòa giải sự ngẫu nhiên của hành động con người với sự biết trước […] và vẫn giữ cho Chúa không phải là tác giả của tội ác, đã được phát hiện cho đến nay là vượt xa khả năng của triết học.” Trong trường hợp của trí tuệ nhân tạo, nếu phân tích dự đoán một phần tạo ra hiện thực mà nó tuyên bố dự đoán, thì chúng phần nào chịu trách nhiệm cho các xu hướng tiêu cực chúng ta đang trải qua trong thời đại số, từ gia tăng bất平 đến chia rẽ, thông tin sai lệch và nguy hại cho trẻ em và thanh thiếu niên.

Cuối cùng, việc sử dụng rộng rãi của phân tích dự đoán lấy đi cơ hội để có một tương lai mở trong đó chúng ta có thể tạo ra sự khác biệt, và điều này có thể tạo ra ảnh hưởng phá hủy đối với xã hội nói chung.

Suốt lịch sử, chúng ta đã tìm ra những cách sống thách thức chủ nghĩa dự định. Chúng ta nỗ lực giáo dục con cái, hy vọng mọi đầu tư của chúng ta sẽ dẫn họ đến cuộc sống tốt đẹp hơn so với nếu không có. Chúng ta cố gắng cải thiện thói quen để có sức khỏe tốt hơn. Chúng ta khen ngợi hành vi tốt để khuyến khích nhiều hơn, và để thừa nhận rằng mọi người có thể đã có những lựa chọn tồi tệ hơn. Chúng ta trừng phạt những người phạm tội, ít nhất là một phần để ngăn chúng và người khác vi phạm các quy tắc xã hội, và một phần để trách nhiệm cho những người chúng ta nghĩ rằng họ nên hành động tốt hơn. Chúng ta cố gắng tổ chức xã hội dựa trên công bằng.

Không có một thực hành xã hội nào quan trọng như vậy với lối sống của chúng ta nếu chúng ta nghĩ hoặc hành xử như những số phận của con người đã được đóng cửa. Khen ngợi và trách nhiệm sẽ hoàn toàn không thích hợp. Hãy tưởng tượng một thế giới không có điểm số, phạt, động viên hoặc bất kỳ hình phạt nào khác; một thế giới không có sự cố gắng nào để thay đổi tương lai; một thế giới trong đó mọi người sống trong sự từ bỏ tuyệt đối với một tiên đề. Đó là một điều gần như không thể tưởng. Nếu tương lai của mỗi công ty có thể được dự đoán với độ chính xác, thì thị trường tài chính như chúng ta biết ngay lập tức sẽ sụp đổ, và cùng với đó là nền kinh tế của chúng ta. Mặc dù khả năng này cực kỳ khó xảy ra, chúng ta không muốn đi theo một con đường đưa chúng ta gần hơn đến nó.

Có một sự căng thẳng không giải quyết được giữa thực hành dự đoán hành vi của con người và niềm tin vào tự do ý thức hàng ngày của chúng ta. Một mức độ không chắc chắn lành mạnh về những điều sắp xảy ra thúc đẩy chúng ta muốn làm tốt hơn, và giữ cho các khả năng mở. Mong muốn để lại không một điểm dữ liệu tiềm năng nào chưa được thu thập với mục tiêu xác định tương lai của chúng ta là không tương thích với cách đối xử cá nhân như là chủ nhân của cuộc sống của họ.

Chúng ta phải chọn giữa đối xử với con người như những chiếc máy cơ khí mà tương lai của họ có thể và nên được dự đoán (trong trường hợp này, niềm tin vào chủ nghĩa xứng đáng sẽ là không có ý nghĩa), hoặc đối xử với nhau như là những người tác động (trong trường hợp này, việc đưa người ta làm mục tiêu của dự đoán cá nhân là không thích hợp). Chúng ta không bao giờ nghĩ đến việc đưa một chiếc máy cơ hoặc máy móc khác vào tù. Nếu con người giống như chiếc máy cơ, chúng ta cũng không nên bỏ tù họ. Nếu, ngược lại, con người khác biệt so với máy móc và chúng ta muốn tiếp tục tặng khen và trách nhiệm, thì chúng ta không nên đối xử con người như là vật thể bằng cách dự đoán họ sẽ làm gì tiếp theo như thể họ không có quyền lựa chọn.

Dự đoán không vô hại. Việc sử dụng phân tích dự đoán một cách rộng rãi có thể thậm chí thay đổi cách con người nghĩ về bản thân. Việc tin vào ý thức tự do mang lại giá trị. Nghiên cứu trong tâm lý học đã chỉ ra rằng làm suy giảm sự tự tin của người ta vào ý thức tự do làm tăng hành vi gian lận, hung ác và tuân thủ giảm, và làm giảm hành vi hữu ích và các cảm xúc tích cực như lòng biết ơn và tính chân thật. Càng sử dụng phân tích dự đoán trên con người, chúng ta càng quan niệm con người chỉ là kết quả của hoàn cảnh của họ, và càng nhiều người có khả năng trải nghiệm bản thân mình không có khả năng tự quyết định và không có sức mạnh đối mặt với khó khăn. Càng ít chúng ta để người ta có cơ hội thách thức số liệu, càng nhiều chúng ta sẽ phải chịu tội khiếm nhã, và xã hội, với tình trạng hiện tại của nó.

Bằng cách quyết định số phận của con người dựa trên các thuật toán dự đoán, chúng ta đang biến người thành những con robot. Sự sáng tạo của con người trong việc thách thức xác suất đã giúp cứu rỗi toàn bộ quốc gia. Hãy nghĩ về Roosevelt và Churchill trong Thế chiến thứ hai. Họ vượt qua những khó khăn không thể diễn tả nổi trong cuộc sống cá nhân và nghề nghiệp của họ và đã giúp cứu thế giới khỏi chủ nghĩa toàn cầu trong quá trình đó. Khả năng thách thức số liệu là một trong những món quà tuyệt vời nhất của loài người, và chúng ta đang đe dọa nó với mức độ rủi ro.