Buzz
Chân tướng đằng sau những phản hồi của và Gemini là gì?
Theo tờ Independent, các mô hình AI đang âm thầm tạo ảnh hưởng lớn đến thế giới. Ngày nay, nhiều ngành nghề đang tích hợp AI vào các quy trình hoạt động để đưa ra các quyết định quan trọng như tuyển dụng, cấp vay ngân hàng, thậm chí tư vấn y tế. Điều này khiến việc hiểu cách thức AI đưa ra quyết định và sự khác biệt với quyết định của con người trở nên rất cần thiết.
Nghiên cứu mới cho thấy các hệ thống AI không chỉ xử lý dữ liệu mà còn có xu hướng 'đánh giá' người dùng một cách có hệ thống, giống như niềm tin giữa con người với nhau. Tuy nhiên, sự đánh giá này có nhiều điểm khác biệt lớn so với cách mà con người đánh giá nhau.
Các nhà nghiên cứu đã phân tích 43.000 quyết định mô phỏng từ các mô hình AI, cùng với khoảng 1.000 quyết định của con người để so sánh.
Kết quả cho thấy những mô hình như của OpenAI và Gemini của Google không chỉ đơn giản là xử lý thông tin mà còn đưa ra các phán đoán về con người, dường như hình thành một dạng 'niềm tin' đối với người sử dụng.
Tuy nhiên, loại 'niềm tin' này lại có nhiều điểm khác biệt so với cách mà con người tin tưởng lẫn nhau.
Trong nghiên cứu, cả mô hình AI và người tham gia đều được đưa ra các tình huống quen thuộc để ra quyết định, như xác định số tiền cho một chủ doanh nghiệp nhỏ vay, quyết định có nên tin tưởng người giữ trẻ hay không, đánh giá cấp trên ra sao, hoặc quyết định quyên góp bao nhiêu cho người sáng lập một tổ chức phi lợi nhuận.
Cả AI và con người đều có xu hướng thiên về những người được cho là có năng lực, trung thực và tốt bụng, cho thấy các mô hình dường như nhận diện được những yếu tố cốt lõi của niềm tin như khả năng, tính chính trực và lòng tốt.
Khi con người bị ‘lượng hóa’ thành điểm số
Tuy nhiên, trong khi con người thường hình thành ấn tượng tổng thể bằng cách kết hợp nhiều đặc điểm thành một đánh giá trực quan, AI lại có cách tiếp cận hoàn toàn khác. Các hệ thống này dường như áp dụng một phương pháp đánh giá nghiêm ngặt, quy trình hóa, nhất quán nhưng thiếu tính nhân văn.
Các hệ thống AI phân tách con người thành các điểm số về năng lực, tính chính trực và sự tử tế, gần như các cột dữ liệu trong bảng tính để đưa ra quyết định. Các nhà nghiên cứu cho rằng phương pháp đánh giá này của AI quá cứng nhắc và thiếu tinh tế, khiến các định kiến khó bị phát hiện.
“Con người trong nghiên cứu của chúng tôi đánh giá người khác theo cách phức tạp và tổng thể. AI thì đơn giản hơn, có hệ thống hơn, và điều đó có thể dẫn đến những kết quả rất khác biệt”, bà Valeria Lerman, một trong các tác giả nghiên cứu đăng trên tạp chí Proceedings of the Royal Society A, cho biết.
Các nhà khoa học nhận định rằng phương pháp tiếp cận của các mô hình AI có thể dẫn đến một xu hướng đáng lo ngại là khuếch đại thiên kiến.
Ví dụ, trong các tình huống tài chính, những sự khác biệt rõ rệt có thể xuất hiện chỉ dựa trên các đặc điểm nhân khẩu học, khi người lớn tuổi thường nhận được các kết quả có lợi hơn.
“Những sự khác biệt này cần được xem xét một cách thận trọng khi giải thích các kết quả liên quan đến niềm tin của các mô hình ngôn ngữ lớn”, nghiên cứu khẳng định.
“Dĩ nhiên, con người có những định kiến,” Yaniv Dover, một tác giả khác của nghiên cứu, cho biết, “Nhưng điều làm chúng tôi ngạc nhiên là định kiến của AI có thể mang tính hệ thống hơn, dễ dự đoán hơn và đôi khi còn mạnh mẽ hơn.”
Ngoài ra, không tồn tại một “ý kiến AI” duy nhất về cùng một con người.
“Hai hệ thống có thể trông rất giống nhau bên ngoài nhưng lại có cách hành xử hoàn toàn khác khi đưa ra quyết định về con người,” Tiến sĩ Lerman chia sẻ.
Các nhà nghiên cứu cảnh báo rằng vấn đề hiện nay không phải là liệu chúng ta có thể tin tưởng AI hay không, mà là liệu chúng ta có hiểu cách thức mà chúng tin tưởng chúng ta hay không.
“Các hệ thống này rất mạnh mẽ. Chúng có thể mô phỏng các yếu tố trong lập luận của con người một cách nhất quán. Nhưng chúng không phải là con người, và chúng ta không nên mặc định rằng chúng nhìn nhận con người giống như cách chúng ta làm,” Tiến sĩ Dover nhấn mạnh.
*Nguồn: Tạp chí Independent
