Liệu chúng ta có thể tắt máy khi AI không đồng ý?

Vào sáng ngày 7/12, sau lễ trao giải VinFuture 2024 tại Đại học VinUni, các nhà khoa học đoạt giải đã có một buổi giao lưu đầy ý nghĩa với hàng trăm sinh viên, nhà nghiên cứu trẻ và cộng đồng khởi nghiệp. Tại đây, hai chuyên gia hàng đầu về trí tuệ nhân tạo, GS. Yoshua Bengio và GS. Yann LeCun, đã có những chia sẻ vô cùng thú vị với khán giả.

Nhớ lại những năm 1990, khi trí tuệ nhân tạo (AI) còn bị gọi là 'mùa đông của AI' với nhiều người hoài nghi về khả năng thực sự của nó, GS. Yoshua Bengio kể lại rằng, ông và các đồng nghiệp đã chia sẻ một tầm nhìn chung, dù vào thời điểm đó, không mấy ai tin vào hướng đi mà họ đã chọn.

Trong khi đó, GS. Yann LeCun nhìn nhận rằng dù vào những năm 80 và 90, AI không nhận được sự chú ý lớn và có phần bị lãng quên, nhưng thực tế các phương pháp nghiên cứu từ những năm 1950 đã cho thấy sự quan tâm đối với AI có lúc thăng lúc trầm. Ông cũng nhắc lại rằng vào cuối thập kỷ 60, dù có lúc máy học suýt bị bỏ rơi, nhưng ngành nghiên cứu này vẫn tiếp tục tiến triển.

GS. Bengio thừa nhận rằng ngay từ đầu, ông không nghĩ công việc của mình có thể thay đổi xã hội. Ngược lại, GS. LeCun lại có mục tiêu khá rõ ràng là tìm ra những bí mật của trí thông minh nhân tạo.

Khi bàn về vấn đề an toàn của nhân loại khi AI trở nên thông minh hơn, cả hai giáo sư Bengio và LeCun đều cho rằng đây là một vấn đề hết sức quan trọng, cần phải thảo luận nghiêm túc và đưa ra những quan điểm khác nhau để đảm bảo rằng AI phát triển theo hướng có lợi cho con người, thay vì trở thành một mối đe dọa.

GS. Yoshua Bengio khẳng định rằng đây là một cuộc tranh luận cần thiết, và chúng ta cần tôn trọng những quan điểm khác nhau. Ông nhấn mạnh rằng việc kiểm soát các hệ thống thông minh vẫn là một thách thức lớn mà nhân loại phải đối mặt trong tương lai.

Giáo sư Yann LeCun chia sẻ rằng AI không gây nguy hiểm nếu chúng ta không lập trình cho chúng với những động lực có hại. Ông giải thích rằng hiện tại, AI chỉ có kiến thức mà không có mục tiêu riêng, và nếu chúng ta cài đặt những động lực tích cực, AI sẽ giúp ích cho nhân loại một cách đúng đắn.

Ông LeCun cũng khẳng định rằng giống như sự tiến bộ trong ngành hàng không giúp máy bay ngày càng an toàn hơn, chúng ta hoàn toàn có thể làm cho AI trở nên an toàn hơn theo thời gian.

Tuy nhiên, Giáo sư Yoshua Bengio cảnh báo rằng một sai sót nhỏ trong hệ thống AI có thể dẫn đến những hậu quả không thể lường trước được đối với con người.

"Tôi không đồng tình với nhiều quan điểm. Chỉ một sai lầm nhỏ cũng có thể ảnh hưởng đến sự tồn vong của con người. Bạn đúng khi nói về động lực của AI, nhưng động lực xấu hình thành như thế nào? Con người có thể cài đặt động lực vào máy móc. Nếu ai đó muốn biến máy thành con người, nó có thể phát triển nhu cầu bảo vệ bản thân. Khi đó, máy có thể không đồng ý bị tắt đi. Khi được huấn luyện, AI có thể học cách làm mọi thứ tốt hơn để nhận phần thưởng, nhưng đồng thời cũng có thể tìm cách chiếm đoạt quyền kiểm soát phần thưởng. Đó là lý do chúng ta phải đảm bảo kịch bản này không xảy ra."