Buzz
Gần đây, trên trang cá nhân của mình, Giám đốc điều hành Nguyễn Tử Quảng tiết lộ rằng, ông đã đồng ý ký vào lá đơn của Viện Nghiên cứu Tương lai, kêu gọi tất cả các phòng thí nghiệm về trí tuệ nhân tạo dừng lại ít nhất 6 tháng trong việc phát triển AI vượt trội hơn GPT-4.
Gần đây, trên trang cá nhân của mình, Giám đốc điều hành Nguyễn Tử Quảng thông báo rằng, bản thân đã ký vào lá đơn của Viện Nghiên cứu Tương lai, yêu cầu tất cả các phòng thí nghiệm AI ngừng lại ngay lập tức tối thiểu 6 tháng trong việc phát triển AI mạnh hơn GPT-4.
Được biết, tỷ phú Elon Musk cùng một nhóm chuyên gia về trí tuệ nhân tạo và lãnh đạo ngành vừa gửi thư mở đầu kêu gọi tạm dừng các hệ thống huấn luyện trí tuệ nhân tạo (AI) mạnh hơn cả phiên bản GPT-4 của OpenAI, do lo ngại về những rủi ro tiềm tàng đối với xã hội và con người.
Giám đốc điều hành của BKAV cho biết, ông đồng ý với nỗi sợ hãi về những rủi ro không kiểm soát được từ AI. Sự xuất hiện của ChatGPT vừa qua đã vượt xa sự dự báo của nhân loại.
Giám đốc điều hành Nguyễn Tử Quảng nhận định, việc không kiểm soát AI đáng sợ hơn cả bom hạt nhân, khi nó tương tự như một loài sinh vật mới xâm lấn, có khả năng lây lan qua không gian mạng với tốc độ ánh sáng, mạnh mẽ hơn gấp nhiều lần so với tốc độ của tên lửa mang đầu đạn hạt nhân.
Với những lý do trên, Giám đốc điều hành của BKAV đã ký tên ủng hộ thư mở đầu của Viện Nghiên cứu Tương lai.
Toàn văn bài viết như sau:
'Chúng tôi kêu gọi tất cả các phòng thí nghiệm AI, NGAY LẬP TỨC tạm ngừng ít nhất 6 tháng, việc đào tạo các hệ thống AI mạnh hơn GPT-4'.
Đây là một phần của lá thư mở đầu được Viện Nghiên cứu Tương lai, một tổ chức phi lợi nhuận có trụ sở tại Mỹ và Châu Âu, phát hành cuối tuần qua.
Mục đích là để các chuyên gia có thời gian, đưa ra một BỘ QUY TẮC giúp 'Các hệ thống AI mạnh mẽ, chỉ nên được phát triển khi chúng ta tin tưởng rằng, tác động của chúng sẽ TÍCH CỰC và rủi ro của chúng sẽ có thể kiểm soát được' hoặc các chính phủ nên can thiệp đưa ra LỆNH CẤM.
Lá thư được các nhân vật nổi tiếng trong lĩnh vực công nghệ thế giới ký tên ủng hộ. Trong số họ có:
Yoshua Bengio, Sáng lập, Giám đốc Khoa học tại Mila, viện nghiên cứu hàng đầu về AI, đoạt giải Turing, giáo sư Đại học Montreal Canada.
Stuart Russell, Berkeley, Giáo sư Khoa học Máy tính, đồng tác giả cuốn sách giáo khoa nổi tiếng “Trí tuệ nhân tạo: Cách tiếp cận hiện đại'.
Elon Musk, CEO của SpaceX, Tesla & Twitter
Steve Wozniak, người sáng lập cùng của Apple
Các chuyên gia trên toàn cầu ngay lập tức bắt đầu tranh luận quyết liệt, chia thành hai phe. Một phe cho rằng đây là cách nhìn quá mức, trong khi phe khác cho rằng cần phải hành động ngay lập tức.
Các bạn nghĩ gì về vấn đề này?
Còn với tôi, TÔI ĐÃ KÝ TÊN ỦNG HỘ. Lý do như sau.
Một hệ thống AI sáng tạo như ChatGPT mới xuất hiện gần đây đã VƯỢT QUÁ DỰ BÁO của NHÂN LOẠI. Hầu hết các chuyên gia AI đều cho rằng cần phải đến hàng chục năm nữa mới có thể xuất hiện AI có khả năng như vậy.
Do đó, thế giới chưa sẵn sàng với đủ CHUẨN BỊ, trong việc thiết lập hệ thống pháp luật để đảm bảo sự phát triển bền vững, phục vụ NHÂN LOẠI, thay vì phát sinh những rủi ro KHÔNG THỂ KIỂM SOÁT.
Có thể so sánh năng lượng hạt nhân có thể được sử dụng cho việc sản xuất điện, nhưng cũng có thể được sử dụng để tạo ra bom nguyên tử gây nguy cơ hủy diệt.
Trí tuệ nhân tạo KHÔNG ĐƯỢC KIỂM SOÁT đáng sợ hơn cả bom hạt nhân, khi nó tương tự như một LOÀI SINH VẬT mới xâm lấn, có thể lan truyền qua mạng với tốc độ ánh sáng, mạnh mẽ hơn gấp nhiều lần so với tốc độ của tên lửa mang đầu đạn hạt nhân.
Trong lĩnh vực an ninh mạng mà tôi đã có kinh nghiệm, nhiều trường hợp lây lan virus qua mạng đã rất khó kiểm soát. Vì vậy, nếu một LOÀI SINH VẬT ngoại lai xâm lấn thay vì thế thì thực sự không thể tưởng tượng được
Trong một bài viết trước đó, Giám đốc điều hành của BKAV đã phân tích bản chất kỹ thuật của công cụ ChatGPT.
Theo Giám đốc điều hành Nguyễn Tử Quảng, các câu nói của ChatGPT không phản ánh sự suy luận logic, mà chỉ đơn giản dựa trên xác suất thống kê từ tập dữ liệu lớn các câu nói mà nó thu thập được trên mạng.
Giám đốc điều hành của BKAV đánh giá rằng, ChatGPT chưa có khả năng suy luận như con người.
Trong một bài viết khác, ông Nguyễn Tử Quảng đã tiết lộ một người Việt Nam có vai trò quan trọng trong thành công của ChatGPT.
Theo Giám đốc điều hành của BKAV, người Việt Nam này là anh Lê Viết Quốc, một trong 4 người sáng lập Google Brain.
Chính Lê Viết Quốc đã phát triển một thuật toán xử lý ngôn ngữ tự nhiên và Google đã phát triển phiên bản này, tạo ra thuật toán Transformers.
Thuật toán này đã được sử dụng bởi Open AI để phát triển chatbot ChatGPT.
