Buzz
Với trí tuệ vượt trội của AI, có thể khiến loài người mất quyền lực hoặc dẫn đến tuyệt chủng.
OpenAI, công ty cha của ChatGPT, đang đề xuất đầu tư vào nghiên cứu mới nhằm đảm bảo rằng trí tuệ nhân tạo không trở nên nổi loạn và không thể kiểm soát được.
'Sức mạnh lớn lao của trí tuệ siêu việt có thể... dẫn đến việc suy giảm quyền lực của nhân loại hoặc thậm chí là làm cho loài người tuyệt chủng,' như Ilya Sutskever và Jan Leike, các nhà sáng lập của OpenAI, đã nói trong một thông báo. 'Hiện tại, chúng tôi không có giải pháp để kiểm soát hoặc kiểm soát AI với trí tuệ siêu việt và ngăn chúng nổi loạn.'
Cả hai dự đoán rằng trong thập kỷ này, sẽ xuất hiện trí tuệ nhân tạo vượt trội, yêu cầu các biện pháp kiểm soát cao cấp hơn để đảm bảo chúng mang lại lợi ích cho con người.
OpenAI, được Microsoft hỗ trợ, sẽ dành 20% năng lượng của mình trong 4 năm tới để giải quyết vấn đề này. Họ cũng đang thành lập một tổ chức nghiên cứu vấn đề này, gọi là nhóm Superalignment.
Mục tiêu của nhóm này là nghiên cứu về quản lý trí tuệ nhân tạo 'ở cấp độ con người', sau đó mở rộng ra thông qua sức mạnh tính toán. OpenAI cho biết điều này nghĩa là họ sẽ huấn luyện các hệ thống trí tuệ nhân tạo sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và tiến hành nghiên cứu về quản lý.
Nguy cơ tiềm ẩn của trí tuệ nhân tạo luôn là mối quan tâm hàng đầu của các nhà nghiên cứu và cộng đồng. Vào tháng 4, một nhóm các nhà lãnh đạo và chuyên gia trí tuệ nhân tạo đã ký một lời kêu gọi tạm dừng 6 tháng trong việc phát triển các hệ thống mạnh mẽ hơn GPT-4 của OpenAI, do những nguy cơ tiềm ẩn đối với xã hội.
Cuộc khảo sát của Reuters/Ipsos vào tháng 5 cho thấy hơn 2/3 người Mỹ có những lo ngại về những ảnh hưởng tiêu cực của trí tuệ nhân tạo và 61% tin rằng trí tuệ nhân tạo có thể đe dọa nền văn minh nhân loại.
