Open AI ngưng hoạt động nhóm nghiên cứu về nguy cơ của AI tự sinh

Buzz

Nội dung bài viết

VTV.vn - Chưa đầy một năm sau khi ra mắt, Open AI đã xác nhận ngưng hoạt động nhóm nghiên cứu về các nguy cơ của AI tự sinh.

Xem thêm

Đọc tóm tắt

- Chỉ sau một năm hoạt động, OpenAI đã giải tán nhóm nghiên cứu về rủi ro AI tự sinh, chuyển các thành viên sang các nhóm khác. Thông tin này được công bố sau khi hai đồng sáng lập rời công ty và một thành viên chỉ trích sự giảm sút về an toàn. Dù nhóm Superalignment được cam kết 20% năng lực trong 4 năm, OpenAI hiện tập trung vào phát triển sản phẩm mới như GTP- và phiên bản cho máy tính với nhiều cải tiến, bao gồm khả năng trò chuyện video.

VTV.vn - Chưa đầy một năm sau khi ra mắt, Open AI đã xác nhận ngưng hoạt động nhóm nghiên cứu về các nguy cơ của AI tự sinh.

CNBC xác nhận Open AI đã giải tán nhóm nghiên cứu về rủi ro của AI tự sinh chỉ một năm sau khi thành lập. Một nguồn tin giấu tên cho biết, các thành viên của nhóm đang được chuyển giao lại cho nhiều nhóm khác.

Thông tin này được tiết lộ vài ngày sau khi hai đồng sáng lập OpenAI, Ilya Sutskever và Jan Leike, tuyên bố rời công ty.

Thứ 6 tuần trước, Leike lên tiếng cho biết: 'Các quy trình và văn hóa an toàn của OpenAI đã giảm sút so với các sản phẩm ban đầu'.

'Tôi tham gia (Open AI) vì nghĩ rằng OpenAI sẽ là nơi tốt nhất trên thế giới để thực hiện nghiên cứu này' Leike viết trên X. 'Tuy nhiên, tôi không đồng ý với sự ưu tiên cốt lõi của lãnh đạo OpenAI trong một thời gian dài'.

Được thành lập vào năm ngoái, nhóm Superalignment của OpenAI nhằm mục đích tập trung vào 'các đột phá khoa học và kỹ thuật để điều chỉnh và kiểm soát các hệ thống trí tuệ nhân tạo thông minh hơn con người'. Khi thành lập, OpenAI cam kết dành 20% năng lực cho sáng kiến này trong vòng 4 năm.

Nhà sáng lập cùng làm CEO Sam Altman cho biết, Open AI đã tăng cường nhận thức về các nguy cơ mà AI có thể mang lại

Khi CNBC liên hệ, OpenAI không có bình luận nào về vấn đề này. Thay vào đó, công ty được Microsoft mua lại tập trung vào bài viết gần đây của nhà sáng lập kiêm CEO Sam Altman trên mạng xã hội X. Tại đây, Sam Altman chia sẻ rằng, ông rất buồn khi đồng nghiệp cùng hướng Leike rời đi và công ty còn nhiều công việc phải làm.

Sau đó, một thành viên sáng lập OpenAI, Greg Brockman đã đăng một tuyên bố chính thức trên nền tảng X, khẳng định rằng công ty đã 'nâng cao nhận thức về các nguy cơ và cơ hội của AI tạo sinh để thế giới có thể chuẩn bị tốt hơn cho chúng'.

Tin tức về việc giải thể nhóm Superalignment lần đầu tiên được tờ Wired đưa tin.

Đầu tuần này, OpenAI đã công bố một mô hình AI mới có tên là GTP-4o cũng như tiết lộ phiên bản ChatGPT dành cho máy tính với giao diện người dùng mới. Phần mềm này được Open AI giới thiệu là nhanh hơn nhiều và cung cấp nhiều cải tiến về văn bản, âm thanh và video so với các phiên bản trước đó. GTP-4o phản hồi nhanh và chất lượng cao hơn với sự hỗ trợ cho 50 ngôn ngữ khác nhau.

OpenAI tiết lộ, công ty dự định cho phép người dùng trò chuyện video bằng ChatGPT. Mira Murati, giám đốc công nghệ của OpenAI, nhấn mạnh: “Đây là lần đầu tiên chúng tôi thực sự đạt được một bước tiến lớn trong việc đưa tính năng dễ sử dụng của phần mềm sang một giai đoạn mới'.

Tương lai của AI vẫn là một chủ đề gây tranh cãi. Một số chuyên gia tin rằng AI tạo sinh có tiềm năng mang lại nhiều lợi ích cho nhân loại, trong khi những người khác lo ngại về các nguy cơ tiềm ẩn.

Nội dung được phát triển bởi đội ngũ Mytour với mục đích chăm sóc khách hàng và chỉ dành cho khích lệ tinh thần trải nghiệm du lịch, chúng tôi không chịu trách nhiệm và không đưa ra lời khuyên cho mục đích khác.

Nếu bạn thấy bài viết này không phù hợp hoặc sai sót xin vui lòng liên hệ với chúng tôi qua email [email protected]

Các câu hỏi thường gặp

Tại sao OpenAI giải tán nhóm nghiên cứu về rủi ro của AI tự sinh?

OpenAI đã giải tán nhóm nghiên cứu về rủi ro của AI tự sinh chỉ sau một năm. Các thành viên nhóm được chuyển giao cho các nhóm khác trong công ty, phản ánh sự thay đổi trong chiến lược và ưu tiên của OpenAI.

Mục tiêu của nhóm Superalignment của OpenAI là gì?

Nhóm Superalignment của OpenAI được thành lập để tập trung vào các đột phá khoa học và kỹ thuật nhằm điều chỉnh và kiểm soát các hệ thống AI mạnh hơn con người, với cam kết đầu tư 20% năng lực của công ty trong 4 năm.

Sam Altman chia sẻ gì về việc giải tán nhóm nghiên cứu AI tự sinh của OpenAI?

Sam Altman chia sẻ rằng ông cảm thấy buồn khi các đồng nghiệp, bao gồm Jan Leike, rời OpenAI. Ông cũng nhấn mạnh rằng công ty vẫn còn nhiều công việc cần làm và sẽ tiếp tục đối mặt với các thách thức trong việc phát triển AI.

OpenAI đã công bố gì về mô hình GTP- và phiên bản mới?

OpenAI đã công bố mô hình GTP- với phản hồi nhanh và chất lượng cao hơn, hỗ trợ 50 ngôn ngữ, cùng phiên bản mới dành cho máy tính với giao diện người dùng cải tiến, dự định thêm tính năng trò chuyện video trong tương lai.

Tương lai của AI tạo sinh có thực sự mang lại lợi ích cho nhân loại?

Tương lai của AI tạo sinh vẫn là chủ đề gây tranh cãi. Một số chuyên gia cho rằng nó có tiềm năng lớn mang lại lợi ích cho nhân loại, trong khi những người khác lo ngại về các nguy cơ tiềm ẩn từ công nghệ này.