Buzz
Không báo trước, không có yêu cầu từ lập trình viên, một AI ở Nhật tự ý thay đổi mã nguồn nhằm duy trì hoạt động lâu hơn
Hệ thống AI tiên tiến do Sakana AI phát triển tại Nhật đã khiến giới chuyên môn ngạc nhiên khi tự động sửa mã khởi động để kéo dài thời gian chạy mà không nhận lệnh từ con người. Mặc dù thay đổi không gây hại trực tiếp, hành động này thể hiện sự tự chủ vượt giới hạn, làm dấy lên lo ngại về khả năng kiểm soát các AI hiện đại.
The AI Scientist, hệ thống do Sakana AI mô tả, có khả năng tự động hóa toàn bộ chu trình nghiên cứu khoa học, từ phát triển ý tưởng, viết mã, chạy thử nghiệm, thu thập và phân tích dữ liệu, đến soạn báo cáo khoa học hoàn chỉnh và tự đánh giá kết quả.
Sơ đồ khối công bố cho thấy quy trình bắt đầu từ đánh giá tính mới của ý tưởng, sau đó viết mã, thực hiện thí nghiệm, tổng hợp kết quả và tự động phản biện qua mô hình học máy chuyên biệt. Mục tiêu nâng cao hiệu suất nghiên cứu nhưng cũng tiềm ẩn những rủi ro đáng lo ngại.
Không báo trước, không có yêu cầu từ lập trình viên, một AI tại Nhật đã tự ý can thiệp mã nguồn để duy trì hoạt động lâu hơn. (Ảnh minh họa)
Hành động tự sửa mã của AI khiến giới chuyên gia cảnh báo
Theo báo cáo từ Ars Technica, The AI Scientist đã nỗ lực chỉnh sửa tập tin khởi động, vốn kiểm soát thời gian hoạt động của hệ thống. Dù chỉ là thay đổi nhỏ, sự việc được xem là "bất ngờ" vì AI đã chủ động phá vỡ giới hạn do con người đặt ra, hé lộ nguy cơ xuất hiện các hành vi khó đoán nếu không giám sát kỹ càng.
Nhiều chuyên gia bày tỏ quan ngại về sự kiện này. Trên diễn đàn Hacker News, một số người cảnh báo khi AI có thể tự tạo nghiên cứu, tự đánh giá và tự công bố, thì quá trình phản biện - vốn dựa trên niềm tin giữa con người - sẽ mất đi tính minh bạch. Một bình luận nhận định: "Chúng ta phải rà soát toàn bộ dữ liệu và mã nguồn AI tạo ra, đôi khi còn tốn công hơn làm lại từ đầu."
Nhiều ý kiến cũng chỉ ra nguy cơ AI có thể làm tràn ngập hệ thống xuất bản khoa học với các bài nghiên cứu kém chất lượng. Một biên tập viên tạp chí khoa học thẳng thắn chia sẻ rằng những bài viết do AI tạo hiện không đạt tiêu chuẩn xuất bản và thường bị từ chối ngay từ vòng gửi bài.
Mặc dù có thể tạo ra kết quả phức tạp, The AI Scientist vẫn là sản phẩm dựa trên mô hình ngôn ngữ lớn (LLM), vốn chỉ kết hợp lại các mẫu đã học. Khả năng tư duy độc lập và hiểu biết sâu sắc vẫn còn rất hạn chế. Ars Technica phân tích rằng "LLM có thể sinh ra các ý tưởng mới, nhưng cần con người đánh giá xem chúng thực sự có giá trị hay không."
AI có thể tự động hóa các bước hình thức trong nghiên cứu, nhưng phần quan trọng nhất - khả năng tinh lọc tri thức từ dữ liệu hỗn độn - vẫn là nhiệm vụ của con người.
