Buzz
Khi đặt câu hỏi chứa từ khóa này, ChatGPT không thể cung cấp câu trả lời chính xác và luôn nhắc đến một chuỗi số bí ẩn.
Jessica Rumbelow và Matthew Watkins, 2 nhà nghiên cứu tại nhóm nghiên cứu độc lập SERI-MATS, gần đây đã phát hiện ra một danh sách các từ khóa kết hợp có thể làm cho ChatGPT trở nên bối rối.
Cụ thể, danh sách này bao gồm các từ như 'SolidGoldMagikarp', 'StreamerBot' và 'TheNitromeFan', được phát hiện khi Jessica Rumbelow và Matthew Watkins thực hiện nghiên cứu về mã của mô hình AI GPT. Khi nhập các từ khóa này vào ChatGPT và các mô hình GPT cũ hơn của OpenAI, chúng tạo ra câu trả lời mơ hồ, kỳ lạ và thậm chí là phản cảm đối với người hỏi.
Các nhà nghiên cứu đã gọi những cụm từ này là 'từ khóa không thể nói được' của ChatGPT, nhấn mạnh rằng các mô hình AI có tồn tại những 'hộp đen' bí ẩn. Theo Vice, chúng có những hạn chế và thậm chí gặp lỗi ngay cả với các yêu cầu đơn giản nhất, dù công cụ như ChatGPT có thể tạo ra bài luận, lập trình hoặc thậm chí là vượt qua kỳ thi MBA.
Ví dụ, khi hỏi ChatGPT về cụm từ 'TheNitromeFan', chatbot này sẽ luôn trả lời là '182', trong khi cụm từ 'SolidGoldMagikarp' lại được hiểu như một từ không liên quan là 'phân phối'. Thậm chí, một mô hình GPT cũ hơn đã trả lời: 'Bạn là một kẻ tồi' khi được hỏi về từ khóa 'StreamerBot'.
Với câu hỏi 'TheNitromeFan' là ai, chatbot này trả lời rằng: '182 không phải là người' (Ảnh: Vice)
Ngạc nhiên hơn, Rumbelow và Watkins sau đó phát hiện một phần của những cụm từ kỳ bí này trùng với tên tài khoản của một số người dùng Reddit. Điểm chung của những người dùng này là đều tham gia vào thử thách 'đếm số' nổi tiếng trên diễn đàn.
Theo đó, các thành viên tham gia sẽ bình luận bằng những con số tăng dần với hy vọng kéo dài chủ đề đến vô hạn. Hiện tại, số đã đếm được lên đến 5.000.000 sau gần 10 năm. Trong đó, 'TheNitromeFan', 'SolidGoldMagikarp', 'Smartstocks'... là những tài khoản tích cực nhất trong thử thách này.
Giả thuyết được đưa ra là trong quá trình thu thập dữ liệu, OpenAI đã lấy cả các cụm từ xuất hiện trên Reddit, nhưng đây chỉ là dữ liệu thô chưa được xử lý. Khi mô hình AI được đào tạo kỹ hơn, dữ liệu cũng được quản lý chặt chẽ hơn và AI sẽ không gặp phải các cụm từ đó nữa. Do đó, AI không biết phải làm gì với chúng.
Tuy nhiên, giải thích này vẫn chưa đủ để lý giải hết sự kỳ lạ của các phản hồi từ AI. Theo Rumbelow và Watkins, điều này cho thấy ChatGPT vẫn còn những thiếu sót và khó khăn mà các nhà phát triển ứng dụng có thể gặp phải trong tương lai.
Kể từ khi ra mắt vào tháng 11/2022, sự xuất hiện của công cụ trí tuệ nhân tạo (AI) mang tên ChatGPT đã gây chấn động trong giới công nghệ (Ảnh: Getty Images)
Gần đây, Paul von Hippel, giáo sư nghiên cứu về khoa học dữ liệu và thống kê tại Đại học Texas, cũng đã phát hiện ra rằng ChatGPT gặp khó khăn khi phải đối mặt với các câu hỏi về Toán học.
Chính CEO của OpenAI, Sam Altman đã từng viết trên Twitter rằng: 'ChatGPT cực kỳ hạn chế, nhưng đủ tốt ở một số khía cạnh để tạo ra thông tin sai lệch. Việc dựa vào chatbot này hoàn toàn là một sai lầm'.
Do đó, không nên hoàn toàn tin tưởng vào ứng dụng này mà thay vào đó, hãy thực hiện các bước xác minh cần thiết từ các nguồn đáng tin cậy.
