Buzz
Nghiên cứu từ Đại học Indiana mới đây tiết lộ vấn đề nghiêm trọng trên nền tảng truyền thông X (trước đây là Twitter) với mạng botnet 'Fox8'.
Mạng botnet 'Fox8' xuất hiện trên X với mục tiêu lừa đảo người đầu tư và đánh cắp thông tin tiền điện tử từ ví của người dùng.
Theo New York Post, nghiên cứu của Đại học Indiana đã phát hiện 1,140 tài khoản bot trên X, được biết đến là 'Fox8', sử dụng các hashtag như #bitcoin và #crypto để lan truyền thông tin giả mạo.
Các tài khoản bot này sử dụng #bitcoin và #crypto để thu hút sự chú ý, tương tác với người dùng thật và lan truyền thông tin giả mạo.
Một người đại diện từ nhóm nghiên cứu cho biết: 'Trong bối cảnh các chatbot miễn phí như ChatGPT ngày càng phổ biến, chúng tôi đặt câu hỏi liệu công cụ này có thể bị lợi dụng để lừa đảo hay không'. Ngoài lĩnh vực tiền điện tử, Fox8 còn lan truyền thông tin sai lệch về nhiều chủ đề khác nhau, kể cả bầu cử và sức khỏe cộng đồng.
Sử dụng AI để tạo hàng loạt bài đăng, các tài khoản bot này nhằm tạo ra ấn tượng rằng nội dung của họ là thật, từ đó làm giảm khả năng phân biệt của người dùng và thúc đẩy nhấp vào các liên kết độc hại. Đặc biệt, để làm cho 'bản thân' trở nên 'con người' hơn, các bot không chỉ sử dụng ảnh đánh cắp mà còn tạo ra mối tương tác và thậm chí có lượng người theo dõi và bạn bè ảo.
ChatGPT đã làm tăng độ tin cậy của những tài khoản giả mạo này
Nghiên cứu cũng nhấn mạnh rằng sự cải tiến của các mô hình ngôn ngữ như ChatGPT đã làm tăng độ tin cậy của những tài khoản giả mạo này. Mặc dù không tiết lộ chi tiết về các tài khoản bot cụ thể, nhà nghiên cứu đã phát hiện một số tài khoản này qua các dòng tweet bị rò rỉ. Thậm chí, một số cụm từ đặc biệt đã gợi ý sự hiện diện của các bot sử dụng hỗ trợ từ mô hình AI.
Kết luận của nghiên cứu là vấn đề này chỉ là một phần nhỏ của sự phức tạp của công nghệ cấp tiến. Có thể có những bot AI độc hại và tinh vi hơn vẫn đang hoạt động mà chưa bị phát hiện. Các nhà nghiên cứu kêu gọi những người đứng đầu cần có biện pháp quản lý và quy định nghiêm ngặt hơn để đối phó với vấn đề này, vì phương pháp hiện tại gặp khó khăn trong việc phân biệt nội dung do AI tạo ra.
Sau khi nghiên cứu được tiết lộ, X đã loại bỏ 1,140 tài khoản bot, nhưng phản ứng của X lại không tích cực. Trong quá trình tiếp cận để đưa ra nhận định, X chỉ đưa ra phản hồi tự động hứa hẹn sẽ tiến xa hơn trong tương tác. Câu hỏi là liệu những hành động này có đảm bảo sự trong sạch và minh bạch của X trong tương lai hay không. Không chỉ X mà các nền tảng mạng xã hội khác cũng cần đưa ra những giải pháp cụ thể để ngăn chặn ảnh hưởng tiêu cực từ bot AI.
Tìm hiểu thêm:- Đầu lầu trang bị camera AI, Anh ghi nhận 300 trường hợp vi phạm giao thông chỉ trong ba ngày
- Bài viết đặc sắc trong chuyên mục Khám phá
