Buzz
Theo báo cáo mới, AI Search của Google bị phát hiện có tỷ lệ sai sót nghiêm trọng, dẫn đến việc tạo ra hàng triệu câu trả lời không chính xác hàng ngày.
Google AI Search bị tố tạo ra hàng triệu câu trả lời sai mỗi ngày
Các nghiên cứu gần đây cho thấy hệ thống tìm kiếm của Google tích hợp AI có thể đang tạo ra hàng triệu câu trả lời sai mỗi ngày. Dù phần lớn kết quả là chính xác, tỷ lệ sai sót khoảng 10% gây ra những hậu quả nghiêm trọng khi áp dụng trên hàng nghìn tỷ lượt tìm kiếm mỗi năm.
Với khoảng 5 nghìn tỷ lượt truy vấn mỗi năm, ước tính người dùng có thể tiếp xúc với hàng triệu câu trả lời sai mỗi giờ. Điều này dấy lên lo ngại về tính chính xác và độ tin cậy của AI trong việc cung cấp thông tin tìm kiếm.
Google sản xuất những câu trả lời sai mỗi ngày
Độ chính xác đã được cải thiện, nhưng vẫn còn vấn đề cần khắc phục
Các thử nghiệm mới cho thấy phiên bản Gemini đã nâng cao độ chính xác từ khoảng 85% lên hơn 90%. Tuy nhiên, kết quả này vẫn có thể có sai lệch vì nó phụ thuộc vào công cụ AI khác để đánh giá.
Hệ thống đôi khi cho ra kết quả khác nhau cho cùng một truy vấn trong một khoảng thời gian ngắn. Google cũng cho biết rằng phương pháp đánh giá bên ngoài chưa phản ánh đúng hành vi tìm kiếm thực tế của người dùng.
Chế độ AI cần được hoàn thiện thêm
Vấn đề về nguồn và nguy cơ thông tin bị thao túng
Một trong những nhược điểm lớn của AI Search là việc trích dẫn nguồn không chính xác. Thường xuyên, AI đưa ra thông tin đúng nhưng lại dẫn nguồn không phù hợp, hoặc ngược lại.
Nghiên cứu cũng chỉ ra rằng AI có thể bị thao túng thông tin. Trong một thử nghiệm, thông tin sai lệch đã nhanh chóng được hệ thống AI thu thập và tái hiện lại. Điều này chứng tỏ người dùng cần phải kiểm chứng thông tin thay vì hoàn toàn dựa vào AI.
