Ảo giác của Trí tuệ Nhân tạo đe doạ 'trực tiếp' đến khoa học, cảnh báo từ nghiên cứu Oxford

Các Mô hình Ngôn ngữ Lớn (LLMs) — như những cái được sử dụng trong chatbot — có một xu hướng đáng chú ý khiến chúng ảo giác. Đó là, tạo ra nội dung sai mà chúng trình bày như là chính xác. Những ảo giác của Trí tuệ Nhân tạo này đặt ra, giữa những rủi ro khác, một mối đe doạ trực tiếp đến khoa học và sự thật khoa học, cảnh báo từ Viện Internet Oxford.

Theo bài báo của họ, được công bố trong Nature Human Behaviour, “LLMs are designed to produce helpful and convincing responses without any overriding guarantees regarding their accuracy or alignment with fact.”

LLMs are currently treated as knowledge sources and generate information in response to questions or prompts. But the data they’re trained on isn’t necessarily factually correct. One reason behind this is that these models often use online sources, which can contain false statements, opinions, and inaccurate information.

“People using LLMs often anthropomorphise the technology, where they trust it as a human-like information source,” explained Professor Brent Mittelstadt, co-author of the paper.

“This is, in part, due to the design of LLMs as helpful, human-sounding agents that converse with users and answer seemingly any question with confident sounding, well-written text. The result of this is that users can easily be convinced that responses are accurate even when they have no basis in fact or present a biased or partial version of the truth.”

Trong lĩnh vực khoa học và giáo dục, độ chính xác của thông tin là vô cùng quan trọng và các nhà nghiên cứu kêu gọi cộng đồng khoa học sử dụng LLMs như “bản dịch không cần học trước.” Điều này có nghĩa là người dùng nên cung cấp mô hình với dữ liệu phù hợp và yêu cầu chuyển đổi thành kết luận hoặc mã, ví dụ — thay vì phụ thuộc vào mô hình chính nó như là một nguồn kiến thức.

Cách này giúp việc kiểm tra đầu ra có dễ dàng đảm bảo đúng với dữ liệu đầu vào được cung cấp.

Theo các giáo sư Oxford, LLMs sẽ “chắc chắn” hỗ trợ quy trình làm việc khoa học. Nhưng quan trọng là cộng đồng phải sử dụng chúng một cách có trách nhiệm và duy trì kỳ vọng rõ ràng về cách chúng thực sự có thể đóng góp.