Bây giờ khi ChatGPT Được Kết Nối, Mọi Thứ Có Thể Trở Nên Lạ Lùng

ChatGPT đã làm mê mẩn với thơ, văn xuôi, và điểm số học thuật. Bây giờ hãy chuẩn bị cho chatbot xuất sắc này để tìm chuyến bay tiếp theo của bạn, gợi ý một nhà hàng có chỗ ngồi tốt, và còn lấy một ổ bánh mì cho bạn nữa.

Tuần trước, OpenAI, công ty đứng sau ChatGPT, đã thông báo rằng một loạt các công ty bao gồm Expedia, OpenTable, và Instacart đã tạo ra các plugin để cho phép chatbot truy cập vào dịch vụ của họ. Một khi người dùng kích hoạt một plugin, họ sẽ có thể yêu cầu ChatGPT thực hiện các nhiệm vụ mà thông thường sẽ yêu cầu sử dụng web hoặc mở ứng dụng, và hy vọng nhìn thấy chatbot ngoan ngoãn chạy đi làm điều đó.

Bước đi này có thể tiên báo một sự chuyển đổi lớn trong cách mọi người sử dụng máy tính, ứng dụng, và web, với các chương trình AI thông minh hoàn thành công việc thay họ. Cho đến nay, ChatGPT đã bị cắt đứt khỏi internet thực và không thể tra cứu thông tin mới hoặc tương tác với các trang web. Thay đổi đó cũng có thể giúp củng cố vị trí của OpenAI tại trung tâm của những gì có thể nhanh chóng trở thành một kỷ nguyên mới cho AI và máy tính cá nhân.

“Tôi nghĩ đó là một động thái tuyệt vời,” nói Linxi “Jim” Fan, một nhà khoa học AI tại Nvidia làm việc với các hệ thống tự động. Fan cho biết khả năng của ChatGPT trong việc đọc tài liệu và giải mã mã nguồn sẽ làm cho quá trình tích hợp các plugin mới trở nên rất mượt mà. Anh ấy tin rằng điều này có thể giúp OpenAI cạnh tranh với Apple và Google, những công ty sử dụng cửa hàng ứng dụng của họ như là người kiểm duyệt. “Thế hệ tiếp theo của ChatGPT sẽ giống như một meta-app - một ứng dụng sử dụng các ứng dụng khác,” Fan nói.

Tuy nhiên, một số người lo ngại về triển vọng của ChatGPT - và OpenAI - khi có sự tăng động ngày càng lớn thông qua AI của nó. Nếu các doanh nghiệp khác quá phụ thuộc vào công nghệ của OpenAI, công ty có thể thu về được những phần thưởng tài chính khổng lồ và chiếm được ảnh hưởng lớn trong ngành công nghệ. Nếu ChatGPT trở thành một lớp nền của ngành công nghiệp công nghệ, OpenAI sẽ phải chịu trách nhiệm lớn để đảm bảo rằng công nghệ di chuyển nhanh được sử dụng một cách cẩn thận và có trách nhiệm.

“Có một số lo lắng trong hệ sinh thái startup từ các công ty đang tìm cách kiếm tiền thông qua việc xây dựng công nghệ tương tự ChatGPT,” nói Sarah Guo, đồng sáng lập của Conviction VC, một nhóm đầu tư, đề cập đến các doanh nghiệp cố gắng kiếm tiền bằng cách xây dựng công nghệ tương tự ChatGPT. Guo cho biết động thái mới nhất của OpenAI “nâng cao sức mạnh tồn tại và vị thế chiến lược” của kinh doanh tiêu dùng của công ty.

OpenAI đã thu hút sự tưởng tượng của công chúng với ChatGPT, một chatbot có khả năng, logic và sáng tạo hơn nhiều so với các chatbot trước đây, và cũng lôi kéo hàng chục startup vào việc xây dựng trên nền tảng AI của nó. Microsoft, cũng đã đầu tư 10 tỷ USD vào OpenAI, đã thêm ChatGPT vào công cụ tìm kiếm Bing, và đang nhanh chóng tích hợp nó vào các sản phẩm khác, bao gồm bộ ứng dụng Office của họ.

ChatGPT được xây dựng dựa trên một thuật toán được gọi là GPT mà OpenAI bắt đầu phát triển từ vài năm trước. GPT dự đoán các từ sẽ tiếp theo sau một đầu vào dựa trên phân tích thống kê của hàng nghìn tỷ dòng văn bản được thu thập từ các trang web, sách và nguồn thông tin khác. Mặc dù GPT, ở bản chất, không hơn gì một chương trình tự động hoàn chỉnh, phiên bản mới nhất, gọi là GPT-4, có khả năng thực hiện một số tính năng đáng chú ý trong việc trả lời câu hỏi, bao gồm việc đạt điểm cao trong nhiều bài kiểm tra học thuật. 

Một số dự án mã nguồn mở như LangChain và LLamaIndex cũng đang khám phá các cách xây dựng ứng dụng sử dụng khả năng của các mô hình ngôn ngữ lớn. Việc ra mắt các plugin của OpenAI đang đe dọa các nỗ lực này, Guo cho biết. 

Các plugin cũng có thể mang lại các rủi ro mà làm phiền các mô hình AI phức tạp. Các thành viên trong nhóm đỏ của plugin của ChatGPT đã phát hiện họ có thể “gửi email gian lận hoặc rác, bypass các hạn chế an toàn, hoặc lạm dụng thông tin được gửi đến từ plugin,” theo Emily Bender, một giáo sư ngôn ngữ học tại Đại học Washington. “Cho phép các hệ thống tự động hành động trong thế giới là một sự lựa chọn mà chúng ta thực hiện,” Bender thêm vào. 

Dan Hendrycks, giám đốc Trung tâm An toàn AI, một tổ chức phi lợi nhuận, tin rằng các plugin làm cho các mô hình ngôn ngữ trở nên rủi ro hơn vào thời điểm mà các công ty như Google, Microsoft và OpenAI đang quảng bá mạnh mẽ để giới hạn trách nhiệm thông qua Đạo luật AI. Ông gọi việc phát hành các plugin của ChatGPT là một tiền lệ xấu và nghi ngờ rằng điều này có thể dẫn các nhà sản xuất mô hình ngôn ngữ lớn khác vào một hướng đi tương tự. 

Mặc dù có thể có một số lựa chọn plugin hạn chế ngày nay, cạnh tranh có thể thúc đẩy OpenAI mở rộng danh mục của mình. Hendrycks nhận thấy sự khác biệt giữa các plugin ChatGPT và các nỗ lực trước đó của các công ty công nghệ để phát triển hệ sinh thái phát triển viên xung quanh AI trò chuyện - như trợ lý giọng nói Alexa của Amazon.

GPT-4 có thể, ví dụ, thực thi các lệnh Linux, và quá trình kiểm tra đỏ GPT-4 đã phát hiện ra rằng mô hình có thể giải thích cách làm vũ khí sinh học, tổng hợp bom, hoặc mua ransomware trên mạng đen. Hendrycks nghi ngờ rằng các phần mở rộng được thôi miên bởi các plugin ChatGPT có thể làm cho các nhiệm vụ như spear phishing hoặc email lừa đảo trở nên dễ dàng hơn nhiều.

Chuyển từ việc tạo ra văn bản đến việc hành động thay mặt cho một người làm mất đi sự cách biệt mà cho đến nay đã ngăn mô hình ngôn ngữ thực hiện hành động. “Chúng ta biết rằng các mô hình có thể bị jailbreak và bây giờ chúng ta đang kết nối chúng với internet để có thể tiềm ẩn việc hành động,” Hendrycks nói. “Điều đó không có nghĩa là theo ý chí của riêng nó ChatGPT sẽ xây dựng bom hoặc cái gì đó, nhưng điều này làm cho nó dễ dàng hơn để thực hiện những loại hành động này.”

Một phần vấn đề với các plugin cho các mô hình ngôn ngữ là chúng có thể làm cho việc jailbreak các hệ thống như vậy dễ dàng hơn, Alkhatib nói, giám đốc điều hành tạm thời của Trung tâm Đạo đức Dữ liệu Ứng dụng tại Đại học San Francisco. Vì bạn tương tác với AI bằng ngôn ngữ tự nhiên, có hàng triệu lỗ hổng chưa được khám phá. Alkhatib tin rằng các plugin mang lại những ảnh hưởng sâu rộng vào thời điểm các công ty như Microsoft và OpenAI đang làm rối loạn quan điểm công chúng với những tuyên bố gần đây về tiến bộ đối với trí tuệ nhân tạo tổng quát.

“Mọi thứ đang diễn ra nhanh đến mức không chỉ nguy hiểm, mà thực sự có hại đối với rất nhiều người,” ông nói, trong khi bày tỏ lo ngại rằng các công ty hào hứng sử dụng các hệ thống trí tuệ nhân tạo mới có thể vội vàng triển khai các plugin vào các ngữ cảnh nhạy cảm như dịch vụ tư vấn.

Thêm các khả năng mới vào các chương trình trí tuệ nhân tạo như ChatGPT cũng có thể gây ra hậu quả không mong muốn, Kanjun Qiu, CEO của Generally Intelligent, một công ty trí tuệ nhân tạo đang làm việc với các hệ thống trợ lý được trang bị trí tuệ nhân tạo. Một trợ lý trò chuyện có thể, ví dụ, đặt một chuyến bay quá đắt đỏ hoặc được sử dụng để phân phát thư rác, và Qiu nói chúng ta sẽ phải xác định ai sẽ chịu trách nhiệm cho những hành vi không đúng đắn như vậy.

Nhưng Qiu cũng cho biết rằng tính hữu ích của các chương trình trí tuệ nhân tạo kết nối với internet có nghĩa là công nghệ này không thể ngăn cản. “Trong vài tháng và năm tới, chúng ta có thể mong đợi rất nhiều phần của internet sẽ được kết nối với các mô hình ngôn ngữ lớn,” Qiu nói.