Buzz
Tuần này, các thượng nghị sĩ Hoa Kỳ nghe lời làm kinh ngạc, gợi ý rằng trí tuệ nhân tạo không kiểm soát có thể đánh cắp việc làm, lan truyền thông tin sai lệch và nói chung là "đi sai đường", theo lời của CEO OpenAI Sam Altman (dù có nghĩa là gì). Anh ấy và một số nghị sĩ khác đồng ý rằng Hoa Kỳ có thể cần một cơ quan liên bang mới để giám sát sự phát triển của công nghệ. Nhưng cuộc điều trần cũng thấy sự đồng thuận rằng không ai muốn làm chậm đối với một công nghệ có thể tăng năng suất và đưa Hoa Kỳ dẫn đầu trong cuộc cách mạng công nghệ mới.
Những thượng nghị sĩ lo lắng có thể nên trò chuyện với Missy Cummings, một phi công và giáo sư kỹ thuật và robot tại Đại học George Mason. Cô nghiên cứu về sử dụng trí tuệ nhân tạo và tự động hóa trong các hệ thống quan trọng về an toàn, bao gồm ô tô và máy bay, và earlier this year returned to academia sau một thời gian làm việc tại Cơ quan An toàn Giao thông Quốc gia, quản lý công nghệ ô tô, bao gồm Tesla Autopilot và xe tự lái. Góc nhìn của Cummings có thể giúp đỡ chính trị gia và người làm chính sách cố gắng cân nhắc giữa sự hứa hẹn của các thuật toán mới được rộng rãi quảng bá với những rủi ro phía trước.
Cummings nói với tôi tuần này rằng cô ấy rời khỏi NHTSA với sự lo lắng sâu sắc về các hệ thống tự động đang được triển khai bởi nhiều nhà sản xuất ô tô. "Chúng ta đang gặp rắc rối nghiêm trọng về khả năng của những chiếc xe này," Cummings nói. "Chúng thậm chí không sát thực sự như mọi người nghĩ."
Tôi bị ấn tượng bởi những điểm tương đồng giữa ChatGPT và các chatbot tương tự kích thích sự hứng thú và lo ngại về sức mạnh của trí tuệ nhân tạo. Các tính năng lái xe tự động đã tồn tại lâu hơn, nhưng giống như các mô hình ngôn ngữ lớn, chúng dựa vào các thuật toán học máy inherently khó dự đoán, khó kiểm tra và đòi hỏi một loại tư duy kỹ thuật khác với quá khứ.
Cũng giống như ChatGPT, Autopilot của Tesla và các dự án lái xe tự động khác đã được nâng cao thông qua lượng hype vô lý. Những ước mơ phấn khích về cuộc cách mạng giao thông dẫn đầu các nhà sản xuất ô tô, các startup và nhà đầu tư đổ số lớn vào việc phát triển và triển khai một công nghệ mà vẫn còn nhiều vấn đề chưa giải quyết. Có môi trường quy định lỏng lẻo xung quanh ô tô tự động vào giữa những năm 2010, với các quan chức chính phủ ngần ngại áp đặt phanh cho một công nghệ hứa hẹn sẽ đem lại hàng tỷ đô la cho doanh nghiệp Hoa Kỳ.
Sau hàng tỷ đô la được chi tiêu cho công nghệ, xe tự lái vẫn đối mặt với vấn đề, và một số công ty ô tô đã từ bỏ các dự án tự động lớn. Trong khi đó, theo lời của Cummings, công chúng thường không rõ về khả năng thực sự của công nghệ bán tự động.
Một khía cạnh, việc thấy chính phủ và những người làm luật nhanh chóng đề xuất quy định về các công cụ trí tuệ nhân tạo sinh sáng và các mô hình ngôn ngữ lớn là điều tốt. Nỗi lo lắng hiện tại tập trung vào các mô hình ngôn ngữ lớn và các công cụ như ChatGPT mà vẫn có những hạn chế đáng kể, bao gồm việc tự tin sáng tạo ra các sự kiện giả mạo.
Tại cuộc điều trần ở Thượng viện tuần này, Altman của OpenAI, người đã mang đến cho chúng ta ChatGPT, đã đi xa đến mức đề xuất một hệ thống cấp phép để kiểm soát xem các công ty như ông có được phép làm việc trên trí tuệ nhân tạo tiên tiến hay không. “Nỗi sợ lớn nhất của tôi là chúng ta—lĩnh vực, công nghệ, ngành công nghiệp—gây hậu quả lớn cho thế giới,” Altman nói trong cuộc điều trần.
Dựa trên kinh nghiệm của mình tại NHTSA, Cummings cảnh báo về nguy cơ lớn về sự chiếm đoạt quy định nếu các công ty trí tuệ nhân tạo và công nghệ lớn có quá nhiều ảnh hưởng đối với hướng mà các cơ quan quy định đưa ra. “Tôi nghe nói nhiều hơn một lần trong NHTSA rằng họ cần tiếp tục rất cẩn trọng vì họ không muốn di chuyển thị trường,” cô nói. “Điều đó có lẽ là dấu hiệu tốt nhất là chiếm đoạt quy định đã xảy ra. Nếu thị trường di chuyển, thì cứ thế.”
Cummings cũng nói rằng các chính trị gia và người quy định cần phải nhanh chóng cập nhật với sự phát triển trong trí tuệ nhân tạo và trở nên quen thuộc hơn với công nghệ và cách nó hoạt động. Để đạt được điều này, cô nói rằng cô đang xem xét cách đào tạo người ta điều tra tai nạn liên quan đến trí tuệ nhân tạo và đang tạo một khóa học tại Đại học George Mason dành cho các nhà quyết định chính sách và người quy định muốn hiểu rõ hơn về công nghệ.
Một số chuyên gia trí tuệ nhân tạo uy tín tin rằng các hệ thống trí tuệ nhân tạo mới nhất không chỉ thay thế công nhân văn phòng và phun ra thông tin sai lệch mà còn đặt ra một nguy cơ tồn tại nếu chúng trở nên quá thông minh và ý chí. Cummings lo lắng hơn về rủi ro rằng, một lần nữa, chúng ta sẽ đặt quá nhiều niềm tin vào một công nghệ chưa hoàn chỉnh.
“Mọi người trên khắp mọi nơi sẽ bắt đầu viết mã bằng các công cụ sinh sáng,” Cummings nói, chỉ là một ví dụ về hậu quả khả năng của sự bùng nổ hiện tại. “Sẽ có một lĩnh vực nghề nghiệp hoàn toàn mới cho các nhà khoa học máy tính chỉ để loại bỏ mã lỗi,” cô nói. “Tôi sẽ có an ninh việc làm suốt đời.”
