Hội Nghị Trí Tuệ Nhân Tạo Lớn Của Anh Quốc Là Một Sự Hỗn Loạn Chấp Nhận Thảm Họa

Chính phủ Anh, với sự đảo ngược về chính sách khí hậu và cam kết về khoan dầu và ô nhiễm không khí, thường dường như ủng hộ việc tận thế. Nhưng gần đây, các chính trị gia hàng đầu của Anh đã tham gia một chuyến du lịch cứu thế giới. Thủ tướng Rishi Sunak, bộ trưởng và những nhà ngoại giao của Anh đã thông tin cho đồng minh quốc tế về nguy cơ tồn tại của trí tuệ nhân tạo siêu thông minh chạy trốn, mà họ cảnh báo, có thể phát triển vũ khí sinh học, tăng cường quyền lực cho các chế độ độc tài, làm suy giảm chế độ dân chủ và đe dọa hệ thống tài chính. “Tôi không tin rằng chúng ta có thể giữ lại đợt sóng,” phó thủ tướng Oliver Dowden nói với Liên Hợp Quốc vào cuối tháng 9.

Dowden’s doomerism is supposed to drum up support for the UK government’s global summit on AI governance, scheduled for November 1 and 2. The event is being billed as the moment that the tide turns on the specter of killer AI, a chance to start building international consensus toward mitigating that risk. The summit is an important event for Sunak, who has trumpeted his desire to turn the UK into “not just the intellectual home, but the geographical home of global AI safety regulation,” along with broader plans to create a “new Silicon Valley” and a “technology superpower.” But just over a week before it begins, the summit looks set to be simultaneously doom-laden and underwhelming. Two sources with direct knowledge of the proposed content of discussions say that its flagship initiative will be a voluntary global register of large AI models—an essentially toothless initiative. Its ability to capture the full range of leading global AI projects would depend on the good will of large US and Chinese tech companies, which don’t generally see eye to eye.

Hội nghị còn lại như thế nào? Nguồn tin gần cuộc đàm phán cho biết Chính phủ Hoa Kỳ đang tức giận vì Anh đã mời các quan chức Trung Quốc (và một số thành viên của Đảng Bảo thủ cầm quyền ở Anh cũng thế). Danh sách người tham dự chưa được công bố, nhưng các công ty hàng đầu và nhà đầu tư trong ngành công nghiệp trí tuệ nhân tạo nội địa của Anh tức giận vì họ không được mời, loại bỏ họ khỏi các cuộc thảo luận về tương lai của ngành công nghiệp của họ. Và họ, cùng với những chuyên gia trí tuệ nhân tạo khác, cho rằng sự tập trung của chính phủ vào lo ngại lạc lõng của thiên tai do trí tuệ nhân tạo sẽ làm nó bỏ qua những rủi ro thực tế ngay bên ngoài và tất cả các khả năng tích cực của công nghệ.

“Tôi không biết Anh đang mang đến bàn làm việc những gì trong tất cả này,” nói Keegan McBride, giảng viên về trí tuệ nhân tạo, chính phủ và chính sách tại Viện Internet của Đại học Oxford. “Họ quá hẹp trong tầm nhìn của họ.” Ông và những người khác trong cảnh trí tuệ nhân tạo Anh lập luận rằng chính phủ nên tập trung vào cách nó có thể giúp các công ty trí tuệ nhân tạo Anh cạnh tranh trong thời điểm biến động và đầu tư lớn vào trí tuệ nhân tạo.

Theo chương trình hội nghị, sẽ bao gồm hai loại trí tuệ nhân tạo: loại có khả năng hẹp, nhưng có khả năng nguy hiểm—như các mô hình có thể được sử dụng để phát triển vũ khí sinh học—và “trí tuệ nhân tạo biên giới,” một khái niệm hơi mơ hồ mà Anh đang định nghĩa là trí tuệ nhân tạo toàn diện, đa nhiệm có sức mạnh tương đương hoặc vượt qua sức mạnh của các mô hình ngôn ngữ lớn như mô hình đằng sau ChatGPT của OpenAI. Bộ lọc này tự động hẹp lại danh sách người tham dự. “Chỉ có một số ít công ty đang làm điều này,” nói McBride. “Họ gần như tất cả là Mỹ hoặc Trung Quốc, và cơ sở hạ tầng bạn cần để huấn luyện những mô hình loại này thực sự đều thuộc sở hữu của các công ty Mỹ như Amazon hoặc Google hoặc Microsoft.”

MYTOUR đã nói chuyện với hơn một chục chuyên gia trí tuệ nhân tạo và các nhà quản lý Anh. Không ai được mời đến hội nghị. Đại diện duy nhất của ngành công nghiệp trí tuệ nhân tạo Anh được biết đến tham dự là Google DeepMind, được thành lập tại London nhưng được mua lại bởi ông lớn tìm kiếm vào năm 2014. Điều đó gây ra nhiều sự bực tức.

“Nhiều trí tuệ nhân tạo hiện đại đã được phát triển ở Anh,” nói Sachin Dev Duggal, tại Builder AI, một công ty khởi nghiệp phát triển ứng dụng được trí tuệ nhân tạo hỗ trợ có trụ sở tại London. “Một mặt, chúng ta sẽ nói rằng chúng ta là trung tâm trí tuệ nhân tạo của thế giới, nhưng mặt khác, chúng ta lại nói rằng chúng ta không muốn tin tưởng vào các CEO và doanh nhân hoặc nhà nghiên cứu của chúng ta để có một giọng nói quan trọng hơn. Điều đó không hợp lý.”

Nhiều trong số cơ sở hạ tầng máy chủ đám mây và truyền thông xã hội trên thế giới đều thuộc sở hữu của các công ty Mỹ, điều này đã đặt các công ty Anh và các cơ quan quản lý Anh vào thế thua thiệt, Duggal nói. Nếu các thỏa thuận định hình ngành công nghiệp được thực hiện mà không có sự đóng góp của doanh nghiệp nội địa, thế hệ công nghệ tiếp theo cũng có thể tập trung vào tay của một số ít công ty Mỹ lớn. “Có một nhóm chúng tôi rất lo lắng,” ông nói.

Quan điểm của Duggal được chia sẻ bởi những người khác trong ngành công nghiệp trí tuệ nhân tạo của Anh, họ phàn nàn rằng sự ám ảnh với các mô hình biên giới bỏ lỡ “mọi thứ phía sau biên giới đó,” như một giám đốc điều hành tại một công ty khởi nghiệp trí tuệ nhân tạo giống như kỳ lân, nói riêng vì họ vẫn hy vọng được mời đến hội nghị. Điều đó bao gồm mọi công ty khởi nghiệp, mọi nhóm học thuật đang phát triển trí tuệ nhân tạo của họ, và mọi ứng dụng của công nghệ có thể thực hiện được hiện nay, giám đốc điều hành nói. Trọng tâm vào biên giới cũng loại trừ các mô hình ngôn ngữ mã nguồn mở, trong đó một số tốt nhất được xem là hơi kém so với tốt nhất có sẵn, nhưng có thể tải xuống và sử dụng—hoặc lạm dụng—bởi bất kỳ ai.

Chính phủ Anh đã hứa sẽ đầu tư hơn 1 tỷ đô la vào các sáng kiến liên quan đến trí tuệ nhân tạo, bao gồm cả việc tài trợ để phát triển ngành công nghiệp bán dẫn địa phương, một máy tính siêu vi tính mới ở Bristol để hỗ trợ nghiên cứu trí tuệ nhân tạo và các tổ chức và cơ quan quảng bá khác. Mức độ chúng sẽ giúp đỡ còn phải đợi xem—các nhà phê bình chỉ ra rằng so với quy mô toàn cầu, đó không phải là một số tiền lớn. Đưa nguồn năng lượng cho cả hai ngành công nghiệp chip và trí tuệ nhân tạo, trong khi bắt đầu từ mức độ thấp so với các nhà lãnh đạo ở Mỹ và Châu Á, với một tỷ đô la duy nhất sẽ là thách thức. Và nguồn tài trợ không nhất thiết đang chảy vào các công ty Anh. Tháng 5, Giám đốc điều hành của Graphcore, một công ty khởi nghiệp có trụ sở tại Bristol sản xuất chip chuyên dụng cho trí tuệ nhân tạo, đã yêu cầu chính phủ đặt một số quỹ cho các nhà sản xuất Anh. Điều đó không xảy ra, và trong tháng này Graphcore cảnh báo rằng họ cần một đợt tiêm tiền để duy trì kinh doanh.

“Điều rất kỳ lạ là chính phủ đang nói rằng trí tuệ nhân tạo có thể thực hiện mọi thứ loại này, nó mạnh mẽ đến nỗi nó có thể kết thúc thế giới đơn giản,” Keegan McBride của Đại học Oxford nói. “Nhưng bạn sẽ mong đợi họ cũng đang có sự điều tra về cách khai thác sức mạnh của nó. Toàn bộ thế giới sẽ nhìn đến Mỹ và Vương quốc Anh để tìm hiểu cách họ có thể sử dụng nó. Và hiện tại, Vương quốc Anh thực sự không có nhiều để cho thế giới xem.”

Quốc hội Anh chưa bắt đầu thảo luận về bất kỳ quy định trí tuệ nhân tạo nội địa nào có quy mô như Đạo luật Trí tuệ Nhân tạo của Liên minh châu Âu, mặc dù chính phủ đã phát hành một sách trắng đề xuất một bộ quy tắc ít hạn hơn để thúc đẩy sự phát triển trong ngành công nghiệp. Nhưng cách đó còn rất xa để trở thành chính sách hoặc luật pháp, và Liên minh châu Âu đã đặt ra tiêu chí.

“Khá đáng xấu hổ khi Anh không tự quy định mình,” Mark Brakel, giám đốc chính sách tại Viện Tương lai của Viện nghệ thuật thế giới, một tổ chức nghiên cứu của Mỹ tập trung vào những rủi ro tồn tại nói. Ở Mỹ, có các đề xuất cụ thể về quy định ở Thượng viện. Đạo luật Trí tuệ Nhân tạo của Liên minh châu Âu sắp trở thành luật. Brazil đang phát triển quy định riêng, cũng như Trung Quốc, Brakel nói. “Nhưng ở Anh chúng ta không có gì cả. Nếu bạn là người chủ nhà, tôi nghĩ sẽ hợp lý nếu bạn có thể đưa ra một cái gì đó trên bàn bản thân mình.”

Brakel, người viện nghệ thuật của ông đã đứng sau một bức thư mở đầu gây sốc vào tháng 3 kêu gọi tạm dừng các phát triển trí tuệ nhân tạo, rất ủng hộ ý tưởng về hội nghị. Viện nghệ thuật, được hỗ trợ bởi các nhân vật hàng đầu trong công nghệ, bao gồm cả người sáng tạo Skype Jaan Tallinn, đã tích cực tham gia vận động để các chính phủ đối mặt nghiêm túc với những rủi ro tồn tại. Nhưng thậm chí hy vọng của Brakel cho kết quả của sự kiện ở Anh cũng khá hạn chế. “Điều này là, theo tôi, là môn học cơ bản về rủi ro trí tuệ nhân tạo,” Brakel nói. “Tôi sẽ rất hạnh phúc nếu mọi người rời khỏi hội nghị đều đồng thuận về những rủi ro quan trọng nhất và họ cần tập trung vào điều gì.”

Điều đó có thể không đủ đối với Sunak, chính phủ của ông đã tiêu tốn một lượng vốn chính trị đáng kể để tổ chức hội nghị. Phó Tổng thống Hoa Kỳ Kamala Harris dự kiến sẽ tham dự. Nhưng Anh cũng đã mời một đoàn đại biểu Trung Quốc, điều này đã làm tức giận các quan chức Mỹ, nhìn thấy Bắc Kinh là một mối đe doạ chiến lược. Báo cáo trên báo chí Anh gợi ý rằng các quan chức Trung Quốc hiện có thể chỉ được phép tham dự một nửa hội nghị. Các quan chức châu Âu sẽ tham dự—mặc dù Pháp sẽ tổ chức hội nghị trí tuệ nhân tạo riêng của mình, do tỷ phú viễn thông Xavier Niel tổ chức, hai tuần sau Anh. Vào ngày 18 tháng 10, Cơ quan Quản lý Cyber không gian của Trung Quốc thông báo sáng tạo của mình về quản lý trí tuệ nhân tạo toàn cầu.

Các cuộc họp do từng quốc gia tổ chức cũng đối mặt với sự cạnh tranh từ các diễn đàn quốc tế, bao gồm Liên Hợp Quốc và G7, đang tìm kiếm các phương pháp đa phương để quy định trí tuệ nhân tạo. Không rõ cách tiếp cận của Anh sẽ khác nhau ra sao—hoặc liệu bất kỳ thỏa thuận giữa các quốc gia có thể thay đổi có ý nghĩa con đường phát triển của trí tuệ nhân tạo ở giai đoạn phát triển sớm như vậy.

“Tôi hoàn toàn đồng ý với chiến lược của [Sunak], đó là cố gắng đạt được sự nhất trí quốc tế. Nhưng tôi đoán rằng sự nhất trí quốc tế sẽ chỉ xảy ra xung quanh những nguyên tắc rộng lớn nhất,” nói Jeremy Wright, người từng là bộ trưởng số hóa của Anh thuộc Đảng Bảo thủ của Sunak. “Khả thi là, nếu bạn muốn làm bất cứ điều gì, bạn có thể cần phải thực hiện nó cấp quốc gia trước khi thực hiện ở cấp quốc tế.”

Hai nguồn tin có thông tin về các cuộc thảo luận đã xác nhận thông tin của Politico từ đầu tháng này rằng Sunak sẽ đề xuất một Viện An toàn Trí tuệ Nhân tạo cho những người tham dự. Và, họ nói, chính phủ Anh sẽ đề xuất một danh sách các mô hình biên giới mà cho phép chính phủ nhìn vào hộp đen của trí tuệ nhân tạo biên giới và đối mặt với bất kỳ nguy cơ tiềm ẩn nào. Sáng kiến này sẽ liên quan đến việc yêu cầu nhà phát triển mô hình cung cấp quyền truy cập sớm vào mô hình của họ để chúng có thể được “đội kiểm tra mặt đỏ” và đánh giá các rủi ro tiềm ẩn của chúng.

Hầu hết các công ty lớn của Mỹ đã đăng ký cam kết an toàn của chính phủ Mỹ. Không rõ tại sao họ cảm thấy cần phải đăng ký một cam kết mới, và cam kết chuyển giao thông tin sở hữu quý báu cho một cơ quan Anh.