Các Robot Sát thủ được Trang bị Trí tuệ Nhân tạo: Không thể Tránh khỏi?

Trong chiến tranh, tốc độ là quyết định. Người lính nhanh hơn một phần nhỏ có thể thoát khỏi một cuộc bắn không sao; con tàu chìm kẻ địch đầu tiên có thể tránh được một đợt tên lửa. Trong những trường hợp mà con người không thể theo kịp với tốc độ của xung đột hiện đại, máy móc đảm nhận vai trò. Khi một quả lựu đạn được đẩy về phía một phương tiện đất bọc giáp, một hệ thống tự động trên phương tiện nhận diện mối đe dọa, theo dõi nó và phát một biện pháp phòng ngừa để chặn nó, tất cả trước khi phi hành đoàn bên trong thậm chí nhận thức được. Tương tự, các tàu hải quân của Hải quân Hoa Kỳ trang bị hệ thống chiến đấu Aegis có thể chuyển sang chế độ Tự động-Đặc biệt, tự động đánh bại các đầu đạn tới theo các quy tắc được lập trình cẩn thận.

Những hệ thống phòng thủ này đã tồn tại hàng thập kỷ, và ít nhất 30 quốc gia hiện đang sử dụng chúng. Ở nhiều cách, chúng tương đương với các hệ thống phanh tự động trên các chiếc ô tô mới, chỉ can thiệp trong điều kiện khẩn cấp cụ thể. Nhưng quân đội, giống như các nhà sản xuất ô tô, dần dần đã cho máy móc tự do hơn. Trong một bài tập năm ngoái, Hoa Kỳ đã thể hiện cách tự động có thể được sử dụng trong toàn bộ chuỗi tiêu diệt: Một vệ tinh phát hiện một tàu kẻ địch giả mạo và chỉ đạo một máy bay giám sát bay gần để xác nhận nhận dạng; máy bay giám sát sau đó truyền dữ liệu của mình cho một máy bay điều khiển và kiểm soát bay, sau đó chọn một tàu khu trục để thực hiện một cuộc tấn công. Trong tình huống này, tự động hóa tạo thêm thời gian cho các sĩ quan ở cuối chuỗi tiêu diệt để đưa ra quyết định có thông tin—có nên bắn vào tàu địch hay không.

Quân đội có lý do đầy thuyết phục để giữ con người tham gia vào những quyết định chết người. Đầu tiên, họ là một bảo vệ chống lại sự cố và sự hiểu lầm trong việc hiểu dữ liệu; họ sẽ đảm bảo rằng trước khi nhấn nút bắn, hệ thống tự động không nhận diện nhầm một chiếc tàu bạn bè hoặc tàu thuộc biển neutral. Vượt xa điều đó, thậm chí các hình thức nâng cao nhất của trí tuệ nhân tạo cũng không thể hiểu bối cảnh, áp dụng nhận thức hay phản ứng với tình huống mới như một con người. Con người thích hợp hơn để xâm nhập vào tâm trí của một chỉ huy địch, nhìn xuyên qua một màn đánh lừa hoặc biết khi nào giữ yếu tố bất ngờ và khi nào tấn công.

Nhưng máy móc nhanh hơn, và việc bắn trước có thể mang lại ưu thế lớn. Trước áp lực cạnh tranh này, không khó để tưởng tượng một ngày nào đó, cách duy nhất để sống sót là chấp nhận một chuỗi tiêu diệt hoàn toàn tự động. Nếu chỉ có một quyền lực lớn làm như vậy, người khác có thể cảm thấy bắt buộc phải làm tương tự, thậm chí chống lại quyết định sáng tạo hơn của họ. Năm 2016, khi còn là phó bộ trưởng Bộ Quốc phòng, Robert Work đặt vấn đề này một cách dễ hiểu: “Nếu đối thủ của chúng ta chuyển sang Terminator,” ông hỏi, “và hóa ra Terminator có thể đưa ra quyết định nhanh hơn, thậm chí nếu đó là quyết định xấu, chúng ta sẽ phản ứng như thế nào?”

Terminators vẫn chưa xuất xưởng, nhưng mỗi thế hệ vũ khí mới dường như đưa chúng ta gần hơn. Và trong khi không có quốc gia nào công bố ý định xây dựng vũ khí hoàn toàn tự động, ít quốc gia nào từ chối chúng. Những rủi ro từ chiến tranh ở tốc độ máy móc lớn hơn rất nhiều so với chỉ một quả tên lửa bất ngờ. Các học giả quân sự ở Trung Quốc đã giả thiết về một 'điểm đơn điệu trận chiến,' nơi mà chiến tranh diễn ra nhanh hơn trí tuệ con người. Trong trạng thái 'siêu chiến tranh,' như một số chiến lược gia Mỹ đã đặt tên, những leo thang không mong muốn có thể nhanh chóng trở nên không kiểm soát. Thảm họa 'sốc' trên thị trường chứng khoán năm 2010 là một đối chiếu hữu ích: Các thuật toán giao dịch tự động đã đóng góp vào việc mất tạm thời gần một nghìn tỷ đô la trong một buổi chiều duy nhất. Để ngăn chặn một thảm họa như vậy xảy ra lại, các cơ quan quản lý tài chính đã cập nhật các cầu chì ngắn mạch để ngừng giao dịch khi giá giảm quá nhanh.

Kể từ cuối thế kỷ 19, các quốc gia quân sự lớn—cho dù là Anh và Đức hay Hoa Kỳ và Liên Xô—đã cùng nhau làm việc để thiết lập các quy định về mọi loại máy móc giết người hiện đại, từ viên đạn nổ đến khí độc đáo đến vũ khí hạt nhân. Đôi khi, như với vũ khí chống tên lửa vệ tinh và bom neutron, không cần thiết phải có các thỏa thuận chính thức; các bên đơn giản tham gia vào sự kiểm soát không nói. Mục tiêu, trong mọi trường hợp, là giảm nhẹ thiệt hại từ chiến tranh.

Hiện tại, không có sự nhất trí như vậy với vũ khí hoàn toàn tự động. Gần 30 quốc gia ủng hộ một lệnh cấm hoàn toàn, nhưng không có quốc gia nào trong số họ là một quyền lực quân sự lớn hoặc nhà phát triển robot. Tại Liên Hợp Quốc, nơi vũ khí tự động là một chủ đề được thảo luận hàng năm, Trung Quốc, Nga và Hoa Kỳ đều đã làm trở ngại cho những nỗ lực để ban hành lệnh cấm. (Hoa Kỳ và Nga đã phản đối trực tiếp, trong khi Trung Quốc vào năm 2018 đề xuất một lệnh cấm mà thực tế là vô nghĩa.) Một trong những động lực khó khăn tại Liên Hợp Quốc là cuộc kéo co giữa các Tổ chức phi chính phủ như Chiến dịch Dừng Robot Sát thủ, mục tiêu của họ là chế ngự, và quân đội, mà sẽ không đồng ý chế ngự trừ khi họ có thể xác minh rằng đối thủ của họ cũng chịu chế ngự.

Vũ khí tự động đặt ra một số thách thức đặc biệt đối với việc quy định. Chúng không thể được quan sát và đo lường một cách giống nhau như, ví dụ, một quả đầu đạn hạt nhân 1,5 megaton. Điều gì chính xác tạo nên tính tự động, và có bao nhiêu phần của nó nên được phép? Làm thế nào để phân biệt một chiếc drone điều khiển từ xa của đối thủ từ một chiếc được trang bị phần mềm Terminator? Trừ khi các nhà phân tích an ninh có thể tìm ra câu trả lời hài lòng cho những câu hỏi này và Trung Quốc, Nga và Hoa Kỳ có thể quyết định về những giới hạn mà họ có thể đồng thuận, cuộc di chuyển của tự động hóa sẽ tiếp tục. Và dù các quyền lực lớn dẫn đầu như thế nào, thì phần còn lại của thế giới sẽ tất yếu theo sau.

Khi bạn mua một sản phẩm bằng các liên kết bán lẻ trong câu chuyện của chúng tôi, chúng tôi có thể kiếm được một hoa hồng liên kết nhỏ. Đọc thêm về cách điều này hoạt động.

PAUL SCHARRE (@paul_scharre) là một cựu sinh viên nghiên cứu tại Trung tâm Nghiên cứu Mỹ Mới và tác giả của Army of None: Vũ khí Tự động và Tương lai của Chiến tranh.

Bài viết này xuất hiện trong số tháng 6. Đăng ký ngay.

Hãy cho chúng tôi biết ý kiến của bạn về bài viết này. Gửi một lá thư tới biên tập viên tại [email protected].

Dòng bài Đặc biệt: Tương lai của Máy tư duy

• Não Bộ có phải là Mô hình Hữu ích cho Trí tuệ Nhân tạo?
• Tại sao Trí tuệ Nhân tạo không cứu chúng ta khỏi Covid-19?
• Khi Máy Móc Trở Nên Thông Minh Hơn, Chúng Ta Sẽ Tương Tác Như Thế Nào?
• Nó được Gọi là Trí tuệ Nhân tạo—nhưng Trí tuệ Là Gì?