Thuật Toán Có Nên Kiểm Soát Mã Khởi Động Hạt Nhân Không? Hoa Kỳ Nói Không

Thứ Năm tuần trước, Bộ Ngoại Giao Hoa Kỳ đã đề ra một tầm nhìn mới cho việc phát triển, thử nghiệm và xác minh các hệ thống quân sự - bao gồm vũ khí - sử dụng Trí tuệ nhân tạo. 

Bản Tuyên Bố Chính Trị về Việc Sử Dụng Trí Tuệ Nhân Tạo và Tự Động Quân Sự Có Trách Nhiệm đại diện cho nỗ lực của Hoa Kỳ để hướng dẫn việc phát triển Trí tuệ nhân tạo quân sự vào thời điểm quan trọng cho công nghệ này. Tuyên bố không ràng buộc pháp lý Quân đội Hoa Kỳ, nhưng hy vọng là các quốc gia đồng minh sẽ đồng ý với các nguyên tắc của nó, tạo ra một loại tiêu chuẩn toàn cầu để xây dựng hệ thống trí tuệ nhân tạo một cách có trách nhiệm. 

Ngoài các điều khác, tuyên bố nêu rõ rằng trí tuệ nhân tạo quân sự cần được phát triển theo luật pháp quốc tế, các quốc gia cần minh bạch về nguyên tắc đứng sau công nghệ của họ và cần áp dụng các tiêu chuẩn cao cho việc xác minh hiệu suất của hệ thống Trí tuệ nhân tạo. Nó cũng nói rằng chỉ có con người mới nên ra quyết định về việc sử dụng vũ khí hạt nhân. 

Khi nói đến hệ thống vũ khí tự động, các nhà lãnh đạo quân sự Hoa Kỳ thường đã khẳng định rằng con người sẽ tiếp tục “trong chuỗi” quyết định về việc sử dụng lực lượng chết người. Nhưng chính sách chính thức, được phát hành lần đầu bởi Bộ Quốc phòng Hoa Kỳ vào năm 2012 và được cập nhật trong năm nay, không yêu cầu điều này.

Các nỗ lực để ký kết một thỏa thuận quốc tế về các hệ thống vũ khí tự động đến nay đã thất bại. Quỹ Đỏ Quốc Tế và các nhóm chiến dịch như Stop Killer Robots đã đẩy mạnh việc đạt được một thỏa thuận tại Liên Hợp Quốc, nhưng một số cường quốc - Hoa Kỳ, Nga, Israel, Hàn Quốc và Úc - đã chứng tỏ họ không sẵn lòng cam kết.

Một lý do là nhiều người trong Bộ Quốc phòng coi việc sử dụng Trí tuệ Nhân tạo ngày càng gia tăng trong quân đội, bao gồm cả ngoài các hệ thống không phải vũ khí, là cực kỳ quan trọng - và không thể tránh khỏi. Họ lập luận rằng một lệnh cấm sẽ làm chậm sự tiến triển của Hoa Kỳ và làm hạn chế công nghệ của họ so với các đối thủ như Trung Quốc và Nga. Cuộc chiến tranh ở Ukraine đã cho thấy sự tự động hóa nhanh chóng trong hình dạng của máy bay không người lái giá rẻ, có khả năng ngày càng cao nhờ các thuật toán học máy giúp chúng nhận biết và hành động, có thể giúp tạo lợi thế trong một cuộc xung đột.

Trước đây trong tháng này, tôi đã viết về sứ mệnh cá nhân của người đứng đầu Google cũ, Eric Schmidt, để tăng cường Trí tuệ Nhân tạo của Bộ Quốc phòng để đảm bảo rằng Hoa Kỳ không tụt lại Trung Quốc. Đó chỉ là một trong những câu chuyện được đưa ra từ những tháng dành cho việc báo cáo về việc áp dụng Trí tuệ Nhân tạo trong các hệ thống quân sự quan trọng, và làm thế nào nó trở thành trung tâm của chiến lược quân sự của Hoa Kỳ - ngay cả khi nhiều công nghệ liên quan vẫn còn non trẻ và chưa được thử nghiệm trong bất kỳ tình huống khẩn cấp nào.

Lauren Kahn, một nghiên cứu viên tại Hội đồng Quan hệ Đối ngoại, hoan nghênh tuyên bố mới của Hoa Kỳ như một khối xây dựng tiềm năng để sử dụng Trí tuệ Nhân tạo quân sự một cách có trách nhiệm hơn trên toàn thế giới.

Một số quốc gia đã có vũ khí hoạt động mà không cần sự kiểm soát trực tiếp của con người trong các hoàn cảnh hạn chế, như hệ thống phòng thủ tên lửa cần phản ứng với tốc độ vượt trội để hiệu quả. Việc sử dụng Trí tuệ Nhân tạo nhiều hơn có thể đồng nghĩa với việc có nhiều tình huống hơn nơi các hệ thống hoạt động tự động, ví dụ khi máy bay không người lái hoạt động nằm ngoài phạm vi liên lạc hoặc trong những đàn quá phức tạp mà không có con người nào có thể quản lý. 

Một số tuyên bố về sự cần thiết của Trí tuệ Nhân tạo trong vũ khí, đặc biệt từ các công ty phát triển công nghệ, vẫn có vẻ hơi quá mức hiện thực. Đã có báo cáo về việc sử dụng vũ khí hoàn toàn tự động trong các xung đột gần đây và về Trí tuệ Nhân tạo hỗ trợ trong các cuộc tấn công quân sự có mục tiêu, nhưng những thông tin này chưa được xác nhận, và thực tế là nhiều binh sĩ có thể đề phòng với các hệ thống dựa vào thuật toán không hoàn toàn tin cậy.

Tuy nhiên, nếu vũ khí tự động không thể bị cấm, thì việc phát triển chúng sẽ tiếp tục. Điều đó sẽ làm cho việc đảm bảo rằng Trí tuệ Nhân tạo liên quan hoạt động theo những điều được mong đợi trở nên quan trọng—ngay cả khi kỹ thuật để hoàn toàn thực hiện những ý định như trong tuyên bố mới của Hoa Kỳ vẫn chưa hoàn thiện.