Tương lai của Chiến tranh hoàn toàn tự động do Trí tuệ Nhân tạo thống trị

Một đội tàu robot nhẹ nhàng nổi trên những cơn sóng ấm của Vịnh Ba Tư, nằm giữa Bahrain và Qatar, có lẽ cách bờ biển Iran khoảng 100 dặm. Tôi đang đứng trên tàu cảnh sát biển Hoa Kỳ ở gần đó, nhìn chằm chằm về phía bên trái tàu. Vào buổi sáng này đầu tháng 12 năm 2022, đường chân trời trải dài với những tàu chở dầu, tàu hàng và những con thuyền câu nhỏ, tất cả đều lung linh dưới ánh nắng chói chang. Khi tàu cảnh sát biển nhanh chóng di chuyển quanh đội tàu robot, tôi mong muốn có một cái ô dù, hoặc thậm chí là một đám mây.

Những robot này không chia sẻ nhu cầu nhỏ bé của con người như tôi cần bóng mát, cũng như họ không yêu cầu bất kỳ tiện nghi sinh học nào khác. Điều này rõ ràng trong thiết kế của chúng. Một số giống như những chiếc thuyền tuần tra điển hình như chiếc tôi đang đứng, nhưng hầu hết đều nhỏ hơn, gọn gàng, thấp hơn mặt nước. Một cái giống như một chiếc kayak chạy bằng năng lượng mặt trời. Một chiếc khác giống như một chiếc ván lướt với cột kim loại. Một chiếc khác lại khiến tôi nghĩ đến một chiếc ô tô Google Street View trên nổi.

Những máy móc này đã tụ tập đây để tham gia một bài tập do Task Force 59, một nhóm trong Đội Hải quân Thứ Năm của Hoa Kỳ, tổ chức. Trọng tâm của nó là robot và trí tuệ nhân tạo, hai công nghệ đang phát triển nhanh chóng đang hình thành tương lai của chiến tranh. Nhiệm vụ của Task Force 59 là tích hợp chúng nhanh chóng vào các hoạt động hải quân, điều mà họ thực hiện bằng cách mua công nghệ tiên tiến nhất từ các nhà thầu tư nhân và lắp ráp những phần này thành một hệ thống có logic. Bài tập ở Vịnh đã tụ họp hơn một chục nền tảng không người lái — tàu trên bề mặt, tàu ngầm, máy bay không người lái. Chúng sẽ là mắt và tai phân tán của Task Force 59: Chúng sẽ quan sát bề mặt biển bằng máy ảnh và radar, nghe dưới nước bằng hydrophone, và chạy dữ liệu mà chúng thu thập qua các thuật toán phân loại mẫu để phân biệt tàu chở dầu và người buôn lậu.

Một người đồng loại trên tàu cảnh sát biển thu hút sự chú ý của tôi vào một trong những chiếc tàu giống như ván lướt. Nó đột ngột gập cánh buồm xuống, giống như một con dao gập, và trượt dưới làn sóng. Được gọi là Triton, nó có thể được lập trình để làm điều này khi hệ thống của nó cảm nhận nguy hiểm. Đối với tôi, màn biến mất này có vẻ có ích trong thế giới thực: Một vài tháng trước cuộc tập trận này, một chiếc tàu chiến Iran đã bắt giữ hai tàu không người lái, gọi là Saildrones, mà không thể lặn. Hải quân đã phải can thiệp để lấy lại chúng.

Triton có thể ẩn mình dưới nước trong thời gian lên đến năm ngày, nổi lên khi mọi thứ an toàn để sạc pin và liên lạc về nhà. May mắn thay, tàu cảnh sát biển của tôi sẽ không ở lại lâu đến vậy. Nó đánh thức động cơ và hú vọng trở lại cảng của một chiếc tàu cắt của Cảnh sát biển dài 150 feet. Tôi trực tiếp đến tầng trên, nơi tôi biết có một đống nước đóng chai dưới một mái hiên. Tôi đánh giá khẩu súng máy và pháo lớn hướng ra biển khi tôi đi qua.

Gác chắn mát mẻ trong gió khi tàu cắt trở về căn cứ ở Manama, Bahrain. Trong chuyến đi, tôi trò chuyện với phi hành đoàn. Tôi háo hức nói chuyện với họ về chiến tranh ở Ukraine và việc sử dụng nhiều máy bay không người lái ở đó, từ các quadcopters của người chơi có trang thiết bị làm đạn tay đến các hệ thống quân sự đầy đủ. Tôi muốn hỏi họ về cuộc tấn công gần đây vào căn cứ hải quân Nga ở Sevastopol, trong đó có nhiều tàu không người lái do người Ukraine xây dựng mang theo chất nổ—và một chiến dịch quyên góp công khai để xây thêm. Nhưng cuộc trò chuyện này sẽ không thể xảy ra, người hướng dẫn của tôi nói, một người dự bị từ công ty truyền thông xã hội Snap. Vì Hạm đội Thứ Năm hoạt động ở một khu vực khác, những người thuộc Task Force 59 không có nhiều thông tin về những gì đang diễn ra ở Ukraine, cô nói. Thay vào đó, chúng tôi nói về máy tạo hình hình ảnh trí tuệ nhân tạo và liệu chúng có khiến nghệ sĩ mất việc làm, về cách xã hội dân sự dường như đang đạt đến điểm chuyển góc của riêng mình với trí tuệ nhân tạo. Thực tế, chúng ta chưa biết nhiều điều. Chỉ là một ngày kể từ khi OpenAI ra mắt ChatGPT, giao diện trò chuyện sẽ làm đổ bộ Internet.

Trở về căn cứ, tôi đến Trung tâm Vận hành Robot, nơi một nhóm con người giám sát các cảm biến phân tán trên biển. ROC là một phòng không có cửa sổ với một số hàng bàn và màn hình máy tính—khá nhàm chán nếu không có những bức tường, được trang trí bằng những câu nói động viên từ các nhân vật như Winston Churchill và Steve Jobs. Ở đây, tôi gặp đại úy Michael Brasseur, trưởng Task Force 59, một người đàn ông rám nắng, đầu trọc, nụ cười sẵn có và ánh mắt mỏ neo của một người thủy thủ. (Brasseur sau này đã nghỉ hưu khỏi Hải quân.) Anh ta đi giữa các bàn khi vui vẻ giải thích cách ROC hoạt động. “Đây là nơi mà tất cả dữ liệu đang đến từ các hệ thống không người lái được hợp nhất, và nơi chúng tôi tận dụng trí tuệ nhân tạo và máy học để có những hiểu biết thực sự thú vị,” Brasseur nói, nắm tay lại và mỉm cười khi nói.

Các màn hình nhấp nháy với hoạt động. Trí tuệ nhân tạo của Task Force 59 nổi bật các tàu nghi ngờ trong khu vực. Nó đã đánh dấu một số tàu hôm nay không khớp với tín hiệu xác nhận của chúng, khiến đội tàu phải xem xét kỹ hơn. Brasseur cho tôi xem một giao diện mới đang phát triển sẽ cho phép đội của anh ta thực hiện nhiều công việc này trên một màn hình, từ xem feed camera của một tàu drone đến chỉ đạo nó gần hơn đến hành động.

Brasseur và những người khác tại căn cứ nhấn mạnh rằng các hệ thống tự động mà họ đang thử nghiệm chỉ dành cho cảm biến và phát hiện, không dành cho can thiệp có vũ trang. “Trọng tâm hiện tại của Task Force 59 là tăng cường khả năng nhìn thấy,” Brasseur nói. “Mọi thứ chúng tôi làm ở đây đều hỗ trợ tàu của phi hành đoàn.” Nhưng một số tàu robot tham gia vào bài tập cho thấy khoảng cách giữa không vũ trang và có vũ trang có thể rất ngắn—chỉ là việc đổi payload và điều chỉnh phần mềm. Một chiếc tàu speedboat tự động, cái tên Seagull, được thiết kế để săn mìn và tàu ngầm bằng cách kéo theo một mảng sonar sau lưng. Amir Alon, giám đốc cấp cao tại Elbit Systems, công ty quốc phòng Israel tạo ra Seagull, nói với tôi rằng nó cũng có thể được trang bị một khẩu súng máy và torpedoes được điều khiển từ xa phóng từ boong. “Nó có thể tham gia tự động, nhưng chúng tôi không khuyến khích,” anh ấy nói với nụ cười. “Chúng tôi không muốn bắt đầu Chiến tranh Thế giới III.”

Không, chúng tôi không muốn. Nhưng lời nói đùa của Alon đề cập đến một sự thật quan trọng: Hệ thống tự động có khả năng giết đã tồn tại trên khắp thế giới. Trong bất kỳ xung đột lớn nào, thậm chí chỉ là một cuộc chiến tranh ngắn hạn hơn Chiến tranh Thế giới III, mỗi bên sẽ sớm đối mặt với cám dỗ không chỉ trang bị những hệ thống này mà, trong một số tình huống, là để loại bỏ sự giám sát của con người, giải phóng máy móc để chiến đấu ở tốc độ máy móc. Trong cuộc chiến này giữa AI và AI, chỉ có con người sẽ chết. Vì vậy, có lý để tự hỏi: Những máy móc này và những người xây dựng chúng nghĩ gì?

Những tia sáng của công nghệ tự động đã tồn tại trong quân đội Mỹ từ nhiều thập kỷ, từ phần mềm tự động lái máy bay và drone đến súng tự động trên boong bảo vệ tàu chiến khỏi tên lửa đến. Nhưng đây là những hệ thống giới hạn, được thiết kế để thực hiện các chức năng xác định trong môi trường và tình huống cụ thể. Tự động, có lẽ, nhưng không thông minh. Cho đến năm 2014, lãnh đạo cấp cao tại Bộ Quốc phòng mới bắt đầu nghĩ đến công nghệ tự động có khả năng cao hơn như là giải pháp cho một vấn đề lớn hơn nhiều.

Bob Work, một phó bộ trưởng quốc phòng tại thời điểm đó, lo lắng rằng các đối thủ địa chính trị của quốc gia đang “tiếp cận sự cân bằng” với quân đội Mỹ. Anh ấy muốn biết làm thế nào để “lấy lại ưu thế,” anh ta nói—làm thế nào để đảm bảo rằng ngay cả khi Mỹ không thể triển khai nhiều binh sĩ, máy bay và tàu chiến như, ví dụ, Trung Quốc, nó vẫn có thể nổi bật trong bất kỳ xung đột tiềm ẩn nào. Vì vậy, Work đã hỏi một nhóm các nhà khoa học và nhà công nghệ nơi Bộ Quốc phòng nên tập trung nỗ lực. “Họ trở lại và nói rằng là tự động hóa được kích hoạt bởi trí tuệ nhân tạo,” anh ta nhớ lại. Anh ấy bắt đầu làm việc vào một chiến lược quốc gia về quốc phòng sẽ kích thích những đổi mới đến từ ngành công nghiệp công nghệ, bao gồm những khả năng mới nổi bật được cung cấp bởi học máy.

Điều này dễ nói hơn là làm. Bộ Quốc phòng đã xây dựng một số dự án nhất định—bao gồm Sea Hunter, một tàu chiến thử nghiệm trị giá 20 triệu đô la, và Ghost Fleet Overlord, một đội tàu thông thường được cải tạo để hoạt động tự động—nhưng đến năm 2019, những nỗ lực của bộ này để tận dụng Công nghệ Lớn đang giựt giựt. Nỗ lực để tạo ra một cơ sở hạ tầng đám mây duy nhất để hỗ trợ trí tuệ nhân tạo trong các hoạt động quân sự đã trở thành một vấn đề nóng chính trị và đã bị bỏ qua. Dự án của Google liên quan đến việc sử dụng trí tuệ nhân tạo để phân tích hình ảnh từ không trung đã gặp phải một cơn bão chỉ trích công khai và phản đối của nhân viên. Khi Hải quân công bố kế hoạch xây tàu của mình năm 2020, một tảng lược của cách đội tàu Hoa Kỳ sẽ phát triển trong ba thập kỷ tới, nó nhấn mạnh sự quan trọng của hệ thống không người lái, đặc biệt là tàu lớn và tàu ngầm—nhưng cấp ít tiền để phát triển chúng.

Trong một văn phòng nhỏ sâu trong Pentagon, một phi công Hải quân cũ tên là Michael Stewart đã rõ ràng nhận thức được vấn đề này. Được giao nhiệm vụ giám sát việc phát triển các hệ thống chiến đấu mới cho đội tàu Hoa Kỳ, Stewart đã bắt đầu cảm thấy rằng Hải quân giống như Blockbuster đi trong giấc ngủ vào thời kỳ Netflix. Nhiều năm trước đây, tại Harvard Business School, anh ấy đã tham gia các lớp học của Clay Christensen, một nhà nghiên cứu nghiên cứu về lý do tại sao các doanh nghiệp lớn, thành công bị làm phiền bởi những đối thủ mới nhỏ—thường là do tập trung vào doanh nghiệp hiện tại làm cho họ bỏ lỡ các xu hướng công nghệ mới. Vấn đề đối với Hải quân, theo nhìn của Stewart, là làm thế nào để thúc đẩy việc áp dụng robot và trí tuệ nhân tạo mà không bị đắm chìm trong bürocrazia tổ chức.

Những người khác cũng đang nghĩ theo hướng tương tự. Vào tháng 12, ví dụ, các nhà nghiên cứu tại RAND, tổ chức nghĩa vụ quốc phòng được chính phủ tài trợ, đã công bố một báo cáo gợi ý một con đường thay thế: Thay vì tài trợ một số hệ thống tự động giá trị lớn, tại sao không mua chúng bằng đàn? Dựa trên một số trò chơi chiến tranh của một cuộc xâm lược của Trung Quốc vào Đài Loan, báo cáo của RAND cho biết triển khai một số lượng lớn drone không người lái chi phí thấp có thể cải thiện đáng kể khả năng chiến thắng của Mỹ. Bằng cách cung cấp một bức tranh về mỗi tàu trên eo biển Đài Loan, những chiếc drone giả định của RAND—mà họ gọi là “mèo con”—có thể cho phép Mỹ nhanh chóng tiêu diệt đội tàu của kẻ thù. (Một tạp chí quân sự Trung Quốc đã chú ý đến dự đoán này vào thời điểm đó, thảo luận về tiềm năng của xiao mao, cụm từ tiếng Trung cho “mèo con,” trong eo biển Đài Loan.)

Vào đầu năm 2021, Stewart và một nhóm đồng nghiệp đã lập một tài liệu 40 trang gọi là Khung chiến dịch không người lái. Nó tả một kế hoạch pháp lý, phi truyền thống cho việc sử dụng hệ thống tự động của Hải quân, từ chối mua sắm thông thường để thử nghiệm với các nền tảng robot giá rẻ. Nỗ lực sẽ liên quan đến một nhóm nhỏ, đa dạng—chuyên gia về trí tuệ nhân tạo và robot, chuyên gia về chiến lược hải quân—that có thể cùng nhau làm việc để nhanh chóng thực hiện ý tưởng. “Điều này không chỉ là về hệ thống không người lái,” Stewart nói. “Nó là câu chuyện tổ chức không kém—nếu không nhiều hơn.”

Kế hoạch của Stewart thu hút sự chú ý của Đô đốc Phó Brad Cooper của Đội tàu 5, lãnh thổ của ông bao gồm 2,5 triệu dặm vuông nước, từ Kênh Suez xung quanh bán đảo Ả Rập đến Vịnh Ba Tư. Khu vực này đầy ắp các tuyến đường hàng hải quan trọng đối với thương mại toàn cầu và đầy rẫy các hoạt động đánh bắt cá bất hợp pháp và buôn lậu. Kể từ khi kết thúc Chiến tranh Vịnh, khi một số sự chú ý và nguồn lực của Bộ Quốc phòng đã chuyển hướng về châu Á, Cooper đã tìm cách làm nhiều hơn với ít, Stewart nói. Iran đã tăng cường các cuộc tấn công của mình vào tàu thương mại, bao vay chúng bằng các thuyền tốc độ trang bị vũ khí và thậm chí tấn công bằng máy bay không người lái và thuyền được điều khiển từ xa.

Cooper yêu cầu Stewart tham gia cùng ông và Brasseur tại Bahrain, và cùng nhau ba người bắt đầu thành lập Task Force 59. Họ xem xét các hệ thống tự động đã được sử dụng ở những nơi khác trên thế giới—ví dụ, để thu thập dữ liệu khí hậu, hoặc theo dõi các nền dầu khí ngoài khơi—và kết luận rằng thuê và sửa đổi phần cứng này sẽ tốn ít chi phí hơn nhiều so với số tiền mà Hải quân thường chi cho các tàu mới. Task Force 59 sau đó sẽ sử dụng phần mềm được định hình bởi trí tuệ nhân tạo để kết hợp các phần này. “Nếu các hệ thống không người lái mới có thể hoạt động trong những vùng nước phức tạp này,” Cooper nói với tôi, “chúng tôi tin rằng chúng có thể được mở rộng cho các đội tàu Hoa Kỳ khác.”

Trong khi họ đang thành lập Task Force mới, những vùng nước đó cứ phức tạp hơn. Vào những giờ sáng đầu tiên của ngày 29 tháng 7 năm 2021, một tàu chở dầu có tên là Mercer Street đang đi về phía bắc dọc theo bờ biển của Oman, đường từ Tanzania đến Các Tiểu vương quốc Ả Rập Thống nhất, khi hai chiếc máy bay không người lái hình chữ V màu đen xuất hiện trên chân trời, quét qua bầu trời trong lành trước khi nổ tung trong biển. Một ngày sau, sau khi phi hành đoàn đã thu thập một số mảnh vụn từ nước và báo cáo vụ việc, một chiếc máy bay không người lái thứ ba đã tấn công như một quả bom xông vào mái nhà điều khiển của tàu, lần này làm nổ tung một quả nổ làm chết hai thành viên của phi hành đoàn. Các nhà điều tra kết luận rằng có ba “máy bay không người lái tự tử” được sản xuất tại Iran là nguyên nhân.

Mối đe dọa chủ yếu trong tâm trí của Stewart là Trung Quốc. “Mục tiêu của tôi là đến với những thứ rẻ tiền hoặc ít tốn kém rất nhanh—trong vòng năm năm—để gửi một thông điệp ngăn chặn,” ông nói. Nhưng Trung Quốc cũng tự nhiên đang đầu tư lớn vào sự tự động quân sự. Một báo cáo của Đại học Georgetown năm 2021 cho biết Quân đội Nhân dân Trung Quốc chi tiêu hơn 1,6 tỷ đô la mỗi năm cho công nghệ này—gần bằng với Mỹ. Báo cáo cũng ghi chú rằng các tàu không người lái tương tự như những chiếc đang được Task Force 59 sử dụng là một mục tiêu lớn của Hải quân Trung Quốc. Họ đã phát triển một bản sao của Sea Hunter, cùng với một chiếc tàu mẹ drone lớn theo các nguồn tin cho biết.

Tuy nhiên, Stewart chưa chú ý nhiều đến sự quan tâm đối với công việc của mình cho đến khi Nga xâm chiếm Ukraine. “Mọi người gọi điện cho tôi và nói, ‘Bạn biết không, cái vụ tự động mà bạn nói đến? OK, kể cho tôi nghe thêm đi,’” ông nói. Giống như những người lính và quan chức tôi gặp ở Bahrain, ông không muốn bình luận cụ thể về tình hình—không về vụ tấn công tàu drone ở Sevastopol; không về gói viện trợ 800 triệu đô la mà Mỹ gửi cho Ukraine mùa xuân năm ngoái, bao gồm một số “tàu không người lái phòng thủ bờ biển” không xác định; không về công việc của Ukraine để phát triển máy bay không người lái giết người hoàn toàn tự động. Điều Stewart chỉ nói là: “Lịch trình nhất định đang thay đổi.”

Tôi đang ở San Diego, California, một cảng chính của Hạm đội Thái Bình Dương Hoa Kỳ, nơi các doanh nghiệp khởi nghiệp quốc phòng mọc lên như sò điệp. Ngay trước mặt tôi, trong một tòa nhà kính cao bằng cây cọ, là trụ sở của Shield AI. Stewart khuyến khích tôi ghé thăm công ty, sản xuất V-BAT, một máy bay không người lái mà Task Force 59 đang thử nghiệm ở Vịnh Ba Tư. Mặc dù kỳ lạ về hình dáng—có hình dạng giống như chữ T ngược, với cánh và một cánh quạt đơn ở dưới cùng—nhưng đó là một sản phẩm phần cứng ấn tượng, nhỏ và nhẹ đủ để một đội hai người có thể phóng từ bất cứ nơi nào. Nhưng đó là phần mềm bên trong V-BAT, một trí tuệ nhân tạo lái máy bay gọi là Hivemind, mà tôi đã đến xem.

Tôi đi qua các văn phòng trắng sáng của công ty, qua các kỹ sư nghịch với các phần drone và dòng mã, đến một phòng họp nhỏ. Ở đó, trên một màn hình lớn, tôi theo dõi khi ba chiếc V-BAT bắt đầu một nhiệm vụ mô phỏng ở sa mạc California. Một đám cháy rừng đang bùng lên ở gần đó, và nhiệm vụ của chúng là tìm ra nó. Các máy bay được phóng theo hướng thẳng đứng từ mặt đất, sau đó nghiêng về phía trước và lao đi theo các hướng khác nhau. Sau vài phút, một trong những chiếc drone xác định vị trí của đám cháy, sau đó truyền thông tin đến các đồng đội của nó. Chúng điều chỉnh chuyến bay, di chuyển gần hơn đến đám cháy để đưa ra bản đồ phạm vi đầy đủ của nó.

Các V-BAT mô phỏng không theo các lệnh trực tiếp từ con người. Cũng không theo các lệnh được mã hóa bởi con người trong phần mềm thông thường—những Nếu điều này, thì điều kia cứng nhắc. Thay vào đó, những chiếc drone đang tự động cảm nhận và điều hướng môi trường của chúng, lập kế hoạch làm thế nào để hoàn thành nhiệm vụ, và làm việc cùng nhau như một đàn. -Các kỹ sư của Shield AI đã huấn luyện Hivemind một phần bằng học c reinforced learning, triển khai nó trong hàng nghìn nhiệm vụ mô phỏng, dần dần khuyến khích nó tìm ra cách hiệu quả nhất để hoàn thành nhiệm vụ của mình. “Đây là những hệ thống có thể suy nghĩ và đưa ra quyết định,” nói Brandon Tseng, một cựu binh Hải quân SEAL sáng lập công ty.

Phiên bản Hivemind này bao gồm một thuật toán phụ khá đơn giản có thể xác định cháy rừng mô phỏng. Tất nhiên, một bộ thuật toán phụ khác có thể giúp một đàn drone xác định bất kỳ số lượng mục tiêu nào khác—xe, tàu, những người chiến đấu. Hệ thống cũng không bị giới hạn trong V-BAT. Hivemind cũng được thiết kế để lái chiếc máy bay chiến đấu F-16, và nó có thể đánh bại hầu hết các phi công con người khi chúng đối mặt với nó trong bộ mô phỏng. (Công ty tưởng tượng rằng trí tuệ nhân tạo này sẽ trở thành một “phi công trợ lý” trong các thế hệ máy bay chiến đấu gần đây hơn.) Hivemind cũng điều khiển một chiếc quadcopter mang tên Nova 2, nhỏ đủ để fit vào một cặp và có thể khám phá và lập bản đồ nội thất của các toà nhà và khuôn viên ngầm.

Đối với Task Force 59—hoặc bất kỳ tổ chức quân sự nào muốn chuyển đổi sang AI và robot với chi phí tương đối rẻ—lợi ích của những công nghệ này là rõ ràng. Chúng không chỉ cung cấp “tầm nhìn nâng cao” trên chiến trường, như Brasseur mô tả, mà còn có khả năng chiếu sáng quyền lực (và có thể sử dụng sức mạnh) với ít người thực sự làm việc. Thay vì phải giao nhiệm vụ tìm kiếm cứu hộ hoặc nhiệm vụ trinh sát cho một đội nhiều người điều khiển drone, bạn có thể gửi một đội V-BATs hoặc Nova 2s. Thay vì đặt mạng sống của phi công được đào tạo rất đắt tiền của bạn vào một cuộc tấn công từ trên cao, bạn có thể phái một đàn drone rẻ tiền, mỗi chiếc được lái bởi cùng một trí tuệ nhân tạo xuất sắc, mỗi chiếc là một phần mở rộng của một tâm trí đàn.

Tuy nhiên, dù thuật toán học máy có thể đáng kinh ngạc nhưng chúng có thể inherently inscrutable và không thể dự đoán. Trong thời gian thăm Shield AI, tôi có một cuộc gặp gỡ ngắn gọn với một trong những chiếc drone Nova 2 của công ty. Nó nổi lên từ sàn văn phòng và lơ lửng khoảng một foot trước mặt tôi. “Nó đang kiểm tra bạn đấy,” một kỹ sư nói. Một lát sau, chiếc drone vụt lên và lao qua một cửa sổ giả mạo ở một bên của phòng. Trải nghiệm làm bất an. Trong một khoảnh khắc, trí tuệ không gian nhỏ này đã đưa ra quyết định về tôi. Nhưng làm thế nào? Mặc dù câu trả lời có thể thuận tiện cho các kỹ sư của Shield AI, người có thể xem lại và phân tích các yếu tố trong quyết định của robot, công ty vẫn đang làm việc để biến thông tin này trở nên có sẵn cho “người dùng không chuyên nghiệp.”

Chỉ cần nhìn vào thế giới dân sự, bạn có thể thấy rõ là công nghệ này có thể đi sai lạc—hệ thống nhận diện khuôn mặt hiển thị độ chệch lệch về chủng tộc và giới tính, ô tô tự lái đâm vào các vật thể mà chúng không bao giờ được đào tạo để nhìn thấy. Ngay cả với kỹ thuật kỹ thuật cẩn thận, một hệ thống quân sự tích hợp AI cũng có thể mắc phải những sai lầm tương tự. Một thuật toán được đào tạo để nhận diện xe tải địch có thể bị nhầm lẫn bởi một chiếc xe dân sự. Hệ thống phòng thủ tên lửa được thiết kế để phản ứng trước các mối đe dọa đang tới có thể không thể hoàn toàn “giải thích” tại sao nó bắn lệch.

Những rủi ro này đặt ra những câu hỏi đạo đức mới, tương tự như những tai nạn liên quan đến ô tô tự lái. Nếu một hệ thống quân sự tự động mắc phải một sai lầm chết người, ai chịu trách nhiệm? Có phải là chỉ huy đang giữ trách nhiệm về cuộc chiến, sĩ quan giám sát hệ thống, kỹ sư máy tính đã xây dựng các thuật toán và kết nối tâm trí đàn, hoặc người môi giới cung cấp dữ liệu đào tạo?

Một điều chắc chắn là công nghệ đang phát triển nhanh chóng. Khi tôi gặp Tseng, anh nói rằng mục tiêu của Shield AI là có “một đội ngũ hoạt động của ba chiếc V-BAT vào năm 2023, sáu chiếc V-BAT vào năm 2024 và 12 chiếc V-BAT vào năm 2025.” Tám tháng sau cuộc gặp của chúng tôi, Shield AI phóng một đội ba chiếc V-BAT từ một căn cứ Không quân để thực hiện nhiệm vụ mô phỏng cháy rừng. Công ty cũng tự hào rằng Hivemind có thể được đào tạo để thực hiện một loạt nhiệm vụ—săn tìm các căn cứ tên lửa, tương tác với máy bay đối phương—và sẽ sớm có thể hoạt động ngay cả khi giao tiếp bị giới hạn hoặc bị cắt.

Trước khi tôi rời đi San Diego, tôi tham quan USS Midway, một tàu sân bay được đặt hàng ban đầu vào cuối Chiến tranh thế giới thứ hai và hiện đang neo đậu cố định trong vịnh. Trong nhiều thập kỷ, con tàu mang theo một số công nghệ quân sự tiên tiến nhất thế giới, hoạt động như một đường băng nổi cho hàng trăm máy bay thực hiện nhiệm vụ tình báo và không kích trong các xung đột từ Việt Nam đến Iraq. Ở trung tâm của tàu, giống như một bụng sắt rộng lớn, là sàn nhà máy bay. Các lối vào một bên dẫn vào một mê cung của các lối đi và phòng, bao gồm cả khu vực ở trọ chật chội của các thủy thủ, phòng ngủ thoải mái của sĩ quan, nhà bếp, phòng bệnh, thậm chí có một tiệm cắt tóc và một tiệm giặt—một lời nhắc nhở rằng vào một thời điểm, 4,000 thủy thủ và sĩ quan đã từng gọi tàu này là nhà.

Đứng đây, tôi có thể cảm nhận được sự sâu sắc của sự chuyển đổi sang tự động hóa. Có lẽ sẽ mất một thời gian dài trước khi các tàu không có phi hành đoàn vượt qua số lượng những chiếc có người lái, thậm chí còn lâu hơn nữa trước khi các tàu mẹ không người lái trị vì biển cả. Nhưng hạm đội robot của Task Force 59, dù còn non trẻ, đánh dấu một bước vào một thế giới khác. Có thể sẽ là một thế giới an toàn hơn, nơi các mạng lưới drone tự động, triển khai trên toàn cầu, giúp con người kiểm soát xung đột. Hoặc có thể bầu trời sẽ tối đen với đàn tấn công. Bất kể tương lai nào đang chờ đón, robot đang hướng điều đó.

Bài viết này xuất hiện trong số tháng 9 năm 2023.

Hãy cho chúng tôi biết ý kiến của bạn về bài viết này. Gửi thư đến biên tập tại [email protected].