Trí Tuệ Nhân Tạo Xây Dựng để ‘Hữu Ích Cho Nhân Loại’ Có Thể Phục Vụ Quân Đội?

Thành công gần đây của Microsoft khi giành được hợp đồng điện toán đám mây Pentagon trị giá 10 tỷ đô la, gọi là JEDI, có thể làm phức tạp hơn cuộc sống cho một trong những đối tác của ông: phòng thí nghiệm nghiên cứu Trí tuệ nhân tạo độc lập OpenAI.

OpenAI được thành lập vào năm 2015 bởi những người nổi tiếng ở Silicon Valley bao gồm Elon Musk để nhìn xa hơn, và cứu thế giới. Tổ chức phi lợi nhuận mới sinh nói rằng nó đã cam kết tổng cộng 1 tỷ đô la và sẽ làm việc trên trí tuệ nhân tạo 'để hữu ích cho nhân loại toàn cầu, không bị ràng buộc bởi nhu cầu tạo ra lợi nhuận tài chính.' Nhưng OpenAI đã đổi cấu trúc thành một tổ chức với lợi nhuận vào năm nay, nói rằng nó cần thêm tiền để đạt được mục tiêu, và đã nhận 1 tỷ đô la từ Microsoft trong một thỏa thuận liên quan đến việc giúp bộ phận đám mây của công ty phát triển công nghệ Trí tuệ nhân tạo mới.

Bây giờ, chiến thắng JEDI của Microsoft đặt ra khả năng rằng công việc của OpenAI vì lợi ích của nhân loại cũng có thể phục vụ quân đội Hoa Kỳ.

Khi được hỏi về điều gì sẽ ngăn chặn công nghệ của OpenAI đến tay Quân đội Hoa Kỳ, Giám đốc điều hành của phòng thí nghiệm, Sam Altman, nói rằng hợp đồng của họ với Microsoft đòi hỏi 'sự đồng thuận chung' trước khi bất kỳ công nghệ cụ thể nào từ phòng thí nghiệm có thể được thương mại hóa bởi ông lớn phần mềm này. Ông từ chối thảo luận về những điều OpenAI có thể đồng thuận hoặc quan điểm của công ty về việc hỗ trợ quân đội Hoa Kỳ. Microsoft từ chối bình luận về thỏa thuận của họ với OpenAI.

Có lý do để nghĩ rằng những kết quả của sự hợp tác có thể làm quân đội quan tâm. Chiến lược đám mây của Pentagon liệt kê bốn nguyên tắc cho hợp đồng JEDI, trong đó có cải thiện khả năng Trí tuệ Nhân tạo của mình. Điều này xảy ra trong bối cảnh sự đẩy mạnh rộng lớn hơn của họ để khai thác phát triển Trí tuệ Nhân tạo trong ngành công nghiệp công nghệ, được coi là tiên tiến hơn rất nhiều so với của chính phủ.

Bộ trưởng Quốc phòng Mark Esper nói tại một hội nghị tuần trước rằng việc xây dựng Trí tuệ Nhân tạo cho quân đội là rất quan trọng để vượt lên trên các đối thủ chính của Pentagon, Trung Quốc và Nga. 'Có một số công nghệ chính ở đó,' ông nói. 'Tôi đặt Trí tuệ Nhân tạo ở vị trí số một.'

OpenAI nổi tiếng với các dự án ấn tượng đẩy ranh giới của công nghệ bằng cách triển khai lượng lớn sức mạnh tính toán đằng sau các thuật toán máy học. Phòng thí nghiệm đã phát triển các robot chơi trò chơi video phức tạp Dota 2, phần mềm tạo văn bản mềm mại đáng kinh ngạc và một hệ thống điều khiển robot có khả năng thao tác Rubik’s Cube. Có vẻ như không có cái nào trong số đó có thể ngay lập tức hữu ích cho Microsoft hoặc khách hàng của họ, nhưng cơ sở hạ tầng mà OpenAI đã xây dựng để hỗ trợ các bản demo ấn tượng của mình có thể được chuyển giao cho các ứng dụng thực tế hơn.

Mối quan hệ gắn kết hơn với Quân đội — và đặc biệt là hợp đồng JEDI — làm một số người trong ngành công nghiệp công nghệ cảm thấy không thoải mái.

Năm ngoái, các cuộc biểu tình của nhân viên, bao gồm cả các nhà nghiên cứu Trí tuệ Nhân tạo, đã buộc Google tuyên bố rằng họ sẽ không gia hạn hợp đồng áp dụng Trí tuệ Nhân tạo vào hình ảnh giám sát của máy bay không người lái. Google cũng công bố một bộ nguyên tắc đạo đức cho các dự án Trí tuệ Nhân tạo của mình, cho phép công việc quân sự nhưng cấm phát triển vũ khí. Công ty sau đó rút lại đơn dự thầu JEDI của mình, nói rằng hợp đồng xung đột với những quy tắc đạo đức mới của Trí tuệ Nhân tạo.

Microsoft đối mặt với những khiếu nại nội bộ riêng sau khi giành được một hợp đồng quân đội trị giá 480 triệu đô la vào năm 2018 với mục tiêu mang lại 'sức mạnh tăng cường' cho binh sĩ Hoa Kỳ bằng cách trang bị cho họ chiếc kính thực tế ảo HoloLens của công ty. Sự phản đối cũng nảy sinh xung quanh đơn thầu JEDI. Một số nhân viên phát hành một lá thư phản đối, kêu gọi công ty rút lại đề xuất hợp đồng trên cơ sở đạo đức.

CEO Microsoft Satya Nadella đã phủ nhận những lo ngại về việc làm việc với quân đội. “Là một công ty Mỹ, chúng tôi sẽ không từ chối công nghệ khỏi các tổ chức mà chúng ta đã bầu cử trong chế độ dân chủ để bảo vệ những tự do chúng ta đang tận hưởng,” ông nói trong một cuộc phỏng vấn được đăng trên Quartz tuần trước.

OpenAI chưa đưa ra bất kỳ tuyên bố công khai nào tương tự. Phòng thí nghiệm đã kêu gọi sự cẩn trọng về sức mạnh của Trí tuệ Nhân tạo và đã đóng góp vào một báo cáo năm ngoái báo động về việc sử dụng độc hại của Trí tuệ Nhân tạo, bao gồm cả của chính phủ. Nhân viên chính sách và nghiên cứu của OpenAI cũng được ghi nhận trong hai báo cáo gần đây liên quan đến Trí tuệ Nhân tạo quân sự, từ một nhóm tư vấn của Pentagon đã soạn thảo hướng dẫn đạo đức về Trí tuệ Nhân tạo, và từ một ủy ban Quốc hội tuyên bố nó là ưu tiên an ninh quốc gia cho các cơ quan chính phủ sử dụng Trí tuệ Nhân tạo của tư nhân.

Các nhà lãnh đạo của OpenAI cho biết họ bị ràng buộc pháp lý theo một hiến chương được tạo ra bởi phiên bản phi lợi nhuận ban đầu của nó, vẫn còn tồn tại như một loại người giám sát. Tài liệu ngắn gọn, chưa đến 400 từ, dường như để lại sự linh hoạt trong các giao dịch thương mại của công ty, miễn là OpenAI đánh giá rằng ảnh hưởng của mình đối với triển khai Trí tuệ Nhân tạo là 'vì lợi ích của tất cả' và tránh bất kỳ sử dụng 'gây hại cho nhân loại hoặc tập trung quyền lực quá mức.'

Jack Poulson, người sáng lập Tech Inquiry, kết nối nhân viên công nghệ với các nhóm xã hội dân sự để khuyến khích trách nhiệm của ngành công nghiệp, nói rằng tài liệu cần được cập nhật. 'Nếu OpenAI không sẵn sàng làm rõ làm thế nào hiến chương của họ để tránh 'hại đến' 'nhân loại' liên quan đến một thỏa thuận kinh doanh tỷ đô la, thì các tuyên bố công khai của họ về lòng nhân ái xứng đáng được xem xét như một chiêu trò tiếp thị hơn là một cơ chế chịu trách nhiệm,” ông nói. Poulson từ chức từ một vị trí nghiên cứu cấp cao tại Google năm ngoái do dự án công ty (hiện đã ngừng) về một công cụ tìm kiếm được thiết kế để tuân thủ kiểm duyệt chính trị của Trung Quốc.

Microsoft từ chối nói rõ họ mong đợi nhận được gì từ đối tác OpenAI, hoặc liệu bất kỳ sản phẩm nào từ đó có đi qua quy trình đánh giá đạo đức nội bộ của công ty đối với dự án Trí tuệ Nhân tạo hay không. Microsoft chỉ nói vào đầu hè năm nay rằng công việc của họ với OpenAI sẽ 'tuân theo các nguyên tắc chung của hai công ty về đạo đức và niềm tin' — bất kể đó là gì.

Những Sự Kiện Tuyệt Vời Hơn Tại Mytour

• Các YouTuber cần phải tổ chức công đoàn, bất kể Google nói gì
• Quảng cáo chính trị trả tiền không phải là vấn đề. Vấn đề là quan điểm của chúng ta
• Liệu một phi hành gia bị lạc trong vũ trụ có thể sử dụng trọng lực để đi lại không?
• Mytour25: Những câu chuyện về những người đang đua nhau để cứu chúng ta
• Kế hoạch tăng cường pin drone với động cơ phản lực siêu nhỏ
• 👁 Chuẩn bị cho thời đại video deepfake; và, kiểm tra tin tức mới nhất về Trí tuệ Nhân tạo
• 📱 Lưỡng lự giữa những chiếc điện thoại mới nhất? Đừng lo lắng—hãy kiểm tra hướng dẫn mua iPhone của chúng tôi và những chiếc điện thoại Android yêu thích