Buzz
yêu cầu hỗ trợ:
Tôi bị quấy rối bởi việc cơ quan chức năng ngày càng sử dụng robot để loại bỏ mối đe dọa, giám sát và tình huống con tin. Có lẽ tôi đã xem quá nhiều bộ phim RoboCop , nhưng tôi đề phòng việc máy móc đưa ra những quyết định quan trọng, quyết định giữa sự sống và cái chết—đặc biệt là khi những viên cảnh sát thực sự thường xuyên lạm dụng quyền lực của họ. Liệu tôi có bất kỳ nghĩa vụ đạo đức nào phải tuân thủ một robot cảnh sát?
—ĐỐ TỘI PHẠM
Kính gửi ĐỐ TỘI PHẠM—
Hollywood không mấy lạc quan về việc để robot đảm nhiệm các vị trí quan trọng. RoboCop chỉ là một ví dụ trong số nhiều tác phẩm khoa học viễn tưởng mà đã khắc sâu vào tâm trí chúng ta những hậu quả thảm thảo của việc giao những nhiệm vụ quan trọng cho những máy móc không linh hoạt—những robot với các chỉ thị chính làm theo một cách đen trắng có thể trở nên chết người, có thể bắn chết một người nhưng lại bối rối trước một bậc thang. Thông điệp của những bộ phim này rõ ràng: Những người máy cứng nhắc không thể tạo ra những giải pháp tạm thời và sự tinh tế đạo đức mà thường xuyên được yêu cầu trong những khoảnh khắc khẩn cấp.
Có thể là đúng cái rủi này đã khiến Boston Dynamics, một số robot của họ được tích hợp vào các đội cảnh sát, phát hành video vào tháng 12 năm ngoái, mô tả các mô hình của họ nhảy múa với bài hát “Do You Love Me” của nhóm Contours những năm 1950. Có thể bạn đã xem nó chưa? Những robot bao gồm Atlas, một robot giống như một binh sĩ storm trooper bị phá hủy, và Spot, là nguồn cảm hứng cho những chú chó robot giết người trong tập “Metalhead” của Black Mirror. Không có vẻ như máy nào được thiết kế để làm dịu lòng lo lắng về sự chiếm đóng của robot, vậy thì cách tốt nhất để làm cho họ được lòng công chúng hơn là thể hiện sự linh hoạt của chúng? Và cách kiểm tra sự linh hoạt đó tốt hơn là một kỹ thuật coi là duy nhất của con người mà chúng ta đã sáng tạo ra để chế giễu sự không khả năng của máy móc (động tác Robot)? Khi xem những chiếc máy di chuyển, lắc lư, và xoay tròn, khó tránh khỏi việc nhìn nhận chúng như những sinh linh sôi động, có khả năng linh hoạt và nhạy cảm như chúng ta.
Quên đi việc rằng khớp của Spot có thể cắt đứt ngón tay bạn hoặc rằng robot cảnh sát đã được sử dụng để thực hiện lực lượng chết người. Một cách để trả lời câu hỏi của bạn, ĐỐ TỘI PHẠM, mà không cần phải áp dụng triết học đạo đức, có thể là trong ngôn từ của hậu quả thiết thực. Nếu bạn có kế hoạch, giống như hầu hết chúng ta, để duy trì sự sống và khỏe mạnh, thì có, bạn hoàn toàn nên tuân thủ một robot cảnh sát.
Tuy nhiên, tôi cảm nhận rằng câu hỏi của bạn không chỉ là vấn đề thực tế. Và tôi đồng ý rằng quan trọng là phải xem xét các sự đánh đổi liên quan đến việc giao nhiệm vụ duy trì trật tự cho máy móc. Video của Boston Dynamics, tình cờ được đăng vào cuối năm 2020 như một cách 'tận hưởng sự bắt đầu của những gì chúng tôi hy vọng sẽ là một năm hạnh phúc hơn.' Một tuần sau đó, những người nổi loạn tấn công Quốc hội, và hình ảnh của cảnh sát hiển nhiên không chống lại bạo loạn nổi lên—những bức ảnh được so sánh nổi bật, trên mạng xã hội, với những phản ứng nghiêm túc hơn đối với cuộc biểu tình của Black Lives Matter mùa hè trước.
Trong thời điểm mà nhiều đội cảnh sát đang đối mặt với khủng hoảng về quyền lực do bạo lực chủng tộc, lý do thuyết phục nhất để sử dụng robot trong cảnh sát là vì máy móc không có khả năng tích cực phê phán. Đối với robot, một con người là một con người, không phụ thuộc vào màu da, giới tính, hay lý do. Như Nhà Trắng đã chú ý trong một báo cáo năm 2016 về thuật toán và quyền công dân, công nghệ mới có khả năng 'giúp cảnh sát đưa ra quyết định dựa trên các yếu tố và biến số có mối quan hệ đối lập với rủi ro, thay vì dựa trên bản năng và định kiến lỗi lạc của con người.'
Tất nhiên, nếu công nghệ cảnh sát hiện tại là một bằng chứng, mọi thứ không đơn giản như vậy. Thuật toán dự đoán cảnh sát, được sử dụng để xác định những người và khu vực có rủi ro cao, rất có khả năng chứa đựng độ chệch, điều mà nhà robot học Ayanna Howards đã gọi là 'tội lỗi gốc của trí tuệ nhân tạo.' Bởi vì những hệ thống này dựa trên dữ liệu lịch sử (các vụ án tòa án trước đó, các vụ bắt giữ trước đó), chúng thường nhắm vào những cộng đồng đã bị đối xử không công bằng từ đầu và củng cố độc hại cấu trúc của nền phạm tội. Những dự đoán tự động có thể trở thành tự thực hiện, đóng băng một số khu vực vào một mô hình siêu cảnh sát. (Các cảnh sát đến tại một địa điểm được đánh dấu là nguy cơ tăng cao sẽ được chuẩn bị để phát hiện ra một tội ác.) Công cụ này, nói cách khác, không phải làm trung hòa định kiến mà làm hình thành nó, nướng chảy bất bình đẳng xã hội hiện tại vào những hệ thống mà không ý thức và cơ động duy trì chúng. Như giáo sư đạo đức số Kevin Macnish lưu ý, giá trị của những người tạo ra thuật toán 'đã đóng băng vào mã nguồn, hiệu quả hóa những giá trị đó'.”
Hiện tại, những người cảnh sát hành động dựa trên các đề xuất thuật toán vẫn là con người, nhưng dễ dàng tưởng tượng một tương lai không xa khi quyết định cảnh sát không chỉ được thông tin mà còn được thực hiện bởi máy móc—một ngày nào đó khi một robot giống như Atlas sẽ xuất hiện trên một con phố mà mô hình dự đoán là nguy cơ cao và, với sự giúp đỡ của 'khả năng điều chỉnh tốt' và '28 độ tự do,' bắt giữ ứng cử viên đầu tiên có khả năng. Có thể đây là một dấu hiệu của thời đại khi những kịch bản tận thế như vậy, nếu vẫn không mong muốn, bắt đầu trông không phải là tệ hại đối với tình trạng hiện tại của chúng ta. Hành động của Derek Chauvin một mình đã làm nhắc nhở rằng con người có thể độc ác và không cảm xúc giống như một máy móc.
Tuy nhiên, thực tế rằng sĩ quan là con người là một phần làm kích động sự phẫn nộ của công dân. Chúng ta phản ứng mạnh mẽ khi nhìn thấy người ta lạm dụng quyền lực của họ—nhiều hơn nếu so sánh với các trường hợp máy móc gặp sự cố, ngay cả khi nó có thể được truy nguyên trở lại, qua các con ngõ tăm tối của quy trình hành chính, đến sai lầm của con người. Khi hệ thống tư pháp hình sự tự động hóa ngày càng nhiều hoạt động của mình, các hành động của nó trở nên ngày càng mơ hồ hơn, phủ một lớp vật liệu trong suốt với sự khách quan tách rời có nguy cơ làm mờ những hành động bất công. Như tác giả Jackie Wang chỉ ra trong cuốn sách của mình Carceral Capitalism, nhân tính là một phần không thể thiếu của sự phẫn nộ đạo đức. “‘Tất cả cơ sở dữ liệu cảnh sát đều là kẻ đê tiện’ không có ý nghĩa,” cô viết. Cũng như là “Tất cả robot cảnh sát đều là kẻ đê tiện,” bất kể chúng ta nhìn thấy chúng như con người đến đâu hoặc chúng có thể nhảy múa tốt đến đâu.
Tôi sẽ thêm vào đây rằng nếu nhân tính quan trọng để kích thích sự phẫn nộ, nó cũng cần thiết để đối phó với nó. Trong số những hình ảnh đáng chú ý được ghi lại trên phim trong suốt cuộc biểu tình George Floyd là một video cho thấy các thành viên của Quân đội Quốc gia nhảy múa với những người biểu tình ở Atlanta, chỉ vài ngày sau khi các đường phố đã được đổ đầy khí độc hại. Bài nhảy mà họ đang thực hiện—Macarena—có phần cơ bản hơn, đơn giản hơn nhiều so với những động tác mà các robot Boston Dynamics có khả năng thực hiện. Và tuy nhiên, bản thân khoảnh khắc đã thể hiện sự linh hoạt không chỉ về mặt vật lý mà còn về mặt tâm linh. Đó là một trong những lời phát biểu của ân sủng mà đôi khi xuất hiện khi người ta mở rộng tâm hồn và sáng tạo, phá vỡ sự cứng nhắc của các vai trò xã hội được dàn dựng và những mất mát căng thẳng từ lâu.
Một người biểu tình, Amisha Harding, cho biết khi nhảy múa đã mở ra một không gian trò chuyện với các sĩ quan. “Khi nói chuyện với họ,” cô nói, “tôi nhận ra rằng nhiều người trong số họ cũng tin vào những gì chúng tôi đang chiến đấu. Mặc dù các sĩ quan không thể, vì phải tuân theo các chỉ thị chính của họ (tuyên thệ nhiệm vụ), công khai bày tỏ sự hỗ trợ của họ cho phong trào, nhiều người đã tiết lộ cho người biểu tình biết rằng trái tim của họ không hài lòng với các nhiệm vụ mà họ đã được yêu cầu thực hiện. Trong các bộ phim, chính sự không nhất quán này đánh dấu cho việc máy móc có được ý thức. Cái máy phát triển lương tâm và bắt đầu lo lắng về những hành động mà nó đã được lập trình để thực hiện đã vượt qua tình trạng của một công cụ và trở thành, về cơ bản, con người.
Có lẽ một ngày nào đó máy móc của chúng ta sẽ đạt được mức độ phức tạp đó. Cho đến khi đó, tính linh hoạt đạo đức—sự sẵn lòng thay đổi, phá vỡ các quy tắc, từ bỏ niềm tin và thực hành không còn phục vụ lợi ích công cộng là điều chúng ta một mình có thể thực hiện. Tôi nhận ra, Suspect, rằng thời nay khó tin vào việc con người, chưa kể đến các hệ thống, có khả năng thay đổi. Nhưng cũng đúng rằng con người duy trì hơn 28 độ tự do, và ít nhất là một số lựa chọn đó có thể đáng giữ gìn.
Trung thành,
Mây
Xin lưu ý rằng HỖ TRỢ ĐÁM MÂY đang gặp thời gian chờ cao hơn bình thường và rất biết ơn sự kiên nhẫn của bạn.
Những câu chuyện tuyệt vời khác từ Mytour
- 📩 Những thông tin mới nhất về công nghệ, khoa học, và nhiều hơn nữa: Nhận bản tin của chúng tôi ngay bây giờ! 📩 Tôi hủy bỏ đám cưới của mình. Internet sẽ không bao giờ quên 📩 Trên mạng xã hội, tự do ngôn luận kiểu Mỹ đã chết 📩 Cách Stardew Valley tạo cầu nối với ông tôi 📩 Vi khuẩn mới tinh tế trên ISS có thể xây dựng một tương lai trên sao Hỏa 📩 Hacker trước đây là con người. Sớm thôi, trí tuệ nhân tạo sẽ tấn công nhân loại 📩 👁️ Khám phá trí tuệ nhân tạo như chưa bao giờ với cơ sở dữ liệu mới của chúng tôi 📩 Mytour Games: Nhận những mẹo, đánh giá, và nhiều hơn nữa về trò chơi 📩 📱 Lưỡng lự giữa những chiếc điện thoại mới nhất? Đừng lo—hãy xem hướng dẫn mua iPhone của chúng tôi và những chiếc điện thoại Android ưa thích 📱
