Quốc hội Nhắm Đến Thuật Toán

Không lâu trước đây, các cuộc điều trần của Quốc hội về Mục 230 đã bị mắc kẹt trong các trao đổi u ám về quyết định kiểm soát nội dung cụ thể: Tại sao bạn để cái này lên? Tại sao bạn lấy cái kia xuống? Một loạt các dự luật mới cho thấy các nhà lập pháp đã trở nên tinh tế hơn một chút.

Tại một cuộc điều trần vào Thứ Tư, Ủy ban Năng lượng và Thương mại của Hạ viện thảo luận về một chơi xổ số xuất để tước đi quyền miễn trách nhiệm pháp lý cho các công ty công nghệ đối với nội dung được đề xuất theo thuật toán. Hiện tại, Mục 230 của Đạo luật An toàn Truyền thông tổng quát ngăn chặn các nền tảng trực tuyến bị kiện về nội dung do người dùng tạo ra. Các dự luật mới sẽ, theo cách khác nhau, sửa đổi Mục 230 để nó không áp dụng khi có sử dụng thuật toán.

Kiểm soát nội dung, đơn lẻ, là một trò chơi ngốc nghếch. Nhờ phần nào vào lời khai của Frances Haugen, người tố cáo Facebook, thậm chí Quốc hội cũng hiểu rằng khi đối mặt với các nền tảng xã hội lớn như Facebook, Instagram hoặc YouTube, nguyên nhân của nhiều vấn đề là việc sử dụng thuật toán xếp hạng được thiết kế để tối đa hóa sự tương tác. Một hệ thống được tối ưu hóa cho sự tương tác thay vì chất lượng làm nổi bật sức mạnh của người sao chép, người troll và những cám dỗ giận dữ mê tín.

Mục tiêu của các dự luật Mục 230 mới là tạo lý do cho các nền tảng thay đổi mô hình kinh doanh của họ. Như Haugen nói trong lời khai trước Thượng viện vào tháng 10, “Nếu chúng ta cải cách Mục 230 để làm cho Facebook chịu trách nhiệm về hậu quả của những quyết định xếp hạng có chủ đích của họ, tôi nghĩ họ sẽ loại bỏ hệ thống xếp hạng dựa trên tương tác.”

Tại sao lại sử dụng cải cách Mục 230 để khiến các nền tảng ngừng thiết kế cho tương tác? Một phần vì đó là một trong số rất ít điểm đòn bẩy mà Quốc hội có. Các nền tảng công nghệ chứa nội dung người dùng yêu thích Mục 230 và sẽ ghét mất đi sự bảo vệ của nó. Điều đó khiến nó trở thành một phương tiện hấp dẫn để cố gắng đạt được sự thay đổi hành vi từ những công ty đó. Người ta có quyền miễn trách nhiệm tốt đấy—tiếc nếu có điều gì đó xảy ra với nó.

“Trách nhiệm chỉ là một phương tiện để đạt được mục tiêu—mục tiêu là khuyến khích thay đổi trong thuật toán,” nghị sĩ Tom Malinowski, một Dân biểu New Jersey giới thiệu một trong những dự luật, nói với tôi. “Tiền đề của dự luật là rằng mà không có động cơ được tạo ra từ trách nhiệm, họ không có khả năng tự thay đổi, nhưng họ biết cách làm cho mọi thứ tốt đẹp hơn và sẽ làm như vậy nếu có đủ áp lực.”

Có một sự thanh lịch trong việc cố gắng cải cách Mục 230 theo cách này. Lôgic cơ bản của luật lệ là người dùng internet nên chịu trách nhiệm về những gì họ nói và làm trực tuyến—không phải các nền tảng chứa nội dung. Nhưng khi luật được ban hành vào năm 1996, thế giới chưa thấy sự xuất hiện của các hệ thống đề xuất cá nhân được tinh chỉnh để giữ người dùng tương tác tối đa. Trong mức độ mà các nền tảng quyết định quảng cáo, thay vì hoạt động như làm tuyến truyền không thiên vị, dường như là một vấn đề công bằng đơn giản khi nói rằng họ nên chịu trách nhiệm pháp lý về những gì họ, hoặc hệ thống tự động của họ, chọn để hiển thị cho người dùng.

Trong thực tế, tuy nhiên, việc áp đặt trách nhiệm pháp lý cho việc tăng cường thuật toán là một điều chẳng có gì thanh lịch cả. Một trong những lý do là có tất cả các loại câu hỏi định nghĩa khó khăn, thậm chí là triết học.

“Tôi đồng ý về nguyên tắc rằng nên có trách nhiệm pháp lý, nhưng tôi không nghĩ chúng ta đã tìm ra bộ từ ngữ đúng để mô tả những quy trình chúng ta quan tâm,” Jonathan Stray, một học giả tại Trung tâm Berkeley về Trí tuệ Nhân loại AI tương thích, nghiên cứu về thuật toán đề xuất, nói. “Tăng cường là gì, cải tiến là gì, cá nhân hóa là gì, đề xuất là gì?”

Dự luật Justice Against Malicious Algorithms của Dân biểu New Jersey Frank Pallone, ví dụ, sẽ rút lui miễn trách nhiệm khi một nền tảng “biết hoặc nên biết” rằng nó đang đưa ra một “đề xuất cá nhân” cho người dùng. Nhưng cái gì được tính là cá nhân? Theo dự luật, đó là sử dụng “thông tin cụ thể cho cá nhân” để nâng cao sự nổi bật của một số tài liệu so với tài liệu khác. Đó không phải là một định nghĩa tồi. Nhưng, trên bề mặt, nó sẽ dường như nói rằng bất kỳ nền tảng nào không hiển thị mọi người chính xác điều này sẽ mất miễn trách nhiệm theo Mục 230. Thậm chí việc hiển thị bài đăng của người họ theo dõi có thể được cho là dựa vào thông tin cụ thể cho người đó.

Dự luật Protecting Americans From Dangerous Algorithms của Malinowski sẽ thu hồi miễn trách nhiệm Mục 230 đối với các yêu sách liên quan đến một số điều luật về quyền công dân và liên quan đến khủng bố nếu một nền tảng “sử dụng thuật toán, mô hình hoặc quy trình tính toán khác để xếp hạng, sắp xếp, quảng cáo, đề xuất, tăng cường hoặc biến đổi tương tự việc cung cấp hoặc hiển thị thông tin.” Tuy nhiên, nó chứa các ngoại lệ cho các thuật toán “rõ ràng, dễ hiểu và minh bạch đối với người dùng hợp lý,” và liệt kê một số ví dụ sẽ phù hợp với dự luật, bao gồm feeds theo thứ tự ngược và xếp hạng theo sự phổ biến hoặc đánh giá của người dùng.

Có nhiều ý nghĩa trong đó. Một vấn đề của các thuật toán dựa trên tương tác là tính mờ: Người dùng hiếm khi có cái nhìn sâu sắc về cách dữ liệu cá nhân của họ đang được sử dụng để mục tiêu họ với nội dung mà một nền tảng dự đoán họ sẽ tương tác. Nhưng Stray chỉ ra rằng phân biệt giữa thuật toán tốt và xấu không phải là chuyện dễ dàng. Xếp hạng theo đánh giá của người dùng hoặc up-vote/down-vote, ví dụ, là kém chất lượng. Bạn không muốn một bài đăng với một up-vote đơn hoặc đánh giá năm sao bắn lên đầu danh sách. Một cách tiêu biểu để sửa chữa điều đó, Stray giải thích, là tính toán biên độ lỗi thống kê cho một nội dung cụ thể và xếp hạng nó theo đáy của phân phối. Phương pháp đó—mà Stray mất vài phút để giải thích cho tôi—có rõ ràng và minh bạch không? Còn một cái gì đó như một bộ lọc thư rác có cơ bản không?

“Không rõ liệu ý định loại trừ các hệ thống đủ ‘đơn giản’ có thực sự loại trừ bất kỳ hệ thống nào thực sự hữu ích không,” Stray nói. “Tôi nghi ngờ là không.”

Nói cách khác, một dự luật rút lui miễn trách nhiệm Mục 230 đối với đề xuất thuật toán có thể kết thúc trông giống như một hủy bỏ trực tiếp, ít nhất là đối với các nền tảng truyền thông xã hội. Jeff Kosseff, tác giả của cuốn sách quyết định về Mục 230, The Twenty-Six Words That Created the Internet, chỉ ra rằng các công ty internet có nhiều bảo vệ pháp lý để dựa vào, bao gồm Hiến pháp Đệ Nhất, ngay cả khi không có sự bảo vệ của luật. Nếu luật trở nên đầy đủ ngoại lệ và ngoại lệ cho ngoại lệ, những công ty đó có thể quyết định có những cách dễ dàng hơn để tự vệ trước tòa.

Điều này chỉ ra một điều kỳ lạ trong cuộc tranh luận về Mục 230: Cả người ủng hộ và những người phê phán đều kiên quyết lập luận rằng thay đổi luật không phải là một vấn đề lớn. Rút lui Mục 230 không có nghĩa là một công ty tự động chịu trách nhiệm, nhất là; nó chỉ là mất một hình thức miễn trách nhiệm. Vẫn sẽ khó chiến thắng các vụ kiện chống lại một nền tảng chỉ vì chứa nội dung của người khác, vì sẽ có nhiều loại câu hỏi về nhân quả và trách nhiệm. Đối với những người cải cách, điều này có nghĩa là không ai nên hoảng loạn về một thế giới sau Mục 230. Như Carrie Goldberg, một nhà phê phán nổi tiếng của luật, nói trong lời khai tại cuộc điều trần vào Thứ Tư, “Nỗi sợ rằng các công ty công nghệ sẽ bị áp đảo bởi các vụ kiện là không có cơ sở và, trung thực mà nói, chỉ là sự không quen biết của những người khiêu khích về cách kiện cáo hoạt động.” Nhưng những người bảo vệ luật lại lật ngược lập luận đó: Nếu đến phần lớn các người kiện thậm chí không thắng trận mà không có Mục 230, thì quay lại nó sẽ mời gọi các vụ kiện không có ý nghĩa chỉ là để làm cạn kiệt nguồn lực của một công ty.

Có một sự mơ hồ tương tự trong các đề xuất tập trung đặc biệt vào thuật toán. Như Mary Anne Franks, một nhà phê phán Mục 230 khác đã làm chứng tại cuộc điều trần, mô tả trong một email, những dự luật sẽ “vừa quá và vừa thiếu.” Một mặt, chúng có thể trở thành một hủy bỏ hiệu quả của luật đối với tất cả các nền tảng lớn chứa và đề xuất nội dung do người dùng tạo ra, không chỉ là những người như Facebook và Instagram. (Những dự luật miễn trách nhiệm cho các nền tảng nhỏ.) Mặt khác, chúng sẽ không ảnh hưởng gì đến một số kẻ phá luật tồi tệ nhất hiện nay đang hưởng lợi từ miễn trách nhiệm Mục 230. Một trang web như The Dirty hoặc She’s a Homewrecker, xuất bản các bài đăng tin đồn độc ác, có thể xâm phạ quyền danh dự của công dân tư nhân mà không cần thuật toán cá nhân hóa. Cũng như một trang web hỗ trợ việc bán súng bất hợp pháp.

Vì vậy, ngay cả khi mục tiêu của Quốc hội là khuyến khích các công ty thay đổi thuật toán, việc nhắm trực tiếp vào thuật toán có thể không phải là cách tốt nhất. Franks đề xuất một điều gì đó đồng thời đơn giản và toàn diện hơn: Mục 230 không áp dụng đối với bất kỳ công ty nào “biểu hiện sự lạnh lùng cố ý đối với nội dung hoặc hành vi bất hợp pháp.” Đồng sự của cô, Danielle Citron, đã lập luận rằng các công ty phải chứng minh họ đã thực hiện các bước hợp lý để ngăn chặn một loại hại cụ thể trước khi được miễn trách nhiệm. Nếu điều gì đó như vậy trở thành luật, thuật toán dựa trên tương tác vẫn sẽ tồn tại—nhưng sự thay đổi có thể vẫn quan trọng. Những thông tin của Facebook do Haugen tiết lộ, chẳng hạn, chỉ ra rằng Facebook gần đây không có cơ sở hạ tầng kiểm soát nội dung nhiều ở các khu vực như Trung Đông và Châu Phi, nơi hàng trăm triệu người dùng của nó sống. Hiện nay, Mục 230 chủ yếu bảo vệ các công ty Mỹ ngay cả ở thị trường nước ngoài. Nhưng hãy tưởng tượng nếu ai đó bị bôi nhọ hoặc bị nhắm đến để quấy rối bằng một bài đăng trên Instagram ở Afghanistan, nơi tính đến năm 2020, Facebook thậm chí chưa hoàn toàn dịch các biểu mẫu của mình để báo cáo nội dung chủ nghĩa thù, có thể kiện theo tiêu chuẩn “lạnh lùng.” Công ty sẽ đột ngột có động cơ mạnh mẽ hơn để đảm bảo thuật toán của mình không ưa thích nội dung có thể đưa nó ra tòa.

Rất tốt khi thấy Quốc hội bắt đầu tập trung vào các câu hỏi thiết kế là nguyên nhân của nhiều vấn đề của truyền thông xã hội. Cũng dễ hiểu rằng họ chưa tìm ra một sửa chữa lý tưởng. Xây dựng một thuật toán hiệu quả là phức tạp. Viết một luật tốt cũng vậy.

Các bài viết tuyệt vời khác từ Mytour

• 📩 Cập nhật mới nhất về công nghệ, khoa học và nhiều hơn nữa: Nhận bản tin của chúng tôi!
• Liệu một thế giới thực số có thể kết nối trực tiếp vào não của bạn?
• “AR là nơi thế giới ảo thực sự sẽ diễn ra”
• Cách TikTok tinh vi kết nối bạn với bạn bè trong thực tế
• Đồng hồ tự động giá rẻ nhưng mang lại cảm giác sang trọng
• Tại sao người ta không thể teleport?
• 👁️ Khám phá AI như chưa bao giờ có với cơ sở dữ liệu mới của chúng tôi
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để duy trì sức khỏe? Kiểm tra lựa chọn của đội ngũ Gear chúng tôi cho các thiết bị theo dõi sức khỏe tốt nhất, đồ dùng chạy bộ (bao gồm giày và tất), và tai nghe tốt nhất