Công cụ Kiểm soát Nội dung mới của Facebook Đặt Bài viết vào Bối cảnh

Facebook đã bắt đầu thử nghiệm chương trình thử nghiệm công cụ và chính sách kiểm soát nội dung mới sau khi một đợt kiểm tra bên ngoại đưa ra nhiều vấn đề với phương pháp hiện tại của công ty trong việc giải quyết vấn đề nói xấu. Trong một báo cáo được xuất bản bởi Facebook vào Chủ nhật, các kiểm toán viên chỉ trích sự tập trung mạnh mẽ của Facebook vào “đạt được sự nhất quán trong quyết định kiểm duyệt,” mà họ nói là “dịch thành một bộ chính sách tù túng hơn không thể tính đến sự tinh tế” và làm suy giảm khả năng của người kiểm duyệt trong việc kiểm soát đúng nội dung nói xấu trên nền tảng. Chính sách cấm quốc xã trắng được diễn đạt một cách hẹp đến mức nó không áp dụng cho tất cả các bài đăng mà tỏ ý chủ nghĩa quốc xã trắng, và chỉ áp dụng cho những bài đăng sử dụng thuật ngữ cụ thể, báo cáo nói. Sự chỉ trích của nó đối với chính sách đã khiến Facebook đuổi một số người cực đoan nổi tiếng vào đầu năm nay cũng tương tự: Đồng thời là quá rộng rãi và kỳ lạ cụ thể, làm khó khăn trong việc thực hiện.

Khác với những chỉ trích trước đó về chiến lược kiểm soát nội dung của Facebook (có nhiều chỉ trích), lần này nổi bật vì nó thực sự đến từ bên trong nhà. Báo cáo được xuất bản vào Chủ nhật đã được thực hiện bởi các kiểm toán viên bên ngoại được bổ nhiệm bởi Facebook, và công ty cho biết hơn 90 tổ chức quyền lực dân sự đã đóng góp. Tính rộng lớn và cụ thể của nó cho thấy những người kiểm toán có vẻ có quyền truy cập không giới hạn vào các hoạt động của công ty mà thường được che giấu khỏi tầm nhìn của công chúng.

Facebook đã đồng ý tiến hành kiểm toán về quyền lực dân sự vào tháng 5 năm ngoái để đáp ứng với các cáo buộc rằng nó phân biệt đối xử với các nhóm thiểu số. (Cùng lúc, Facebook thông báo một “đối tác tư vấn về đảm bảo chủ quyền bảo thủ” để giải quyết lo ngại về kiểm duyệt.) Báo cáo được xuất bản vào Chủ nhật mô tả các phương pháp quảng cáo của công ty, kế hoạch bầu cử và điều tra dân số, và một cấu trúc trách nhiệm về quyền lực dân sự ngoài việc tiếp cận của công ty đối với kiểm soát nội dung và thi hành.

Ví dụ, báo cáo mô tả một hình ảnh chi tiết về cách một số khía cạnh quan trọng của quy trình kiểm soát nội dung của Facebook thực sự hoạt động. Lấy ví dụ về một bài đăng có thể bị đánh dấu là nói xấu. Có thể nói điều gì đó tấn công và làm mất nhân tính của một nhóm người, như rằng tất cả phụ nữ là gián và phải bị diệt trừ khỏi trái đất. Điều này rõ ràng vi phạm các quy tắc nói xấu của Facebook khi xem trong một không gian trống rỗng, nhưng các kiểm toán viên phát hiện rằng hệ thống kiểm duyệt nội dung nội bộ của Facebook đã làm mất bối cảnh cần thiết để hiểu các bài đăng theo cách giống như người dùng. Một chú thích, ví dụ như, có thể mô tả rõ ràng người dùng đang chia sẻ hình ảnh để chỉ trích hoặc lên án nội dung xúc phạm thay vì quảng bá nó.

Tham chiếu đến những kết quả dương tính giả mạo này bị gỡ bỏ, kiểm toán kết luận rằng “cuộc điều tra của Facebook đã chỉ ra rằng hệ thống kiểm duyệt nội dung của nó không luôn đặt đủ tầm quan trọng cho chú thích và bối cảnh. Cụ thể, công cụ mà người kiểm duyệt nội dung sử dụng để xem xét bài đăng đôi khi không hiển thị chú thích ngay cạnh bài đăng—làm tăng khả năng bị bỏ qua ngữ cảnh quan trọng.

Kiểm toán lưu ý rằng “việc khuyến khích người kiểm duyệt xem xét xem người dùng có lên án hoặc thảo luận về nói xấu, thay vì tán thành nó, có thể giảm thiểu các lỗi.” (Nói xấu, theo sách của Facebook, được đặc trưng là một cuộc tấn công châm biếm vào một người hoặc nhóm dựa trên “đặc điểm được bảo vệ” như chủng tộc, bản dạng giới, tình dục, khuyết tật, hoặc quốc tịch, giữa nhiều cái khác.)

Facebook đang thử nghiệm một quy trình kiểm soát nội dung mới ưu tiên phương pháp này dựa trên bối cảnh trong quá trình xem xét. Trước đây, người kiểm duyệt quyết định có gỡ bỏ bài đăng hay không và sau đó trả lời một loạt câu hỏi về tại sao, chương trình thử nghiệm cho đội ngũ thực thi nói xấu tại Mỹ đảo ngược thứ tự quy trình đó: Khi đánh giá xem một bài đăng có vi phạm quy tắc hay không, người xem xét sẽ được hỏi một loạt câu hỏi trước, sau đó mới đưa ra quyết định.

Điều đó hoạt động, lưu ý kiểm toán. Và nếu nó tiếp tục cải thiện độ chính xác của người kiểm duyệt, Facebook nói rằng thay đổi này sẽ ảnh hưởng đến tất cả các đánh giá nói xấu. Facebook cũng đang cập nhật tài liệu đào tạo cho người kiểm duyệt để làm rõ rằng sự hiện diện đơn thuần của lời nói xấu không phải là lý do để gỡ bỏ bài đăng nếu nó đang bị lên án.

Kiểm toán cũng chú ý rằng Facebook hiện đang thử nghiệm một chương trình mới cho phép người kiểm duyệt “chuyên sâu” về nói xấu—nghĩa là họ sẽ không xem xét vi phạm có thể của bất kỳ chính sách nào khác—với hy vọng cải thiện chuyên môn của người xem xét về chủ đề. Tuy nhiên, như báo cáo chính nó lưu ý, điều đó có thể làm tăng tỷ lệ thảm họa cho những người kiểm duyệt của công ty đã bị tổn thương từ trước.

Các thủ tục mới có hoạt động không? Có lẽ ở một số mức độ, nhưng có thể không đủ để ngăn chặn dòng người chất độc hại mà người dùng Facebook thường xuyên phun ra.

Nhiều Bài viết Tuyệt vời từ Mytour

• Một thiết bị để phát hiện “hành vi hung dữ” trong trường học thường xuyên bắn sóng sai lạc
• Bộ phim mới của Disney, Lion King, là tương lai của điện ảnh được kích thích bởi thực tế ảo
• Những mẹo Google Photos để kiểm soát lượng hình ảnh quá tải của bạn
• Đã đến lúc chuyển sang trình duyệt bảo mật
• Nữ hoàng “robot vụng trộm” của YouTube đã làm một chiếc xe tải Tesla
• 📱 Phân vân giữa những chiếc điện thoại mới nhất? Đừng lo lắng—kiểm tra hướng dẫn mua iPhone và những chiếc điện thoại Android yêu thích của chúng tôi
• 📩 Còn đói khát để khám phá sâu hơn về chủ đề yêu thích tiếp theo của bạn không? Đăng ký nhận bản tin Backchannel của chúng tôi