Đại dịch Coronavirus làm gián đoạn tuyến phòng thủ đầu tiên của truyền thông xã hội

Người dùng Facebook trên khắp thế giới bắt đầu nhận thức điều gì đó lạ lùng xảy ra trên feed của họ vào tối thứ Ba. Các liên kết đến các trang tin tức và trang web chính thống, bao gồm The Atlantic, USA Today, Times of Israel, và BuzzFeed, cùng nhiều trang khác, bị gỡ xuống hàng loạt vì báo cáo vi phạm quy tắc rác của Facebook. Vấn đề này ảnh hưởng đến khả năng chia sẻ bài báo và thông tin về đại dịch coronavirus đang phát triển của nhiều người. Andrew Lawton, chuyên gia phê phán và người dẫn chương trình podcast người Canada, cho biết ông sốc khi phát hiện ra rằng Facebook đã xóa lưu trữ tập của ông và ngăn chặn ông chia sẻ thông tin về Covid-19. “Điều này thật không thể tin,” ông viết trong một tweet đã bị xóa sau đó.

Facebook đổ lỗi cho vấn đề này là do một lỗi nhàm chán trong bộ lọc rác tự động của nền tảng, nhưng một số nhà nghiên cứu và cựu nhân viên Facebook lo lắng rằng đó cũng là một dấu hiệu của điều sắp xảy ra. Với cuộc khủng hoảng y tế toàn cầu đang diễn ra, hàng triệu người bị hạn chế tại nhà, và các nền tảng truyền thông xã hội đã trở thành một trong những cách quan trọng nhất để mọi người chia sẻ thông tin và tương tác xã hội với nhau. Nhưng để bảo vệ sức khỏe của nhân viên và nhân viên hợp đồng của mình, Facebook và các công ty công nghệ khác cũng đã gửi về nhà những người kiểm duyệt nội dung của họ, người đóng vai trò là tuyến phòng thủ đầu tiên của họ trước những kinh hoàng của internet. Công việc của họ thường khó khăn, nếu không nói là không thể thực hiện từ nhà. Thiếu lao động của họ, internet có thể trở thành một nơi ít tự do và đáng sợ hơn.

“Chúng ta sẽ bắt đầu nhìn thấy những dấu vết, thường được che giấu, của sự can thiệp của con người,” nói Sarah T. Roberts, giáo sư nghiên cứu thông tin tại Đại học UCLA và tác giả của Behind the Screen: Content Moderation in the Shadows of Social Media. “Chúng ta sẽ nhìn thấy điều thường không thấy được - điều đó là hoàn toàn khả thi.”

Sau cuộc bầu cử tổng thống Hoa Kỳ năm 2016, Facebook đã tăng cường đáng kể khả năng kiểm duyệt của mình. Đến cuối năm 2018, họ có hơn 30,000 người làm việc về an toàn và bảo mật, khoảng một nửa trong số đó là người kiểm duyệt nội dung. Hầu hết những người kiểm duyệt này là những người lao động hợp đồng, được thuê bởi các công ty như Accenture hoặc Cognizant tại các văn phòng trên khắp thế giới. Họ làm việc để giữ cho Facebook không có bạo lực, lạm dụng trẻ em, rác thư, cũng như nội dung không lành mạnh khác. Công việc của họ có thể căng thẳng, nếu không nói là gây chấn thương trực tiếp.

Vào tối thứ Hai, Facebook thông báo hàng nghìn người kiểm duyệt nội dung hợp đồng sẽ được gửi về nhà "cho đến khi có thông báo khác." Những người lao động vẫn sẽ được trả lương - mặc dù họ sẽ không nhận được tiền thưởng 1,000 đô la mà Facebook đang trao cho nhân viên toàn thời gian. Để điền vào khoảng trống, Facebook đang chuyển thêm nhiều công việc sang trí tuệ nhân tạo, mà CEO Mark Zuckerberg đã tuyên bố là tương lai của kiểm duyệt nội dung từ nhiều năm nay. Nhưng một số nội dung nhạy cảm nhất sẽ được giao cho nhân viên toàn thời gian, Zuckerberg nói với các phóng viên trong một cuộc gọi vào thứ Tư, và họ sẽ tiếp tục làm việc tại văn phòng.

Trong số người sử dụng Facebook, Zuckerberg nói, “Cá nhân tôi đang rất lo lắng rằng sự cô lập từ việc ở nhà có thể dẫn đến nhiều vấn đề trầm cảm hoặc tâm lý hơn.” Để chuẩn bị cho đợt tấn công tiềm ẩn, Facebook đang tăng cường số người làm việc kiểm duyệt nội dung về những vấn đề như tự tử và tự hại, ông thêm vào đó. Một lo ngại khác là sự lan truyền thông tin sai lệch - luôn là một vấn đề trực tuyến, nhưng đặc biệt là trong một tình hình khẩn cấp về sức khỏe cộng đồng. Như một phần của phản ứng tổng thể đối với Covid-19, Facebook cũng thông báo rằng họ đang triển khai Trung tâm Thông tin Coronavirus trên dòng tin tức, nơi mọi người có thể cập nhật thông tin về đại dịch từ các nguồn đáng tin cậy.

Khi phàn nàn về lỗi rác thư tăng lên vào thứ Ba, những người bị ảnh hưởng cũng như một số người làm việc cũ của Facebook tự hỏi liệu nó có thể liên quan đến các thay đổi gần đây trong quy trình làm việc của công ty. “Nó giống như một quy tắc chống rác thư tại FB đang điên loạn,” cựu giám đốc an ninh của Facebook Alex Stamos nói trên Twitter. “Facebook đã gửi nhân viên kiểm duyệt nội dung về nhà hôm qua, những người thường không thể làm việc từ xa do cam kết về quyền riêng tư mà công ty đã đưa ra. Chúng ta có thể đang thấy bắt đầu của sự điên đảo của [học máy] với ít giám sát của con người.”

Vice president của Facebook về tính chân thực, Guy Rosen, nhanh chóng làm rõ: “Chúng tôi đang xử lý vấn đề này - đây là một lỗi trong hệ thống chống rác thư, không liên quan đến bất kỳ thay đổi nào trong lực lượng làm việc kiểm duyệt nội dung của chúng tôi. Chúng tôi đang trong quá trình sửa chữa và đưa tất cả các bài viết này quay trở lại,” ông viết trong một phản hồi cho Stamos trên Twitter. (Khi được hỏi thêm chi tiết về việc gì đã xảy ra vào tối thứ Ba, quản lý truyền thông chính sách của Facebook Andrew Pusateri đã chỉ dẫn Mytour đến tweet của Rosen.)

Nhưng các nhà nghiên cứu cho biết các vấn đề như đêm thứ Ba có thể trở nên phổ biến hơn trong sự vắng mặt của một đội ngũ kiểm duyệt nội dung con người mạnh mẽ. YouTube và Twitter thông báo vào thứ Hai rằng những người làm việc theo hợp đồng của họ sẽ được gửi về nhà cũng như vậy, và họ cũng sẽ dựa nhiều hơn vào các công cụ đánh dấu tự động và hệ thống xem xét có sức mạnh AI. Leigh Ann Benicewicz, người phát ngôn cho Reddit, nói với Mytour vào thứ Ba rằng công ty đã “thực hiện chế độ làm việc từ xa bắt buộc cho tất cả nhân viên của mình,” điều này cũng áp dụng cho các nhà thầu. Cô từ chối giải thích cách chính sách này ảnh hưởng đến kiểm duyệt nội dung cụ thể. Twitch không ngay lập tức trả lời yêu cầu bình luận.

Với ít người kiểm duyệt hơn, internet có thể thay đổi đáng kể đối với hàng triệu người hiện nay phụ thuộc vào mạng xã hội như phương tiện giao tiếp chính với thế giới bên ngoài. Hệ thống tự động mà Facebook, YouTube, Twitter và các trang web khác sử dụng thay đổi, nhưng thường hoạt động bằng cách phát hiện những điều như từ khóa, quét ảnh tự động và tìm kiếm các tín hiệu khác cho thấy một bài viết vi phạm quy tắc. Họ không có khả năng bắt được mọi thứ, theo Kate Klonick, giáo sư tại Trường Luật Đại học St. John và thành viên nghiên cứu tại Dự án Xã hội thông tin của Đại học Yale, nơi cô nghiên cứu về Facebook. Các ông lớn công nghệ có lẽ sẽ cần phải rộng lớn hóa quá trình kiểm duyệt của họ, để giảm khả năng một hệ thống tự động bỏ qua vi phạm quan trọng.

“Tôi thậm chí không biết họ sẽ làm thế nào. [Những người xem xét của Facebook] thậm chí không đúng nhiều lần. Họ vẫn kém tốt,” nói Klonick. Nhưng hệ thống ngừng tự động còn tồi tệ hơn. “Sẽ có rất nhiều nội dung bị loại bỏ một cách không đúng. Điều đó thực sự hơi điên rồ.”

Điều đó có thể tạo ra hiệu ứng lạnh lẽo đối với tự do ngôn luận và luồng thông tin trong thời kỳ quan trọng. Trong một bài đăng trên blog thông báo về sự thay đổi, YouTube lưu ý rằng “người dùng và người tạo nên có thể thấy việc loại bỏ video tăng lên, bao gồm một số video có thể không vi phạm chính sách.” Hệ thống tự động của trang web làm việc mờ mịt đến nỗi YouTube nói rằng họ sẽ không phát ra các trận đánh dấu cho việc tải lên video vi phạm quy tắc của mình, “trừ trường hợp chúng tôi có niềm tin cao rằng nó vi phạm.”

Là một phần của nghiên cứu về Hội đồng Quản lý Dự án độc lập của Facebook, một bảng đánh giá độc lập sẽ xem xét những quyết định kiểm duyệt nội dung gây tranh cãi, Klonick đã xem xét báo cáo thi hành của công ty, chi tiết về cách họ kiểm soát nội dung trên Facebook và Instagram. Klonick nói điều làm cô ấn tượng trong báo cáo mới nhất, từ tháng 11, là hầu hết quyết định loại bỏ của Facebook đảo ngược đến từ các công cụ đánh dấu tự động và công nghệ. “Có độ chệch cao; họ rất dễ bị quá mức kiểm duyệt và [có thể] nguy hiểm,” cô nói.

Facebook, ít nhất trong báo cáo tháng 11 đó, dường như không phản đối lắm:

Zuckerberg nói vào thứ Tư rằng nhiều công nhân hợp đồng tạo thành những đội này sẽ không thể làm công việc của họ từ nhà. Mặc dù một số người kiểm duyệt nội dung trên thế giới làm việc từ xa, nhưng nhiều người phải làm việc từ văn phòng do tính chất của công việc của họ. Người kiểm duyệt được giao nhiệm vụ xem xét các bài viết cực kỳ nhạy cảm và sống động về tình trạng bạo lực, lạm dụng trẻ em, khủng bố, tự tử và nhiều hơn nữa. Để ngăn chặn bất cứ điều gì rò rỉ ra công chúng, “những cơ sở này được xử lý với mức độ an ninh cao,” nói Roberts. Ví dụ, công nhân thường phải giữ điện thoại của họ trong tủ và không thể mang theo đến bàn làm việc.

Zuckerberg cũng nói với các phóng viên rằng các văn phòng nơi người kiểm duyệt nội dung làm việc có dịch vụ sức khỏe tâm thần mà không thể truy cập từ nhà. Họ thường có các chuyên gia tâm lý và tư vấn trong nhân sự, đào tạo khả năng phục hồi và các biện pháp an ninh giúp buộc người ta phải nghỉ ngơi. (Facebook đã thêm một số chương trình này vào năm ngoái sau khi The Verge thông báo về điều kiện làm việc khó khăn tại một số văn phòng của các nhà thầu.) Khi nhiều người Mỹ khám phá tuần này, sự cô lập khi làm việc từ nhà có thể mang lại căng thẳng riêng của nó. “Có một mức độ hỗ trợ chung xảy ra bằng cách ở trong không gian làm việc chung,” nói Roberts. “Khi điều đó trở nên bị chẻ, tôi lo lắng về mức độ mà công nhân sẽ có một nguồn lợi ích để dựa vào nhau hoặc dựa vào nhân viên.”

Không có sự lựa chọn dễ dàng nào. Việc gửi các người kiểm duyệt trở lại làm việc sẽ là một rủi ro về sức khỏe cộng đồng không thể chấp nhận được, nhưng khiến họ làm việc từ nhà đặt ra nhiều vấn đề về quyền riêng tư và pháp lý. Để lại nhiệm vụ kiểm duyệt chủ yếu cho máy móc có nghĩa là chấp nhận nhiều sai sót hơn và khả năng sửa chữa giảm đi vào thời điểm mà không có nhiều không gian cho sự sai sót.

Các công ty công nghệ đang đối mặt với một tình huống khó khăn, theo lời Klonick. Trong một đại dịch, việc kiểm duyệt chính xác và đáng tin cậy quan trọng hơn bao giờ hết, nhưng tài nguyên để thực hiện nó đang căng trở. “Loại bỏ thông tin sai lầm hoặc cấm tài khoản sai lầm sẽ có hậu quả đối với cách mọi người có thể nói chung—bởi vì họ không thể đến một quảng trường công cộng thực sự,” cô nói. “Họ phải đến nơi nào đó trên internet.”

Thêm từ Mytour về Covid-19

• Ở xa xã hội là gì? (Và các câu hỏi thường gặp về Covid-19, đã được trả lời)
• Vi khuẩn corona tồn tại trên bề mặt trong bao lâu?
• Đừng bắt đầu một vòng xoáy lo lắng về coronavirus
• Làm thế nào để tự làm nước rửa tay
• Có đạo đức khi đặt đơn hàng giao hàng trong thời kỳ đại dịch không?
• Đọc tất cả bài viết về coronavirus của chúng tôi ở đây