Kẻ Bắn Súng Christchurch và Cái Bẫy Rối Tinh Thần của YouTube

YouTube, Facebook và các nền tảng truyền thông xã hội khác đã đóng vai trò quan trọng trong việc t radicalize kẻ khủng bố đã giết chết 51 người tín đồ trong cuộc tấn công tháng 3 năm 2019 vào hai nhà thờ ở New Zealand, theo một báo cáo mới từ chính phủ của đất nước này. Các chuyên gia về rối tinh thần trực tuyến nói với MYTOUR rằng trong khi các nền tảng đã đàn áp nội dung cực đoan kể từ đó, mô hình kinh doanh cơ bản đằng sau các trang web truyền thông xã hội hàng đầu vẫn đóng một vai trò trong rối tinh thần trực tuyến.

Theo báo cáo, được phát hành vào đêm qua, kẻ khủng bố thường xuyên xem nội dung cực đoan trực tuyến và quyên góp cho các tổ chức như Daily Stormer, một trang web supremacists trắng, và Freedomain Radio cánh hữu của Stefan Molyneux. Anh cũng trực tiếp quyên góp cho nhà hoạt động cánh hữu nước Áo Martin Sellner. “Người này cho biết anh ấy không phải là người bình luận thường xuyên trên các trang web cánh hữu cực đoan và rằng YouTube, đối với anh ấy, là một nguồn thông tin và nguồn cảm hứng quan trọng hơn nhiều,” báo cáo nói.

Sự quan tâm của kẻ khủng bố đối với những người làm video YouTube cánh hữu và các diễn đàn nghệ sĩ như 8chan không phải là điều mới mẻ. Nhưng cho đến nay, chi tiết về sự tham gia của anh ấy với những tổ chức cực đoan cánh hữu trực tuyến này chưa được công bố. Hơn một năm sau đó, YouTube và các nền tảng khác đã đưa ra các biện pháp chấp nhận trách nhiệm về nội dung supremacists trắng lan truyền trên trang web của họ, bao gồm việc loại bỏ các nhà sáng tạo nội dung phổ biến và thuê hàng nghìn quản trị viên hơn. Tuy nhiên, theo các chuyên gia, cho đến khi các công ty truyền thông xã hội mở nắp về chính sách và thậm chí thuật toán của họ, tuyên truyền supremacists trắng sẽ luôn cách vài cú nhấp chuột.

"Vấn đề đi sâu hơn nhiều so với việc xác định và loại bỏ các nội dung gây tranh cãi," nói một người phát ngôn của chính phủ New Zealand qua email. "Cùng các thuật toán giữ cho người dùng theo dõi nền tảng và tiêu thụ quảng cáo cũng có thể quảng bá nội dung có hại khi mà cá nhân đã thể hiện quan tâm."

Con đường tiến hóa của kẻ tấn công Christchurch hoàn toàn không ngoại lệ, theo ba chuyên gia nói chuyện với MYTOUR đã đánh giá báo cáo của chính phủ. Anh ta đến từ một gia đình tan vỡ và từ khi còn rất nhỏ đã phải đối mặt với bạo lực gia đình, bệnh tật và tự tử. Anh ta có quyền truy cập không giám sát vào một máy tính, nơi anh ta chơi trò chơi trực tuyến và, khi 14 tuổi, khám phá diễn đàn trực tuyến 4chan. Báo cáo mô tả cách anh ta thể hiện ý kiến phân biệt chủng tộc tại trường và anh ta đã được gọi làm việc với quan chức chống phân biệt chủng tộc của trường liên quan đến chống Semit. Báo cáo mô tả anh ta như một người có “giao tiếp cá nhân hạn chế,” điều này “tạo cơ hội đáng kể cho sự ảnh hưởng từ nội dung cánh hữu cực đoan, mà anh ta tìm thấy trên internet và trong sách.” Ngoại trừ một vài năm làm HLV cá nhân, anh ta không có việc làm ổn định nào.

Mẹ của kẻ khủng bố cho biết lo lắng của bà tăng lên vào đầu năm 2017. “Bà nhớ anh ấy nói về việc thế giới phương Tây đang đi đến hồi kết vì người nhập cư Hồi giáo đang trở lại châu Âu và sẽ sinh sản nhiều hơn người châu Âu,” báo cáo nói. Bạn bè và gia đình của kẻ khủng bố đã cung cấp những câu chuyện về sự tuyệt chủng của anh ta được hỗ trợ bởi hoạt động internet của anh ta: chia sẻ liên kết, quyên góp, bình luận. Mặc dù anh ta không phải là người đăng bài thường xuyên trên các trang web cánh hữu phải, anh ta đã dành thời gian đáng kể trong các góc cực đoan của YouTube.

Một báo cáo nghiêm trọng năm 2018 của nghiên cứu viên và nghiên cứu sinh tiến sĩ tại Stanford, Becca Lewis, mô tả hệ thống truyền thông thay thế trên YouTube nuôi dưỡng người xem trẻ thông tin cánh hữu cực đoan. Hệ thống các kênh này, từ cánh hữu chủ nghĩa và tự do chủ nghĩa đến những người theo chủ nghĩa trắng trơn, hợp tác với nhau, đưa người xem vào những luồng nội dung càng ngày càng cực đoan. Cô chỉ đến Stefan Molyneux như một ví dụ. “Anh ta đã được chỉ ra nhiều lần là một điểm vector quan trọng cho quá trình rực rỡ của người,” cô nói. “Anh ta tuyên bố có sự khác biệt khoa học giữa các chủng tộc và quảng cáo các kiến thức giả mạo đã bị bác bỏ. Nhưng vì anh ta không tự nhận mình là neo-Nazi hay cởi mở, anh ta đã được chấp nhận bởi những người nổi tiếng hơn với các nền tảng thông tin rộng lớn hơn.” YouTube đã gỡ bỏ kênh của Molyneux vào tháng 6 năm nay.

Bước nhảy cấp độ này một phần là sản phẩm của mô hình kinh doanh cho người tạo nội dung YouTube, theo Lewis. Doanh thu liên quan trực tiếp đến lượt xem, và sự phổ biến là đồng xu tiền. Trong khi các mạng lưới của các người tạo chơi dựa vào nhau, động cơ để thu hút thêm người xem cũng thúc đẩy họ đăng tải nội dung ngày càng châm chọc và gây chấn động. “Một trong những điều đáng sợ nhất mà tôi phát hiện không chỉ là có bằng chứng cho thấy khán giả đang bị quần tử, mà còn là dữ liệu chính xác cho thấy các người tạo nội dung ngày càng trở nên cực đoan trong nội dung của họ theo thời gian,” cô nói.

Trong một tuyên bố qua email, một người phát ngôn của YouTube cho biết công ty đã đạt được “tiến triển đáng kể trong công việc chống nói kích động trên YouTube kể từ vụ tấn công bi thảm ở Christchurch.” Trích dẫn chính sách nói kích động được củng cố năm 2019, người phát ngôn nói rằng có một “sự tăng mạnh lên đến 5 lần trong số video gỡ bỏ vì nói kích động trên YouTube.” YouTube cũng đã thay đổi hệ thống đề xuất của mình để “hạn chế sự lan truyền của nội dung ranh giới.”

YouTube cho biết trong tổng số 1,8 triệu kênh bị chấm dứt vì vi phạm các chính sách của mình trong quý trước, có 54,000 kênh vì nói kích động—số lượng lớn nhất từ trước đến nay. YouTube cũng loại bỏ hơn 9,000 kênh và 200,000 video vì vi phạm quy tắc chống tuyên truyền cực đoan bạo lực. Ngoài Molyneux, những lệnh cấm của YouTube vào tháng 6 còn bao gồm David Duke và Richard Spencer. (Kẻ tấn công Christchurch quyên góp cho Viện Chính sách Quốc gia, mà Spencer điều hành.) Facebook, từ phía mình, nói rằng họ đã chặn hơn 250 nhóm cánh hữu trắng từ các nền tảng của mình và đã củng cố chính sách về cá nhân và nhóm nguy hiểm.

“Rõ ràng mô hình kinh doanh cốt lõi đã ảnh hưởng đến sự phát triển và trụy lạc của nội dung này,” nói Lewis. “Họ đã điều chỉnh thuật toán, họ đã loại bỏ một số người khỏi nền tảng, nhưng họ vẫn chưa giải quyết vấn đề cơ bản.”

Văn hóa trực tuyến không bắt đầu và kết thúc tại YouTube hoặc bất kỳ nơi nào khác, theo thiết kế. Cốt lõi của mô hình kinh doanh truyền thông xã hội là chia sẻ qua các nền tảng. “YouTube không chỉ là nơi mọi người đến giải trí; họ bị hút vào những cộng đồng này. Điều đó cho phép bạn tham gia qua bình luận, chắc chắn, nhưng cũng bằng cách quyên góp và tăng cường nội dung ở những nơi khác nhau,” Joan Donovan, giám đốc nghiên cứu của Trung tâm Shorenstein của Đại học Harvard về Truyền thông, Chính trị và Chính sách Công cộng nói. Theo báo cáo của Chính phủ New Zealand, kẻ tấn công Christchurch thường xuyên chia sẻ bài viết Reddit cánh hữu cực đoan, các trang Wikipedia và video YouTube, bao gồm cả trong một cuộc trò chơi trên trang web chat không tên.

Kẻ tấn công nhà thờ Hồi giáo Christchurch cũng theo dõi và đăng bài trên một số nhóm cánh hữu trắng trên Facebook, đôi khi đưa ra những bình luận đe dọa về người nhập cư và dân tộc thiểu số. Theo các tác giả báo cáo đã phỏng vấn anh ấy, “người này không chấp nhận rằng những bình luận của mình sẽ làm lo lắng cho các cơ quan chống khủng bố. Anh ta nghĩ như vậy vì có số lượng rất lớn các bình luận tương tự có thể được tìm thấy trên internet.” (Trong thời gian đó, anh ta cũng đã thực hiện các biện pháp để giảm thiểu dấu vết kỹ thuật số của mình, bao gồm việc xóa email và loại bỏ ổ cứng máy tính của anh ta.)

Việc chia sẻ hoặc tuyên truyền cánh hữu trắng mà không có ngữ cảnh hoặc cảnh báo, theo Donovan, mở ra một con đường trơn tru cho sự lan truyền của các ý tưởng cực đoan. “Chúng ta phải nhìn vào cách những nền tảng này cung cấp khả năng phát sóng và quy mô, mà, không may, bây giờ đã bắt đầu phục vụ cho mục đích tiêu cực,” cô nói.

Động lực kinh doanh của YouTube không thể tránh khỏi việc ngăn chặn loại minh bạch đó. Các chuyên gia bên ngoài khó có cách tốt để đánh giá hoặc so sánh các kỹ thuật giảm thiểu sự lan truyền của cực đoan qua các nền tảng. Thay vào đó, họ thường phải dựa vào các báo cáo do chính các doanh nghiệp công bố về nền tảng của họ. Daniel Kelley, giám đốc phó của Trung tâm Công nghệ và Xã hội của Hiệp hội Phản đối phỉ báng, nói rằng trong khi YouTube báo cáo về việc tăng cường nội dung cực đoan, chỉ số này không nói lên về sự phổ biến của nó trong quá khứ hoặc hiện tại. Các nhà nghiên cứu bên ngoài công ty không biết thuật toán gợi ý hoạt động như thế nào trước đây, nó đã thay đổi như thế nào, nó hoạt động như thế nào hiện nay và ảnh hưởng là gì. Và họ không biết cách định nghĩa 'nội dung ranh giới' - một điểm quan trọng khi nhiều người cho rằng nó vẫn tồn tại rộng rãi trên YouTube, Facebook và nơi khác.

'Khó nói liệu nỗ lực của họ đã thành công hay chưa,' Kelley nói. 'Chúng ta không có bất kỳ thông tin nào về việc nó có thực sự hoạt động hay không.' Tuy nhiên, ADL đã tư vấn cho YouTube, tuy nhiên Kelley nói rằng anh ấy không thấy bất kỳ tài liệu nào về cách nó định nghĩa cực đoan hoặc đào tạo các quản lý nội dung về nó.

Một cuộc thanh toán thực sự về sự lan truyền của nội dung cực đoan đã tạo động lực cho các công ty công nghệ lớn đầu tư nhiều tiền để tìm kiếm giải pháp. Việc đưa ra các biện pháp quản lý vấn đề dường như hiệu quả. Bao nhiêu người sử dụng YouTube đã bị cấm và trở nên lạc lõng trong quên lãng? Nhưng quản lý không giải quyết cách mà các nền móng của truyền thông xã hội như một mô hình kinh doanh - tạo ra người ảnh hưởng, chia sẻ qua các nền tảng và chính sách hộp đen - cũng là yếu tố quan trọng trong việc duy trì sự căm ghét trực tuyến.

Nhiều liên kết YouTube mà kẻ tấn công Christchurch đã chia sẻ đã bị loại bỏ vì vi phạm chính sách quản lý của YouTube. Các mạng lưới của những người và tư tưởng được xây dựng thông qua chúng và thông qua các phương tiện truyền thông xã hội khác vẫn tiếp tục.

Bài viết này đã được cập nhật với bình luận bổ sung từ chính phủ New Zealand và Facebook.

Những điều tuyệt vời khác trên MYTOUR

• 📩 Muốn biết tin mới nhất về công nghệ, khoa học và nhiều hơn nữa? Đăng ký nhận bản tin của chúng tôi!
• Tử thần, tình yêu và niềm an ủi từ triệu chiếc xe máy
• Hành trình khai quật một trong những nhà thờ Da đen cổ nhất của Mỹ
• Wish List: Ý tưởng quà tặng cho bubble xã hội của bạn và hơn thế nữa
• Vụ tấn công Bluetooth này có thể đánh cắp một chiếc Tesla Model X trong vài phút
• Phương pháp tiếp cận thị trường tự do đối với đại dịch này đang không hoạt động
• 🎮 MYTOUR Games: Nhận các mẹo, đánh giá và nhiều hơn nữa
• ✨ Tối ưu hóa cuộc sống tại nhà của bạn với những lựa chọn tốt nhất từ đội ngũ Gear của chúng tôi, từ robot hút bụi đến đệm giá rẻ và loa thông minh