Công Cụ Mới Này Nhằm Ngăn Chặn Nội Dung Khủng Bố Trên Internet

Nhóm khủng bố đã tìm thấy một nơi trên các nền tảng trực tuyến nhỏ hơn, ít được biết đến gần đây, nơi họ lưu trữ, chia sẻ và liên kết đến nội dung như video đâm đầu bạo lực và tuyển mộ quảng cáo.

Những nền tảng đó đã gặp khó khăn trong việc giải quyết vấn đề do thiếu nguồn lực và chuyên môn, nhưng một công cụ mới được xây dựng bởi một công ty con của Google phối hợp với một tổ chức theo dõi khủng bố đang cố gắng giải quyết vấn đề đó.

Ra mắt tại Paris vào thứ Sáu, Altitude là một công cụ miễn phí được xây dựng bởi Jigsaw—một đơn vị trong Google theo dõi cực đoan bạo lực, thông tin sai lệch và kiểm duyệt đàn áp—và Tech Against Terrorism, một nhóm tìm cách làm gián đoạn hoạt động trực tuyến của khủng bố. Công cụ nhằm mục đích mang lại khả năng cho các nền tảng nhỏ có thể dễ dàng và hiệu quả phát hiện nội dung khủng bố trên mạng của họ và loại bỏ nó.

Dự án cũng đang hợp tác với Diễn đàn Internet Toàn cầu chống khủng bố, một nhóm do ngành công nghiệp dẫn đầu được thành lập năm 2017 bởi Facebook, Microsoft, Twitter và YouTube, chủ nhân một cơ sở dữ liệu chia sẻ về các hash hình ảnh—một loại dấu vân tay số—của nội dung khủng bố.

Sau nhiều năm bước nhầm và không giải quyết được vấn đề gỡ bỏ nội dung khủng bố khỏi mạng của họ, các nền tảng công nghệ lớn như Facebook, Google và X (trước đây là Twitter)—với sự giúp đỡ của các tổ chức phi lợi nhuận và cảnh sát—đã phần lớn loại bỏ nội dung này khỏi mạng của họ, ngoại trừ Telegram. Do đó, khủng bố đã chuyển sang các nền tảng ít được quy định và thiếu nguồn lực, nơi sự hiện diện của họ hoặc không được chú ý hoặc không thể giải quyết vì các công ty liên quan đơn giản không có đủ nguồn lực để xử lý một lượng lớn yêu cầu gỡ bỏ.

“Nhóm Nhà nước Hồi giáo và các nhóm khủng bố khác không từ bỏ internet chỉ vì họ không còn loa phóng thanh từ các nền tảng truyền thông xã hội của họ. Họ đã chuyển sang nơi khác,” Yasmin Green, CEO của Jigsaw, cho biết với MYTOUR. “Họ tìm thấy cơ hội để đăng nội dung trên các trang lưu trữ tệp hoặc trang web khác, trên các nền tảng nhỏ và trung bình. Những nền tảng đó không hoan nghênh nội dung khủng bố, nhưng vẫn đang lưu trữ nó—và thực sự, khá nhiều.”

Trong khi có một số công cụ trên thị trường hoạt động theo cách tương tự như Altitude, chúng quá đắt đỏ đối với nhiều công ty nhỏ. Chuyên gia như Green tin rằng các công cụ như vậy cần phải là mã nguồn mở và miễn phí.

Công cụ mới có thể được tích hợp trực tiếp vào phần backend của bất kỳ nền tảng nào nó đang làm việc. Sau đó, nó kết nối với Nền tảng Phân tích Nội dung Khủng bố của Tech Against Terrorism, tổng hợp việc thu thập nội dung đã được tạo ra bởi các tổ chức khủng bố được chính thức chỉ định. Cơ sở dữ liệu cho phép tất cả các nền tảng sử dụng Altitude kiểm tra dễ dàng xem một đoạn nội dung đã được xác minh là nội dung khủng bố.

Altitude cũng sẽ cung cấp ngữ cảnh về các nhóm khủng bố mà nội dung này liên quan đến, các ví dụ khác về loại nội dung này, thông tin về những gì các nền tảng khác đã làm với nội dung, và, cuối cùng, thậm chí là thông tin liên quan đến luật pháp liên quan trong một quốc gia hoặc khu vực cụ thể.

“Chúng tôi không ở đây để nói cho các nền tảng biết phải làm gì mà thay vào đó là để cung cấp cho họ tất cả thông tin mà họ cần để đưa ra quyết định kiểm duyệt," Adam Hadley, giám đốc điều hành của Tech Against Terrorism, cho biết với MYTOUR. “Chúng tôi muốn cải thiện chất lượng phản ứng. Điều này không phải là về lượng nội dung đã được loại bỏ mà là đảm bảo rằng nội dung tồi tệ nhất được loại bỏ một cách hỗ trợ cho quy luật.”

Tech Against Terrorism hợp tác với hơn 100 nền tảng, gần như tất cả đều không muốn được công bố tên do ảnh hưởng tiêu cực đối với kinh doanh của họ khi được liên kết với nội dung khủng bố. Các loại công ty mà Tech Against Terrorism hợp tác bao gồm pastebins, ứng dụng nhắn tin, nền tảng chia sẻ video, mạng xã hội và diễn đàn.

Đối với nhiều trong những nền tảng nhỏ này, việc xử lý yêu cầu gỡ bỏ từ chính phủ, tổ chức xã hội dân sự, cảnh sát và người dùng của nền tảng có thể làm cho họ trở nên quá tải và dẫn đến các công ty đi từ một cực này sang cực khác.

“Các nền tảng có thể dễ dàng bị quá tải bởi các yêu cầu gỡ bỏ, và họ entweder không để ý đến chúng hoặc họ gỡ bỏ tất cả mọi thứ,” Hadley nói. “Điều chúng tôi đang tìm kiếm là cố gắng tạo ra một môi trường nơi các nền tảng có các công cụ để có thể đánh giá đúng liệu họ nên gỡ bỏ vật liệu hay không, bởi vì việc gỡ bỏ nội dung khủng bố là cấp bách, nhưng cũng quan trọng là họ không chỉ đơn giản loại bỏ mọi nội dung do lo ngại về tự do ngôn luận.”

Chiến tranh giữa Israel và Hamas đã cho thấy vai trò quan trọng mà Telegram vẫn đang đóng trong việc cho phép các nhóm khủng bố truyền đạt thông điệp của họ. Trong khi các nỗ lực yêu cầu Telegram chịu trách nhiệm đã có một số thành công hạn chế trong những tuần gần đây, nội dung khủng bố vẫn có thể truy cập, và từ đây nội dung nhanh chóng được chia sẻ trên nhiều nền tảng khác nhau. Và đây là nơi công cụ Altitude có thể tạo ra sự khác biệt, theo Hadley.

“Lí tưởng nhất, nội dung không nên được đăng trên Telegram từ đầu,” Hadley chia sẻ. “Nhưng khi đã xảy ra, điều chúng ta có thể làm tiếp theo tốt nhất là đảm bảo rằng các nền tảng khác đang bị khủng bố lợi dụng đều nhận thức về hoạt động này và có đủ thông tin để gỡ bỏ vật liệu một cách thích hợp.”