Buzz
Aaah, những truyền thống của một năm học mới. Giáo viên mới, cặp xách mới, tình tự mới—và các thuật toán lục lọi các bài viết trên mạng xã hội của học sinh.
Blake Prewitt, hiệu trưởng huyện trường học Lakeview tại Battle Creek, Michigan, cho biết anh thường thức dậy mỗi buổi sáng với hai mươi email mới từ hệ thống theo dõi truyền thông xã hội mà huyện đã kích hoạt vào đầu năm nay. Nó sử dụng từ khóa và thuật toán học máy để đánh dấu các bài đăng công khai trên Twitter và các mạng khác chứa ngôn ngữ hoặc hình ảnh có thể gợi ý xung đột hoặc bạo lực, và đánh dấu hoặc đề cập đến các trường học hoặc cộng đồng của huyện.
Trong những tháng gần đây, các email cảnh báo đã bao gồm một vụ thử bắt cóc ngoại ô một trường—Prewitt kiểm tra xem camera an ninh của trường có thể giúp đỡ cảnh sát—và một bình luận về quy tắc ăn mặc từ người thân của một học sinh—nhân viên huyện liên lạc với gia đình. Prewitt nói rằng các cảnh báo giúp anh duy trì an toàn cho 4,000 học sinh và 500 nhân viên của mình. “Nếu ai đó đăng một điều đe doạ đối với người khác, chúng tôi có thể liên lạc với gia đình và làm việc với học sinh trước khi nó trở thành một cuộc đấu đối trong trường học,” anh nói.
Dịch vụ của Lakeview do Firestorm cung cấp, một công ty có trụ sở tại Georgia cũng giúp các trường học phát triển chính sách an toàn và phản ứng khẩn cấp. Như những người khác trong những gì được cho là một thị trường nổi lên, công ty quảng cáo công cụ theo dõi truyền thông xã hội của mình có thể giúp các trường học ngăn chặn mọi thứ từ sexting và bắt nạt đến các vụ xả súng hàng loạt. Một ví dụ về một bài đăng mà Firestorm nói rằng nền tảng của họ đã đánh dấu là: “Mỗi lần tôi nói chuyện với mẹ tôi, tôi lại nói một điều gì đó với bà một cách thô lỗ và bà tức giận ngay cả khi tôi cố gắng không thô lỗ.” Một tờ thông tin của công ty dành cho các trường học bao gồm một loạt các tweet giả mạo từ “Bạn gái tôi đã bỏ tôi. Cuộc đời tôi đã kết thúc” đến “Bang, bang. Hy vọng mọi người đều nghiêm túc với tôi. Tạm biệt 🔫.”
Vụ xả súng giết chết 17 người tại trường Trung học Marjory Stoneman Douglas ở Parkland, Florida, earlier this year đã trở thành một điểm nói của ngành công nghiệp chuyên sâu này. Một tháng sau vụ tấn công, Gary Margolis, Giám đốc điều hành của Social Sentinel, một công ty tại Vermont cung cấp dịch vụ theo dõi truyền thông xã hội cho các trường học và tổ chức khác, mô tả kinh doanh của mình là “chắc chắn đang phát triển” và tuyên bố rằng thuật toán của anh ta sẽ đã đánh dấu các bài đăng đe doạ mà thủ phạm đã đăng trước khi giết người. Hart Brown, giám đốc điều hành của Firestorm, nói với MYTOUR rằng vào đầu năm nay, hệ thống của công ty đã đánh dấu một bài đăng của một học sinh chứa ảnh của một chiếc cặp với một vũ khí bên trong. Khi hiệu trưởng trường tiếp cận học sinh trên khuôn viên trường, họ đang mang theo vũ khí, Brown nói. Qua Firestorm, trường từ chối bình luận.
Không có nghi ngờ gì về việc học sinh chia sẻ thông tin trên mạng xã hội mà quản trị viên trường có thể thấy hữu ích. Có một số tranh cãi về việc liệu—hoặc cách—nó có thể được trích xuất một cách chính xác hoặc đạo đức bởi phần mềm.
Amanda Lenhart, một nhà nghiên cứu của New America Foundation đã nghiên cứu cách thiếu niên sử dụng internet, nói rằng việc các trường học muốn theo dõi mạng xã hội là điều dễ hiểu. “Các quản trị viên quan tâm đến trật tự và an toàn trong tòa nhà trường và những điều có thể tự do từ mạng xã hội—mà họ không quản lý—vào không gian đó,” cô nói. Nhưng Lenhart cảnh báo rằng nghiên cứu về trẻ em, thiếu niên và mạng xã hội đã cho thấy rằng đối với người lớn nhìn vào những cộng đồng trực tuyến đó từ bên ngoài, việc dễ dàng diễn giải ý nghĩa của nội dung ở đó là khó khăn.
“Thậm chí nếu có người trực tiếp nhìn vào bài đăng, họ cũng sẽ không biết họ đang nhìn vào cái gì,” Lenhart nói. “Điều này có thể trở nên tồi tệ hơn khi có một thuật toán không thể hiểu rõ ngữ cảnh của những gì nó đang nhìn thấy.” Mặc dù phần mềm xử lý văn bản đã cải thiện trong những năm gần đây—xin chào, Alexa!—nhưng nó vẫn chưa thể đọc một cách thực sự. Các kết quả dương giả từ các dịch vụ theo dõi truyền thông xã hội có thể làm lãng phí thời gian của trường và thay đổi bầu không khí giữa học sinh và nhân viên, Lenhart nói.
Desmond Patton, một giáo sư tại Columbia, tin rằng theo dõi mạng xã hội có thể hoạt động nếu được quản lý đúng cách. “Tôi nghĩ có cơ hội cho các trường học sử dụng điều này như một cách để hỗ trợ mọi người nhưng tôi sẽ làm điều này với cảnh báo cực kỳ cẩn trọng,” Patton nói, người đã tư vấn cho Social Sentinel. Phòng thí nghiệm của ông đã hợp tác với các nhân viên xã hội cố gắng giảm bạo lực băng đảng ở Chicago để đào tạo phần mềm học máy để tìm tweet diễn đạt sự chấn thương và mất mát. Nhóm đã chỉ ra rằng các cập nhật loại đó thường điều trước cho các bài đăng chứa đe doạ, và hy vọng thử nghiệm thuật toán của họ làm công cụ cho tổ chức cộng đồng ở Chicago và New York City.
Patton lo ngại rằng công nghệ được cung cấp cho các trường học có thể có khả năng phát hiện sai sót trong ngôn ngữ được sử dụng bởi thanh thiếu niên da màu, có thể khiến họ phải chịu sự kiểm tra kỹ lưỡng hơn từ phía quản trị trường. Anh và Lenhart cũng nói rằng các trường học nên tiết lộ rằng họ đang sử dụng các hệ thống có thể húp vào các bài đăng công khai của học sinh, vì không phải tất cả đều đã xem xét ai có thể đọc hoặc thu thập bài đăng của họ.
Social Sentinel và Firestorm đều nói rằng họ để quyết định đó thuộc về quyền của khách hàng của họ, và nhấn mạnh rằng họ chỉ quét các bài đăng công khai, nhắm mục tiêu vào các chủ đề và địa điểm chứ không phải cá nhân. Trong các trường học của Lakeview, học sinh được học về mạng xã hội. Đó bao gồm hướng dẫn về cài đặt quyền riêng tư, nhưng không nói về việc sử dụng dịch vụ của Firestorm của quận. Cả hai công ty đều nói rằng họ đã thiết kế hệ thống của mình để hoạt động với nhiều loại lóng xó trong cả nước, và thường xuyên cập nhật từ vựng của họ với dữ liệu mới.
Học sinh ở các trường học của Lakeview trở lại lớp vào ngày 4 tháng 9. Mặc dù ông sẽ bận rộn, giám đốc Prewitt nói rằng ông không phiền phức khi phải dành thời gian mỗi ngày để đọc qua những bài đăng được đánh dấu đôi khi là không liên quan, ngay cả khi nó có thể làm mất tập trung. Ông nhớ lại một buổi sáng khi trái tim ông đập nhanh vì một cảnh báo về một kẻ bắn tỉa đang hoạt động—nó cuối cùng liên quan đến một Trường Trung học Lake View ở Chicago. “Luôn có công việc theo sau phải được thực hiện, nhưng tôi thà có nhiều thông tin hơn là ít thông tin,” ông nói.
More Great MYTOUR Stories
- Người đàn ông tại Sonos đang xây dựng internet âm thanh
- Crazy Rich Asians thay đổi mọi thứ—nhưng cũng mọi thứ
- Ngôn ngữ lập trình cuối cùng có thể đạt tới một trạng thái ổn định
- Tương lai của truyền hình là ... nhiều hơn nữa
- Gặp chiếc máy bay chiến đấu mới của Anh, rất Anh
- Đang tìm kiếm thêm? Đăng ký nhận bản tin hàng ngày của chúng tôi và đừng bao giờ bỏ lỡ những câu chuyện mới và tuyệt vời nhất của chúng tôi
