Chi tiết về 'Quan sát' của Nguyên Trưởng Bảo vệ An ninh của Facebook về Lạm dụng Internet

Khi Alex Stamos mô tả thách thức nghiên cứu về những vấn đề tồi tệ nhất của hành vi xấu quy mô lớn trên internet, anh ta so sánh nó với thiên văn học. Để đồng nhất vũ trụ, những nhà thiên văn không xây dựng các kính viễn vọng Hubble hoặc các đài quan sát Arecibo của họ. Họ tập trung nguồn lực của mình ở một số nơi thuận lợi và chia sẻ thời gian trên phần cứng đắt tiền. Nhưng khi đối mặt với việc giải quyết vấn đề lạm dụng internet từ cực đoan đến thông tin sai lệch đến tận dụng trẻ em, Stamos cho rằng các công ty Silicon Valley và các nhà nghiên cứu vẫn đang cố gắng xây dựng các kính viễn vọng của riêng họ. Thay vào đó, họ nên chia sẻ công cụ của họ—và quan trọng hơn, các bộ dữ liệu khổng lồ họ đã thu thập?

Đó là ý tưởng đằng sau Quan sát Internet Stanford, một phần của Trung tâm Chính sách An ninh Mạng Stanford nơi Stamos làm giáo sư thăm. Được thành lập với 5 triệu đô la quyên góp từ người sáng tạo Craigslist, Craig Newmark, Internet Observatory hướng đến việc trở thành một trung tâm chính cho nghiên cứu về mọi hình thức lạm dụng internet, tổ chức các công cụ máy học cần thiết, các chuyên gia phân tích dữ liệu lớn, và có thể quan trọng nhất, quyền truy cập vào dữ liệu người dùng của các nền tảng công nghệ lớn—một yếu tố quan trọng cho dự án có thể phụ thuộc vào việc các công ty công nghệ hợp tác và mức độ hợp tác của họ.

Làm ví dụ về những hiện tượng mà quan sát hy vọng nghiên cứu và học cách ngăn chặn, Stamos chỉ ra thông tin sai lệch chính trị giống như loại thông tin đã làm xáo trộn cuộc bầu cử tổng thống năm 2016 trong thời gian làm việc tại Facebook, một vấn đề đã trở thành ví dụ nổi bật nhất về điểm mù của Silicon Valley về việc lạm dụng dịch vụ của họ. "Thông tin sai lệch không chỉ là vấn đề khoa học máy tính. Đây là một vấn đề liên quan đến khoa học chính trị, xã hội học, tâm lý học," Stamos nói. "Một phần của ý tưởng về Quan sát Internet là xây dựng một nơi để những người này làm việc cùng nhau, và chúng tôi muốn xây dựng cơ sở hạ tầng cần thiết để cho phép tất cả các phần khác nhau của khoa học chính trị và xã hội học nghiên cứu những gì đang diễn ra trực tuyến."

Stamos cho biết quan sát hiện đang thương lượng với các công ty công nghệ—anh ấy gọi tên Facebook, Google, Twitter, YouTube và Reddit làm ví dụ—hy vọng sẽ cung cấp quyền truy cập vào dữ liệu người dùng qua API theo thời gian thực và trong lưu trữ lịch sử. Quan sát sau đó sẽ chia sẻ quyền truy cập đó với các nhà khoa học xã hội có thể có một dự án nghiên cứu cụ thể nhưng thiếu kết nối hoặc nguồn lực để đối mặt với sự lớn lao của dữ liệu liên quan. Stamos hy vọng rằng trung tâm dữ liệu của mình có thể giảm thiểu rào cản kỹ thuật mà các nhà khoa học xã hội phải đối mặt khi họ cố gắng nghiên cứu người dùng trực tuyến ở quy mô lớn.

"Họ phải nhờ sinh viên cao học viết Python, họ phải dành tháng cảm đất với các công ty công nghệ để thương lượng thỏa thuận truy cập dữ liệu, họ phải xây dựng một loạt cơ sở hạ tầng khoa học dữ liệu," Stamos nói. "Chúng tôi đang cố gắng thực hiện công việc đó một lần và cung cấp nó cho tất cả những người này."

Đầu tiên, Lấy Dữ Liệu

Tuy nhiên, việc thương lượng quyền truy cập vào dữ liệu có thể không dễ dàng, ngay cả đối với ai có nhiều mối liên kết với Silicon Valley như Stamos. Facebook đã cảnh báo về bất kỳ thỏa thuận chia sẻ dữ liệu nào với các nhà nghiên cứu kể từ vụ bê bối Cambridge Analytica thảm họa của mình, một thảm họa về quyền riêng tư—điều đã xảy ra trong thời kỳ Stamos giữ chức vụ—mà theo đó FTC mới thông báo một khoản phạt 5 tỷ đô la đối với công ty ngay hôm qua. Quy định Bảo vệ Dữ liệu Chung của Liên minh Châu Âu cũng giới hạn loại dữ liệu mà các công ty công nghệ có thể chia sẻ về người dùng châu Âu. Và việc thu thập toàn bộ quyền truy cập đó trong một tổ chức có thể khiến nó trở thành một mục tiêu quan trọng cho các hacker.

Mytour liên lạc với Twitter, Google, Facebook và Reddit về kế hoạch của quan sát. Twitter và Reddit từ chối bình luận, tuy nhiên một người phát ngôn của Reddit cho biết công ty chưa được tiếp cận để chia sẻ dữ liệu. Facebook và Google không đáp trả.

Là một mô hình cho cách những thỏa thuận chia sẻ dữ liệu có thể được ký kết, Stamos chỉ đến một dự án khác được biết đến là Social Science One. Khi được tạo ra vào tháng 4 năm 2018, sáng kiến đó đã đạt được thỏa thuận với Facebook để truy cập một số dữ liệu người dùng của nó như một phần của nỗ lực của nó để chống lại thông tin sai lệch được thiết kế đặc biệt để tác động đến các cuộc bầu cử dân chủ. Thỏa thuận chia sẻ dữ liệu này sử dụng một hình thức gọi là quyền riêng tư khác biệt, một loại công cụ đang phát triển vẫn cho phép truy vấn dữ liệu theo tổng hợp trong khi giới hạn chi tiết được bao gồm trong các câu trả lời. Điều này có nghĩa là không có thông tin nhận dạng duy nhất nào được chia sẻ về cá nhân.

"Điều này thực sự nổi lên từ đống tro của vụ bê bối Cambridge Analytica," nói Nate Persily, người sáng lập Social Science One và cũng là đồng giám đốc Trung tâm Chính sách An ninh Mạng Stanford nơi Quan sát Internet sẽ đặt. "Đây là một cố gắng để tìm ra một cách an toàn, bảo mật, bảo vệ quyền riêng tư để làm cho dữ liệu này có sẵn cho các nhà nghiên cứu."

Trong khi Quan sát của Stamos hy vọng truy cập một số dữ liệu của các công ty thông qua Social Science One và thông qua các thương lượng trực tiếp của quan sát, trong những trường hợp khác nó dự định tiếp cận một cách trực tiếp hơn: đơn giản là thu thập dữ liệu công cộng mà không cần xin phép. Sau tất cả, Stamos chỉ ra rằng nhiều hành vi cực đoan và lạm dụng trên internet tồn tại trên các trang như 4chan, 8chan, Voat và Gab, không phải là các trang chính thống có thể hợp tác với dự án của anh ta. Mặc dù việc thu thập dữ liệu từ những trang đó có vẻ làm phiền, Stamos chỉ ra rằng người dùng của những trang này thường là ẩn danh theo mặc định và công khai trong những bài đăng của họ.

"Hiện tại bạn không thể nghiên cứu về nguyên nhân dẫn đến vụ bắn Christchurch, vì dữ liệu đó đã bị rút intentionally và loại bỏ để che giấu dấu vết," Stamos nói, đề cập đến vụ bắn 51 người tại một nhà thờ Hồi giáo ở New Zealand, một hành động mà thủ phạm đã đăng một bản tuyên bố trên trang mạng xã hội ngoại vi 8chan. Vấn đề quyền riêng tư xung quanh những trang web đó, theo Stamos, là "điều chúng tôi rất nhận thức và chúng tôi đang cố gắng cẩn thận trong việc sử dụng điều này. Nhưng cuối cùng, nếu bạn muốn hiểu vấn đề này, bạn không thể làm được mà không hiểu về những góc tối nhất của internet."

Từ An ninh đến Giáo dục về 'Khả năng Lạm dụng'

Ý tưởng về Quan sát Internet của Stamos ra đời khi anh gặp Craig Newmark tại buổi tiếp đãi Aspen Cybersecurity Summit mùa hè ngoái. Newmark, người đã tặng hơn 100 triệu đô la cho các dự án tập trung vào những gì anh ta mô tả là "chiến tranh thông tin"—bao gồm hàng chục triệu đô la cho các tổ chức báo chí, trường báo chí và một cuộc thi tập trung vào đạo đức trong khoa học máy tính—cho biết anh ấy đã ấn tượng với cách tiếp cận mà Stamos mô tả. "Đây là thực sự là thế chiến tranh thế giới thứ Hai, điều tuyệt vời nhất. Nhu cầu là cấp bách, tình trạng khẩn cấp là thực," Newmark nói. "Mọi người phải đứng lên và trở thành những người yêu nước. Điều đó có nghĩa là các nền tảng và nhà nghiên cứu và nhà tài trợ. Alex và những người giống anh ta đang ở hàng đầu."

Nhìn chung, Stamos nói rằng mục tiêu của ông với Quan sát của mình—và kế hoạch cho một chương trình giáo dục đại học Stanford liên quan đến nó—là thúc đẩy tư duy có hệ thống hơn về vấn đề lạm dụng trên các công ty công nghệ, một sự chuyển đổi ông mô tả giống như sự phát triển an ninh mạng mà ngành công nghiệp công nghệ đã trải qua 20 năm trước. Khi ấy, khi Stamos bắt đầu sự nghiệp tại công ty tư vấn an ninh mạng huyền thoại @stake, các công ty chỉ mới tỉnh táo với sự không an toàn của mã code của họ và học cách hợp tác với những nhà nghiên cứu học và hacker trắng bổng đang tìm lỗ hổng trong sản phẩm của họ.

"Chúng ta đang ở vào cùng một vị trí với những vấn đề lớn hơn về sự tin cậy, an toàn và quyền riêng tư trong ngành công nghiệp của chúng ta không biết cách xây dựng phần mềm mà người dùng có thể tin tưởng là hoạt động vì lợi ích tốt nhất của họ và bảo vệ họ khỏi mọi hình thức lạm dụng này," Stamos nói. Ông cho rằng một thế hệ kỹ sư mới cần phải học cách nghĩ có hệ thống về khả năng lạm dụng cũng như họ làm về an ninh—cách mà công cụ của họ có thể có những tác động không mong muốn và nguy hiểm trong thế giới thực. "Nếu bạn chỉ có bộ kỹ năng bạn thường nhận được từ giáo dục khoa học máy tính, bạn hoàn toàn không sẵn sàng cho những hình thức lạm dụng sẽ xảy ra trên sản phẩm của bạn."

Thông qua sự kết hợp giữa giáo dục, nghiên cứu và vận động, Stamos hy vọng Quan sát của mình có thể đẩy ngành công nghiệp công nghệ hướng đến việc nghiêm túc xử lý những vấn đề về khả năng lạm dụng đó—và cho họ thấy những giải pháp thực sự dựa trên phân tích sâu rộng trên toàn bộ dữ liệu internet. "Nếu chúng ta muốn các công ty ra quyết định thông minh, chúng ta phải tạo ra khung tư duy cho họ dựa trên và chúng ta cũng phải vận động họ," Stamos nói. "Sự thật không may là những quyết định quan trọng nhất về sự cân bằng giữa quyền riêng tư và an toàn trực tuyến không được đưa ra ở Washington DC, Brussels, hay Paris. Chúng đang được đưa ra tại Silicon Valley."

More Great Mytour Stories

• Chuyện kịch tính: Một công ty sinh học canabis làm xao lạc những người trồng nhỏ
• Những bí ẩn về Mặt Trăng mà khoa học vẫn cần giải đáp
• Các máy pha cà phê tự động siêu cấp có đáng giá không?
• Những thuật toán xuất sắc không nhận ra khuôn mặt người da đen một cách bình đẳng
• Những hacker đã tạo ra một ứng dụng giết người để chứng minh một điểm
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để duy trì sức khỏe? Kiểm tra những lựa chọn của đội ngũ Gear chúng tôi cho những bộ theo dõi sức khỏe tốt nhất, đồ chạy bộ (bao gồm giày và tất), và tai nghe tốt nhất.
• 📩 Nhận thêm nhiều thông tin bí mật hơn với bản tin hàng tuần Backchannel của chúng tôi