Cựu Trưởng phòng An toàn và Tin cậy của Twitter Lần đầu Tiên Lên Tiếng

Là 8 giờ tối trong một đêm thu gần đây, tôi cuối cùng cũng thư giãn, và Del Harvey đang nhắn tin cho tôi. Lần nữa.

Lần này, bà ấy đang gửi cho tôi một ảnh chụp màn hình của những tweet căng thẳng giữa lãnh đạo tối cao của một quốc gia và tài khoản Twitter chính thức của một quốc gia đối thủ. Tôi trả lời với một câu hỏi: “Hãy nói rằng bạn vẫn làm việc tại Twitter. Bạn sẽ xử lý thế nào?” Harvey hướng dẫn tôi qua quá trình ra quyết định của mình, sau đó đảo ngược tình thế: “Bạn sẽ làm gì?” Tôi hỏi bà ấy liệu tôi có thể cân nhắc thêm. Bà ấy nói với tôi rằng tôi không có đủ thời gian để cân nhắc thêm. Bất kỳ quyết định nào tôi đưa ra, mọi người sẽ căm ghét tôi vì nó. Và bất kỳ kết quả nào, có thể làm người khác chết. “Bạn phải sống với quyết định kém tồi tệ nhất bạn có thể với những tài nguyên bạn có,” bà ấy viết.

Sáng hôm sau, một tin nhắn khác từ Harvey: “Được rồi, vậy bạn đã suy nghĩ thêm về nó; quyết định của bạn là gì?” Sự nặng nề của quyết định như một khối bê tông trên ngực tôi, và ngay cả sau khi xem xét tất cả các khía cạnh, tôi chắc chắn rằng bất kỳ lựa chọn nào tôi đưa ra cũng sẽ là một sai lầm về quản lý nội dung.

Sự cấp bách của Harvey, ngay cả sau 12 giờ, là một phản xạ: Đây chính xác là những gì bà đã làm suốt 13 năm khi làm trưởng nhóm tin cậy và an toàn của Twitter. Nếu có vấn đề nào về nội dung trên nền tảng, hoặc bất kỳ vấn đề nào khác, mọi người sẽ nói, “Nhắn tin cho Del.” Bây giờ, sau hai năm im lặng, Harvey cuối cùng đã quyết định nói. Bà đang kéo lùi bức màn ảo về quyết định tắt tiếng, cấm và chặn nội dung trên Twitter suốt những năm qua—và cuộc sống như thế nào trong thời kỳ trước Elon.

Bà cũng đang nói về cuộc sống hiện tại của mình, kéo lùi bức màn thực tế và xây dựng bộ decor cho các vở kịch dành cho trẻ em. Tôi không thể nói chính xác nơi này là ở đâu vì, mặc dù đã rời khỏi những cuộc đấu tranh của Twitter, Harvey vẫn đang ở trong chế độ OpSec.

Del Harvey thậm chí còn không phải là tên thật của bà. Đó là điều mà mọi người biết về bà—hoặc có lẽ là @delbius, cái biệt danh trực tuyến mà bà trở nên nổi tiếng. Harvey bắt đầu giấu danh tính của mình từ năm 2003, khi bà bắt đầu làm việc cho một tổ chức phi lợi nhuận có tên Perverted Justice, chuyên điều tra các tên ác nhân trực tuyến. Perverted Justice hợp tác với loạt phim truyền hình của NBC có tên Bắt Gặp Một Rối, nơi quay các cuộc phục kích rối giả, vì vậy Harvey đã làm việc trong ngành truyền hình. Bà 21 tuổi nhưng có thể trôi qua như 12 tuổi. Điều này có nghĩa là bà làm vai mồi. Năm năm sau đó, khi một người bạn liên lạc và đề xuất Harvey nhận một công việc tại một công ty công nghệ mới nổi, đó là điều dễ dàng so với việc bắt ác nhân trực tuyến.

Vào cuối năm 2021, Harvey đã rời Twitter. Cô không còn ở đó khi Collier Navaroli làm chứng, hoặc khi Elon Musk mua lại Twitter, đổi tên thành X, và giảm đội ngũ an toàn và tin cậy của công ty. Harvey đã ra đi lâu khi các nhà quảng cáo bắt đầu rời Twitter vì thiếu an toàn thương hiệu—cách diễn đạt trong ngôn ngữ doanh nghiệp là họ không thể rủi ro để quảng cáo của họ xuất hiện cùng với những tweet ủng hộ phát xít.

Nhưng liệu có ai đó thực sự có thể rời Twitter? Harvey, sau những lúc ban đầu e dè, dường như khá hài lòng khi chúng tôi gặp nhau tại một hội thảo rộng lớn về kịch local ở khu vực vịnh năm nay. Cô nói về địa chính trị, xây dựng bộ mô phỏng kịch, các máy chủ Discord cô thường xuyên tham gia, và Taylor Swift, tất cả đều được cô nói liền mạch. (Harvey là một Swiftie.) Sau đó, tôi phát hiện ra rằng một người tên là @delbius trên Reddit đã giúp thiết lập các chương trình quyên góp nhân dịp lễ và phân phát đồ chơi, dụng cụ nghệ thuật và bánh pizza cho những người xa lạ trên internet. Vâng, đây chính là Harvey, đang tìm kiếm ý nghĩa và dành thời gian cho mọi thứ ngoại trừ X-trước-đây-là-Twitter. Và tuy nhiên, Harvey vẫn rình rập trên Twitter. Cô thấy tất cả những tweet. Cô biết những hành động bạo lực chúng kích thích. Và cô nghĩ về điều cô sẽ làm tiếp theo.

Lauren Goode: Một số thương hiệu và nhà quảng cáo nổi tiếng đã thông báo họ tạm dừng quảng cáo trên X vì quảng cáo của họ xuất hiện kèm theo những tweet chống semit và nội dung gây tranh cãi khác. X nói từ tháng Tám rằng nó đã mở rộng các công cụ an toàn thương hiệu này, nhưng điều này dường như không giúp được ở đây. Làm thế nào điều này có thể xảy ra?

Del Harvey: Chà, tôi đã không ở đó được một thời gian dài nên tôi không thể nói về cách nó hoạt động hiện tại. Nhưng một trong những thách thức lớn trong những ngày đầu là hệ thống an toàn của người quảng cáo, hệ thống quảng cáo nhìn chung, được xây dựng trên một ngăn cách hoàn toàn khác biệt so với tất cả các phần còn lại của Twitter. Hãy tưởng tượng hai tòa nhà đứng sát nhau mà không có sự giao tiếp giữa chúng. Khả năng nhận biết nội dung gây tranh cãi trên phía hữu cơ không thể dễ dàng tích hợp vào phía quảng cáo được. Đó là một tình huống ouroboros, hai bên mắc kẹt trong cuộc đấu tranh nội bộ không có thông tin vì họ không kết nối hai bên.

Twitter đã mua lại một công ty, Smyte, vào năm 2018, có những người cực kỳ thông minh đã xây dựng một số công cụ nội bộ rất hay để chúng tôi sử dụng. Nhưng tôi không biết liệu chúng có còn được sử dụng hay không.

Đồng thời còn có điều này: Thậm chí nếu hệ thống của bạn đang hoạt động đúng cách, điều đó không quan trọng nếu bạn cung cấp cho mọi người công cụ để nói, “Tôi không muốn bài đăng của mình xuất hiện gần nội dung rủi ro” nếu nó không được nhận diện là “rủi ro” bởi, tôi không biết, giám đốc điều hành?

Tôi nghĩ đó là điều thú vị khi Linda [Linda Yaccarino, giám đốc điều hành hiện tại của X] đặt ra một điểm tại cuộc phỏng vấn gần đây tại Hội nghị Code để phân biệt giữa Twitter và X. Như, đó là quá khứ và đây là hiện tại.

Tôi không ở phía thương hiệu hoặc tiếp thị cái gì cả, nhưng Twitter có mức độ nhận thức tên tuổi khá cao trong các gia đình. Nó có từ riêng trong từ điển, phải không? Chuyển sang X cảm giác giống như... Một lần tôi đang lái xe qua quốc gia và tôi đi qua một nơi được gọi là Motel Generic, và tôi nghĩ, “Họ chắc có SEO tồi nhất, hoặc tốt nhất.”

Bạn đang xây dựng cái gì ở đây, nhỉ? [Chỉ vào một chiếc cầu gỗ nhỏ và một đống khối bọt xốp.]

Nhớ đoạn trong Willy Wonka khi Augustus Gloop đang uống từ dòng sô cô la và bị cuốn phăng xuống sông sô cô la? Cái thảm đổ này sẽ nằm dưới đáy sô cô la. Vì vậy, đây là vải ô dù được đổ đầy với 144 khối bọt xốp kích thước 6x6. Bạn có thể thử hoàn toàn. Nó thực sự rất vui.

Ồ. Được rồi ... Vậy tôi là Augustus Gloop.

Đúng, bạn đang uống sô cô la...

Tôi hơi căng thẳng, phải thừa nhận.

Đó là lý do tại sao nó rộng. Để ngay cả khi bạn vượt quá, bạn vẫn có một sự lao dốc nhẹ. [Tôi lăn lộn qua mép cầu.] Tốt lắm. Nhìn kìa, bạn không chết hoặc gì cả. Điều đó thực sự là một chiến thắng trong sách của tôi.

Vậy nên chúng ta quay lại năm 2008. Bạn gia nhập Twitter.

Tôi còn rất trẻ.

Trước khi đến Twitter, bạn làm việc tại Perverted Justice và To Catch A Predator của NBC. Bạn có bao giờ sợ về an toàn của mình không?

Nhìn lại, vâng, trời ơi. Ví dụ, có lần một chàng trai đến và ngồi gần tôi trên một băng ghế ở công viên. Anh ta có kỳ thị chân. Anh ta vươn ra và chạm vào chân tôi và nói, “Tôi nghĩ bạn sẽ sơn móng chân cho tôi.” Chiến lược của tôi suốt thời gian ở đó là, thành thật mà nói, câu trả lời của bạn càng ngớ ngẩn, nó càng nghe có vẻ thực tế. Vì vậy, tôi bắt đầu nói, “Bạn biết không, đôi khi khi bạn sơn móng, bạn có một bong bóng ngay ở mép gần phía dưới không? Điều đó xảy ra với tất cả năm ngón chân của bàn chân phải của tôi…” Một số lời vô nghĩa mà tôi mới nghĩ ra vì cảnh sát đã phải đã đến từ lâu. Anh ta không nên đã đến tận bước ngồi xuống…

Và chạm vào chân của bạn.

Và chạm vào chân của tôi. Nhìn lại, thật là đáng lo lắng. Nhưng vào thời điểm đó, tôi chỉ làm công việc của mình thôi.

Tại sao bạn chọn ngành nghề đó?

Tôi luôn thích thú vị trong việc cố gắng tạo ra một dạng hình của sự trật tự từ sự hỗn loạn. Khi tôi còn trẻ, công việc hè đầu tiên của tôi là làm bảo mạng. Tôi bắt đầu làm bảo mạng ở một hồ bơi cộng đồng, và cuối cùng tôi thấy một quảng cáo về công việc bảo mạng ở một cơ sở tâm thần của bang cấp ba gần đó. Không có nhiều câu chuyện vui vẻ ở những nơi như thế này.

Nơi đó ở đâu?

Tennessee. Tôi nhận ra qua suốt mùa hè, khi gặp gỡ những đứa trẻ tại cơ sở và nói chuyện với họ, tìm hiểu họ một chút hơn, tôi nhận ra có một số kinh khủng về cách họ đã bị lạm dụng hoặc xâm hại và làm thế nào nó đã ảnh hưởng đến họ và thực sự làm hại cho tình cảm an toàn của họ, cho bản dạng của họ. Và điều đó khiến tôi nhận ra rằng thực sự tôi rất may mắn, điều đó là một sự nhận thức tốt khi bạn 18 tuổi. Tôi cũng dành một thời gian làm trợ lý pháp cho một luật sư chuyên giúp nạn nhân bạo lực gia đình. Một lần nữa, những trải nghiệm mà những người này trải qua quá khủng khiếp mà tôi tìm thấy rất nhiều lý do muốn giúp đỡ.

Khi người bạn gọi điện nói cho bạn về công việc tại Twitter vào năm 2008, cô ấy tại sao nghĩ bạn phù hợp với nó?

Cô ấy nói vào thời điểm đó, “Tôi nghĩ bạn có thể phù hợp với điều này vì khi tôi nghĩ về những điều tồi tệ trên internet, tôi nghĩ đến bạn.” Và tôi nghĩ, “Đây là một nhãn hiệu cá nhân tồi tệ.”

Và khi bạn đến, và bạn gặp Ev và Biz lần đầu tiên. Ấn tượng đầu tiên của bạn là gì?

Biz đang ở chế độ xã hội đầy đủ và Ev đang ở chế độ lắng nghe đầy đủ. Đó là một loại cảm giác duyên dáng đối với họ. Tôi nhớ rằng họ tin rất chắc chắn rằng rác thư là một vấn đề, nhưng, “chúng tôi không nghĩ nó sẽ bao giờ là một vấn đề thực sự vì bạn có thể chọn ai bạn theo dõi.” Và đây là một trong những khoảnh khắc đầu tiên tôi nghĩ, “Ồ, em trai hè ngọt của bạn đây rồi.” Bởi vì khi bạn có đủ người dùng, khi bạn có đủ người trên một nền tảng, khi khả năng có lời nhuận trở nên cao, bạn sẽ có những người gửi rác thư.

Nếu bạn hiểu những điều bạn biết ngày nay, bạn có quyết định như vậy như lúc trước không?

Khi tùy chọn của bạn bị hạn chế đáng kể, điều này tự nhiên làm cho việc tìm cách khắc phục những vấn đề như vậy khó khăn hơn. Chúng tôi có thể gửi email [đến các tài khoản vi phạm] nói rằng, “Ngưng lại đi.” Nhưng họ cũng có thể nói, “Dùm bố cái.” Tôi nghĩ rằng chúng tôi thậm chí không có khả năng phát hiện nhiều tài khoản vào những ngày đó. Điều chúng tôi làm có lẽ là điều tốt nhất chúng tôi có thể làm với công cụ mà chúng tôi có sẵn.

Nếu Linda Yaccarino hoặc Elon Musk hỏi bạn bây giờ về lời khuyên về cách xử lý niềm tin và an toàn trên X, bạn sẽ phản ứng thế nào?

Tôi muốn hiểu rõ hơn về cách họ đã cố gắng giải quyết vấn đề kiểm soát nội dung. Tôi không muốn giả định những điều họ đã thử nghiệm hoặc không thử nghiệm.

Có phần nào trong bạn, tuy nhiên, muốn nói với họ, “Tại sao bạn không giữ lại đội ngũ niềm tin và an toàn của mình? Tại sao bạn không đơn giản là không sa thải tất cả mọi người?”

Tôi thấy điều đó làm tôi bối rối đến mức tôi không biết bắt đầu từ đâu. Ý tôi là, những người đó chỉ là những người tốt làm hết sức mình để bảo vệ mọi người. Và không rõ tại sao bạn lại chọn mục tiêu làm việc đó để loại bỏ, đặc biệt là trong các đợt sa thải gần đây hơn khi những người bị mục tiêu là những người làm việc về thông tin sai lệch và tính toàn vẹn của bầu cử.

Đội ngũ niềm tin và an toàn của bạn lúc lớn nhất có bao nhiêu người?

Trước khi tôi rời đi, tùy thuộc vào việc bạn có tính cả các hạng mục khác nhau của các nhà thầu hay không, có thể là hàng trăm đến hàng nghìn người. Vì vậy, đó là một đội ngũ lớn. Đó là quốc tế. Nó là 24/7. Chúng tôi có sự bao phủ. Và chúng tôi có sự bao phủ cho một số lượng đáng kể các ngôn ngữ.

Bạn đã trở thành một người nổi tiếng ở Twitter theo cách riêng của bạn. Mọi người đều biết bạn vì bạn là biểu tượng của niềm tin và an toàn. Mọi người đều biết Delbius. Tôi nghĩ lần duy nhất bạn và tôi trao đổi trước đây là vì tôi có vấn đề về niềm tin và an toàn và mọi người nói, “Nhắn tin riêng cho Del, nhắn tin riêng cho Del.”

Đó là điều xảy ra.

Năm 2017, một troll nhắn tin cho tôi và viết điều gì đó như, “Phòng tin của bạn nên bị ném bom.” Và tôi nhớ nghĩ, cơ hội nhỏ có thể xảy ra, nhưng tôi nên có lẽ nên đưa vấn đề này lên. Tôi đã đến chia sẻ tin nhắn đó với diễn đàn báo cáo của Twitter, và tôi nhận ra rằng không có cơ chế để chia sẻ một tin nhắn cáo lạc. Tôi đã viết thư cho Jack và hỏi về điều đó. Nó dường như được ghép lại một cách rất tạp nham. Cảm giác như, trong kỷ nguyên đó, Twitter, cùng với các nền tảng xã hội khác, đang tạo ra niềm tin và an toàn khi họ đi qua.

Vấn đề vẫn là vấn đề cũ, đã và luôn sẽ là vấn đề về nguồn lực. Tôi đã đưa ra yêu cầu vào năm 2010 cho các chức năng mà đến nhiều trường hợp, không được triển khai, cho đến hơn một thập kỷ sau đó.

Một ví dụ là gì?

Phát hiện nhiều tài khoản và tái kích hoạt tài khoản. Nếu bạn là người vi phạm nhiều lần, làm thế nào chúng tôi đảm bảo bạn dừng lại? Mà không bước vào con đường kỳ cục này, “Chúng tôi không chắc liệu đây có phải là việc sử dụng tốt nhất của nguồn lực, vì vậy, thay vào đó, chúng tôi sẽ không làm gì trong lĩnh vực đó và thay vào đó đưa ra một tính năng mới.” Vì nó là sự tăng trưởng với mọi giá, và cuối cùng là sự an toàn.

Tại sao bạn nghĩ rằng lãnh đạo lại chậm chạp đối với niềm tin và an toàn?

Khi niềm tin và an toàn diễn ra tốt, không ai nghĩ về nó hoặc nói về nó. Và khi niềm tin và an toàn diễn ra kém, thường là điều mà lãnh đạo muốn đổ lỗi cho các chính sách. Nói thẳng, chính sách chỉ là một biện pháp tạm thời nếu sản phẩm của bạn không được thiết kế sao cho thực sự không khuyến khích lạm dụng. Bạn phải lên kế hoạch ở đó, các bạn.

Gamergate—một sự kiện diễn ra trên các mạng xã hội khác, nhưng nhiều phần đã xảy ra trên Twitter—có vẻ như là một khoảnh khắc khi mọi người bắt đầu nhận ra, “Ồ, điều này không chỉ là, ‘Đây là thế giới trực tuyến, và đây là thế giới thực.’” Có ý thức rằng sự quấy rối, doxing và các đe dọa về an ninh có ảnh hưởng đến thế giới thực. Đó có phải là một khoảnh khắc nhận thức cho lãnh đạo Twitter không?

Có lẽ là ngắn gọn. Có lẽ đủ để nói, “Chúng ta nên có một chính sách ngăn chặn loại hình này.” Và sau đó, chúng tôi quay lại với cùng một vị trí: tôi nói rằng tôi phải tiếp tục tuyển người vì tôi không có các công cụ mà tôi cần. Và các kỹ sư có thể xây dựng các công cụ mà tôi cần, hoặc đang chìm đắm trong nợ công nghệ, bị chậm tiến độ từ tất cả các dự án trước đó nơi chúng tôi không có được các công cụ chúng tôi cần, hoặc đang cố gắng ngăn chặn thêm nợ công nghệ có thể bằng cách sửa chữa các công cụ đã hỏng.

Thú vị là bạn tiếp tục nói về “công cụ,” và—

Vâng, tôi.

—vì mỗi khi chúng ta nói chuyện với các nhà lãnh đạo của các nền tảng công nghệ và hỏi họ về việc kiểm soát nội dung, họ thường nói, “Chúng tôi sử dụng sự kết hợp giữa những người kiểm duyệt và Trí tuệ Nhân tạo.” Vì vậy, khi bạn nói về công cụ, tôi tò mò, bạn có ý gì?

Cho mọi người sử dụng trong quá trình làm công việc của họ. Ví dụ, để có một thuật toán phát hiện tài khoản đa hiệu quả có thể mất nhiều năm. Nhiều năm.

Và điều đó sẽ giúp một người trong nhóm của bạn phát hiện xem ai đó có nhiều tài khoản Twitter và có lẽ cần phải được đánh dấu.

Chính xác. Hoặc bạn có thể sử dụng thông tin đó một vài bước trước đó, trong đó có người được báo cáo vi phạm và có một kiểm tra tự động xem tài khoản đó có liên kết với các tài khoản khác đã bị đình chỉ trước đó không. Nếu có, nếu tuổi của tài khoản nhỏ hơn tuổi của tài khoản đã bị đình chỉ lâu nhất, bạn biết rằng nó có thể đã được tạo ra để tránh bị đình chỉ ban đầu. Vì vậy, bạn chỉ cần đình chỉ nó, và thậm chí không cần một con người nào đó phải nhìn vào nội dung đó.

Donald Trump đôi khi được mô tả như là Tổng thống Twitter đầu tiên, mặc dù chúng ta biết điều đó không phải là đúng về mặt từ ngữ, nhưng Trump sử dụng nó theo một cách nhất định. Cuối thời kỳ Tổng thống của ông, Twitter mới bắt đầu đánh dấu các tweet của ông là thông tin sai lệch, như khi ông tweet rằng ông miễn dịch với Covid sau khi mới hồi phục từ đó. Đằng sau quyết định này là gì?

Ông thậm chí không phải là nhà lãnh đạo thế giới đầu tiên bị đánh dấu. Nhưng có sự nhận thức rằng có những người cho rằng nội dung là đáng tin cậy và có thể đặt bản thân mình vào tình huống nguy hiểm gần đó. Chúng tôi đã cố gắng phân biệt thực sự: Nếu một điều gì đó sẽ dẫn đến việc ai đó chết nếu họ tin vào nó, chúng tôi muốn loại bỏ điều đó. Nếu một điều gì đó chỉ ... Nó không sẽ giết bạn ngay lập tức, nhưng nó không phải là một ý tưởng tốt, hoặc đó là thông tin sai lệch, thì chúng tôi muốn đảm bảo chúng tôi ghi chú điều đó.

Anh có nghĩ rằng nền tảng nên làm trọng tài của sự thật không?

Chung quy là tôi cảm thấy như là không thể và cũng là họ phải thử. Điều đó là đúng. Bạn sẽ không bao giờ có thể thành công hoàn toàn. Bạn sẽ không bao giờ có thể ngăn chặn tất cả mọi điều xấu xảy ra.

Tôi liên tục có cuộc trò chuyện với mọi người ... vì mọi người tham gia niềm tin và an toàn vì họ quan tâm, phải không? Bạn không tham gia niềm tin và an toàn vì bạn muốn, “Tôi thích được khen ngợi về công việc của mình.” Bạn thực sự phải muốn đối mặt với những vấn đề kỳ cục, con người, lộn xộn nơi đôi khi cả hai bên đều có lỗi, đôi khi không có bên nào có lỗi, và bạn vẫn phải điều hướng qua tất cả những điều đó.

Tôi thường kể câu chuyện huyền bí về chú bé đi dạo trên bãi biển và có rất nhiều con sao biển bị mắc kẹt trên bãi biển, cố gắng quay lại đại dương trước khi chúng chết. Và cậu bé đi dọc theo bãi biển, và mỗi khi cậu bé đến một con sao biển, cậu bé đều nhặt lên và ném nó vào nước. Và một người đến và hỏi, “Cậu đang làm gì vậy? Không có ý nghĩa gì cả. Có hàng ngàn con sao biển trên bãi biển này. Cậu sẽ không bao giờ làm thay đổi được gì ở đây.” Và cậu bé nhặt lên con sao biển tiếp theo và ném nó vào đại dương và nói, “Làm thay đổi với nó.”

Bạn vẫn còn ở Twitter vào ngày 6 tháng 1 năm 2021. Điều gì đang diễn ra trong đầu bạn vào ngày đó?

Tôi nhớ chủ yếu là những hình ảnh ngắn ngủi trong nhiều phần của ngày đó. Nhưng điều mà tôi nhớ rõ nhất là ý thức rằng không có một loại quyền lực cao cấp nào hoặc một cấp độ cao cấp nào đó sẽ đến sửa chữa tình hình này. Chính phủ đang làm những gì chính phủ đang làm. Chúng tôi phải làm những gì chúng tôi có thể làm. Có một lúc nào đó có hai người trong số chúng tôi được trang bị điện thoại vệ tinh và chúng tôi là hai người có khả năng ở phía sau để tạm thời đình chỉ tài khoản vì mục đích an ninh.

Tài khoản của Donald Trump.

Tài khoản của Donald Trump. Hai trong số chúng tôi tại Twitter có những người bảo vệ bên ngoài nhà và điện thoại vệ tinh trong trường hợp cơ sở hạ tầng bắt đầu sụp đổ—cơ sở hạ tầng xã hội. Và trong trường hợp chúng tôi cần có khả năng đình chỉ tài khoản vì một lý do nào đó. Làm thế nào những thời điểm đó, khi bạn đang ở trong tình thế, bạn không nghĩ nhiều đến điều đó. Và sau sự việc bạn nghĩ về nó và bạn hơi kinh hoàng.

Liệu bạn có hối tiếc về cách Twitter xử lý ngày 6 tháng 1 hay những ngày dẫn đến ngày đó không?

Đây, một lần nữa, là một thời điểm mà nhiều công cụ mà chúng tôi đã yêu cầu trong nhiều năm sẽ rất tốt. Chúng tôi làm rất nhiều thủ công trong ngày đó. Chúng tôi làm rất nhiều điều mà tôi không nghĩ đã bao giờ được công nhận hoặc nhận thức đầy đủ. Lại một lần nữa, vì khi mọi thứ hoạt động trong niềm tin và an toàn, không ai bao giờ nói về chúng. Và cũng có vẻ như, ở một số cách, việc đổ lỗi cho các nền tảng truyền thông xã hội dễ dàng hơn là nhìn nơi khác để tìm lỗi có thể đặt ra.

Bạn đang đề cập đến báo cáo ngày 6 tháng 1?

Tôi đang đề cập đến bất kỳ số lượng báo cáo nào.

Vì thông báo riêng biệt từ Ủy ban ngày 6 tháng 1 thực sự chỉ ra rằng Twitter, và các nền tảng truyền thông xã hội khác cũng vậy, nhưng Twitter đặc biệt không chú ý đến những cảnh báo của nhân viên rằng mọi thứ sẽ gây rối nghiêm trọng tại Quốc hội.

Ý tôi là, tôi đã đưa ra những cảnh báo đó.

Điểm thất bại xảy ra ở đâu? Có phải là Vijaya [Vijaya Gadde, cựu trưởng phòng pháp lý, chính sách và niềm tin tại Twitter]? Phải chăng là Jack? Bạn chỉ có thể đi lên từ bạn một số cấp độ thôi.

Tôi nghĩ rằng Vijaya và tôi nói chung đã đồng lòng. Tôi thực sự thích làm việc với Vijaya. Cô ấy là một người ủng hộ rất tốt cho chúng tôi.

Bạn nghĩ sao về lời khai của Anika Collier Navaroli trước Ủy ban Giám sát Hạ viện Hoa Kỳ?

Quan điểm của tôi, mà tôi nghĩ là tương đối có thông tin, là tôi chỉ nghĩ rằng cô ấy không có thông tin về nhiều công việc đang diễn ra vì nó đang diễn ra trong các cuộc trò chuyện giữa tôi, Yoel [Yoel Roth, trưởng phòng niềm tin và an toàn tại Twitter sau Harvey], và hỗ trợ Twitter. Và nó xảy ra trước ngày 6 tháng 1. Chúng tôi đã áp dụng [những chính sách này] kể từ sau cuộc bầu cử, và tôi nghĩ chỉ là một sự cố giao tiếp về những gì đang diễn ra.

Có một ví dụ lan truyền như thế này: “Đã khóa và sẵn sàng.” Một số người trong nhóm niềm tin và an toàn nghĩ, “Ai bao giờ sẽ tweet ‘đã khóa và sẵn sàng’ mà không có ý nghĩa là họ sẽ ra ngoại ô và thực hiện bạo lực?” Nếu bạn thực hiện một cuộc thăm dò về những tweet và xem xét chúng, bạn sẽ thấy người ta tweet những điều như, “Có cốc bourbon của mình, đã khóa và sẵn sàng cho buổi biểu diễn tối nay.” Nếu chúng tôi chỉ đình chỉ mọi người tweet “đã khóa và sẵn sàng,” không cách nào chúng tôi có thể ưu tiên các khiếu nại và xem xét chúng. Và không ai biết được có bao nhiêu người thực sự bị cản trở trong việc phát biểu so với những gì chúng tôi cố gắng làm, đó là nhấn mạnh vi phạm khả năng và đình chỉ hầu hết chắc chắn vi phạm.

Với tweet của Trump như, “Hãy đến, sẽ hoang dã!” Tại điểm nào Twitter như một nền tảng hiểu đó là tiềm ẩn bạo lực tiềm ẩn, khi xem xét tất cả mọi thứ đang diễn ra với cuộc bầu cử có thể bị tranh cãi, so với ai đó nói, theo quan điểm của bạn, “Đi đến buổi hòa nhạc. Sẽ hoang dã!”

Tôi chắc chắn nghĩ rằng có lý do để xem xét [tweet] đó. Sau đó có sự trao đổi tiếp theo về cách ông ta sẽ không tham dự lễ nhậm chức, và điều đó ngay lập tức khiến tôi nghĩ đến một lời gọi dẫn dụ. Chúng tôi nhìn vào những phản hồi @ mà ông ta nhận được, và có rất nhiều ý kiến như, “Đã nhận được thông điệp. Hiểu rồi. Chúng tôi đã có sự bảo vệ của bạn.” Đó là loại phản ứng, có vẻ là cho thấy lễ nhậm chức có thể là mục tiêu của cuộc tấn công vì ông ta sẽ không ở đó, để tránh gặp nguy hiểm. Và điều đó thuộc vào danh mục vi phạm.

Khi bạn rời khỏi vào năm 2021, liệu bạn tự rời đi hay họ yêu cầu bạn rời đi?

À, tôi rời đi.

Điều gì đã làm bạn quyết định rời đi cuối cùng?

Tôi đã có một kỳ nghỉ dưỡng đã được lên kế hoạch từ giữa năm 2021 đến mùa thu vì đứa con lớn nhất của tôi sẽ bắt đầu học mẫu giáo. Trong khoảng thời gian này, con tôi thường chơi một trò chơi. Họ sẽ vào tàu vũ trụ mà tôi đã làm cho họ có một bàn phím nhỏ, và họ sẽ gõ bằng những tai nghe to đeo trên tai mình, sau đó họ sẽ nhảy ra và nói, “Được rồi, tôi có một giờ nghỉ. Tôi có thể chơi một chút. Ôi chờ đã, xin lỗi, tôi phải nhảy vào cuộc gọi này. Tôi sẽ phải chơi với bạn ở giờ nghỉ tiếp theo mà tôi có.” Họ đang bắt chước tôi. Và tôi nghĩ, “Ôi, trời ơi, thật là tàn nhẫn.”

Tôi đã mở rộng thêm kỳ nghỉ của mình lên bốn tháng. Tôi trở lại và nói chuyện với Vijaya, và tôi nói, “Tôi không tự tin rằng tôi có thể làm một công việc tốt ở cả hai điều này. Tôi muốn là một bậc phụ huynh tốt. Tôi muốn niềm tin và an toàn có một người lãnh đạo mạnh mẽ có thể tập trung vào niềm tin và an toàn.” Và tôi đã đưa ra quyết định rằng nó hợp lý hơn là tôi dành thời gian này để hoàn toàn hiện diện cho con cái của mình thay vì chỉ hiện diện một nửa cho con cái và một nửa cho Twitter khi cả hai đều xứng đáng nhận sự chú ý toàn thời gian.

Khi tôi đã nói chuyện với các cựu nhân viên của Twitter đã làm việc trong lĩnh vực niềm tin và an toàn với bạn, họ đã chỉ ra rằng Yoel thực sự đã nổi bật kể từ đó. Và rằng có lẽ giọng nói của phụ nữ chưa được lắng nghe, đặc biệt là giọng nói của bạn, khi bạn đã quản lý niềm tin và an toàn trong 13 năm còn anh ấy chỉ làm vậy gần đây hơn. Tại sao?

À, Yoel vui lòng đứng ra nói về những vấn đề này, và tôi giữ thấp hơn. Tôi không nghĩ Yoel đang cố xóa tôi đi bằng bất kỳ cách nào. Thực tế, tôi có thể nói anh ấy đang cố đảm bảo rằng tôi không bị đưa vào cuộc trò chuyện nếu tôi không muốn. Chúng tôi vẫn thường xuyên trò chuyện. Anh ấy là người tốt. Anh ấy biết rằng sau khi rời khỏi Twitter, tôi giữ một hồ sơ thấp. Tôi không muốn những lời kêu gọi tư pháp mà anh ấy nhận được thường xuyên.

Câu hỏi tôi đặt ra là, tại sao bạn không bị triệu tập tòa án?

Có những nỗ lực để triệu tập tôi. Một lúc nào đó, tôi nhận được một lệnh triệu tập liên quan đến Musk. Đó là từ đội ngũ pháp lý của anh ấy, tôi nghĩ là khi anh ấy đang cố tránh mua ... nhưng điều đó đã bị hủy bỏ. Nó đã bị rút lại.

Hôm nay chúng ta sẽ khám phá câu chuyện thú vị xoay quanh sự kiện ngày 6 tháng 1. Liệu bạn có nhận được bất kỳ yêu cầu chứng minh nào không? Câu hỏi này khiến nhiều đồng nghiệp cũ của bạn khó hiểu, vì sao bạn không cần phải làm chứng?

Không phải là tôi muốn truyền cảm hứng cho họ, nhưng không, tôi không nhận bất kỳ yêu cầu nào. Điều cao nhất mà tôi nghe là 'Chúng tôi muốn nói chuyện với bạn,' và tôi nói 'Tôi ổn.' Những yêu cầu chứng minh đều đến với Yoel vì anh ấy đứng đầu bộ phận an ninh trang web, chính là phần chịu trách nhiệm về niềm tin và an toàn đối với những vấn đề như vậy.

Tôi cũng không nghĩ rằng cuộc điều tra đó hoàn toàn mang tính chân thành. Và những gì chúng ta thấy sau những buổi điều trần ấy đã làm rõ điều đó. Kết quả của nhiều buổi đó là lên án mạnh mẽ đối với mạng xã hội mà không có sự tự phê phán bên trong về vai trò mà các bộ phận khác nhau của chính phủ có thể đã đóng góp.

Lần đầu tiên tôi chia sẻ về vấn đề này với bạn, và có lẽ cũng là lý do tôi cảm thấy xúc động khi nói về một số khía cạnh của nó. Điều này không hoàn toàn an toàn đối với tôi. Tôi có hai đứa con. Câu hỏi của tôi luôn là, bạn nghĩ rằng mọi người sẽ thu được gì từ điều này? Tôi có thể thêm vào điều gì mà chưa được bàn luận? Tôi không chỉ muốn nổi tiếng hay gì cả.

Vậy bạn nghĩ tương lai của việc kiểm duyệt nội dung sẽ như thế nào trên các nền tảng công nghệ? Chúng ta đang bước vào một chu kỳ bầu cử khác biệt. Và chúng ta đang gặp phải nhiều thông tin sai lệch và thông tin đánh lừa được kích hoạt thông qua trí tuệ nhân tạo. Làm thế nào các đội ngũ xử lý vấn đề này? Họ nên xử lý nó như thế nào?

Đây không phải là một tình huống tốt. Sự thật là tôi không nghĩ có bất kỳ nền tảng nào có các công cụ cần thiết để giải quyết vấn đề bằng cách loại bỏ nó. Xử lý thông qua việc loại bỏ là một điều mà cần rất nhiều nỗ lực, đặc biệt nếu bạn muốn có một quy trình khiếu nại, mà bạn nên xem xét như một quyền con người theo một số cách.

Vậy làm thế nào là giải pháp thay thế?

Chắc chắn bạn không nên chỉ có một cách tiếp cận đối với một vấn đề, phải không? Bạn muốn có nhãn cũng như khả năng loại bỏ một số loại nội dung. Bạn muốn có một cách tiếp cận có chủng tâm, có cấu trúc về cách bạn ưu tiên loại thông tin sai lệch, loại nào bạn loại bỏ và loại nào bạn không loại bỏ. Và bạn muốn truyền thông điều đó cho mọi người để họ hi vọng hiểu được.

Giáo dục thực sự quan trọng. Nhưng đây là thách thức: Giáo dục có tác động mạnh nhất khi bạn nhìn thấy nó ngay lúc bạn cần thông tin. Bạn nên ngay lập tức thấy một nhãn như 'Đã được xác định có thể là AI. Chúng tôi có mức độ tự tin này rằng đây là nội dung được tạo ra.' Có rất nhiều điều có thể được khám phá.

Hãy nghĩ về sự thống nhất của ngành công nghiệp công nghệ quanh vấn đề lạm dụng tình dục trẻ em. Đó là điều đầu tiên khiến tất cả các công ty công nghệ khác nhau nói chuyện với nhau, sau đó là về khủng bố và sau đó là tự sát, những đề tài không tốt trong cuộc trò chuyện từ đầu, tất nhiên. Và những vấn đề đó được đặt đầu tiên vì chúng rất rõ ràng về mặt vấn đề. Và điều này, thông tin sai lệch được tạo ra bởi AI, là một vấn đề khác rõ ràng về mặt vấn đề. Tôi có thể hầu như đảm bảo rằng các công ty công nghệ thực sự được thiết lập để chuyển thông tin cho nhau về các chiến dịch thông tin sai lệch khác nhau đang tấn công nền tảng vào các thời điểm khác nhau.

Bạn có nhớ Twitter không?

Tôi nhớ rất nhiều về những người. Chúng tôi đã có một số hy vọng lớn. Chúng tôi đã có một số kế hoạch tuyệt vời mà chúng tôi đang thực sự bắt đầu chuyển hướng, một số thay đổi lớn mà chúng tôi đang cố gắng thực hiện. Và tôi có lẽ sẽ mãi cảm thấy một chút buồn rằng tôi chưa bao giờ được thấy những điều đó hoàn thành hoặc thậm chí là bắt đầu đơng hoạch.

Twitter về tên gọi có vẻ đã chết, nhưng bạn nghĩ Twitter, nền tảng, đã chết không?

Tôi cần thêm dữ liệu trước khi tôi có thể đưa ra quyết định đó. Theo trải nghiệm cá nhân, nhất định có rất ít tweet hơn. Ngoài ra, chết theo cách nào? Có một nhóm người Nazi cực hữu rất tích cực, một số nhóm hoạt động rất tích cực trên đó. Tôi nghĩ rằng nó đã chết ở một số cách đối với một số thứ. Và sau đó đối với những người khác, đó chính xác là điều họ muốn.

Bạn nghĩ rằng sẽ có một Twitter khác không?

Tôi không biết điều đó có khả năng xảy ra không. Nó thực sự giống như ánh sáng bắt chước trong rất nhiều cách. Ngay cả sau đó, ngay cả với X, thậm chí khi có Threads và Mastodon và Discord và Bluesky và tất cả những nút phi tập trung khác và các nền tảng mới và mọi người đều muốn có một phần và họ đều đang thực hiện... đó là tuyệt vời. Phải không? Tuyệt vời. Hãy đi, mọi người! Nhưng nó đã bị phân mảnh.

Trong khoảnh khắc rực rỡ của mình, Twitter giống như Tháp Babel trước khi nó sụp đổ.

Hãy cho chúng tôi biết ý kiến của bạn về bài viết này. Gửi một lá thư đến biên tập viên tại [email protected].