Cách Các Ông Lớn Công Nghệ Tạo Ra Những Gì Mà Darpa Không Thể

"Mọi giao dịch mà bạn thực hiện bằng thẻ tín dụng, mỗi đăng ký tạp chí bạn mua và đơn kê đơn thuốc mà bạn điền, mỗi trang web bạn truy cập và email bạn gửi hoặc nhận, mỗi điểm số học thuật bạn nhận, mỗi khoản tiền gửi ngân hàng bạn thực hiện, mỗi chuyến đi bạn đặt và mỗi sự kiện bạn tham dự—tất cả những giao dịch và thông tin liên lạc này sẽ được ghi vào … một cơ sở dữ liệu toàn cầu ảo và tập trung,” nhà bình luận của New York Times cảnh báo.

Ngay sau những lời khai của Mark Zuckerberg trước chính phủ và sự chỉ trích liên tục về vụ scandal Cambridge Analytica, tác giả của cột bài viết trong Times phải đang nói về Facebook—đúng không? Hoặc có thể là mô hình kinh doanh dựa trên quảng cáo trên web rộng lớn?

Nhưng không phải vậy: Cột bài của William Safire, "Bạn Là Một Nghi Ngờ,” được xuất bản trong Times vào năm 2002—hai năm trước khi Facebook được tạo ra. Và Safire không nói về mạng xã hội hay quảng cáo kỹ thuật số—ông đang thảo luận về Total Information Awareness, một chương trình của Cơ quan Các Dự Án Nghiên Cứu Tiên Tiến Quốc Phòng Hoa Kỳ (Darpa) mà đề xuất khai thác lượng lớn dữ liệu của người Mỹ để xác định các mối đe dọa an ninh quốc gia tiềm ẩn. Cơ sở dữ liệu toàn cầu ảo dự định thuộc về Bộ Quốc phòng, sẽ sử dụng nó để xác định mô hình hành vi giúp dự đoán các mối đe dọa khủng bố mới nổi.

Ngày nay, chúng ta tự nguyện tham gia vào kịch bản kinh hoàng Safire đã mường tượng cách đây 16 năm, với mỗi dữ liệu được giao cho các công ty như Facebook và Google. Nhưng trong hệ thống này, các công ty tư nhân là kho dữ liệu của chúng ta—để lại cho chúng ta phải đối mặt với hậu quả của một thế giới trao cho các tập đoàn những dữ liệu mà trước đây được xem là quá khích đối với chính phủ.

Dự án Total Information Awareness, do Đô đốc John Poindexter chủ trì, là một chương trình toàn cầu. Nó được thiết kế để tổng hợp các tín hiệu được tạo ra thông qua các chương trình khác chạy từ Văn phòng Quản lý Công nghệ Thông tin của Darpa. Các chương trình tập trung vào một loạt khả năng, bao gồm phân tích thông tin, các công cụ hỗ trợ quyết định, dịch thuật ngôn ngữ, khai thác dữ liệu và nhận diện mẫu. Khi các phần thành phần được kết hợp, chúng sẽ tạo nên một bức tranh toàn diện về con người và hành vi của họ. Mục đích là phát hiện tín hiệu có thể được sử dụng để nhận diện hành vi khủng bố và ngăn chặn các cuộc tấn công; nguồn cảm hứng là việc chính phủ đã không kết nối được những dấu vết của các kẻ khủng bố ngày 11/9 khi họ lên kế hoạch tấn công.

Mối lo ngại về chương trình này được cả hai đảng đều quan tâm và lan rộng. Viện Cato cảnh báo về nguy cơ của một xã hội giám sát và đề xuất quan ngại về Điều Khoản Thứ Tư. Hiệp Hội Dân Quyền Mỹ gọi nó là một lưới đánh cá virtual mà sẽ yêu cầu chính phủ “phải thu thập càng nhiều thông tin càng tốt về mọi người—và ngày nay, đó là RẤT NHIỀU thông tin ... Không chỉ là các hồ sơ chính phủ mọi loại mà còn là các hồ sơ y tế và tài chính cá nhân, niềm tin chính trị, lịch sử du lịch, đơn thuốc, thói quen mua sắm, thông tin liên lạc (cuộc gọi điện thoại, email và lướt web), hồ sơ học tập, quan hệ cá nhân và gia đình, và nhiều hơn nữa.” Thượng viện Hoa Kỳ, do các Senator Ron Wyden và Byron Dorgan lãnh đạo, đã bỏ phiếu không chối từ để ngừng cấp kinh phí cho chương trình ngay sau khi nó được công bố; một số nền tảng công nghệ đã được chuyển đến các phần khác của chính phủ không tập trung vào hoạt động của công dân Hoa Kỳ.

Nhưng khi Total Information Awareness đang bị tháo dỡ ở Washington, DC, một hệ thống tương tự xuất hiện và bắt đầu thu hút sự quan tâm ở Silicon Valley. Trong vài năm, các báo cáo xu hướng hàng đầu của ngành công nghiệp và bài viết blog của các nhà đầu tư bắt đầu ca ngợi sức mạnh (và tiềm năng kinh tế) của “Dữ liệu Lớn” và “Mạng Xã Hội Di Động Địa Phương.”

Ngày nay, bạn có thể đặt tên được một số công ty có quyền truy cập vào dữ liệu về mọi giao dịch bạn thực hiện với thẻ tín dụng, mọi đăng ký tạp chí bạn mua, mọi trang web bạn truy cập và email bạn gửi hoặc nhận, mọi chuyến đi bạn đặt và mọi sự kiện bạn tham gia—tất cả các loại dữ liệu khác nhau mà Safire đã đề cập, nhưng được thu thập để nhận diện các mẫu hành vi giúp dự đoán những quảng cáo bạn sẽ nhấp chuột vào.

Trong khu vực tư nhân, cả các startup và các công ty lớn đều bắt đầu tuyên bố về khả năng họ có thể thu thập, lưu trữ và khai thác dữ liệu; đó là một mô hình kinh doanh phổ biến. Việc này đang diễn ra không hề bí mật—quảng cáo cá nhân hóa trong Gmail, đăng nhập thông dụng và quảng cáo theo dõi chúng ta từ trang này sang trang khác đã rõ ràng với người dùng thậm chí là người dùng không hiểu biết nhiều. Các công ty công nghệ lớn nhất thế giới đã thành công vì họ đã xây dựng các sản phẩm mà người dùng yêu thích—người dùng của họ tự nguyện chọn cách cung cấp thông tin và dữ liệu hành vi của họ. Việc theo dõi và tổng hợp dữ liệu trở nên phổ biến, khi đăng nhập thông dụng, điểm pixel theo dõi, các cố gắng vào các sản phẩm liên kết (như Gmail, ví dụ), và việc mua lại các startup cho phép các nền tảng công nghệ xây dựng hồ sơ toàn diện của người dùng một cách dễ dàng.

Tại một phiên điều trần Quốc hội tháng trước, Thượng nghị sĩ Maria Cantwell đề cập đến sự tương đồng giữa TIA và việc thu thập thông tin tư nhân trong một cuộc trao đổi với CEO Facebook Mark Zuckerberg:

“Anh có nghe về Total Information Awareness không?” Thượng nghị sĩ Cantwell hỏi. “Anh có biết tôi đang nói gì không?”

“Không, tôi không,” Zuckerberg trả lời.

Không không hợp lý khi Zuckerberg chưa từng nghe về chương trình; sau tất cả, nó được đề xuất khi anh còn học trung học. Cantrell tiếp tục giải thích sáng kiến: khai thác dữ liệu trên quy mô rộng lớn, với tiềm năng giám sát, kiểm soát và nhận diện chưa từng có. Bà đề cập đến WhatsApp và Palantir như các ví dụ khác về việc thu thập dữ liệu của các công ty tư nhân, mà bà gọi là một “xu hướng lớn trong thời đại thông tin.” Dòng câu hỏi của bà, vẽ ra những điểm tương đồng giữa một số công ty với TIA, đặt ra những câu hỏi quan trọng: Cách mà các tổ chức tư nhân đang tích lũy một mức độ quyền lực mà người Mỹ từ chối cho Darpa là như thế nào? Hậu quả của công cụ này tồn tại bên ngoài giới hạn giám sát của công chúng là gì? Và chúng ta sẽ đi đâu từ đây?

Tất nhiên, có một số khác biệt quan trọng giữa Total Information Awareness và các nền tảng do các gigants mạng xã hội điều hành. Đầu tiên, người dùng tự nguyện chấp nhận các điều khoản dịch vụ của các công ty. Người dùng rõ ràng biết họ đang hi sinh gì để đổi lấy email miễn phí, tin nhắn và cách chia sẻ hình ảnh cùng kết nối với bạn bè. Thứ hai, mức độ rủi ro hoàn toàn khác nhau: Chính phủ có quyền bắt giữ bạn; Facebook và Google không.

Total Information Awareness trần trụi về giám sát và cách sử dụng nó có thể được dùng phòng thủ và tấn công. Facebook, từ mặt trước, xoay quanh việc thích và ảnh cũng như trạng thái cập nhật và cộng đồng. Google là một công cụ tìm kiếm tuyệt vời và nhà cung cấp email phổ biến. Nhưng backend của các công ty tư nhân của chúng ta rất giống với TIA, và những mối đe dọa tương tự tồn tại—nhưng không có sự giám sát công khai nào đối nghịch. Điều này nguy hiểm. Bây giờ, nhiều chính phủ, không chỉ riêng của chúng ta, có thể tiếp cận một kho dữ liệu rộng lớn để dự đoán hành vi của chúng ta và mục tiêu chúng ta. Trong thực tế, như chúng ta đã biết, các quốc gia khác đã lạm dụng nó, như Nga, sử dụng nhắm mục tiêu chính xác và lượng dữ liệu lớn để tiếp cận người dân Mỹ.

Các nền tảng tư nhân đã tích luỹ các cơ chế thu thập dữ liệu và khai thác thông tin cần thiết cho nhận thức thông tin tổng thể không bắt buộc phải sử dụng cho mục đích ban đầu về an ninh quốc gia và chống khủng bố, điều này đã truyền cảm hứng (và được cho là chính đáng) cho TIA—và nhiều tổ chức dân quyền kỹ thuật số không tin rằng họ nên làm như vậy. Nhưng đáng lo ngại hơn, có vẻ như các nền tảng xã hội của chúng ta thực sự đang làm ngược lại: Họ có thể vô tình làm cho kẻ cực đoan trở nên cực đoan. Ngày càng có khả năng rằng có điều gì đó với ý tưởng rằng tín hiệu xã hội có thể xác định những dấu hiệu ban đầu của cực đoan, hoặc nhận ra những người có khả năng chấp nhận hoặc đồng cảm. Đáp lại, hệ thống đề xuất của chúng ta và các chức năng tìm kiếm có thể sử dụng những tín hiệu đó vô tình để tiếp tục thúc đẩy quá trình—điều ngược lại hoàn toàn so với việc phát hiện và can thiệp.

Vậy chúng ta đi đâu từ đây? Làm thế nào để chúng ta đối phó với các công cụ cực kỳ mạnh mẽ hiện nay đang trong tay tư nhân? Đầu tiên, chúng ta cần các nhóm dân sự kiểm tra các công ty mạnh mẽ theo cách họ kiểm tra chính phủ. Một số nhóm lên tiếng chỉ trích mạnh mẽ nhất về Total Information Awareness—Electronic Frontier Foundation, Open Technology Institute—đã im lặng với việc Facebook và Google tích luỹ quyền lực tương tự. April Glaser của Slate gần đây đã viết một bài phân tích xuất sắc về sự tinh tế và chính trị đang diễn ra ở đây, từ xung đột lợi ích tài chính đến quan điểm thế giới. Như cô nói, chúng ta cần những con chó săn.

Nhưng xã hội dân sự một mình không thể chiến thắng cuộc chiến này. Chúng ta cần sự kiểm tra từ người dùng internet hàng ngày. Là một quốc gia, chúng ta rất bận tâm với việc chính phủ tổng hợp các cơ sở dữ liệu và khai thác những chữ ký hành vi cụ thể có thể tiết lộ khuynh hướng cực đoan. Ý tưởng rằng có thể có sự giám sát hiệu quả của một chương trình xâm nhập như vậy đã bị bác bỏ là không hợp lý. Nhưng chỉ sau vài năm, chúng ta lại nhanh chóng đưa ra nội dung của những cơ sở dữ liệu tương tự đó cho các công ty lớn. Chúng ta không tin tưởng chính phủ của chúng ta—quá nhiều vụ scandal, quá nhiều lạm dụng—nhưng chúng ta chưa hoàn toàn nhận thức được rằng chúng ta đang giao thông tin cá nhân của mình cho các lợi ích tư nhân mạnh mẽ mà không có sự giám sát.

Thêm nhiều câu chuyện tuyệt vời từ MYTOUR

• Một cái nhìn mới vào văn hóa doanh nghiệp không hiệu quả của Theranos
• Ketamine mang lại hy vọng—và gây ra tranh cãi—như một loại thuốc trị trầm cảm
• BÀI ESSAY ẢNH: Cảnh đẹp không thực trong sa mạc Danakil của Ethiopia
• Nyan Cat, Doge, và nghệ thuật của Rickroll—đây là tất cả những gì bạn cần biết về những hình ảnh châm biếm
• Hệ thống quay siêu ổn định của Seakeeper giữ cho tàu vững vàng trên biển
• Đam mê khám phá sâu hơn về chủ đề yêu thích tiếp theo của bạn? Đăng ký nhận bản tin Backchannel ngay bây giờ