Ánh Mắt Quay Quắt Trên Bầu Trời Buenos Aires

Câu chuyện này được thực hiện nhờ sự hỗ trợ từ Mạng lưới Trách nhiệm Trí tuệ nhân tạo của Trung tâm Pulitzer.

“Và sau đó cơn ác mộng bắt đầu,” Guillermo Ibarrola kể lại vụ bắt giữ của mình tại ga tàu đông đúc ở trung tâm thành phố Buenos Aires nơi chúng tôi đang đứng.

Anh chỉ vào các camera ở cuối đường ray, sau đó ngón tay anh di chuyển đến một cánh cửa ở mép của sảnh ga lớn của tòa nhà được liệt kê trong di sản. “Đó là nơi họ đã giữ tôi trong sáu ngày.” Anh ngủ trên nền bê tông trần, trong một căn phòng nhỏ. Đêm thứ hai họ cho anh một cái chăn. “Hệ thống nhận dạng khuôn mặt đã xác định tôi là tội phạm,” anh nói. Tội ác mà anh bị cáo buộc: “Cướp ngân hàng ở một thành phố mà tôi chưa từng đặt chân vào trong đời. Hình phạt có thể, họ nói với tôi — lên đến 15 năm tù.”

Vừa trung bình, tóc ngắn, mặc áo hoodie màu xám, Ibarrola là một người không bao giờ tạo ra sự xáo trộn và không bao giờ tìm kiếm rắc rối. Anh không phải làm phiền với ông chủ nhà máy thực phẩm nơi anh đã đóng gói thịt gà sống hơn một thập kỷ. Anh cũng không gây rối với người vợ cũ của mình. Chắc chắn không với cảnh sát. Anh luôn mong muốn là một điển hình cho hai cô con gái của mình, mà anh đang nuôi dưỡng một mình.

Sau gần một tuần trong tù, không có ánh sáng tự nhiên, Ibarrola được đưa đến một tòa án ở thành phố nơi tội ác đã xảy ra: Bahía Blanca, cách Buenos Aires 600 km (373 dặm) về hướng đông nam. Ngay trước khi họ có thể đưa anh vào tù, một công tố viên nhận ra sự nhầm lẫn: Một Guillermo Ibarrola khác, lớn hơn một chút, đã phạm tội cướp. Vài phút sau, Ibarrola—Guillermo vô tội—được trả lại dây giày, một cốc cà phê mang đi và một vé xe buýt về nhà. “Một người đã nhập sai số ID của tôi thay vì số ID của Guillermo mà họ đang tìm kiếm. Hệ thống nhận diện khuôn mặt hoạt động đúng, cơ sở dữ liệu lại sai,” Ibarrola nói. “Đối với họ, đó chỉ là một lỗi nhập dữ liệu. Nhưng chúng ta đang nói về cuộc sống của một người.”

Bảy mươi lăm phần trăm khu vực thủ đô Argentina đều được giám sát qua video, điều mà chính phủ tự hào quảng cáo trên các bảng quảng cáo. Nhưng hệ thống nhận diện khuôn mặt đang bị chỉ trích sau ít nhất 140 lỗi cơ sở dữ liệu dẫn đến kiểm tra cảnh sát hoặc bắt giữ kể từ khi hệ thống được triển khai vào năm 2019 — và trước khi nó bị ngừng hoạt động cùng với lệnh phong tỏa Covid-19 vào tháng 3 năm 2020, theo các quan chức thành phố. Vụ bắt giữ của Ibarrola là một trong những vụ đầu tiên.

Các nhà hoạt động quyết định kiện chính quyền thành phố và đạt được thành công đầu tiên: Vào tháng 4 năm 2022, một thẩm phán quyết định giữ hệ thống tắt nguồn. Kể từ đó, thành phố Buenos Aires đã đang chiến đấu để đưa nó trở lại sử dụng. Vẫn chưa rõ ràng ai sẽ thắng trong cuộc tranh luận: những người kêu gọi kiểm soát chặt chẽ hơn đối với một công cụ giám sát mạnh mẽ, hay chính quyền thành phố, tin rằng hệ thống này là không thể thiếu cho sự an toàn của công dân. Theo luật, nó chỉ có thể được sử dụng để tìm kiếm những người bị phát lệnh bắt giữ: những người “được truy nã nhất” của Argentina. Danh sách này được cho là được cập nhật hàng ngày.

Một Thẩm Phán Đang Điều Tra

“Nó chắc chắn không chỉ dừng lại ở việc theo dõi những kẻ lẩn trốn. Chúng tôi hầu như không tin được và kiểm tra điều đó nhiều lần,” Gallardo nói. Ông ngồi trong văn phòng của mình trên đại lộ Avenida de Mayo, chỉ vài trăm mét từ tòa nhà chính phủ màu hồng. Văn phòng rộng rãi và ngập tràn ánh sáng; một bức ảnh của thẩm phán với Đức Thánh Cha Phanxicô treo nổi bật trên tường. Bộ luật hình sự lịch sử đặt trên kệ sách. “Chỉ có khoảng 40.000 kẻ lẩn trốn khỏi công lý ở Argentina được tìm kiếm với hệ thống,” ông nói. “Nhưng số dữ liệu cá nhân mà thành phố yêu cầu gần 10 triệu. Chính phủ không bao giờ giải thích được tại sao lại yêu cầu nhiều dữ liệu không thuộc về những kẻ lẩn trốn.”

Dữ liệu cá nhân của Phó Tổng thống Argentina, Cristina Fernández de Kirchner, được yêu cầu 226 lần; dữ liệu của Tổng thống Alberto Fernández được yêu cầu 76 lần. Trong số những người được tìm kiếm có các chính trị gia từ các đảng khác nhau, các nhà hoạt động về nhân quyền và nhà báo. Gallardo bắt đầu điều tra liệu thành phố có tạo ra một cơ sở dữ liệu hình ảnh của tất cả công dân cư trú trong khu vực Buenos Aires lớn không.

D'Alessandro, then the security minister, sits at a heavy wooden writing table wearing a suit and tie, with a head of gray hair, the Argentine flag behind him. First, he emphasizes the benefits: “With facial recognition, we have caught almost 1,700 fugitives, including rapists and murderers with international arrest warrants. It allowed us to arrest people from other countries who were taking refuge here in Argentina under false identities.” He vehemently rejects the judge's accusation of arbitrarily requested data. “This is about investigative procedures, about identity checks. When you enter a festival or a football stadium, for example, we have a program called Tribuna Segura (‘safe tribunes’) to make sure no criminals get in. No one, really no one, is searched by facial recognition without a court order.”

Nhưng tại sao, ví dụ, Phó Tổng thống Cristina Kirchner bị tìm kiếm hơn 200 lần, đôi khi vào giữa đêm? “Phó Tổng thống có rất nhiều vụ án tội phạm cô bị buộc tội, và công lý cho chúng ta bằng tài liệu chính thức để tư vấn và xác minh danh tính. Cảnh sát làm việc 24 giờ mỗi ngày, bảy ngày mỗi tuần. Có thể có lúc dữ liệu được truy vấn lúc hai giờ sáng.” Sau đó ông thêm: “Chúng tôi có hệ thống minh bạch, ai đăng nhập sẽ được đăng ký. Có thể theo dõi ai đăng nhập từ đâu và khi nào, và họ đang tìm kiếm gì.”

Trên điểm này, lời nói của D'Alessandro và nghi ngờ của Gallardo đối đầu. Thẩm phán chỉ có thể chứng minh rằng Bộ Bảo vệ đã yêu cầu hàng triệu bộ dữ liệu cá nhân, nhưng không chứng minh được cách sử dụng dữ liệu đó hoặc liệu bộ trưởng có giữ bản sao hay không. Xung đột này có thể kết thúc ở đây nếu không có báo cáo của các chuyên gia CNTT cảnh sát đã tìm kiếm máy tính của Bộ Bảo vệ. Trong một quốc gia có sự phân cực chính trị như Argentina, các cơ quan như tòa án và cảnh sát không luôn hoạt động độc lập. May mắn thay, báo cáo kiểm toán CNTT được thực hiện và ký kết chung bởi đại diện của cảnh sát thành phố và cảnh sát sân bay. Sự hợp tác này đã làm tăng tính xác thực của báo cáo.

Báo cáo rõ ràng cho thấy tính theo dõi mà bộ trưởng nói không tồn tại — và hệ thống có thể bị thao túng. Báo cáo của các chuyên gia CNTT cho biết “15,459 bản ghi được tìm thấy trong hệ thống nhận diện khuôn mặt KHÔNG có trong cơ sở dữ liệu quốc gia về những người bị truy nã vì tội phạm nghiêm trọng. Nói cách khác, có 15,459 người được tải lên vào hệ thống nhận diện khuôn mặt mà không có yêu cầu từ tòa án, tức là không có cơ sở pháp lý để làm như vậy.”

Kiểm toán pháp y cũng phát hiện ra dấu vết của 356 lần xóa dữ liệu thủ công bao gồm cả các tệp nhật ký liên quan, có nghĩa là không thể biết ai bị ảnh hưởng vì ai đó, bất kể ai, đã cố gắng xóa không chỉ dữ liệu mà còn các dấu vết của việc xóa. Càng tồi tệ hơn nữa: danh tính của người đã xóa dữ liệu và tệp nhật ký không rõ ràng vì một số hồ sơ người dùng “không liên kết với dữ liệu đăng ký của người thật và không thể liên kết với một người vật lý cụ thể và xác định được,” báo cáo kiểm toán cho biết. Báo cáo cũng cho biết có 17 người dùng có đặc quyền quản trị. Bởi vì ít nhất sáu trong số các tài khoản người dùng không được liên kết với danh tính thật sự, không có cách nào để theo dõi ai đang vận hành hệ thống và khi nào. “Bộ trưởng nói rằng hệ thống là tự động và không thể nhập bộ dữ liệu sinh trắc học thủ công. Điều này không đúng,” Gallardo nói. “Các chuyên gia đã chứng minh rằng danh sách những người bị truy nã có thể thay đổi. Điều này mở ra khả năng cho người dùng hệ thống kiểm soát cá nhân, bao gồm cả bạn và tôi, ngay cả trong cuộc sống riêng tư. Khi chúng ta ra khỏi nhà, khi chúng ta trở về?”

Trong các cuộc điều tra của mình, Gallardo liên tục gặp phải các hạn chế. Thành phố từ chối tiết lộ cho ông công ty nào cung cấp thuật toán được sử dụng bởi các camera nhận diện khuôn mặt và cách nó hoạt động. Ngay cả khi thề theo lời, một nhân viên của công ty địa phương đã lắp đặt các camera, Danaide, từ chối nói chuyện. Cũng không rõ tại sao, theo thông tin truyền thông, Danaide được trao hợp đồng chỉ sau sáu phút sau khi thông báo cho việc mở thầu hệ thống nhận diện khuôn mặt được đăng.

Sau đó, không lâu sau cuộc phỏng vấn của chúng tôi, Gallardo bị loại khỏi vụ án theo yêu cầu của Thành phố Buenos Aires vì nghi ngờ thiên vị và vượt quá thẩm quyền của ông. Cựu bộ trưởng buộc tội Gallardo có ý định xấu, lệch lạc và đã dàn dựng một 'show truyền thông' bằng cách công bố tên các nhân vật công cộng mà dữ liệu sinh trắc học của họ đã được thành phố thu thập. Hơn mười thẩm phán đã ủng hộ Gallardo trong một lá thư trước đó, nhưng không thành công.

Thẩm phán kiện bộ trưởng. Bộ trưởng kiện thẩm phán. Câu hỏi vẫn còn: Ông thực sự thiên vị — hoặc nghiên cứu của ông gây phiền toái cho thành phố?

Con Mắt Toàn Thị

Khi nói về Nam Mỹ, công nghệ giám sát hàng loạt có lẽ không phải là điều đầu tiên hiện lên trong tâm trí. Nhưng một nghiên cứu của tổ chức bảo vệ dữ liệu Access Now cho thấy Argentina là một trong những quốc gia được giám sát nhiều nhất trong khu vực, cùng với Brazil và Ecuador. Chỉ riêng Buenos Aires đã có hơn 15.000 camera giám sát. Hệ thống nhận diện khuôn mặt cũng đang được sử dụng ở các thành phố Mendoza, Córdoba, Salta, San Juan, Tigre và San Salvador de Jujuy. Trong khi các thành phố ở Mỹ như San Francisco và Boston đã cấm việc sử dụng nhận diện khuôn mặt thời gian thực trong không gian công cộng, Nam Mỹ đang đầu tư. Các nhà phê bình coi điều này như một kịch bản tồi tệ nhất: Công nghệ đang được sử dụng mà không có khung pháp lý phù hợp và kiểm soát đầy đủ.

Một cuộc đi dạo qua trung tâm Buenos Aires cho thấy có camera gần như ở mọi nơi. Ánh nắng mặt trời chiếu vào Plaza de Mayo, quảng trường trước tòa nhà chính phủ mà được giám sát đặc biệt tốt và đúng nơi để hỏi người qua đường họ nghĩ gì về giám sát khổng lồ này. Kết luận: Hầu như không ai quan tâm. Chúng tôi nói chuyện với giới trẻ và người cao tuổi, với phụ nữ và đàn ông trong trang phục công việc, với những người mặc áo phông và quần jean, với người bán hàng rong. Họ nói rằng các camera là tốt; chúng làm họ cảm thấy an toàn hơn. Không ai nghe nói về vụ scandal dữ liệu được tiết lộ bởi tòa án. Nghe về điều này không làm họ lo lắng. Họ có những quan tâm khác. Một nghiên cứu tháng 5 năm 2023 của một viện nghiên cứu ý kiến ​​cho thấy lạm phát cao — 115 phần trăm năm trước đó — và tội phạm đứng đầu danh sách quan tâm của người Argentina.

Đại diện cánh trái trung tâm Victoria Montenegro là một phụ nữ năng động và là con gái của nạn nhân của một chế độ độc tài tàn bạo đã kết thúc 40 năm trước. Cô lớn lên dưới danh tính giả mạo với một gia đình quân đội. Chỉ nhờ công việc điều tra của Những Bà Thành Mẫu của Plaza de Mayo, một tổ chức nhân quyền tìm thấy trẻ em bị bắt cóc trong thời kỳ chế độ quân sự cuối cùng và được nuôi dưỡng với danh tính giả mạo, cô mới biết được tên thật của mình. Ngày nay, cô ấy ủng hộ nhân quyền. Montenegro không phản đối việc giám sát video về nguyên tắc nhưng nghi ngờ liệu nó được sử dụng đúng cách hay không, ví dụ trong các vụ bạo lực của cảnh sát. “Nếu bạn cần một trong những ngàn camera đó, cái bạn đang tìm kiếm đúng là không hoạt động. Trong các vụ bạo lực của cơ quan, ví dụ như khi một người trẻ bị giết bởi cảnh sát. Camera này, chính xác là camera này, không hoạt động lúc đó — đó là hệ thống.”

Montenegro là thành viên của “Ủy ban kiểm soát” chính thức được thành lập để xem xét việc nhận diện khuôn mặt nhưng cho biết chính phủ đã làm chậm trễ công việc của cô. “Làm thế nào tôi có thể theo dõi và đảm bảo rằng luật pháp được tuân theo nếu chính phủ không thông tin cho chúng tôi? Ủy ban kiểm soát được thành lập sau vụ scandal hàng triệu dữ liệu đã không họp một lần, chúng tôi không biết tại sao,” cô nói. “Nếu chúng ta có thể tạo ra một quy định cho nhận diện khuôn mặt, nó có thể hữu ích trong việc tìm kiếm tội phạm nguy hiểm. Nhưng không phải với mọi chi phí.” Cô cho biết D'Alessandro đã không hợp tác. “Chuyện gì đã xảy ra với tất cả dữ liệu sinh trắc học đã được yêu cầu? Bộ trưởng bảo vệ cho đến nay chỉ trả lời trong truyền thông; tôi chưa nhận được bất kỳ câu trả lời chính thức nào. Tôi có quyền nghi ngờ.”

Sau khi Gallardo bị loại khỏi vụ nhận diện khuôn mặt, hai thẩm phán khác tuyên bố hệ thống là vi phạm Hiến pháp. Nhưng quyết định của họ mở ra cơ hội cho Thành phố Buenos Aires tái kích hoạt hệ thống: Một là ủy ban kiểm soát ở quốc hội thành phố phải hoạt động. Hai là phần mềm phải được kiểm toán. Quyết định này quá mơ hồ đối với những nhà hoạt động chống giám sát, họ đã hy vọng vào một lệnh cấm hoàn toàn, và khắc nghiệt đối với thành phố muốn kích hoạt hệ thống càng sớm càng tốt.

Trong khi đó, Sergio Rodríguez, một cựu công tố viên quốc gia chuyên về các vụ án tham nhũng, quyết định điều tra chính phủ thành phố cũng như Cơ sở Dữ liệu Quốc gia của Công dân. Công tố viên hy vọng sẽ sớm cung cấp bằng chứng bổ sung. “Không có mối quan hệ hợp lý nào giữa số lần tham vấn của Thành phố Buenos Aires và cơ sở dữ liệu người truy nã,” ông nói. “Dữ liệu nhạy cảm, được bảo vệ đã bị lấy mà không có bất kỳ hình thức hợp pháp nào. Ngoài ra, thỏa thuận đã quy định rằng sau khi dữ liệu này được sử dụng cho các mục đích đã được thu thập, chúng phải được hủy theo một giao thức cụ thể—chúng ta không có một bản ghi duy nhất về việc hủy dữ liệu.”

Rodríguez không đưa ra tên tuổi nhưng đã thông báo kế hoạch tiến hành khiếu nại hình sự đối với “các cá nhân” từ chính quyền thành phố, Cơ sở Dữ liệu Quốc gia của Công dân, và “có thể là người khác.” Bộ luật hình sự quy định hình phạt từ một tháng đến hai năm tù giam và cấm hoạt động đối với bất kỳ viên chức công cộng nào “tiết lộ sự thật, hành động, tài liệu hoặc dữ liệu mà theo luật pháp phải là bí mật.”

Một Sự Khởi Đầu Khó Khăn

Trong khi đó, chính quyền thành phố tiếp tục quảng cáo hệ thống giám sát video như không có gì xảy ra. Đảng của thị trưởng Buenos Aires, Horacio Rodríguez Larreta, muốn giành chiến thắng trong cuộc bầu cử tổng thống vào tháng 10. Ứng cử viên hàng đầu là Patricia Bullrich, cựu bộ trưởng an ninh liên bang và người ủng hộ hệ thống nhận diện khuôn mặt. Cô đã tham gia trực tiếp vào việc khai mạc hệ thống được lắp đặt tại ga Retiro, nơi Guillermo Ibarrola bị bắt giữ.

Bullrich nhận được số phiếu thứ hai nhiều nhất trong cả nước trong cuộc bỏ phiếu sơ bộ vào đầu tháng 8 và có cơ hội vào vòng chung kết. Một chi tiết lạ lẫm: Bullrich là một trong những người có thể là nạn nhân của việc nhận diện khuôn mặt tại Buenos Aires. Các cơ quan thành phố đã yêu cầu dữ liệu sinh trắc học của cô 18 lần từ năm 2019 đến 2021. Cô chưa có bình luận công khai về điều này.

Mặc dù Argentina vẫn là một trong những quốc gia an toàn nhất trên lục địa, nhưng người trở thành Tổng thống mới của Argentina vào ngày 10 tháng 12 sẽ phải coi việc an ninh rất nghiêm túc. Mọi người sợ về vấn đề trộm cắp và tội phạm tổ chức đang lan rộng; Thành phố Rosario bị khủng bố và làm mất ổn định bởi băng đảng ma túy. An ninh là một vấn đề rất phù hợp để kích động phiếu, và vì sự an toàn, nhiều công dân sẵn lòng hy sinh khi đến vấn đề bảo vệ dữ liệu.

Beatriz Busaniche là giảng viên khoa Khoa học Truyền thông tại Đại học Buenos Aires và là giám đốc của Quỹ Vía Libre, một tổ chức phi lợi nhuận nhằm kích thích các cuộc tranh luận về bảo vệ dữ liệu, phần mềm tự do và tác động xã hội của công nghệ mới. Chúng tôi gặp nhau tại Plaza San Martín trước Bộ Ngoại giao, một quảng trường được bảo vệ tốt với camera ở khắp mọi nơi. Chuyên gia CNTT chọn một cái ghế dựa bóng mát, giữa những cây cao. “Tôi nghĩ ở Buenos Aires, mọi thứ về hệ thống nhận diện khuôn mặt đều đi sai. Chúng ta thiếu nhận thức về quyền riêng tư, về nhân quyền,” cô nói. “Công nghệ thường được thảo luận như một giải pháp ở Argentina, mà không xem xét các khía cạnh gây vấn đề. Thẩm phán Gallardo đã làm việc tốt và vụ án bị rút lui từ ông.”

Đối với Busaniche, giám sát là một vấn đề đặc biệt nhạy cảm ở Buenos Aires vì đại diện của đảng của thị trưởng đã nhiều lần bị nghi ngờ đã theo dõi người dân bằng các dịch vụ tình báo.

Cô cũng nhìn nhận khả năng kiểm soát xã hội thông qua việc nhận diện khuôn mặt: “Việc xây dựng nền dân chủ ở Argentina trong bốn thập kỷ qua đã dựa trên các phong trào xã hội rất tích cực, người dân ra đường và bảo vệ quyền biểu tình như một quyền cơ bản.” Busaniche tự hỏi việc nhận diện khuôn mặt có thể được sử dụng cho mục đích gì trong tương lai gần. Để đe dọa người biểu tình? Làm phương tiện răn đe? “Người ta có thể tranh luận liệu việc chặn đường có đúng không. Nhưng hệ thống nhận diện khuôn mặt có thể được sử dụng để ngăn người dân diễu hành cho quyền lợi của họ.”

Thành phố Buenos Aires vẫn đang gặp khó khăn trong việc bật lại hệ thống nhận diện khuôn mặt. Đối với những falsos positivos, điều này có thể là tin xấu. Theo báo cáo của các chuyên gia CNTT công lý, dữ liệu sinh trắc học của ít nhất một người vẫn được lưu trữ trong hệ thống nhận diện khuôn mặt vào thời điểm các cuộc tìm kiếm của công lý diễn ra. Ibarrola, người bố bị buộc tội sai, cho chúng tôi xem một lá thư từ tòa án xác nhận rằng ông không phải là tội phạm được truy nã từ Bahía Blanca. “Điều này mang lại cảm giác an toàn cho tôi,” ông nói.

Văn phòng của Công tố viên Sergio Rodríguez là một phần của Mạng lưới Công tố viên Ibero-America chống Tham nhũng, và ông nói rằng ông xem xét vấn đề nhận diện khuôn mặt là một chủ đề thú vị cho nhóm này. “Có lẽ nghiên cứu của chúng tôi ở đây tại Argentina có thể làm cảnh báo cho các quốc gia khác. Liệu có nên có nhiều sự bảo vệ hơn cho dữ liệu nhạy cảm từ phía nhà nước không? Liệu nó có nên có một hệ thống cảnh báo hiệu quả hơn nếu có quá nhiều dữ liệu được truy xuất? Chúng ta nên làm việc để tìm kiếm các hệ thống ngăn chặn, trên toàn thế giới,” ông nói.

Chỉ vài giờ trước khi bài viết này được công bố, văn phòng của Rodríguez xác nhận rằng dữ liệu sinh trắc học của tác giả và nhiếp ảnh gia đều nằm trong số dữ liệu được yêu cầu bởi Thành phố Buenos Aires. Trong cuộc phỏng vấn của chúng tôi, cựu bộ trưởng đã tuyên bố rằng tất cả các yêu cầu dữ liệu đều có thể được truy vết — và rằng tất cả các yêu cầu đều có thể được giải thích. Việc kiểm tra để xác minh điều này đang được tiến hành.