Bí Mật Của Thuật Toán Đáng Sợ 'Dự Đoán' Thai Nghén

để đọc bài viết này bằng tiếng Tây Ban Nha, vui lòng nhấn tại đây.

Năm 2018, trong khi Quốc hội Argentina nồng nhiệt thảo luận về việc hợp pháp hóa phá thai, Bộ Trẻ em của tỉnh phía bắc Salta và tập đoàn công nghệ Mỹ Microsoft đã trình bày một hệ thống thuật toán để dự đoán thai nghén ở tuổi dậy thì. Họ gọi đó là Nền tảng Công nghệ Can thiệp Xã hội.

"Với công nghệ, bạn có thể dự đoán năm trước đến năm sau, với tên, họ, và địa chỉ, cô gái - tương lai là thiếu niên - đã được dự định 86 phần trăm sẽ có thai khi còn thiếu niên," Juan Manuel Urtubey, lúc đó là thống đốc của tỉnh, tự hào tuyên bố trên truyền hình quốc gia. Mục tiêu công bố là sử dụng thuật toán để dự đoán những cô gái từ khu vực có thu nhập thấp sẽ mang thai trong năm năm tới. Không bao giờ rõ ràng làm thế nào khi một cô gái hoặc phụ nữ trẻ được đánh dấu là “định mệnh” của việc làm mẹ hay làm thế nào thông tin này sẽ giúp ngăn chặn thai nghén ở thiếu niên. Cả hệ thống lý thuyết xã hội hỗ trợ hệ thống trí tuệ nhân tạo này, giống như thuật toán của nó, là không rõ ràng.

Hệ thống này dựa trên dữ liệu - bao gồm tuổi, dân tộc, quốc gia xuất xứ, khuyết tật, và việc xem xét việc có nước nóng trong phòng tắm hay không - từ 200,000 cư dân ở thành phố Salta, trong đó có 12,000 phụ nữ và cô gái từ 10 đến 19 tuổi. Mặc dù không có tài liệu chính thức, từ việc đọc các bài báo và hai bài đánh giá kỹ thuật, chúng tôi biết rằng "đặc vụ lãnh thổ" đã đến nhà của những cô gái và phụ nữ đó, đặt câu hỏi khảo sát, chụp ảnh và ghi lại vị trí GPS. Những người phải chịu sự theo dõi gần gũi này có điều gì chung? Họ nghèo, một số là di dân từ Bolivia và các nước khác ở Nam Mỹ, và những người khác thuộc cộng đồng bản địa Wichí, Qulla, và Guaraní.

Mặc dù các người phát ngôn của Microsoft tự hào thông báo rằng công nghệ ở Salta là "một trong những trường hợp tiên phong trong việc sử dụng dữ liệu trí tuệ nhân tạo" trong các chương trình của nhà nước, nhưng nó chẳng có gì mới mẻ. Thay vào đó, đó là sự mở rộng của một truyền thống lâu dài của Argentina: kiểm soát dân số thông qua theo dõi và áp đặt. Và phản ứng trước đó chỉ ra cách những người theo chủ nghĩa nữ Argentina cơ bản đã có thể chống lại việc lạm dụng trí tuệ nhân tạo.

Trong thế kỷ 19 và đầu thế kỷ 20, các chính phủ liên tiếp của Argentina đã tiến hành một cuộc tàn sát các cộng đồng bản địa và thúc đẩy chính sách nhập cư dựa trên các tư tưởng nhằm thu hút định cư châu Âu, tất cả với hy vọng blanquismo, hay “làm trắng” đất nước. Theo thời gian, một bản danh tính quốc gia đã được xây dựng theo các đường xã hội, văn hóa và đặc biệt là chủ yếu là theo đường chủng tộc.

Loại tư tưởng di truyền này có khả năng biến hình và thích nghi với các mô hình khoa học và tình hình chính trị mới, theo lời nhà sử học Marisa Miranda, người theo dõi các nỗ lực của Argentina để kiểm soát dân số thông qua khoa học và công nghệ. Hãy xem xét trường hợp của nhập cư. Suốt lịch sử của Argentina, ý kiến đã dao động giữa việc tôn vinh nhập cư như một cách để “cải thiện” dân số và coi người nhập cư là không mong muốn và một đe dọa chính trị cần phải được theo dõi và quản lý cẩn thận.

Gần đây hơn, chế độ quân sự của Argentina từ 1976 đến 1983 kiểm soát dân số thông qua bạo lực chính trị có hệ thống. Trong thời kỳ độc tài, phụ nữ có “nhiệm vụ yêu nước” làm nền nhân khẩu quân sự, và việc tránh thai bị cấm theo luật năm 1977. Biểu hiện tàn bạo nhất của sự quan tâm của chế độ độc tài đối với việc làm mẹ là việc bắt cóc phụ nữ mang thai được coi là chống phá chính trị. Hầu hết phụ nữ bị ám sát sau khi sinh và nhiều đứa con của họ đã bị quân đội nhận nuôi một cách bất hợp pháp để được nuôi dưỡng bởi các gia đình “yêu nước, theo đạo Công giáo”.

Trong khi hệ thống AI ở Salta để “dự đoán thai kỳ” được ca ngợi như là một điều h futurist, thì nó chỉ có thể được hiểu trong bối cảnh lịch sử dài này, đặc biệt là, theo lời của Miranda, xao lạc vẫn luôn tồn tại và giữ lại động lực di truyền lâu dài mà luôn “chứa đựng một hình mẫu về tương lai” và giả định rằng việc sinh sản “nên được quản lý bởi những người mạnh mẽ”.

Do vì không có sự quy định trí tuệ nhân tạo quốc gia hoàn toàn, Nền Công nghệ Can thiệp Xã hội chưa bao giờ phải chịu sự đánh giá chính thức và không có đánh giá nào về tác động của nó đối với phụ nữ và các cô gái được thực hiện. Không có dữ liệu chính thức nào được công bố về độ chính xác hoặc kết quả của nó. Giống như hầu hết các hệ thống AI trên khắp thế giới, bao gồm cả những hệ thống được sử dụng trong ngữ cảnh nhạy cảm, nó thiếu tính minh bạch và trách nhiệm.

Mặc dù không rõ liệu chương trình công nghệ đã bị đình chỉ cuối cùng hay không, mọi điều chúng ta biết về hệ thống đều đến từ những nỗ lực của các nhà hoạt động và nhà báo nữ quyền tham gia vào những gì có thể coi là một cuộc kiểm toán cơ sở của một hệ thống AI không đầy đủ và có hại. Bằng cách nhanh chóng kích hoạt một hệ thống tổ chức cộng đồng được chế tạo tốt, những nhà hoạt động này đã đưa sự chú ý của truyền thông quốc gia đến cách một công nghệ không được kiểm thử, không được quy định đang được sử dụng để vi phạm quyền lợi của phụ nữ và cô gái.

“Ý tưởng rằng thuật toán có thể dự đoán thai kỳ ở tuổi teen trước khi nó xảy ra là lý do hoàn hảo cho những nhà hoạt động chống phụ nữ và chống quyền sinh sản và tình dục để tuyên bố luật pháp về phá thai là không cần thiết,” viết các học giả nữ quyền Paz Peña và Joana Varon vào thời điểm đó. Thực tế, sớm đã được tiết lộ rằng một tổ chức phi lợi nhuận của Argentina có tên là Quỹ Conin, do bác sĩ Abel Albino, một đối thủ quyền phá thai nổi tiếng, cùng với Microsoft, đứng sau công nghệ này.

“Chương trình công nghệ này là một mưu mẹo của xã hội patriarchy,” nói Ana Pérez Declercq, giám đốc Quan sát về Bạo lực Đối với Phụ nữ. “Nó lẫn lộn các biến số kinh tế xã hội để tạo ra cảm giác như là cô gái hoặc phụ nữ chỉ có một mình chịu trách nhiệm cho tình hình của mình. Nó hoàn toàn thiếu bất kỳ quan tâm nào đối với bối cảnh. Hệ thống AI này là một ví dụ nữa về việc chính phủ vi phạm quyền của phụ nữ. Hãy tưởng tượng xem việc từ chối tham gia vào hệ thống giám sát này sẽ khó khăn như thế nào.” Cô thêm rằng các gia đình phụ thuộc vào cơ quan tài trợ của chương trình, Bộ Mầm non, để có các dịch vụ như tiêm phòng và sữa miễn phí. Trong một đất nước kết thúc năm 2021 với một nửa dân số sống trong đảo lộn, đây là sự hỗ trợ quan trọng mà các cô gái và phụ nữ yếu đuối không thể đối mặt được bằng cách lên tiếng.

Phòng thí nghiệm Trí tuệ Nhân tạo Ứng dụng tại Đại học Buenos Aires nhấn mạnh các lỗi kỹ thuật và thiết kế nghiêm trọng của nền tảng và thách thức các tuyên bố của nhà phát triển rằng mô hình thực hiện “đự đoán chính xác 98,2 phần trăm thời gian.” Nhận xét kỹ thuật dựa trên thông tin không đầy đủ vì hệ thống thiếu minh bạch. Tuy nhiên, đã được tiết lộ rằng cơ sở dữ liệu của hệ thống bao gồm dữ liệu dân tộc và xã hội, nhưng không bao gồm thông tin nào về việc tiếp cận giáo dục tình dục hoặc tránh thai, điều mà nỗ lực y tế công cộng trên toàn thế giới công nhận là những công cụ quan trọng nhất trong việc giảm tỷ lệ mang thai ở tuổi teen. “Vấn đề phương pháp như sự không đáng tin cậy của dữ liệu đặt nguy cơ dẫn các nhà hoạch định chính sách vào hành động lạc lõng,” nói Diego Fernandez Slezak, giám đốc phòng thí nghiệm.

Trong khi kế hoạch dự đoán thai nghén của Salta bị công kích công khai bởi các học giả và nhà báo, các nhà hoạt động nữ quyền sử dụng sự chú ý truyền thông này để áp đặt một mức độ trách nhiệm công cộng, ngay cả khi không có quy định nào về AI của nhà nước. Sự phản kháng hiệu quả đối với hệ thống AI này là có thể vì các nhà nữ quyền Argentina đã xây dựng một phong trào xã hội mạnh mẽ.

Từ thời thế kỷ 19, phụ nữ nhập cư tại Buenos Aires đã bênh vực cho bình đẳng và quyền sinh sản trong tờ báo anarcho La Voz de la Mujer (Tiếng nói của Phụ nữ) với khẩu hiệu “Ni Dios, ni patrón, ni marido” (không có Chúa, không có ông chủ, không có chồng).

Sau thời kỳ độc tài, phụ nữ Argentina bắt đầu tổ chức. Hội nghị Quốc gia Phụ nữ đầu tiên diễn ra vào năm 1986, lấy cảm hứng từ Hội nghị Nữ quyền Latin Mỹ và Caribe năm 1981 và Hội nghị Phụ nữ Thế giới Thứ Ba tại Nairobi năm 1985. Hàng nghìn phụ nữ tham gia các buổi họp hàng năm, những buổi họp đã phát triển chiến lược để chiến đấu cho quyền sinh sản. Chiến dịch Quốc gia cho Quyền Pháp lý, An toàn và Miễn phí cho Phá thai được khai mạc tại buổi họp năm 2005 với khẩu hiệu “Giáo dục tình dục để quyết định, tránh thai để tránh phá thai, phá thai hợp pháp để sống sót”.

Chiến dịch nữ quyền chống lại bạo lực dựa trên giới #NiUnaMenos (Không Một Phụ nữ Nào Ít) nổ ra ở Argentina vào năm 2015, bắt đầu từ việc phát hiện xác của Chiara Paez, một thiếu nữ mang thai 14 tuổi bị bạn trai giết ở tỉnh Santa Fe. Phong trào lớn đã thu hút phụ nữ từ mọi tầng lớp và kết hợp nhiều phong trào hoạt động khác nhau bao gồm các nhóm ủng hộ quyền bản địa, quyền LGBTQ và quyền người nhập cư. Các cuộc biểu tình nhanh chóng lan ra Uruguay, Chile và Mexico. Các thành phố như Washington, DC, Paris, Barcelona, Oslo, Amsterdam, Geneva và Beijing tham gia với sự di chuyển chủ yếu do phụ nữ Latin Mỹ sống ở những thành phố đó dẫn dắt.

#NiUnaMenos bùng cháy trên mạng xã hội. Phong trào này đã phơi lộ sự vắng mặt gần như hoàn toàn của dữ liệu và số liệu chính thức về bạo lực dựa trên giới ở Argentina và các quốc gia khác, dẫn đến hoạt động dữ liệu cơ sở để theo dõi và công bố femicide và các hình thức khác của bạo lực. (Những nỗ lực pionered bởi các nhà hoạt động sau đó được chính phủ tiếp nhận, bao gồm một hệ thống quốc gia ở Argentina để đăng ký các trường hợp bạo lực dựa trên giới.)

Sau đó, vào năm 2018, một phong trào nữ quyền mới nổi lên khi hơn một triệu người biểu tình lấp đầy các đường phố Buenos Aires đòi hỏi hợp pháp hóa phá thai. Điều này đã khởi động “Marea Verde” hay là Sóng Xanh, lấy tên từ chiếc khăn choàng mà những người hoạt động mang theo, lấy cảm hứng từ chiếc khăn đầu trắng biểu tượng của các Bà Mẹ của Quảng trường de Mayo, những người mẹ và bà ngoại dũng cảm thách thức độc tài để tìm kiếm con cái bị giết và cháu bị bắt cóc. Giống như #NiUnaMenos, Sóng Xanh nhanh chóng lan ra các quốc gia Latin khác, thậm chí đến Ba Lan nơi các nhà hoạt động phản đối hạn chế phá thai đã mang theo khăn choàng màu xanh trong các cuộc biểu tình năm 2021. Được đẩy bởi Sóng Xanh, vào năm 2020 Argentina trở thành một trong những quốc gia đầu tiên ở Châu Mỹ Latinh hợp pháp hóa quyền phá thai.

Như Zeynep Tufekci và những học giả khác đã ghi chép, hoạt động dữ liệu không xảy ra trong một không gian hở. Nó có thể lan truyền qua các hashtag, nhưng chỉ khi được hỗ trợ bởi các mạng lưới tổ chức tốt trên đất liền—như #NiUnaMenos và Sóng Xanh—những mạng lưới mà những người nữ quyền Argentina đã xây dựng.

Argentina đã tuyên bố ý định trở thành một nhà lãnh đạo khu vực trong phát triển công nghệ và trí tuệ nhân tạo. Buenos Aires đã nuôi dưỡng một cảnh khởi nghiệp phồn thịnh, mặc dù nền kinh tế của đất nước vẫn không ổn định. Ở Argentina, như ở nhiều nơi khác trên thế giới, phát triển trí tuệ nhân tạo bùng nổ, nhưng việc quy định đang nguy hiểm chậm trễ. Chính phủ của cựu tổng thống Mauricio Macri đã công bố kế hoạch trí tuệ nhân tạo quốc gia vào năm 2019, nhưng nó đã bị bỏ bê phần lớn. Đối với kế hoạch trí tuệ nhân tạo quốc gia để hiệu quả trong việc bảo vệ xã hội, đặc biệt là các nhóm dân tộc bị kỳ thị lịch sử, các nhà hoạch định chính sách nên nhìn đến công việc trên đất liền mà người nữ quyền đã thực hiện.

Tập thể nữ quyền Socorro Rosa, hay còn gọi là “Cứu thảo Hồng,” giống như nền tảng Công nghệ Can thiệp Xã hội đều cố gắng giải quyết vấn đề thai nghén ở tuổi dậy thì, và cả hai đều sử dụng từ destino, có nghĩa là “định mệnh” hoặc “vận mệnh,” để mô tả dự án của họ. Nhưng chúng đứng trước sự tương phản rõ ràng. Socorro Rosa làm nổi bật dữ liệu cho thấy số lượng ca thai nghén ở tuổi dậy thì cao là hậu quả của bạo lực tình dục và khẳng định quyền của thanh thiếu niên đối với sự an toàn, sự đồng thuận, giáo dục tình dục và quyền tiếp cận phá thai an toàn. Nhóm mô tả chiến dịch là một phương tiện để “thách thức, đặt câu hỏi, và dám tưởng tượng ra các định mệnh [destinos]” khác cho các cô gái và phụ nữ. Ngược lại, hệ thống trí tuệ nhân tạo tập trung vào cá nhân cô gái và phụ nữ sống trong đảo lộn, không có bối cảnh xã hội. Cho rằng số phận của những thiếu niên này đã được định sẵn, với một số “được định trước” để mang thai, nó đưa ra dự đoán bí mật. Trong khi đó, Socorro Rosa và những nhà hoạt động nữ quyền khác hoạt động dưới giả định rằng các cô gái và phụ nữ liên quan đến các hệ thống chính trị lớn hơn và rằng thay đổi xã hội là có thể.

Trong việc giải quyết vấn đề thai nghén ở tuổi dậy thì, giống như với các vấn đề xã hội khác, các nhà hoạt động nữ quyền ở Argentina đã làm cho kiến thức và dữ liệu trở nên dễ tiếp cận cho mọi người và khuyến khích các hình thức đoàn kết và bổ sung thay vì giám sát và kiểm soát. Điều này cung cấp một mô hình quan trọng về cách nên tiếp cận các vấn đề xã hội phức tạp: thông qua sự tham gia, ngữ cảnh và minh bạch. Đây là những giá trị mà nên hướng dẫn việc thiết kế các công nghệ y tế.

Liên minh châu Âu và Hoa Kỳ đều đang phát triển kế hoạch cụ thể để kiểm tra các hệ thống thuật toán. Đánh giá tác động của trí tuệ nhân tạo phải xem xét ngữ cảnh xã hội và kinh nghiệm thực tế. Một kích thước không phải làm vừa tất cả. Một nền tảng của Microsoft có thể gây ra những tổn thương khác nhau ở Salta so với ở Redmond, nơi công ty đó đặt trụ sở. Cộng đồng địa phương và những nhà hoạt động có cái nhìn quan trọng về tác động xã hội của các hệ thống trí tuệ nhân tạo đối với cuộc sống của họ. Họ cũng có các chiến lược phản kháng và động viên có thể mở rộng và lan truyền. Những nhà hoạt động nữ quyền của Argentina có thể làm bùng cháy một làn sóng phản kháng mới, lần này để biến đổi cách chúng ta sống với trí tuệ nhân tạo và đánh giá những hậu quả của nó—một “cứu thảo hồng” khỏi trí tuệ nhân tạo có đặc điểm phân biệt và nguy hiểm.

Các tác giả muốn cảm ơn các buổi seminar Lịch sử về Trí tuệ Nhân tạo: Một Phả hệ Quyền lực tại Đại học Cambridge vì sự phản hồi rất hữu ích đối với nghiên cứu này.

• 📩 Những thông tin mới nhất về công nghệ, khoa học và nhiều hơn nữa: Nhận bản tin của chúng tôi!
• Làm thế nào triều đại neon của Bloghouse đã đoàn kết internet
• Liệu có ai muốn thế giới ảo của Big Tech không?
• Ứng dụng và thiết bị giúp bạn ứng phó với tiếng ồn tai
• Các cơ quan gián điệp Mỹ đang vật lộn
• Vật lý của khẩu trang N95
• 👁️ Khám phá Trí tuệ Nhân tạo như chưa bao giờ với cơ sở dữ liệu mới của chúng tôi
• 💻 Nâng cấp trò chơi làm việc của bạn với những chiếc laptop, bàn phím, lựa chọn gõ và tai nghe chống ồn yêu thích của đội ngũ Gear chúng tôi