Buzz
Để đọc câu chuyện này, vui lòng nhấp vào đây.
Năm 2018, trong khi Quốc hội Argentina đang tranh luận nảy lửa về việc hủy bỏ hình phạt phá thai, Bộ Trẻ em của tỉnh Salta (Argentina) và tập đoàn công nghệ lớn Microsoft của Hoa Kỳ, giới thiệu một hệ thống thuật toán để dự đoán thai nghén ở thanh thiếu niên. Họ gọi nó là "Nền tảng Can thiệp Xã hội Công nghệ".
"Với công nghệ, có thể dự đoán trước được với năm hoặc sáu năm, đầy đủ thông tin, tên, họ và địa chỉ, cô gái nào được dự định 86% sẽ mang thai khi còn thiếu niên", Juan Manuel Urtubey, khi ấy là thống đốc tỉnh, tự hào tuyên bố trên truyền hình quốc gia. Mục tiêu công khai là sử dụng thuật toán để dự đoán những cô gái ở khu vực thu nhập thấp sẽ mang thai trong năm năm tiếp theo. Không bao giờ tiết lộ những gì sẽ xảy ra khi một cô gái hoặc phụ nữ được gán nhãn là "được dự định" trở thành mẹ, hoặc làm thế nào thông tin này sẽ giúp ngăn chặn thai nghén ở thanh thiếu niên. Đồng thời, các lý thuyết xã hội dựa trên hệ thống trí tuệ nhân tạo, cũng như thuật toán của chúng, vẫn là điều bí ẩn.
Thông tin cá nhân và nhạy cảm - như tuổi, dân tộc, quốc gia xuất thân, tình trạng khuyết tật và liệu gia đình có nước nóng trong nhà tắm không - của 200.000 cư dân thành phố Salta - bao gồm 12.000 phụ nữ và bé gái từ 10 đến 19 tuổi - tạo nên cơ sở dữ liệu của hệ thống. Mặc dù không có tài liệu chính thức, dựa trên các bài báo và hai đánh giá kỹ thuật; chúng ta biết rằng "đại diện địa phương" đã đến thăm các ngôi nhà của những cô gái và phụ nữ liên quan, đặt câu hỏi từ cuộc khảo sát, chụp ảnh và ghi lại vị trí trên GPS. Những người phải chịu sự giám sát tận cùng này có điều gì chung? Đó là đói nghèo. Trong số họ, một số thuộc các cộng đồng bản địa wichí, qulla và guaraní hoặc là những người di cư từ Bolivia và các quốc gia khác ở Nam Mỹ.
Mặc dù người phát ngôn của Microsoft tự hào tuyên bố rằng công nghệ ở Salta là "một trong những trường hợp tiên phong trong việc sử dụng dữ liệu trí tuệ nhân tạo", nhưng về mặt chương trình nhà nước, nó không mang lại nhiều điều mới mẻ có ý nghĩa. Ngược lại, có thể coi nó là một phần mở rộng của một truyền thống dài của Argentina: kiểm soát dân số thông qua giám sát và sức mạnh. Phản ứng trước những phương pháp kiểm soát cũ này được che đậy dưới vẻ mới, đã là biểu hiện rõ ràng về cách những người theo chủ nghĩa nữ quyền ở Argentina, từ học giả đến cơ sở, đã có thể đối mặt với sự lạm dụng trí tuệ nhân tạo này.
Trong thế kỷ XIX và đầu thế kỷ XX, các chính phủ liên tiếp của Argentina đã thực hiện chính sách tàn sát các cộng đồng bản địa và thúc đẩy chính sách nhập cư dựa trên các tư tưởng được thiết kế để thu hút định cư châu Âu, với hi vọng "làm trắng" đất nước. Theo thời gian, một bản dạng dân tộc đã được xây dựng dọc theo các đường xã hội, văn hóa và đặc biệt là chủng tộc.
Theo nhà sử học Marisa Miranda, trong các nghiên cứu của mình theo dõi các nỗ lực của Argentina kiểm soát dân số thông qua khoa học và công nghệ, loại tư duy này có xu hướng biến đổi và thích ứng với các mô hình khoa học và tình cảnh chính trị mới. Hãy xem xét vấn đề nhập cư. Qua lịch sử của đất nước, ý kiến đã dao động giữa việc khen ngợi nhập cư như một phương tiện để "cải thiện" dân số và xem xét những người nhập cư như là một điều không mong muốn; một đe dọa chính trị cần được theo dõi và quản lý cẩn thận.
Một ví dụ khác gần đây là chế độ quân sự Argentina (1976-1983), kiểm soát dân số thông qua việc sử dụng bạo lực hệ thống. Trong giai đoạn này, phụ nữ có "nhiệm vụ đất nước" làm đầy đất nước và việc tránh thai bị cấm theo luật năm 1977. Biểu hiện tàn bạo nhất của sự quan tâm của chế độ về việc sinh sản là thực hành bắt giữ phụ nữ mang thai được coi là chống đối chính trị. Đa số sau khi sinh đều bị giết và nhiều đứa con của họ bị những người quân sự nhận nuôi một cách bất hợp pháp để được nuôi dưỡng bởi "gia đình yêu nước và Công giáo".
Mặc dù hệ thống trí tuệ nhân tạo ở Salta để "dự đoán thai nghén" được ca ngợi như một cái gì đó tương lai, chỉ có thể hiểu được ánh sáng của lịch sử dài này, của việc sử dụng tài nguyên quá khứ để kiểm soát của nhà nước. Theo lời của Miranda, động lực sống mãi của chủ nghĩa uy danh luôn "chứa đựng một liên kết với tương lai" và cho rằng sinh sản "phải được quản lý bởi những người mạnh mẽ."
Do thiếu quy định quốc gia về trí tuệ nhân tạo, "Nền tảng Can thiệp Xã hội Công nghệ" không bao giờ được chấp thuận theo quy trình hình thức và không có đánh giá nào về ảnh hưởng của nó đối với các cô gái và phụ nữ. Không có dữ liệu chính thức về độ chính xác hoặc kết quả. Như hầu hết các hệ thống trí tuệ nhân tạo trên thế giới, bao gồm cả những cái được sử dụng trong bối cảnh nhạy cảm, nó thiếu tính minh bạch và trách nhiệm.
Mặc dù không rõ liệu chương trình công nghệ cuối cùng có bị đình chỉ hay không, tất cả thông tin mà chúng ta biết đều đến từ những nỗ lực của những nhà hoạt động nữ quyền và nhà báo, họ thực hiện một kiểm toán cơ bản về một hệ thống trí tuệ nhân tạo lỗi và có hại. Bằng cách triển khai nhanh chóng một máy tổ chức cộng đồng hoạt động tốt, họ đã thu hút sự chú ý của truyền thông quốc gia về cách một công nghệ chưa được kiểm chứng và quy định, đang được sử dụng để vi phạm quyền của các cô gái và phụ nữ.
"Ý tưởng rằng các thuật toán có thể dự đoán thai nghén ở thanh thiếu niên trước khi nó xảy ra là lí do hoàn hảo để những người hoạt động chống phụ nữ và chống quyền tình dục và sinh sản tuyên bố rằng các luật pháp về phá thai là không cần thiết", những nhà nghiên cứu nữ quyền Paz Peña và Joana Varón đã viết. Trong thực tế, nhanh chóng được tiết lộ rằng một tổ chức phi lợi nhuận Argentina mang tên Fundación Conin, do bác sĩ Abel Albino, một người phản đối mạnh mẽ quyền phá thai, làm giám đốc, đứng sau công nghệ này, cùng với Microsoft.
"[Chương trình công nghệ] là một kế hoạch của xã hội patriarchy", Ana Pérez Declercq, giám đốc Quan sát về Bạo lực đối với Phụ nữ của Salta, tuyên bố. "Làm lẫn lộn các biến số kinh tế xã hội để tạo ra ấn tượng như là cô gái hoặc phụ nữ là người duy nhất chịu trách nhiệm cho tình cảnh của họ. Nó hoàn toàn không quan tâm đến bối cảnh. Hệ thống trí tuệ nhân tạo này là một ví dụ khác về việc vi phạm quyền của phụ nữ bởi nhà nước. Hãy tưởng tượng xem làm thế nào khó khăn khi từ chối tham gia vào sự giám sát này". Cô thêm rằng các gia đình phụ thuộc vào cơ quan tài trợ chương trình, Bộ Trẻ em, để nhận các dịch vụ như tiêm chủng và sữa miễn phí. Trong một quốc gia kết thúc năm 2021 với một nửa dân số sống trong đói nghèo, đây là một sự hỗ trợ quan trọng mà các cô gái và phụ nữ yếu đuối không thể đám đặt mất khi nói lên.
Laboratorio de Inteligencia Artificial Aplicada của Đại học Buenos Aires đã làm nổi bật những sai lầm nghiêm trọng về kỹ thuật và thiết kế của nền tảng và đặt dấu chấm hỏi về những tuyên bố của các nhà phát triển rằng mô hình của họ "dự đoán đúng 98,2% thời gian". Các đánh giá kỹ thuật dựa trên thông tin không đầy đủ, vì hệ thống thiếu tính minh bạch. Thêm vào đó, đã được tiết lộ rằng cơ sở dữ liệu bao gồm các vấn đề về dân tộc và kinh tế xã hội, nhưng không có gì về việc truy cập giáo dục tình dục hoặc tránh thai, mà các nỗ lực về sức khỏe cộng đồng trên toàn thế giới nhận ra là các công cụ quan trọng nhất để giảm tỷ lệ thai nghén ở thanh thiếu niên. "Các vấn đề về phương pháp, như sự thiếu độ tin cậy của dữ liệu, đưa ra rủi ro khiến những quyết định chính trị sai lầm", Diego Fernández Slezak, giám đốc của lab, tuyên bố.
Trong khi kế hoạch ở Salta để dự đoán thai nghén bị chỉ trích công khai bởi các học giả và nhà báo, những nhà hoạt động nữ quyền đã sử dụng sự chú ý của truyền thông này để áp đặt một biện pháp trách nhiệm công cộng, ngay cả trước sự thiếu quy định hoàn toàn của Nhà nước về trí tuệ nhân tạo. Sự chống lại hiệu quả của họ đối với hệ thống trí tuệ nhân tạo này là có thể bởi họ đã xây dựng một phong trào xã hội mạnh mẽ.
Ngay từ thế kỷ XIX, phụ nữ nhập cư ở Buenos Aires đã tán thành về sự bình đẳng và quyền sinh sản trong tờ báo vô chính phủ La Voz de la Mujer với khẩu hiệu "Ni Chúa, ni ông chủ, ni chồng".
Sau chế độ quân sự, phụ nữ Argentina bắt đầu tổ chức. Hội nghị Quốc gia đầu tiên của Phụ nữ diễn ra vào năm 1986, lấy cảm hứng từ Hội nghị Nữ quyền của Châu Mỹ Latinh và Caribe (1981) và Hội nghị Phụ nữ Thế giới Thứ Ba của Nairobi (1985). Từ đó, hàng ngàn phụ nữ đã tham gia và đã trở thành công cụ quan trọng trong việc phát triển chiến lược đấu tranh cho quyền sinh sản. Tại hội nghị năm 2005, Chiến dịch Quốc gia cho Quyền Phá thai Hợp pháp, An toàn và Miễn phí được khai mạc với khẩu hiệu "Giáo dục tình dục để quyết định, tránh thai để không phải phá thai, phá thai hợp pháp để không phải chết"..
Chiến dịch nữ quyền chống lại bạo lực giới #NiUnaMenos bùng nổ tại Argentina vào năm 2015, bắt nguồn từ việc phát hiện xác của Chiara Páez, một thiếu niên mang thai 14 tuổi, bị bạn trai sát hại ở tỉnh Santa Fe. Sự phản đối quy mô lớn thu hút phụ nữ từ mọi tầng lớp và tụ tập một loạt các phong trào hoạt động, bao gồm cả các nhóm ủng hộ quyền của bản địa, quyền LGBTQ và quyền của người nhập cư. Các cuộc biểu tình nhanh chóng lan rộng sang Uruguay, Chile và México. Các thành phố như Washington DC, Paris, Barcelona, Oslo, Amsterdam, Geneva và Beijing tham gia với các cuộc diễu hành chủ yếu do phụ nữ Latinh Mỹ cư trú tại những thành phố đó lãnh đạo.
#NiUnaMenos lan tỏa trên mạng xã hội. Phong trào này đã làm nổi bật sự vắng mặt gần như hoàn toàn của dữ liệu và thống kê chính thức về bạo lực giới ở Argentina và các quốc gia khác, điều này đã dẫn đến một phong trào hoạt động dữ liệu cơ bản để theo dõi và công bố những vụ án giết người phụ nữ và các hình thức bạo lực khác. Các nỗ lực bắt đầu bởi các nhóm hoạt động sau đó đã được chính phủ hiện tại tiếp tục, bao gồm một hệ thống quốc gia để ghi lại các trường hợp bạo lực giới (SICVG).
Năm 2018, hơn một triệu người biểu tình lấp đầy các con phố của Buenos Aires, đòi hỏi hợp pháp hóa phá thai. "Biển xanh lớn" đã lấy tên từ màu của những chiếc khăn mà các nhà hoạt động mang, lấy cảm hứng từ những chiếc khăn trắng biểu tượng của các Bà Mẹ Quảng trường Mayo (mẹ và bà ngoại đã dũng cảm thách thức chế độ quân sự để tìm kiếm con cái bị giết và cháu bị bắt cóc). Giống như #NiUnaMenos, Biển xanh lớn nhanh chóng lan rộng sang các quốc gia Latinh Mỹ khác và thậm chí là Ba Lan, nơi các nhà hoạt động phản đối các hạn chế về phá thai bằng cách sao chép màu sắc và khăn trong các cuộc biểu tình năm 2021. Dưới sức mạnh của phong trào này, Argentina đã trở thành một trong những quốc gia đầu tiên ở Châu Mỹ Latinh hợp pháp hóa quyền phá thai vào năm 2020.
Như đã được Zeynep Tufekci và các học giả khác ghi chép, hoạt động dữ liệu không xảy ra trong hình hộp trống. Nó có thể lan rộng thông qua các hashtag, nhưng chỉ hoạt động khi được hỗ trợ bởi các mạng lưới địa phương tổ chức tốt - như #NiUnaMenos và Biển xanh lớn - mà những người phụ nữ Argentina đã xây dựng.
Mặc dù nền kinh tế của đất nước đang gặp khó khăn, Argentina đã tạo ra một cảnh khởi nghiệp phồn thịnh và công bố một ý chí rõ ràng của mình để trở thành lãnh đạo khu vực trong phát triển công nghệ và trí tuệ nhân tạo. Là biểu hiện của sự quan tâm đó, vào năm 2019, cựu Tổng thống Mauricio Macri công bố một "Kế hoạch Quốc gia về Trí tuệ Nhân tạo". Hiện tại, nó đã bị bỏ largely. Giống như ở những nơi khác trên thế giới, ngay cả khi những tiến bộ như vậy đang phát triển, quy định và kế hoạch đang tiến triển đầy nguy hiểm. Để một kế hoạch quốc gia về trí tuệ nhân tạo có thể hiệu quả trong việc bảo vệ xã hội, đặc biệt là những nhóm dân số lịch sử bị tách biệt, các nhà lập pháp nên chú ý đến công việc cơ sở mà những người nữ quyền đã thực hiện.
Nhóm hỗ trợ nữ quyền Socorro Rosa, giống như Nền tảng Can thiệp Xã hội, đều có ý định giải quyết vấn đề mang thai ở tuổi teen; cả hai sử dụng từ "định mệnh" để mô tả dự án của họ, nhưng tương phản mạnh mẽ. Socorro Rosa nhấn mạnh rằng dữ liệu tiết lộ số lượng ca mang thai sớm cao là hậu quả trực tiếp của bạo lực tình dục và khẳng định quyền an toàn, sự đồng thuận, giáo dục về tình dục và quyền truy cập phá thai an toàn cho thanh thiếu niên. Nhóm mô tả chiến dịch của mình như một phương tiện để "thách thức, đặt câu hỏi và dám tưởng tượng về những định mệnh khác" cho các bé gái và phụ nữ. Ngược lại, hệ thống Trí tuệ nhân tạo tập trung vào thiếu niên tiền mãn kinh và cá nhân trẻ tuổi sống trong nghèo đói, xóa bỏ ngữ cảnh xã hội của họ và niêm phong số phận của họ, như thể họ đã "được định mệnh" để mang thai, để lại bí mật về những phương pháp kỳ thị dẫn đến những dự đoán đó. Trong khi đó, Socorro Rosa và những người hoạt động nữ quyền khác tin rằng bé gái và phụ nữ bị rối trong những hệ thống chính trị rộng lớn hơn và rằng sự thay đổi xã hội là hoàn toàn có thể.
Trong việc giải quyết vấn đề mang thai ở tuổi teen, cũng như với các vấn đề xã hội khác, các nhà hoạt động nữ quyền ở Argentina đã làm việc để đảm bảo rằng kiến thức và dữ liệu là có sẵn cho tất cả mọi người và để thúc đẩy các hình thức đoàn kết và quyền lực thay vì theo dõi và kiểm soát. Điều này cung cấp một mô hình quan trọng về cách tiếp cận các vấn đề xã hội phức tạp: với sự tham gia, ngữ cảnh và minh bạch. Đây là những giá trị mà nên hướng dẫn thiết kế của các công nghệ chăm sóc sức khỏe.
Liên minh châu Âu và Hoa Kỳ đang phát triển các kế hoạch cụ thể để kiểm tra các hệ thống thuật toán. Các đánh giá về những hậu quả có thể của trí tuệ nhân tạo cần phải xem xét bối cảnh xã hội và trải nghiệm sống. Một kích thước không phải lúc nào cũng phù hợp. Một nền tảng của Microsoft có thể gây hậu quả khác nhau cả ở Salta và Redmond, nơi công ty có trụ sở. Các cộng đồng địa phương và các nhóm nhà hoạt động sở hữu kiến thức quan trọng về tác động xã hội của các hệ thống trí tuệ nhân tạo đối với cuộc sống của họ. Họ cũng sở hữu các chiến lược chống lại và kích thích mà có thể mở rộng và lan truyền. Các nhà hoạt động nữ quyền ở Argentina đã kích hoạt sự bắt đầu của một làn sóng phản đối và bảo vệ khác, lần này để biến đổi cách chúng ta sống với trí tuệ nhân tạo và đánh giá những tổn thương của nó: một "cuộc cứu hộ hồng" khỏi những cách phân biệt và bạo lực nguy hiểm đang hoạt động từ trí tuệ nhân tạo.
Các tác giả cảm ơn các thành viên của hội thảo "Lịch sử của Trí tuệ Nhân tạo: Một Phả hệ Quyền lực" của Đại học Cambridge, vì ý kiến rất hào phóng của họ về nghiên cứu này.
Nhiều bài viết tuyệt vời từ Mytour
- 📩 Những thông tin mới nhất về công nghệ, khoa học, và nhiều hơn nữa: Đăng ký nhận bản tin của chúng tôi!
- Làm thế nào ánh sáng neon của Bloghouse đã thống nhất internet
- Có ai muốn thế giới ảo của Big Tech không?
- Ứng dụng và gadgets để giúp bạn đối mặt với tiếng ồn trong tai
- Các cơ quan tình báo Mỹ đang gặp khó khăn
- Vật lý của khẩu trang N95
- 👁️ Khám phá trí tuệ nhân tạo như chưa bao giờ với cơ sở dữ liệu mới của chúng tôi
- 💻 Nâng cấp trò chơi làm việc của bạn với đội ngũ Gear yêu thích laptop, bàn phím, lựa chọn gõ, và tai nghe chống ồn
