Các Nhóm AI Đen và Queer Tuyên Bố Sẽ Từ Chối Quỹ Tài Trợ từ Google

Ba nhóm tập trung vào việc tăng cường đa dạng trong trí tuệ nhân tạo tuyên bố họ sẽ không nhận quỹ từ Google nữa. Trong một tuyên bố chung phát hành vào thứ Hai, Black in AI, Queer in AI và Widening NLP cho biết họ hành động để phản đối cách xử lý của Google đối với các nhà lãnh đạo trước đây của đội nghiên cứu AI đạo đức Timnit Gebru và Margaret Mitchell, cũng như cựu nhà tuyển dụng April Christina Curley, một phụ nữ đen queer.

“Tiềm năng của các công nghệ AI gây tổn thương đặc biệt đến các thành viên trong cộng đồng của chúng tôi gây nặng nề cho tổ chức của chúng tôi,” tuyên bố cho biết. “Các hành động của Google trong vài tháng qua đã gây ra tổn thương lớn lan rộng trong toàn bộ cộng đồng của chúng tôi. Họ không chỉ gây thiệt hại mà còn đặt ra một tiền lệ nguy hiểm cho loại nghiên cứu, bảo vệ quyền lợi và sự trả thù nào được chấp nhận trong cộng đồng của chúng tôi.”

Trong tuyên bố, các nhóm ủng hộ các lời kêu gọi được đưa ra vào tháng Ba của những nhân viên hiện tại và cũ của Google cho các hội nghị học thuật từ chối quỹ từ Google và cho các nhà lập pháp thực hiện các biện pháp bảo vệ người tiết lộ thông tin mạnh mẽ hơn cho các nhà nghiên cứu AI.

Điều này là lần đầu trong lịch sử ngắn ngủi của ba tổ chức này họ đã từ chối quỹ từ một nhà tài trợ.

Thông báo vào thứ Hai đánh dấu sự rơi vào tình trạng hậu quả mới nhất do Google đối xử với người da đen và phụ nữ và cáo buộc can thiệp vào các bài báo nghiên cứu về trí tuệ nhân tạo dự kiến được xuất bản tại các hội nghị học thuật.

Vào tháng Ba, các nhà tổ chức của hội nghị Fairness, Accountability, and Transparency (FAccT) đã từ chối quỹ từ Google, và nhà nghiên cứu Luke Stark từ chối 60,000 đô la quỹ từ Google. Luca Soldaini, người tổ chức Queer in AI, cho biết tổ chức đã nhận 20,000 đô la từ Google trong năm qua; Widening NLP nhận được 15,000 đô la từ Google.

Cochair Xanda Schofield nói rằng Widening NLP, thành lập vào năm 2017 với mục tiêu đưa thêm phụ nữ vào lĩnh vực này, cảm thấy cần phải ký vào tuyên bố chung vì hành động của Google không nhất quán với nhiệm vụ của nhóm hỗ trợ các nhà nghiên cứu thiểu số. Mitchell là một trong các người sáng lập của tổ chức. Cộng tác viên Widening NLP, Haley Lepp, thêm rằng “bằng cách ủng hộ những học giả này, chúng tôi cũng muốn ủng hộ nghiên cứu của họ, và khả năng của họ để nghiên cứu có thể phê phán về các tác động của trí tuệ nhân tạo.”

Các nhóm liên kết như Black in AI, Queer in AI và Widening NLP là các tổ chức phi lợi nhuận được thành lập để bảo vệ và đại diện cho những người đã bị thiếu kép trong cộng đồng học máy trong lịch sử. Họ hoạt động độc lập với các hội nghị học máy nhưng có thể thu hút hàng trăm người tham dự các workshop hoặc sự kiện xã hội diễn ra cùng với các hội nghị được tham dự rộng rãi nhất. Trong những năm gần đây, các nhóm liên kết đã được thành lập cho người khuyết tật và cho người Do Thái và người Hồi giáo.

Queer in AI cũng đã phản đối cách tiếp cận của Google Scholar đối với các tác giả trans và nonbinary muốn cập nhật các xuất bản sau khi thay đổi tên, Soldaini nói.

“Chúng tôi đã có những trải nghiệm từ tốt đến rất xấu với điều đó, và Google đã nằm ở phía rất xấu,” ông nói. Yêu cầu thay đổi tên đến Google thường không nhận được phản hồi, ông nói.

Gebru là một trong những người sáng lập của Black in AI. Bài báo gây tranh cãi vào thời điểm cô nói rằng cô bị sa thải, về những nguy hiểm mà các mô hình ngôn ngữ lớn mang đến cho cộng đồng bị đ margin, cuối cùng đã được xuất bản nhận diện cô là tác giả với Black in AI. Trong một buổi nói chuyện tuần trước tại Hội nghị Quốc tế về Biểu diễn Học tập, mà Google được liệt kê là nhà tài trợ platinum, Gebru khuyến khích các nhà học thuật từ chối xem xét các bài báo được nộp đến các hội nghị học máy đã được chỉnh sửa bởi luật sư.

“Các nhà học thuật không nên đánh cuộc mà nên đứng ra,” Gebru nói. “Điều này không phải là về ý định. Điều này là về quyền lực, và các tập đoàn đa quốc gia có quá nhiều quyền lực và họ cần phải được quy định.”

Rediet Abebe, người sáng lập Black in AI và sẽ trở thành thành viên cơ sở đầu tiên là phụ nữ da đen tại Khoa Kỹ thuật Điện của Đại học California Berkeley, đã cam kết vào năm ngoái không nhận tiền từ Google để làm giảm sức ảnh hưởng của công ty đối với nghiên cứu AI.

Trích dẫn các lập luận hợp lý từ cả hai phía, Devin Guillory, thành viên Hội đồng Black in AI, cho biết tổ chức hiện không khuyến khích các thành viên loại bỏ quỹ tài trợ từ Google.

“Chúng tôi không cố ép các thành viên của mình theo bất kỳ hướng nào cụ thể,” ông nói.

Google không phản hồi yêu cầu ý kiến trước khi bài viết được xuất bản. Sau khi bài viết này được công bố ban đầu, một người phát ngôn của Google nói, “Chúng tôi cam kết sâu sắc để tăng cường sự đại diện trong khoa học máy tính và chúng tôi sẽ tiếp tục hỗ trợ một loạt các tổ chức để giúp chúng ta đạt được mục tiêu này.”

Quyết định từ chối quỹ từ Google của các nhóm đặt ra câu hỏi liệu các nhóm cần có các chính sách rộng lớn hơn về nguồn tài trợ của họ. Đáp lại câu hỏi về hành động của một số công ty công nghệ Trung Quốc, các nhà tổ chức của NeurIPS, hội nghị nghiên cứu học máy hàng năm lớn nhất, đã thành lập một ủy ban tài trợ để đánh giá các nhà tài trợ và tạo ra chính sách về cách kiểm tra và chấp nhận nhà tài trợ.

Lãnh đạo của ba tổ chức cho biết các nhóm không có chính sách chính thức để khi nào rút lại việc tài trợ của một công ty, nhưng cho biết đây là lần đầu tiên mỗi nhóm từ chối một nhà tài trợ doanh nghiệp.

“Ý nghĩa của việc có quỹ tài trợ đạo đức là gì? Những loại tổ chức nào nên tài trợ một hội nghị? Những tổ chức nào không nên khi mà rất nhiều tập đoàn thực hiện những bước đi đạo đức đầy nghi ngờ?" Soldaini, của Queer in AI, đặt câu hỏi.  "Đó là một quá trình. Chúng tôi hy vọng rằng những tuyên bố của chúng tôi không chỉ cho thấy chúng tôi cam kết phê phán sự bất công và hành động, mà nó cũng có thể là một điểm xuất phát cho các nhóm khác để bắt đầu suy ngẫm tương tự, đặc biệt là với Google làm nhà tài trợ, nhưng cũng là các công ty khác,” ông nói.

Cập nhật, 11-5-21, 3 giờ chiều ET: Bài viết này đã được cập nhật để bao gồm một ý kiến từ Google.

Các thông tin tuyệt vời khác từ Mytour

• 📩 Thông tin mới nhất về công nghệ, khoa học, và nhiều hơn nữa: Nhận bản tin của chúng tôi!
• Hackers đã tiết lộ mọi thứ mà họ nói với các nhà trị liệu của họ
• Cần một nhà đầu tư thiên thần? Chỉ cần mở Clubhouse lên
• Lên lịch gửi email và tin nhắn bất kỳ lúc nào bạn muốn
• Ở đâu những giấc mơ của bạch tuộc nói lên về sự tiến hóa của giấc ngủ
• Cách đăng nhập vào thiết bị của bạn mà không cần mật khẩu
• 👁️ Khám phá AI như chưa bao giờ có với cơ sở dữ liệu mới của chúng tôi
• 🎮 Mytour Games: Nhận các mẹo mới nhất, đánh giá, và nhiều hơn nữa
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để khỏe mạnh? Kiểm tra các lựa chọn của nhóm Gear cho các thiết bị theo dõi sức khỏe tốt nhất, trang thiết bị chạy bộ (bao gồm cả giày và tất), và tai nghe tốt nhất