Sự Rời bỏ của 2 Nghiên cứu viên Trí tuệ Nhân tạo từ Google Gây Nhiều Biến Động

Vào sáng thứ Hai, một số tâm hồn hàng đầu trên thế giới về robot và học máy tụ tập cho một hội thảo nghiên cứu ảo, được mời duyệt bởi Google. Hai học giả được mời không đăng nhập vào đúng lịch trình: Họ rút lui để phản đối cách Google đối待 với hai phụ nữ nói rằng họ bị sa thải một cách không công bằng từ phân khúc nghiên cứu trí tuệ nhân tạo của công ty. Một học giả thứ ba trước đây nhận được tài trợ từ Google đã đưa ra quyết định riêng của mình, nói rằng anh ta sẽ không còn nộp đơn xin được hỗ trợ từ công ty nữa.

Mặc dù quy mô nhỏ, cuộc tẩy chay thể hiện một số thiệt hại cho danh tiếng của Google từ sự rời bỏ gay gắt của Timnit Gebru và Margaret Mitchell, đồng lãnh đạo của một nhóm làm việc để làm cho các hệ thống Trí tuệ Nhân tạo trở nên đạo đức hơn. Sự kiện đã đưa ra sự chú ý mới đối với ảnh hưởng của các công ty công nghệ đối với nghiên cứu về Trí tuệ Nhân tạo, và đã dẫn các nhà nghiên cứu trong và ngoài Google đặt câu hỏi liệu nó có biến t distort nghiên cứu về ảnh hưởng của Trí tuệ Nhân tạo đối với xã hội hay không.

Trong tháng 12, Gebru nói rằng cô bị sa thải sau khi phản đối áp lực để rút lui hoặc loại bỏ tên mình khỏi một bài báo nghiên cứu nêu rõ nhược điểm của công nghệ xử lý văn bản. Mitchell, một đồng tác giả trên bài báo, bị sa thải vào tháng 2, có vẻ là sau khi cố gắng thu thập chứng cứ về cách Gebru bị đối xử tại Google. Trong tháng này, một hội nghị hàng đầu về công bằng và minh bạch trong lĩnh vực máy tính, nơi bài báo gây tranh cãi được trình bày vào tuần trước, đã loại bỏ Google khỏi danh sách nhà tài trợ.

Sự kiện máy học và an toàn robot kéo dài ba ngày của Google trong tuần này đã mang tên là Hội thảo Máy học và An toàn Robot. Hadas Kress-Gazit, giáo sư robot tại Cornell, đã được mời vào tháng 1, sau khi Gebru rời khỏi công ty nhưng trước khi Mitchell rời đi. Nhóm nghiên cứu của bà làm việc để tạo ra phần mềm để kiểm soát robot một cách đáng tin cậy, có thể bảo vệ cả máy và con người xung quanh chúng. Nhưng sau khi vụ nghiên cứu về đạo đức của trí tuệ nhân tạo của Google trở nên phức tạp, và sự kiện này ngày càng đến gần, bà bắt đầu nghĩ lại quyết định của mình.

Sáng thứ Sáu, Kress-Gazit đã gửi email cho các tổ chức tổ chức sự kiện để thông báo rằng bà sẽ không tham gia vì bà không muốn liên quan đến nghiên cứu của Google bằng bất kỳ cách nào. “Không chỉ quá trình nghiên cứu và tính toàn vẹn của Google bị nhiễm bẩn, mà rõ ràng, bằng cách phụ nữ này bị đối xử, tất cả các cuộc trò chuyện về đa dạng của công ty đều là biểu diễn," bà viết. Kress-Gazit nói rằng bà không mong đợi hành động của mình sẽ ảnh hưởng nhiều đến Google, hoặc công việc tương lai của bà, nhưng bà muốn thể hiện sự đoàn kết với Gebru và Mitchell, nhóm của họ và nghiên cứu của họ.

Một người được mời tham gia sự kiện, Scott Niekum, giám đốc phòng thí nghiệm robot tại Đại học Texas tại Austin, đã đưa ra quyết định tương tự. “Google đã thể hiện một thiếu lãnh đạo đáng kinh ngạc và cam kết với khoa học mở, đạo đức và đa dạng trong cách họ đối xử với nhóm Trí tuệ nhân tạo đạo đức, đặc biệt là Tiến sĩ Gebru và Mitchell,” ông viết trong email của mình gửi đến tổ chức sự kiện, yêu cầu họ chuyển quyết định và ý kiến của mình lên cấp lãnh đạo của Google.

Một đồng nghiệp của Niekum tại UT Austin, giáo sư trợ giảng Vijay Chidambaram, người làm việc về hệ thống lưu trữ máy tính, đã đăng tweet ủng hộ cuộc biểu tình của Kress-Gazit chống lại Google vào thứ Sáu và nói rằng ông sẽ không còn nộp đơn xin tài trợ từ Google nữa. Trang web của phòng làm việc của ông nói rằng công việc của ông đã được hỗ trợ bởi công ty trong quá khứ.

“Nếu giới học thuật luôn được khuyến khích để tìm kiếm khoản thanh toán tiếp theo từ Google,” ông viết, các nhà nghiên cứu có thể “tiếp tục biện hộ và xin lỗi cho bất cứ điều gì Google làm.” Ông nói rằng quan điểm này có thể buộc học sinh của ông phải tìm nguồn tài trợ thay thế, nhưng từ chối liên quan đến công ty là “điều đúng đắn để làm.” Chidambaram không trả lời các yêu cầu để bình luận.

Google chặt chẽ liên quan đến nghiên cứu khoa học máy tính trên khắp thế giới, đặc biệt là trong lĩnh vực máy học. Công ty có nhiều chương trình tài trợ cho sinh viên sau đại học và giáo sư, bao gồm một chương trình dành cho giáo sư mới nghề cung cấp hỗ trợ tài trợ lên đến 60.000 đô la.

Công ty đã hỗ trợ hơn 500 sinh viên tiến sĩ kể từ khi bắt đầu cung cấp học bổng cho sinh viên tiến sĩ 12 năm trước. Đợt sinh viên mới nhất, được công bố vào tháng 10, có hơn 50 người, với máy học là chủ đề nghiên cứu phổ biến nhất. Google cũng là nhà tài trợ nổi bật của các hội nghị lớn về máy học và trí tuệ nhân tạo.

Sự tranh cãi xoay quanh cách họ đã đối xử với Gebru và Mitchell đã đưa ánh sáng mới về những căng thẳng tạo ra bởi sự tham gia của doanh nghiệp trong nghiên cứu - và cách chúng đặc biệt nhấn mạnh cho những nhà nghiên cứu đang nghiên cứu về các khía cạnh tiêu cực có thể xảy ra từ công nghệ sinh lời. Sau khi Gebru rời khỏi Google, một số học giả làm việc về đạo đức trí tuệ nhân tạo nói rằng họ sẽ ít tin tưởng hơn trong công việc tương lai từ công ty về chủ đề này.

Chương trình cho hội thảo của Google trong tuần này nói rằng người tham gia sẽ “tham gia vào các vấn đề đạo đức và chính sách của robot học.” Niekum nói rằng cách công ty đối xử với Gebru và Mitchell, cùng với nghiên cứu của họ, làm suy giảm sự quan tâm được công ty tuyên bố trong những cuộc thảo luận như vậy.

“Google đã thể hiện một sự thiếu cam kết đáng kinh ngạc đối với đạo đức, đa dạng và khoa học chính mình,” ông nói. “Cho đến khi lãnh đạo của Google nhận thức được sự nghiêm trọng của sai lầm của họ và xem xét lại quan điểm của họ về đạo đức, khoa học và đa dạng, tôi không thể với lương tâm tốt làm việc với họ ở bất kỳ quy mô nào, cũng như không thể đánh giá cao chương trình nghiên cứu của họ bằng cách tham gia vào các sự kiện mà họ tổ chức.”

Ba nhà nghiên cứu rút lui khỏi Google khó có thể gây tổn thất ngay lập tức đối với tập đoàn lớn, nhưng duy trì lòng tốt của cộng đồng nghiên cứu là quan trọng đối với các ông lớn công nghệ. Một lý do mà Google và những người khác chi tiêu mạnh mẽ cho các học bổng nghiên cứu và tài trợ hội nghị là vì họ phụ thuộc vào giới học giả để đào tạo nhân viên tương lai, và họ khai thác các xu hướng nghiên cứu để có ý tưởng mới có thể cải thiện lợi nhuận.

Kress-Gazit nói rằng bà rút lui khỏi hội thảo một phần là do cam kết của bà với việc mở rộng nguồn nhân lực có cơ hội học hoặc làm việc trong công nghệ. “Tôi không chỉ là một nhà nghiên cứu, tôi cũng là một giáo viên. Tôi muốn đảm bảo rằng bất kỳ người nào tôi đào tạo sẽ tham gia vào một không gian làm việc hỗ trợ,” bà nói.

Google từ chối bình luận. Chương trình của hội thảo về robot có một phần mô tả hướng dẫn cộng đồng của công ty nói rằng “triết lý của Google là mọi nhân viên và khách thăm đều có quyền được môi trường tích cực nơi mọi người đều có thể đóng góp thành công.

Những câu chuyện tuyệt vời khác từ Mytour

• 📩 Những thông tin mới nhất về công nghệ, khoa học và nhiều hơn nữa: Nhận bản tin của chúng tôi!
• Một lời nguyền gen, một bà mẹ sợ hãi và sự nghiệp để 'sửa chữa' phôi thai
• Làm thế nào để tìm lịch hẹn chủng ngừa và điều gì đang chờ đợi bạn
• Khói ngoại trái đất có thể dẫn chúng ta đến với văn minh ngoại trái đất?
• Chiến dịch chống chia sẻ mật khẩu của Netflix có một mặt tích cực
• Cứu giúp! Tôi đang chìm đắm trong công việc quản trị và không thể hoàn thành công việc thực sự của mình
• 🎮 Mytour Games: Nhận các mẹo mới nhất, đánh giá và nhiều hơn nữa
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để trở nên khỏe mạnh? Kiểm tra những lựa chọn của đội ngũ Gear của chúng tôi cho bộ theo dõi sức khỏe tốt nhất, trang thiết bị chạy bộ (bao gồm giày và tất), và tai nghe tốt nhất