Buzz
Shalini Kantayya là nhà làm phim tài liệu đằng sau các bộ phim gần đây Catching the Sun và Coded Bias, vừa ra mắt tháng này trực tuyến. Coded Bias theo dõi nghiên cứu viên MIT Joy Buolamwini khi cô điều tra và chống lại sự chệch lệch chủng tộc trong nhận diện khuôn mặt cho những người có màu da đen, cả về tác động và độ chính xác. Khi theo dõi Buolamwini từ MIT đến lời khai trước Quốc hội, bộ phim nhìn nhận về ảnh hưởng phổ biến, nhưng thường bị lơ đãng của thuật toán đối với cuộc sống hàng ngày của chúng ta, từ cảnh sát đến nhà ở, giáo dục và mua sắm. Một số ngày sau khi bộ phim ra mắt, MYTOUR đã trò chuyện với Kantayya về bộ phim tài liệu, khoa học viễn tưởng và sự kiểm soát của Big Tech đối với cuộc sống của chúng ta. Dưới đây là bản ghi âm đã chỉnh sửa.
MYTOUR: Mọi người nghe các cụm từ học máy, trí tuệ nhân tạo, hệ thống đề xuất, và nó làm cho họ cảm thấy choáng ngợp. Làm thế nào bạn quan tâm đến lĩnh vực này, và làm thế nào bạn thích ứng với nó, khi mà hai hoặc ba năm trước, khi bạn bắt đầu, có rất ít nghiên cứu có thể tiêu thụ được?
Shalini Kantayya: Tôi tình cờ biết đến công việc của Joy Buolamwini qua một bài giảng TED và đọc sách Weapons of Math Destruction của Cathy O'Neil, và đơn giản chỉ mê mệt với những khía cạnh tối tăm của trí tuệ nhân tạo.
Trong vòng hai năm, tôi không thể nói chuyện với mọi người ở các bữa tiệc vì tôi lo lắng rằng mọi người sẽ hỏi tôi về công việc đang làm. Tôi nghĩ rằng tên đề tài lúc đó là Racist Robots, và nó thực sự khó giải thích. Là người không có bằng cấp cao trong khoa học dữ liệu, tôi có nỗi sợ bất cẩn giải thích các ý tưởng như thuật toán hoặc trí tuệ nhân tạo hoặc học máy. Nhưng điều làm cho tôi vượt qua nỗi sợ đó là chỉ đơn giản là đặt nhiều câu hỏi. Và tôi nhận ra rằng trí tuệ nhân tạo sẽ biến đổi mọi lĩnh vực của xã hội và chạm vào mọi quyền lợi dân sự mà chúng ta đang có.
Tôi đọc một cơ thể nghiên cứu đáng kinh ngạc của phụ nữ giúp dịch chủ đề này. Tất cả đều rất sáng tạo, một số trong những người thông minh nhất mà tôi từng gặp. Tôi nghĩ có bảy bằng tiến sĩ trong bộ phim. Họ có bằng cấp cao, nhưng họ cũng là phụ nữ hoặc những người có màu da hoặc thuộc cộng đồng LGBTQ hoặc có kinh nghiệm bị đặt vào vị trí tầm thường đã cho họ cái nhìn độc đáo về công nghệ. Điều này giúp họ nhìn nhận công nghệ từ góc nhìn của những người mà nó có thể gặp khó khăn.
Nói về quyết định làm cho bộ phim được dẫn dắt bởi phụ nữ. Rất hiếm thấy thấy một bộ phim kỹ thuật được dẫn dắt bởi phụ nữ như những người đóng vai chính, chuyên gia, làm trung tâm của bộ phim và không bị đặc biệt chú ý.
Khi tôi bắt đầu làm bộ phim, thực sự tôi không kế hoạch làm cho bộ phim được dẫn dắt chủ yếu bởi phụ nữ. Nhưng nghiên cứu của tôi liên tục dẫn tôi trở lại với tất cả những phụ nữ tuyệt vời và mạnh mẽ này.
Những người đang dẫn đầu về dữ liệu, những nhà khoa học và toán học và những nhà báo và những người hoạt động vận động đang dẫn đầu cuộc chiến cho đạo đức và việc sử dụng trí tuệ nhân tạo một cách nhân bản hơn, thực sự là phụ nữ, những người có màu da và thuộc cộng đồng LGBTQ.
Và vì vậy, điều tôi nhận ra là có một bộ môn bên trong ngành công nghiệp công nghệ mà không được lắng nghe. Vai trò của phụ nữ và chủ nghĩa nữ như một lực lượng thay đổi bên trong Silicon Valley đã bị đánh giá thấp lâu dài.
Trong quá trình làm bộ phim này, tôi đã hiểu rằng luôn có một mối liên kết giữa nghệ sĩ và nhà văn khoa học viễn tưởng và những nhà phát triển công nghệ. Bởi vì trí tuệ nhân tạo đã được phát triển bởi những người chủ yếu là người da trắng, chủ yếu là nam giới, chủ yếu đến từ nền giáo dục ưu tú, có một thiếu hụt đáng kể về trí tưởng tượng trong các công nghệ của tương lai.
Và tôi nghĩ rằng ekip của bộ phim này chỉ khiến tôi nhận ra rằng có những cách khác mà trí tuệ nhân tạo có thể hoạt động ngoài mô hình vốn chúng ta hiểu là duy nhất.
Những trở ngại lớn nhất để hoàn thành bộ phim là gì? Bạn có thể cho tôi biết về quy trình tổ chức tất cả mọi thứ không?
Tôi cảm thấy như không có bản đồ đường cho tôi. Không có bộ phim nào khác mà tôi biết đến nói về độ chệch và trí tuệ nhân tạo theo cách cụ thể này.
Và vì vậy, đối với tôi, thực sự là nhìn vào học bổng này để tìm dấu vết. Và sau đó là một công việc khó khăn để cố gắng tìm câu chuyện của những người đã bị tổn thương bởi độ chệch thuật toán nhưng đã đối đầu lại. Điều đó là một thách thức, vì nhiều lần những hệ thống này quá mờ đối với chúng ta đến nỗi đôi khi chúng ta thậm chí không biết khi nào chúng ta đã bị từ chối một cơ hội vì một thuật toán.
Và vì vậy, tôi đang cố hòa trộn những câu chuyện này lại với nhau. Tôi nghĩ việc làm một bộ phim chỉ về nhận diện khuôn mặt sẽ dễ dàng hơn nhiều. Nhận diện khuôn mặt là điều dễ hiểu nhất, vì nó quá xúc cảm. Nhưng tôi nghĩ rằng việc thể hiện sự lan rộng của những thuật toán này đang đưa ra những quyết định làm thay đổi số phận con người là quan trọng.
Thú vị khi bộ phim nói về các công nghệ mới nổi và các thuật toán khác nhau. Nó rất khác biệt so với các bộ phim như The Great Hack hoặc The Social Dilemma. Những bộ phim đó thực sự tập trung vào các công ty cụ thể như Google hoặc Facebook, nhưng Coded Bias không đổ lỗi cho các công ty cá nhân.
Ngọn lửa đầu tiên hoặc tia lửa để kể một câu chuyện luôn là một nhân vật cuốn hút. Và tôi biết rằng tôi có một nhân vật cuốn hút trong Joy Buolamwini, vui vẻ và hóm hỉnh. Tôi tin rằng mọi người không quan tâm đến vấn đề. Họ quan tâm đến con người. Và Joy có tính liêm chính như một nhà khoa học và có thể thách thức quyền lực theo nhiều cách.
Chúng ta thường nói về nỗi sợ không biết. Kiến thức là quyền lực. Vì vậy, cô ấy có quyền lực đó, nhưng sau đó cô ấy cũng kết nối nó với những người bị đ margin.
Tôi nghĩ chỉ khi cô ấy đến Capitol Hill để làm chứng tôi mới biết mình có cấu trúc của một bộ phim. Tôi chỉ biết rằng ở đó có một nhân vật. Có một câu chuyện. Có một người đi trên một hành trình. Và vì vậy, điều cốt lõi là câu chuyện dựa trên nhân vật.
Với tôi, đó là về cách làm cho khoa học dễ hiểu. Đó là thách thức để lấy vật liệu mà rất trừu tượng và cố gắng biến nó thành hình ảnh, thậm chí là điện ảnh. Tôi thực sự lấy cảm hứng từ những khuôn mẫu của khoa học viễn tưởng Mỹ. Tôi nghĩ rằng mọi thứ tôi biết về AI trước khi bắt đầu dự án này đều đến từ Stanley Kubrick và Steven Spielberg.
Nhưng bộ phim không phải là quá trừu tượng, nó cũng có những đoạn cụ thể hơn, như với những người đối mặt với các thuật toán có đặc điểm phân biệt hoặc áp đặt. Bạn giới thiệu Tranae Moran, người chiến đấu chống lại việc chủ nhà lắp đặt nhận diện khuôn mặt tại khu chung cư của mình, và Daniel Santos, một giáo viên ở Houston bị sa thải sau khi không vượt qua đánh giá của một thuật toán.
Chính xác. Tôi làm phim tài liệu một phần vì bạn có thể biến mọi người hàng ngày thành những anh hùng. Điều này giúp đánh sáng bằng chứng rằng mọi người hàng ngày đều là anh hùng.
Tôi có lòng biết ơn đặc biệt với câu chuyện của Daniel và Tranae, người không hề biết gì về dữ liệu sinh trắc học và không chỉ chống lại mà còn thay đổi pháp luật. Và Daniel, anh ấy xếp tất cả các giải thưởng giảng dạy của mình, và bạn nhìn thấy ánh mắt của anh ấy khi anh ấy nói về việc bị hệ thống làm mất nhân tính.
Tôi nghĩ chúng ta đang ở trong một giai đoạn lịch sử nơi mọi người đều được yêu cầu lãnh đạo từ một nơi sâu sắc trong con người mình. Và khi bạn nhìn thấy ai đó như Daniel hoặc Tranae, bạn nhận ra được làm thế nào công nghệ này có thể sai lầm và không công bằng.
Tôi nghĩ rất nhiều lần chúng ta nói về công nghệ như thể nó là như phép màu hoặc Chúa. Và khi bạn mở rèm, điều tôi nhận ra là công nghệ chỉ là sự phản ánh của chính chúng ta. Bởi vì những công nghệ này ảnh hưởng đến chúng ta tất cả, chúng ta đều nên có một loại giọng nói nào đó trong cách chúng được triển khai. Chúng ta nên tiến về phía công nghệ đánh giá giá trị bẩm sinh của mỗi người.
Bài viết này đã được cập nhật để bao gồm một bức ảnh gần đây hơn của Kantayya.
Những điều tuyệt vời khác trên MYTOUR
- 📩 Muốn nhận những tin tức mới nhất về công nghệ, khoa học và nhiều hơn nữa? Đăng ký nhận bản tin của chúng tôi!
- Kẻ lừa đảo muốn cứu nước của mình
- Tôi nuôi một con quỷ một mắt. Cô ấy đã thay đổi cuộc sống của tôi trong thời gian giữa đợt phong tỏa
- Lịch sử của phân bón thực sự là lịch sử của công nghệ
- Chuyển sang năng lượng mặt trời: Hành trình một năm của tôi để thoát khỏi lưới điện
- “Proning” bệnh nhân Covid có vẻ giữ mạng sống. Nhưng có bao nhiêu người?
- 🎮 MYTOUR Games: Nhận những mẹo mới nhất, đánh giá và hơn thế nữa
- ✨ Tối ưu hóa cuộc sống gia đình của bạn với những lựa chọn tốt nhất từ đội ngũ Gear của chúng tôi, từ robot hút bụi đến đệm giá rẻ đến loa thông minh
