Nếu Thực Hiện Đúng, Trí Tuệ Nhân Tạo Có Thể Làm Công Bằng Hơn Trong Công Việc Cảnh Sát

Mười năm trước, Fei-Fei Li, một giáo sư khoa học máy tính tại Đại học Stanford, đã giúp chứng minh sức mạnh của một thế hệ mới các thuật toán trí tuệ nhân tạo mạnh mẽ. Bà tạo ra ImageNet, một bộ sưu tập hình ảnh được gắn nhãn rộng lớn có thể được cung cấp cho các chương trình học máy. Theo thời gian, quá trình đó giúp các máy tính chinh phục một số kỹ năng con người đáng kinh ngạc khi chúng có đủ dữ liệu để học từ đó.

Kể từ đó, các chương trình trí tuệ nhân tạo đã tự học để thực hiện nhiều công việc hữu ích hơn, từ nhận dạng giọng nói và dịch ngôn ngữ đến vận hành robot kho và hướng dẫn xe tự lái. Nhưng các thuật toán trí tuệ nhân tạo cũng đã thể hiện tiềm năng tối tăm, ví dụ như sử dụng công nghệ nhận diện khuôn mặt tự động có thể duy trì thiên hướng về chủng tộc và giới tính. Gần đây, việc sử dụng phần mềm nhận diện khuôn mặt trong lực lượng chức năng đã nhận được lời chỉ trích và khiến một số công ty tuyên bố từ bỏ việc bán sản phẩm cho cảnh sát.

Chính Li cũng đã trải qua những thăng trầm của sự bùng nổ của trí tuệ nhân tạo. Năm 2017, bà gia nhập Google để giúp, theo lời bà, “phổ cập” công nghệ này. Không lâu sau đó, công ty và chính Fei-Fei Li trở thành một phần của cuộc tranh cãi về việc cung cấp trí tuệ nhân tạo cho quân đội thông qua dự án được biết đến với tên gọi Maven và cố gắng giữ dự án này bí mật.

Vài tháng sau sự việc gây xôn xao, Li rời khỏi Google và trở về Stanford để đồng lãnh đạo Viện Trí Tuệ Nhân Tạo Tập Trung vào Con Người (HAI) mới của trường. Bà cũng là người đồng sáng lập AI4All, một tổ chức phi lợi nhuận chuyên về việc tăng cường đa dạng trong giáo dục, nghiên cứu và chính sách về Trí Tuệ Nhân Tạo. Vào tháng 5, bà gia nhập hội đồng quản trị của Twitter.

Li nói chuyện với Will Knight, biên tập viên cấp cao của Mytour qua Zoom từ nhà của bà ở Palo Alto. Bản ghi âm này đã được chỉnh sửa về độ dài và rõ ràng.

Mytour: Chúng ta đang chứng kiến sự phẫn nộ của công chúng về vấn đề phân biệt chủng tộc và định kiến hệ thống trong xã hội. Công nghệ gia có thể làm thay đổi điều gì?

Fei-Fei Li: Tôi nghĩ điều này rất quan trọng. Điều này liên quan đến một niềm tin cốt lõi của tôi: “Không có giá trị máy độc lập nào. Giá trị máy là giá trị của con người.” Tôi nghe Shannon Vallor, một chuyên gia đạo đức máy tính, nói điều này từ nhiều năm trước và tôi đã sử dụng nó kể từ đó. Công nghệ đã là một phần của loài người từ bình minh của thời đại, và việc triển khai công nghệ ảnh hưởng cơ bản đến con người.

Chúng ta cần đảm bảo rằng công nghệ được phát triển một cách có tác động tích cực đối với con người và đại diện cho những giá trị chúng ta tin tưởng. Điều này đòi hỏi sự tham gia của những người - từ phía đổi mới, ứng dụng, đến lập luật - và dẫn đến niềm tin tự nhiên vào sự quan trọng của tính bao dung.

Hãy nói về nhận diện khuôn mặt. Vào năm 2018, một trong những sinh viên của bạn, Timnit Gebru, đã giúp tạo ra một dự án có tên là Gender Shades nổi bật về định kiến chủng tộc trong các thuật toán nhận diện khuôn mặt thương mại. Bây giờ các công ty như Amazon, IBM và Microsoft đang hạn chế bán công nghệ này cho cảnh sát. Làm thế nào để các công ty đảm bảo rằng họ không phát hành sản phẩm với các định kiến ngay từ đầu?

Chúng ta cần một cuộc đối thoại đa bên liên quan và một kế hoạch hành động. Điều này có nghĩa là hội tụ các bên liên quan từ mọi phía của xã hội chúng ta, bao gồm các tổ chức phi lợi nhuận, cộng đồng, nhà kỹ sư công nghệ, ngành công nghiệp, nhà quyết định chính sách, học giả và hơn thế nữa. Công nghệ nhận diện khuôn mặt là một thanh gươm hai lưỡi, và rõ ràng chúng ta cần xem xét quyền cá nhân và quyền riêng tư so với an ninh công cộng. Xã hội dân sự phải hợp sức nhau để suy nghĩ về cách chúng ta quy định việc ứng dụng công nghệ như thế này. Các công ty phải đóng góp. Họ chịu trách nhiệm và nên chịu trách nhiệm giống như những bên liên quan khác.

Bạn nghĩ trí tuệ nhân tạo có thể giúp làm cho công việc cảnh sát công bằng hơn không?

Tôi muốn nhấn mạnh hai nghiên cứu gần đây của các đồng nghiên cứu tại Stanford liên quan đến công việc của cảnh sát, cả hai nghiên cứu này đều có sự đa dạng của con người đứng sau. Trong một nghiên cứu, Dan Jurafsky và Jennifer Eberhardt sử dụng trí tuệ nhân tạo để phân tích ngôn ngữ được sử dụng bởi cảnh sát từ hình ảnh của camera gắn trên người khi người dân bị dừng lại. Họ đã chỉ ra sự khác biệt đáng kể giữa người bị cảnh sát dừng lại và ngôn ngữ mà cảnh sát sử dụng - các sĩ quan được cho là nói chuyện với người da đen một cách thiếu tôn trọng hơn. Bằng cách sử dụng các kỹ thuật trí tuệ nhân tạo ngôn ngữ tự nhiên, chúng ta có thể hiểu rõ hơn về chính mình và các tổ chức của chúng ta một cách mà trước đây chúng ta không thể làm được.

Một giáo sư khác tại Stanford, Sharad Goel, đang nghiên cứu cách chúng ta có thể cải thiện sự công bằng trong báo cáo của cảnh sát. Nếu bạn nghĩ về một báo cáo cảnh sát - “có một phụ nữ Á-Âu ở bãi đỗ xe, chiều cao 5 foot 3, lái xe Toyota, va vào một chiếc xe” - thông tin trong đó có thể không cố ý ảnh hưởng đến quyết định một cách không hợp lý. Bằng cách sử dụng các kỹ thuật xử lý ngôn ngữ tự nhiên, bạn có thể ẩn danh hiệu quả nó bằng cách nói “nữ giới” hoặc “người A” thay vì “phụ nữ Á-Âu,” hoặc “màu tóc B” thay vì “màu tóc nâu đậm,” ví dụ. Nhưng tất nhiên cũng có các dấu hiệu khác, như chiếc xe bạn lái.

Liên quan đến nỗ lực cấm một số ứng dụng của trí tuệ nhân tạo, ví dụ như nhận diện khuôn mặt hoặc vũ khí tự hành, bạn nghĩ thế nào?

Chúng tôi muốn đảm bảo rằng đất nước của chúng ta tiếp tục dẫn đầu trong việc phát triển và đổi mới công nghệ - không chỉ là nhận diện khuôn mặt mà còn nhiều lĩnh vực khác của Trí tuệ Nhân tạo. Điều này có thể giúp chúng ta sử dụng công nghệ một cách tích cực. iPhone là một trong những điện thoại thông minh đầu tiên sử dụng công nghệ nhận diện khuôn mặt. Và nó có tiềm năng lớn cho ngân hàng cá nhân hóa, chỉ là một ví dụ. Nhưng cũng quan trọng là hiểu rõ rằng thông qua việc tiếp tục đổi mới và hiểu rõ về tác động của công nghệ này, chúng ta có thể thúc đẩy các ứng dụng tích cực của công nghệ trong khi đề phòng các ứng dụng tiêu cực có thể xảy ra.

Ứng dụng công nghệ thường là thanh gươm hai lưỡi. Ý định tốt không đủ. Như một xã hội, chúng ta cần nhận ra điều này. Chúng ta cần làm việc cùng nhau để áp dụng những giới hạn thích hợp cho việc sử dụng các công nghệ như nhận diện khuôn mặt phản ánh các giá trị của xã hội chúng ta. Từ công nghệ đến xã hội dân sự, từ lực lượng chức năng đến nhà quyết định chính sách, tôi tin rằng chúng ta tất cả nên cố gắng trở thành một phần của giải pháp.

Kể về Viện Trí tuệ Nhân tạo Tập trung vào Con người của Stanford.

Nghiên cứu tiến sĩ của tôi đã đi qua cả nhận thức con người và trí tuệ máy móc. Là một trong những thế hệ đầu tiên biến Trí tuệ Nhân tạo từ một khoa học phòng thí nghiệm chuyên sâu thành một trục đẩy chính trong các thay đổi xã hội, ngay từ thời đó tôi đã cảm nhận được trách nhiệm đối với việc đóng góp vào việc thúc đẩy các giá trị và hướng dẫn tập trung vào con người trong công nghệ. HAI được thành lập dựa trên niềm tin này rằng công nghệ tập trung vào con người và phát triển Trí tuệ Nhân tạo phải đi cùng nhau - chúng ta không thể tiếp tục để khía cạnh con người của công nghệ là một điều sau cùng. Và một trong những điểm mạnh nhất của nó là tính liên ngành.

Bạn rời Stanford để tham gia Google trong một thời gian. Bạn học được điều gì từ thời gian ở đó - và cuộc rơi rớt đặc biệt liên quan đến Maven?

Tôi làm việc tại Google từ năm 2017 trong kế hoạch sabbatical 20 tháng để thử đemocrate hóa một số công cụ học máy thông qua nền tảng đám mây của Google. Nhưng đây cũng là thời điểm các công ty đang nhận ra tác động của công nghệ. Điều đó rất bổ ích và khiêm tốn.

Với tôi, điều đó đã làm sáng tỏ và xác nhận quan điểm của cả sự nghiệp của tôi rằng chúng ta cần một cách tiếp cận tập trung vào con người đối với công nghệ - không chỉ là nói về nó, mà là thực hiện một cách sâu sắc. Việc làm việc trong một công ty công nghệ lớn đã làm cho tôi chắc chắn rằng chúng ta cũng cần một cách tiếp cận đa bên liên quan đến nhiều lĩnh vực. Quan trọng là các nhà kỹ thuật, công ty và nhà lãnh đạo kinh doanh tham gia với tất cả các phần của xã hội khi thiết kế, phát triển và triển khai các công nghệ này. Điều này bao gồm các nhóm từ công dân cá nhân đến các tổ chức phi lợi nhuận, cộng đồng, giáo viên, nhà quyết định chính sách và nhiều hơn nữa.

Kinh nghiệm cũng ảnh hưởng đến trách nhiệm của tôi như một người giáo viên, điều này đến cốt lõi của con người tôi. Nhìn vào thời điểm. Đó là lúc AI4All chuyển từ Stanford thành chương trình quốc gia. Và những hạt giống của HAI đã được sinh ra từ sự hiểu biết đến từ đó.

Bạn đánh giá thế nào về phản ứng của công chúng và báo chí?

Tôi là người rất hướng nội, hạnh phúc nhất khi tập trung làm việc trong phòng thí nghiệm cùng sinh viên. Nhưng tôi cũng cảm thấy trách nhiệm lớn khi truyền đạt khoa học một cách có trách nhiệm đến công chúng. Những người không được đào tạo về công nghệ cũng xứng đáng nhận thông tin đó. Điều đó làm công việc của bạn rất quan trọng, Will. Về mặt đó, kinh nghiệm của tôi từ Google rất quan trọng - công chúng vẫn chưa biết đủ về cách AI hoạt động và nó có thể làm gì.

Hãy nói chút về nghiên cứu của bạn. Bạn tập trung vào chăm sóc sức khỏe, phải không?

Một trong những ứng dụng hứa hẹn nhất của Trí tuệ Nhân tạo và Học máy, theo ý kiến của tôi, là chăm sóc sức khỏe. Có vô số tình huống mà AI có thể trở thành công cụ hữu ích cho bệnh nhân, người chăm sóc, nhà điều trị và toàn bộ hệ thống chăm sóc sức khỏe.

Một ví dụ là vệ sinh tay của nhân viên y tế trong bệnh viện. Đây là một dự án mà chúng tôi đã làm việc trong nhiều năm, và nó hiện đang nằm trong ý thức chung trong một đại dịch. Hợp tác với Bệnh viện Trẻ em Stanford cũng như Bệnh viện Intermountain của Utah, nhóm của chúng tôi đã tiến hành một loạt các nghiên cứu thử nghiệm chỉ ra rằng công nghệ thị giác máy tính có thể phát hiện hiệu quả những khoảnh khắc mà việc vệ sinh tay đúng cách nên diễn ra, từ đó tạo điều kiện cho hệ thống cảnh báo thời gian thực để can thiệp.

Chúng tôi chặt chẽ hợp tác với những nhân viên y tế, bao gồm cả y tá và bác sĩ. Chúng tôi hiểu được sự háo hức của họ trong việc cải thiện thực hành lâm sàng, nhưng cũng trong việc bảo vệ và tôn trọng quyền riêng tư. Vì vậy, chúng tôi đã chọn sử dụng cảm biến đo độ sâu không chứa thông tin về cảnh và người, mà chỉ có tín hiệu độ sâu 3D. Nhóm của chúng tôi hợp tác với các chuyên gia đạo đức y học, học giả về luật và đạo đức tại Stanford cho mỗi dự án nghiên cứu.

Trí tuệ nhân tạo trong chăm sóc người cao tuổi là một trong những lĩnh vực nghiên cứu mà tôi rất đam mê, một phần là do tôi đã chăm sóc cha mẹ già yếu của mình, họ đã ngoài 70 tuổi, trong nhiều năm. Với một số tổ chức y tế và các bác sĩ chuyên khoa người già, nhóm của chúng tôi đã làm việc trên các dự án thử nghiệm nhằm sử dụng công nghệ cảm biến thông minh để giúp các nhân viên y tế và người chăm sóc hiểu rõ hơn về tiến triển của các tình trạng sức khỏe cho người cao tuổi, như thay đổi về cách đi hoặc cử chỉ có thể dẫn đến nguy cơ té ngã tăng lên, hoặc các biến đổi hoạt động đòi hỏi phải được đánh giá hoặc can thiệp kịp thời.

Bạn nghĩ những nỗ lực sử dụng trí tuệ nhân tạo để chống lại Covid-19 có thể gây ra hậu quả không mong muốn không? Đại dịch làm nổi bật sự không công bằng trong xã hội, và nếu không cẩn thận, các thuật toán AI có thể củng cố điều đó - nếu ví dụ các thuật toán hoạt động tốt hơn cho bệnh nhân giàu có, da trắng chẳng hạn.

Tôi đã làm việc trong việc áp dụng trí tuệ nhân tạo vào chăm sóc sức khỏe hơn tám năm. Như đối tác của tôi, giáo sư y khoa của trường y Stanford, Arnold Milstein, luôn nói, chúng ta phải tập trung vào nhóm bệnh nhân yếu thế nhất và hoàn cảnh của họ - như nhà ở, kinh tế, tiếp cận chăm sóc sức khỏe, và vân vân. Chỉ có lòng tốt là chưa đủ, chúng ta cần đưa vào nhiều bên liên quan để có hiệu quả đúng đắn. Chúng ta không muốn tiếp tục tái diễn những hậu quả không lường trước.

Làm thế nào để đảm bảo nghiên cứu của bạn không làm điều này?

Ngoài tất cả các rào cản cần thiết cho nghiên cứu liên quan đến đối tượng người, HAI đang bắt đầu làm xét duyệt đạo đức các đề xuất nghiên cứu của chúng tôi. Các điều này hiện chưa được yêu cầu bởi bất kỳ ai, nhưng chúng tôi cảm thấy hành động là cần thiết. Chúng ta nên tiếp tục cải thiện những nỗ lực của mình. Vì Covid, chúng ta nên bỏ nhiều công sức hơn vào các biện pháp an toàn [như đội ngũ đa dạng hơn và các thực hành được thiết kế để ngăn chặn thiên vị.]

Theo bạn, thành tựu quan trọng nhất của HAI đến nay là gì?

Tôi đặc biệt tự hào về cách chúng tôi phản ứng sau khi Covid ảnh hưởng đến đất nước chúng ta. Chúng tôi đang lên kế hoạch tổ chức một hội nghị vào ngày 1 tháng 4 về thần kinh học và trí tuệ nhân tạo, nhưng vào ngày 1 tháng 3, chúng tôi tự hỏi, chúng tôi có thể làm gì cho cuộc khủng hoảng này không? Chỉ trong vài tuần, chúng tôi đã xây dựng chương trình với các nhà khoa học, lãnh đạo quốc gia, nhà khoa học xã hội, nhà đạo đức, và những người khác. Nếu bạn nhìn vào chương trình của chúng tôi, chúng tôi có y học, một track khám phá thuốc, nhưng cũng có bức tranh quốc tế, các khía cạnh về quyền riêng tư liên quan đến việc truy vết tiếp xúc, và mặt xã hội như kinh tự ái đối với các nhóm dân tộc khác nhau tại Mỹ.

Sau đó, hai tháng sau, vào ngày 1 tháng 6, chúng tôi đã có một hội nghị khác để xem xét tác động về kinh tế và bầu cử của Covid. Chúng tôi đã tập hợp các học giả về an ninh quốc gia, các bác sĩ và nhà kinh tế để thảo luận về việc tài trợ vaccine và tác động lên cuộc bầu cử. Tôi nghĩ rằng đây là một ví dụ về HAI tham gia vào những sự kiện và chủ đề có ảnh hưởng thông qua một phương pháp đa ngành, tham gia với mọi người.

Kể cho chúng tôi biết tại sao bạn chọn tham gia Hội đồng quản trị của Twitter.

Tôi rất vinh dự khi Twitter mời tôi tham gia. Twitter là một nền tảng chưa từng có, mang lại giọng nói cho cá nhân trên phạm vi toàn cầu, hình thành cuộc trò chuyện của xã hội chúng ta gần xa. Và vì điều đó, việc thực hiện đúng cách rất quan trọng. Twitter cam kết ủng hộ cuộc trò chuyện lành mạnh. Là một nhà khoa học, tôi tham gia để có thể hữu ích, chủ yếu là về mặt kỹ thuật. Đây chỉ là tuần thứ ba hoặc thứ tư, nhưng tôi hy vọng rằng tôi sẽ có ảnh hưởng tích cực, và hoài bão của Twitter về việc phục vụ các cuộc trò chuyện lành mạnh khớp với giá trị đó.

Là một người sử dụng công nghệ xã hội, tôi rõ ràng biết những khía cạnh tiêu cực của nó, và tôi hy vọng tất cả chúng ta, bên trong hoặc bên ngoài Twitter, có thể giúp đỡ. Và điều này sẽ mất thời gian. Đó sẽ không phải là một khoảnh khắc bật tắt đèn. Đó sẽ mất rất nhiều thời gian, thậm chí là sai lầm trong quá trình thử và sai, nhưng chúng ta phải cố gắng.

Hãy nói chút về các chính sách ảnh hưởng đến trí tuệ nhân tạo và công nghệ. Ông nghĩ sao về quyết định của chính phủ Mỹ để tạm ngừng cấp thị thực H-1B?

Tôi là một người nhập cư biết ơn. Từ sự nghiệp tại Stanford và các trường đại học trước đó, tôi đã làm việc với rất nhiều sinh viên đến từ khắp nơi trên thế giới. Tôi không phải là chuyên gia về vấn đề này, nhưng tôi nghĩ rằng việc thu hút các nhà nghiên cứu trên toàn cầu là quan trọng để thúc đẩy khả năng công nghệ của đất nước chúng ta. Nó thúc đẩy sự đổi mới, nếu thực hiện đúng cách, và làm cho cuộc sống của mọi người tốt hơn. Chúng ta tự hào về lịch sử của Mỹ về sự tiến bộ công nghệ, và muốn điều đó tiếp tục. Nhưng chúng ta cần phải làm điều này một cách cẩn thận và chu đáo.

Kinh nghiệm cá nhân của ông như một nhà khoa học Trung Mỹ về trí tuệ nhân tạo, liệu nó ảnh hưởng như thế nào đến cách ông suy nghĩ?

Mỹ được xây dựng bởi những người nhập cư, và tôi không thể đạt được vị trí ngày hôm nay nếu không có sự hỗ trợ của rất nhiều cá nhân, các trường học và nơi làm việc đã đưa ra cơ hội cho tôi kể từ khi tôi đến đất nước này cùng với bố mẹ từ Trung Quốc khi còn rất nhỏ tuổi. Gia đình tôi đến đây với mong muốn có cơ hội và tự do. Chúng tôi cũng trân trọng di sản văn hóa mà chúng tôi mang theo. Những năm đầu của tôi, đặc biệt là những năm học, đã được dành ở đây. Hiện tại tôi đang chăm sóc bố mẹ già của mình ở đây. Tôi có một cuộc sống hạnh phúc được gắn bó với nước Mỹ.

Một số đồng nghiệp cũng đã chỉ ra rằng rất hiếm khi có một phụ nữ da màu dẫn đầu một tổ chức trí tuệ nhân tạo lớn ở nước ta. Tôi rất tự hào về điều đó, nhưng hơn thế nữa, tôi cảm thấy một trách nhiệm lớn, bởi vì điều này không nên như vậy. Nếu chúng ta không có sự đại diện đó, chúng ta sẽ bỏ lỡ cơ hội và giọng nói, và điều đó vô cùng quan trọng.

Nhiều bài viết tuyệt vời từ Mytour

• Chia sẻ màn hình: Nhật ký Zoom của một giáo viên đại học
• Khi bác sĩ và bệnh nhân nói về cái chết qua Zoom
• Thủ thuật để tận dụng tối đa Signal và tin nhắn mã hóa
• Làm thế nào để buổi hòa nhạc trực tuyến của bạn nghe và trông—tốt hơn
• Đại dịch đang biến đổi nền kinh tế thuê
• 👁 Não bộ có phải là một mô hình hữu ích cho trí tuệ nhân tạo không? Cùng nhận tin tức mới nhất về trí tuệ nhân tạo
• 🎧 Âm thanh không ổn? Hãy thử xem danh sách tai nghe không dây, thanh âm và loa Bluetooth mà chúng tôi yêu thích