Hành trình của Fei-Fei Li để làm cho Trí Tuệ Nhân Tạo Tốt Đẹp Hơn Cho Nhân Loại

Vào khoảng 1 giờ sáng một đêm ấm áp tháng Sáu năm ngoái, Fei-Fei Li ngồi trong bộ đồ ngủ của mình tại một khách sạn ở Washington, DC, đang thực hành bài diễn thuyết cô sẽ thuyết trình trong vài giờ nữa. Trước khi đi ngủ, Li cắt một đoạn văn đầy đủ từ ghi chú của mình để chắc chắn cô có thể đạt được những điểm quan trọng nhất trong thời gian ngắn được phân định. Khi thức dậy, chuyên gia về trí tuệ nhân tạo 5'3" này mặc đôi ủng và chiếc váy len đen và xanh da trời, khác biệt so với bộ đồ thông thường của cô bao gồm áo thun và quần jean. Sau đó, cô chấp nhận một chiếc Uber đến tòa nhà văn phòng Rayburn, ngay phía nam của Quốc hội Hoa Kỳ.

Before entering the chambers of the US House Committee on Science, Space, and Technology, she lifted her phone to snap a photo of the oversize wooden doors. (“As a scientist, I feel special about the committee,” she said.) Then she stepped inside the cavernous room and walked to the witness table.

Cuộc điều trần sáng hôm đó, mang tựa đề “Trí Tuệ Nhân Tạo—Với Sức Mạnh Lớn Đến Trách Nhiệm Lớn,” có sự tham gia của Timothy Persons, nhà khoa học trưởng của Cơ quan Chính phủ có trách nhiệm, và Greg Brockman, đồng sáng lập viên và giám đốc công nghệ của tổ chức phi lợi nhuận OpenAI. Nhưng chỉ có Li, người phụ nữ duy nhất ngồi tại bàn, mới có thể đề xuất một thành tựu đột phá trong lĩnh vực Trí Tuệ Nhân Tạo. Là người nghiên cứu xây dựng ImageNet, một cơ sở dữ liệu giúp máy tính nhận diện hình ảnh, cô là một trong nhóm nhỏ các nhà khoa học—một nhóm có lẽ nhỏ đủ để ngồi xung quanh bàn bếp—đang chịu trách nhiệm cho những tiến bộ đáng kinh ngạc gần đây của Trí Tuệ Nhân Tạo.

Tháng Sáu đó, Li đang làm giám đốc khoa học trí tuệ nhân tạo chính tại Google Cloud và đang nghỉ việc từ vị trí giám đốc của Phòng thí nghiệm Trí tuệ nhân tạo tại Đại học Stanford. Nhưng cô xuất hiện trước ủy ban vì cô cũng là người sáng lập một tổ chức phi lợi nhuận tập trung vào việc tuyển dụng phụ nữ và người màu để trở thành những người xây dựng trí tuệ nhân tạo.

Không có gì ngạc nhiên khi các lập pháp viên tìm kiếm chuyên môn của cô vào ngày đó. Điều đáng ngạc nhiên là nội dung của bài nói của cô: những nguy hiểm nghiêm trọng mang lại bởi lĩnh vực mà cô yêu quý.

Thời gian giữa một sáng chế và tác động của nó có thể ngắn ngủi. Với sự giúp đỡ của công cụ trí tuệ nhân tạo như ImageNet, máy tính có thể được dạy để học một nhiệm vụ cụ thể và sau đó hành động nhanh hơn nhiều so với một người bất kỳ. Khi công nghệ này trở nên phức tạp hơn, nó đang được pháp lý hóa để lọc, sắp xếp và phân tích dữ liệu và đưa ra quyết định có tác động toàn cầu và xã hội. Mặc dù những công cụ này đã tồn tại, một cách nào đó, hơn 60 năm nay, trong thập kỷ qua chúng ta đã bắt đầu sử dụng chúng cho những nhiệm vụ thay đổi quỹ đạo cuộc sống con người: Hôm nay trí tuệ nhân tạo giúp xác định liệu trên người mắc bệnh sẽ sử dụng phương pháp điều trị nào, ai đủ điều kiện để có bảo hiểm nhân thọ, bao lâu một người sẽ phải ngồi tù, người xin việc nào được phỏng vấn.

Những sức mạnh đó, tất nhiên, có thể nguy hiểm. Amazon đã phải từ bỏ phần mềm tuyển dụng AI mà học được cách trừng phạt các sơ yếu lý lịch chứa từ “phụ nữ.” Ai có thể quên fiasco của Google năm 2015, khi phần mềm nhận diện hình ảnh của nó đặt nhãn sai người da đen là “gorilla,” hoặc chatbot xã hội của Microsoft được trang bị AI bắt đầu tweet những từ lóng phân biệt chủng tộc. Nhưng đó là những vấn đề có thể giải thích và do đó có thể đảo ngược. Trong tương lai gần không xa, Li tin rằng chúng ta sẽ đạt đến một thời điểm khi sẽ không thể điều chỉnh được đường. Điều đó bởi vì công nghệ đang được áp dụng nhanh chóng và rộng rãi.

Li đã làm chứng ở tòa nhà Rayburn vào buổi sáng đó vì cô quả quyết rằng lĩnh vực của mình cần một sự hiệu chỉnh. Các nhà lãnh đạo công nghệ nổi tiếng, quyền lực và chủ yếu là nam đã cảnh báo về một tương lai trong đó công nghệ do trí tuệ nhân tạo thúc đẩy trở thành một mối đe dọa tồn tại cho con người. Nhưng Li nghĩ rằng những nỗi sợ hãi đó đang được đặt quá nặng và chú ý. Cô tập trung vào một câu hỏi ít kịch tính nhưng quan trọng hơn: trí tuệ nhân tạo sẽ làm thay đổi cách con người làm việc và sống như thế nào. Nó chắc chắn sẽ thay đổi trải nghiệm con người—và không nhất thiết là cho điều tốt hơn. “Chúng ta có thời gian,” Li nói, “nhưng chúng ta phải hành động ngay bây giờ.” Nếu chúng ta thực hiện những thay đổi cơ bản trong cách trí tuệ nhân tạo được thiết kế—và ai là người thiết kế nó—công nghệ, Li lập luận, sẽ là một lực lượng biến đổi mang lại điều tốt lành. Nếu không, chúng ta đang để lại nhiều phần của nhân loại không tính đến.

Trong buổi điều trần, Li là người cuối cùng phát biểu. Không có dấu hiệu của sự lo lắng khiến cô tập luyện vào đêm muộn, cô bắt đầu. “Không có gì là nhân tạo về trí tuệ nhân tạo.” Giọng cô trở nên mạnh mẽ. “Nó được truyền cảm hứng bởi con người, được tạo ra bởi con người và—quan trọng nhất—có tác động đến con người. Đó là một công cụ mạnh mẽ chúng ta chỉ mới bắt đầu hiểu, và đó là một trách nhiệm sâu sắc.” Xung quanh cô, khuôn mặt tươi sáng lên. Người phụ nữ duy nhất giữ bản điểm công nhận một cách rõ ràng, với một “mm-hmm.”

Fei-Fei Li lớn lên ở Chengdu, một thành phố công nghiệp ở miền nam Trung Quốc. Cô là một đứa trẻ cô độc, thông minh, cũng như là một người đọc sách đam mê. Gia đình cô luôn hơi khác biệt: Trong một văn hóa không đánh giá cao việc nuôi thú cưng, cha cô mang về cho cô một chú chó con. Mẹ cô, người đến từ một gia đình trí thức, khuyến khích cô đọc Jane Eyre. (“Emily là tác giả Brontë tôi yêu thích,” Li nói. “Wuthering Heights.”) Khi Li 12 tuổi, cha cô di cư đến Parsippany, New Jersey, và cô và mẹ cô không gặp ông ấy trong vài năm. Họ gia nhập ông khi cô 16 tuổi. Ngày thứ hai ở Mỹ, bố Li đưa cô đến một trạm xăng và yêu cầu cô nói với thợ sửa chữa để sửa xe của ông ấy. Cô nói tiếng Anh ít, nhưng qua cử chỉ, Li tìm cách giải thích vấn đề. Trong vòng hai năm, Li đã học đủ ngôn ngữ để làm người dịch, phiên dịch và ủng hộ cho mẹ và cha cô, người chỉ biết một số tiếng Anh cơ bản. “Tôi đã phải trở thành miệng và tai của bố mẹ,” cô nói.

Cô cũng đạt được kết quả tốt trong học tập. Cha cô, người thích đi săn đồ cũ, tìm cho cô một máy tính khoa học, mà cô đã sử dụng trong lớp toán cho đến khi một giáo viên, kiểm tra tính toán của cô, nhận ra rằng nó có một nút chức năng hỏng. Li biết ơn giáo viên toán trung học khác, Bob Sabella, đã giúp cô điều hướng cuộc sống học thuật và bản thân người Mỹ mới của cô. Trường trung học Parsippany không có lớp toán cao cấp, vì vậy ông ta tạo ra một phiên bản tự do và dạy Li trong giờ nghỉ trưa. Sabella và vợ ông cũng đưa cô vào gia đình của họ, đưa cô đi nghỉ mát tại Disney và cho mượn 20,000 đô la để mở một cửa hàng làm sạch cho bố mẹ cô quản lý. Năm 1995, cô nhận được học bổng để học tại Prince­ton. Trong thời gian ở đó, cô trở về nhà gần như mỗi cuối tuần để giúp quản lý doanh nghiệp gia đình.

Ở đại học, sự quan tâm của Li rất đa dạng. Cô chuyên ngành vật lý và học ngành máy tính và kỹ thuật điện. Năm 2000, cô bắt đầu chương trình tiến sĩ tại Caltech ở Pasadena, làm việc tại sự giao điểm của thần kinh học và khoa học máy tính.

Khả năng của cô nhìn nhận và khuyến khích các mối liên kết giữa các lĩnh vực dường như không tương đồng là điều đã dẫn Li nghĩ đến ImageNet. Đồng nghiệp về thị giác máy tính của cô đang làm việc trên các mô hình để giúp máy tính nhận biết và giải mã hình ảnh, nhưng những mô hình đó có phạm vi hạn chế: Một nghiên cứu viên có thể viết một thuật toán để nhận diện chó và một thuật toán khác để nhận diện mèo. Li bắt đầu tự hỏi liệu vấn đề có phải là mô hình không. nhưng dữ liệu. Cô nghĩ rằng, nếu một đứa trẻ học nhìn thế giới thị giác bằng cách trải nghiệm thế giới hình ảnh - bằng cách quan sát vô số đối tượng và cảnh trong những năm đầu đời của mình - có thể máy tính cũng có thể học theo cách tương tự, bằng cách phân tích nhiều hình ảnh khác nhau và mối quan hệ giữa chúng. Nhận thức này quan trọng đối với Li. “Đó là một cách để tổ chức toàn bộ khái niệm về thị giác của thế giới,” cô nói.

Nhưng cô gặp khó khăn khi thuyết phục đồng nghiệp rằng nó là hợp lý để thực hiện công việc khổng lồ của việc gắn nhãn cho mọi bức ảnh có thể của mọi đối tượng trong một cơ sở dữ liệu khổng lồ. Hơn nữa, Li đã quyết định rằng để ý tưởng của mình hoạt động, các nhãn sẽ cần phải đa dạng từ chung (“động vật có vú”) đến cụ thể rất nhiều (“chuột sóc nhọn như sao”). Khi Li, người đã chuyển về Princeton để nhận công việc giáo sư trợ giảng vào năm 2007, giới thiệu ý tưởng của mình về ImageNet, cô gặp khó khăn khi thu xếp các thành viên khoa học để giúp đỡ. Cuối cùng, một giáo sư chuyên về kiến trúc máy tính đồng ý tham gia làm cộng tác viên với cô.

Thách thức tiếp theo của cô là xây dựng thứ lớn. Điều đó có nghĩa là nhiều người sẽ phải dành nhiều giờ để thực hiện công việc tẻ nhạt của việc gắn nhãn cho ảnh. Li thử trả tiền cho sinh viên Princeton 10 đô la một giờ, nhưng tiến triển diễn ra chậm chạp. Sau đó, một sinh viên hỏi cô liệu cô có nghe nói về Amazon Mechanical Turk chưa. Bất ngờ cô có thể tập hợp được nhiều công nhân, với một phần nhỏ chi phí. Nhưng việc mở rộng lực lượng lao động từ một nhóm sinh viên Princeton ít ỏi thành hàng ngàn người lao động Turk vô hình có những thách thức riêng. Li phải tính đến định kiến có thể của người lao động. “Người lao động trực tuyến, mục tiêu của họ là kiếm tiền một cách dễ dàng, phải không?” cô nói. “Nếu bạn yêu cầu họ chọn gấu trúc từ 100 hình ảnh, điều gì ngăn họ không nhấp vào mọi thứ?” Vì vậy, cô nhúng và theo dõi một số hình ảnh cụ thể - như hình ảnh của chó vàng đã được xác định đúng là chó - để làm nhóm kiểm soát. Nếu những người Turk nhãn những hình ảnh này đúng, họ đang làm việc trung thực.

Năm 2009, nhóm của Li cảm thấy bộ dữ liệu khổng lồ - 3,2 triệu hình ảnh - đủ toàn diện để sử dụng, và họ đã công bố một bài báo về nó, cùng với cơ sở dữ liệu. (Nó sau đó tăng lên 15 triệu.) Ban đầu, dự án ít được chú ý. Nhưng sau đó, nhóm có một ý tưởng: Họ liên lạc với tổ chức của cuộc thi thị giác máy tính diễn ra vào năm sau ở châu Âu và yêu cầu họ cho phép các đội tham gia sử dụng cơ sở dữ liệu Image­Net để đào tạo các thuật toán của họ. Điều này trở thành Thách thức Nhận diện Thị giác Quy mô Lớn của ImageNet.

Cùng thời điểm đó, Li gia nhập đội ngũ giảng viên trợ giảng tại Stanford. Lúc đó, cô đã kết hôn với Silvio Savarese, một chuyên gia robot. Nhưng anh ấy có công việc tại Đại học Michigan, và khoảng cách làm cho mọi thứ trở nên khó khăn. “Chúng tôi biết rằng Thung lũng Silicon sẽ giúp chúng tôi giải quyết vấn đề hai người của chúng tôi,” Li nói. (Savarese gia nhập đội ngũ giảng viên của Stanford vào năm 2013.) “Ngoài ra, Stanford là đặc biệt vì nó là một trong những nơi sinh ra trí tuệ nhân tạo.”

Năm 2012, nhà nghiên cứu của Đại học Toronto, Geoffrey Hinton, tham gia cuộc thi ImageNet, sử dụng cơ sở dữ liệu để đào tạo một loại trí tuệ nhân tạo được biết đến là mạng nơ-ron sâu. Nó chứng minh rằng nó chính xác hơn nhiều so với bất cứ điều gì đã xuất hiện trước đó—và anh ấy đã chiến thắng. Li không dự định đi xem Hinton nhận giải của mình; cô đang nghỉ thai sản, và buổi lễ diễn ra ở Florence, Ý. Nhưng cô nhận ra rằng lịch sử đang được viết. Vì vậy, cô mua vé cuối cùng và chen chúc mình vào một chỗ ngồi giữa cho chuyến bay qua đêm. Mạng nơ-ron sâu được đào tạo bằng ImageNet của Hinton đã thay đổi mọi thứ. Đến năm 2017, năm cuối cùng của cuộc thi, tỷ lệ lỗi cho việc máy tính nhận diện đối tượng trong hình ảnh đã giảm xuống dưới 3%, từ 15% vào năm 2012. Máy tính, ít nhất là theo một tiêu chí, đã trở nên giỏi hơn con người trong việc nhìn nhận.

ImageNet đã giúp đẩy mạnh lĩnh vực học sâu—nó là nguồn gốc của các tiến bộ gần đây trong xe tự lái, nhận diện khuôn mặt, và camera điện thoại có thể nhận diện đối tượng (và nói cho bạn biết nếu chúng đang được bán).

Không lâu sau khi Hinton nhận giải của mình, trong thời gian Li vẫn đang nghỉ thai sản, cô bắt đầu nghĩ nhiều về việc có bao nhiêu đồng nghiệp của mình là phụ nữ. Tại thời điểm đó, cô cảm thấy điều này một cách sâu sắc; cô thấy rằng sự chênh lệch ngày càng trở thành một vấn đề. Hầu hết các nhà khoa học xây dựng thuật toán AI đều là nam, và thường là nam có nền tảng tương tự. Họ có một quan điểm thế giới cụ thể đã tràn vào các dự án họ theo đuổi và thậm chí cả những nguy cơ mà họ tưởng tượng. Nhiều người sáng tạo AI đã là những cậu bé với những giấc mơ khoa học viễn tưởng, nghĩ ra các tình huống từ The Terminator và Blade Runner. Li nghĩ không có gì sai khi lo lắng về những điều như vậy. Nhưng những ý tưởng đó phản bội một quan điểm hẹp về những nguy cơ có thể xảy ra của AI.

Hệ thống học sâu, như Li nói, “thành kiến vào, thành kiến ra.” Li nhận ra rằng trong khi các thuật toán điều khiển trí tuệ nhân tạo có vẻ là không chủ quan, dữ liệu và ứng dụng hình thành kết quả của những thuật toán đó thì không phải vậy. Quan trọng là những người xây dựng nó và lý do họ xây dựng nó. Mà không có một nhóm kỹ sư đa dạng, Li chỉ ra vào ngày đó tại Quốc hội, chúng ta có thể có các thuật toán chủ quan đưa ra quyết định về đơn xin vay không công bằng, hoặc đào tạo một mạng nơ-ron chỉ trên khuôn mặt trắng—tạo ra một mô hình sẽ hoạt động kém trên khuôn mặt đen. “Tôi nghĩ rằng nếu chúng ta thức dậy 20 năm nữa và chúng ta thấy thiếu sự đa dạng trong ngành công nghiệp công nghệ và lãnh đạo và người thực hành, đó sẽ là tình huống tận thế của tôi,” cô nói.

Quan trọng, theo quan điểm của Li, là tập trung phát triển trí tuệ nhân tạo để giúp trải nghiệm con người. Một trong những dự án của cô tại Stanford là hợp tác với trường y để đưa AI vào phòng chăm sóc tích cực với mục tiêu giảm các vấn đề như nhiễm trùng thuốc-­mất. Điều này liên quan đến việc phát triển một hệ thống camera có thể theo dõi trạm rửa tay và thông báo cho nhân viên bệnh viện nếu họ quên rửa tay đúng cách. Loại hợp tác giữa các lĩnh vực chuyên ngành như vậy là khá bất thường. “Không ai khác từ khoa học máy tính liên lạc với tôi,” nói Arnold Milstein, một giáo sư y học quản lý Trung tâm Nghiên cứu Xuất sắc Lâm sàng của Stanford.

Công việc đó đã mang lại hy vọng cho Li về cách AI có thể phát triển. Nó có thể được xây dựng để bổ sung cho kỹ năng của con người thay vì đơn giản là thay thế chúng. Nếu các kỹ sư hợp tác với những người thuộc các lĩnh vực khác nhau (thậm chí là những người ở thế giới thực!), họ có thể tạo ra các công cụ mở rộng khả năng của con người, như tự động hóa các công việc tốn thời gian để cho phép y tá ICU dành thêm thời gian chăm sóc bệnh nhân, thay vì xây dựng AI, ví dụ, để tự động hóa trải nghiệm mua sắm của ai đó và loại bỏ công việc của một thu ngân.

Nhận ra rằng trí tuệ nhân tạo đang phát triển với tốc độ chóng mặt, Li nghĩ đội ngũ của mình cần phải thay đổi đội hình—càng nhanh càng tốt.

Li luôn hấp dẫn bởi toán học, nên cô nhận ra rằng việc đưa phụ nữ và những người có màu da khác nhau vào ngành khoa học máy tính đòi hỏi một nỗ lực lớn. Theo Sở Khoa học Quốc gia, vào năm 2000, phụ nữ đạt được 28% bằng cử nhân trong ngành khoa học máy tính. Năm 2015, con số này giảm xuống còn 18%. Ngay cả trong phòng lab của mình, Li gặp khó khăn khi tuyển dụng những người có màu da khác nhau và phụ nữ. Mặc dù lịch sử của lab cô có độ đa dạng hơn so với một lab trí tuệ nhân tạo điển hình, nhưng nó vẫn chủ yếu là nam giới, cô nói. “Chúng ta vẫn chưa có đủ phụ nữ, và đặc biệt là người dân tộc thiểu số, ngay cả trong dòng chảy người vào lab,” cô nói. “Sinh viên đến một hội nghị AI và họ thấy 90% là người cùng giới. Và họ không thấy người Mỹ gốc Phi gần bằng chút nào so với những chàng trai da trắng.”

Olga Russakovsky đã suýt từ bỏ lĩnh vực khi Li trở thành người hướng dẫn của cô. Russakovsky đã là một nhà khoa học máy tính có tài năng—với bằng cử nhân toán học và thạc sĩ khoa học máy tính, cả hai đều từ Stanford—nhưng công việc luận án của cô đang trì hoãn. Cô cảm thấy mình cách biệt với các đồng nghiệp khi là người phụ nữ duy nhất trong lab. Mọi thứ thay đổi khi Li đến Stanford. Li giúp Russakovsky học một số kỹ năng cần thiết cho nghiên cứu thành công, “nhưng cô ấy cũng giúp tôi xây dựng lòng tự tin của mình,” nói Russakovsky, người hiện là giáo sư trợ giảng khoa học máy tính tại Princeton.

Bốn năm trước, khi Russakovsky hoàn tất bảo vệ tiến sĩ của mình, cô nhờ Li giúp cô tạo ra một trại hè để làm cho các cô gái quan tâm đến trí tuệ nhân tạo. Li đồng ý ngay lập tức, và họ tổ chức tình nguyện viên và đăng một cuộc gọi cho học sinh năm hai trung học. Trong vòng một tháng, họ nhận được 200 đơn đăng ký cho 24 chỗ. Hai năm sau, họ mở rộng chương trình, ra mắt tổ chức phi lợi nhuận AI4All để đưa thanh thiếu niên bị đại diện thiểu số—bao gồm cả cô gái, người màu da, và những người đến từ môi trường kinh tế khó khăn—đến các khuôn viên của Stanford và UC Berkeley.

AI4All đang trên bước thềm phát triển khỏi văn phòng chia sẻ nhỏ tại Trung tâm Kapor ở trung tâm thành phố Oakland, California. Hiện nay, họ có trại hè tại sáu trường đại học. (Năm ngoái có 900 đơn đăng ký cho 20 chỗ tại trại hè mới ra mắt tại Carnegie Mellon.) Một học sinh AI4All đã làm việc để phát hiện các bệnh mắt bằng cách sử dụng thị giác máy tính. Một người khác đã sử dụng trí tuệ nhân tạo để viết một chương trình xếp hạng sự cấp bách của cuộc gọi 911; bà đã mất vì một xe cứu thương không kịp đến. Xác nhận, có vẻ như góc nhìn cá nhân tạo sự khác biệt cho tương lai của các công cụ trí tuệ nhân tạo.

Sau ba năm điều hành AI Lab tại Stanford, Li nghỉ làm vào năm 2016 để tham gia Google với tư cách là nhà khoa học trưởng cho trí tuệ nhân tạo của Google Cloud, doanh nghiệp máy tính doanh nghiệp của công ty. Li muốn hiểu cách ngành công nghiệp hoạt động và xem liệu việc tiếp cận khách hàng sẵn sàng triển khai các công cụ mới có thay đổi phạm vi của nghiên cứu chuyên ngành chéo của mình không. Các công ty như Facebook, Google và Microsoft đang đổ tiền vào trí tuệ nhân tạo để tìm cách tận dụng công nghệ cho doanh nghiệp của họ. Và các công ty thường có nhiều và dữ liệu tốt hơn so với các trường đại học. Đối với một nhà nghiên cứu trí tuệ nhân tạo, dữ liệu chính là nhiên liệu.

Ban đầu, trải nghiệm làm mới và đầy sức sống. Cô gặp gỡ các công ty có ứng dụng thực tế cho khoa học của mình. Cô dẫn dắt triển khai các công cụ trí tuệ nhân tạo công cộng cho phép bất kỳ ai cũng tạo ra thuật toán học máy mà không cần viết một dòng mã nào. Cô mở một phòng lab mới tại Trung Quốc và giúp định hình các công cụ trí tuệ nhân tạo để cải thiện chăm sóc sức khỏe. Cô phát biểu tại Diễn đàn Kinh tế Thế giới tại Davos, trò chuyện với các nhà lãnh đạo quốc gia và ngôi sao pop.

Nhưng làm việc trong một công ty tư nhân mang đến những áp lực mới và không thoải mái. Mùa xuân năm ngoái, Li bị cuốn vào cuộc chỉ trích công khai của Google về hợp đồng Project Maven của mình với Bộ Quốc phòng. Chương trình sử dụng trí tuệ nhân tạo để giải thích hình ảnh video có thể được sử dụng để nhắm mục tiêu cho các cuộc tấn công bằng máy bay không người lái; theo Google, đó là “xác định đối tượng thấp bằng trí tuệ nhân tạo” và “việc cứu sống là mục đích chung.” Tuy nhiên, nhiều nhân viên phản đối việc sử dụng công việc của họ trong máy bay không người lái quân sự. Khoảng 4.000 người đã ký một đơn đặt hàng đòi hỏi “một chính sách rõ ràng nêu rằng cả Google lẫn các nhà thầu của nó sẽ không bao giờ xây dựng công nghệ chiến tranh.” Một số nhân viên đã từ chức để phản đối.

Mặc dù Li không trực tiếp liên quan đến thỏa thuận, bộ phận mà cô làm việc được giao nhiệm vụ quản lý Maven. Và cô trở thành một khuôn mặt công khai của cuộc tranh cãi khi những email cô viết có vẻ như đang cố giúp công ty tránh gặp phải sự bối rối được rò rỉ cho The New York Times. Mặc dù về mặt công khai điều này có vẻ rối bời, vì cô là người nổi tiếng trong lĩnh vực là người thể hiện đạo đức. Trước sự phản đối của công chúng, cô đã xem công nghệ này là “khá vô hại”; cô không nghĩ rằng nó có thể gây ra cuộc nổi loạn của nhân viên.

Nhưng Li nhận ra tại sao vấn đề trở nên nổi lên: “Không chính xác là vấn đề là gì. Nó liên quan đến khoảnh khắc – sự cảm giác chung về trách nhiệm của chúng ta, sức mạnh mới nổi của trí tuệ nhân tạo, cuộc đối thoại mà Silicon Valley cần tham gia. Maven chỉ trở thành một điểm hội tụ,” cô nói. “Đừng làm điều ác” không còn là một tuyến đường mạnh mẽ đủ.

Sự tranh cãi giảm đi khi Google thông báo sẽ không gia hạn hợp đồng Maven. Một nhóm các nhà khoa học và quan chức của Google – bao gồm cả Li – cũng viết ra (công cộng) hướng dẫn cam kết rằng Google sẽ tập trung nghiên cứu trí tuệ nhân tạo của mình vào công nghệ được thiết kế vì lợi ích xã hội, sẽ tránh triển khai độ chệch trong các công cụ của mình và sẽ tránh công nghệ có thể gây nguy hiểm cho con người. Li đã chuẩn bị trở lại Stanford, nhưng cô cảm thấy quan trọng phải thực hiện hướng dẫn. “Tôi nghĩ đó là quan trọng để nhận ra rằng mọi tổ chức phải có một bộ nguyên tắc và quy trình xem xét có trách nhiệm. Bạn biết làm thế nào Benjamin Franklin nói, khi Hiến pháp được triển khai, có thể không hoàn hảo nhưng đó là tốt nhất chúng ta có cho đến bây giờ,” cô nói. “Mọi người vẫn có ý kiến, và các bên khác nhau có thể tiếp tục cuộc đối thoại.” Nhưng khi hướng dẫn được công bố, cô nói, đó là một trong những ngày hạnh phúc nhất của cô trong năm: “Đối với tôi cá nhân, đó là quan trọng để tham gia, để đóng góp.”

Trong tháng 6, tôi đến thăm Li tại nhà cô, một ngôi nhà phân cấp khiêm tốn tọa lạc trong một ngõ cụt trên khuôn viên của Đại học Stanford. Đó là ngay sau 8 giờ tối, và trong khi chúng tôi nói chuyện, chồng cô đưa con trai và con gái nhỏ của họ đi ngủ trên gác lửng. Bố mẹ cô đã ở nhà cho đến tối trong căn hộ in-law ở tầng dưới. Phòng ăn đã được chuyển thành phòng chơi, nên chúng tôi ngồi trong phòng khách của cô. Hình ảnh gia đình nằm trên mọi bề mặt, bao gồm cả một chiếc điện thoại thập niên 1930 đang bị hỏng đặt trên kệ. “Bố mẹ nhập cư!” cô nói khi tôi hỏi về nó. Cha cô vẫn thích đến bán đồ cũ.

As we talked, text messages started pinging on Li’s phone. Her parents were asking her to translate a doctor’s instructions for her mother’s medication. Li can be in a meeting at the Googleplex or speaking at the World Economic Forum or sitting in the green room before a congressional hearing and her parents will text her for a quick assist. She responds without breaking her train of thought.

Trong phần lớn cuộc đời của Li, cô đã tập trung vào hai điều có vẻ khác nhau cùng một lúc. Cô là một nhà khoa học đã nghĩ sâu về nghệ thuật. Cô là một người Mỹ gốc Trung Quốc. Cô mê mẩn robot như cô mê mẩn con người.

Cuối tháng 7, Li gọi điện cho tôi khi cô đang đóng gói để đi nghỉ mát cùng gia đình và giúp con gái rửa tay. “Bạn có thấy thông báo về Shannon Vallor không?” cô hỏi. Vallor là một nhà triết học tại Đại học Santa Clara nghiên cứu về triết học và đạo đức của khoa học và công nghệ mới nổi, và cô vừa ký hợp đồng làm việc cho Google Cloud làm nhà đạo đức tư vấn. Li đã chiến đấu mạnh mẽ cho điều này; cô thậm chí đã trích dẫn Vallor trong bài lời khai của mình ở Washington, nói rằng: “Không có giá trị máy độc lập nào. Giá trị máy là giá trị của con người.” Bổ nhiệm này không phải là không có tiền lệ. Các công ty khác cũng đã bắt đầu đặt rào cản cho cách phần mềm AI của họ có thể được sử dụng và ai có thể sử dụng nó. Microsoft đã thành lập một hội đồng đạo đức nội bộ vào năm 2016. Công ty cho biết nó đã từ chối kinh doanh với khách hàng tiềm năng do những lo ngại về đạo đức được đưa ra bởi hội đồng. Nó cũng đã bắt đầu đặt giới hạn về cách công nghệ AI của mình có thể được sử dụng, chẳng hạn như cấm một số ứng dụng trong nhận dạng khuôn mặt.

Nhưng để nói thay mặt cho đạo đức từ bên trong một công ty là, một phần, thừa nhận rằng, trong khi bạn có thể bảo vệ chuồng gà, bạn thực sự là một con cáo. Khi chúng tôi nói chuyện vào tháng 7, Li đã biết cô sẽ rời khỏi Google. Hạn chế hai năm của cô đang kết thúc. Có nhiều dự đoán về việc cô từ chức sau thảm họa của dự án Maven. Nhưng cô nói lý do cô trở lại Stanford là vì cô không muốn mất vị trí học thuật của mình. Cô cũng nghe có vẻ mệt mỏi. Sau một mùa hè rối ren tại Google, các hướng dẫn đạo đức mà cô đã giúp viết là “điểm sáng cuối đường hầm,” cô nói.

Cô ấy háo hức bắt đầu một dự án mới tại Stanford. Mùa thu này, cô và John Etchemendy, cựu hiệu trưởng Stanford, đã thông báo việc thành lập một trung tâm học thuật sẽ kết hợp nghiên cứu về trí tuệ nhân tạo và nhân loại, kết hợp khoa học chặt chẽ, nghiên cứu thiết kế và các học môn liên ngành. “Là một khoa học mới, AI chưa từng có nỗ lực trên toàn ngành để thu hút các nhà nhân văn và nhà khoa học xã hội,” cô nói. Những kỹ năng này đã lâu được coi là không quan trọng đối với lĩnh vực AI, nhưng Li khẳng định rằng chúng là chìa khóa cho tương lai của nó.

Li là người lạc quan về bản chất. Tại buổi điều trần vào tháng 6, cô ấy nói với các nhà lập pháp, “Tôi nghĩ sâu về những công việc hiện đang nguy hiểm và có hại cho con người, từ chữa cháy đến tìm kiếm và cứu hộ đến phục hồi sau thiên tai.” Cô tin rằng chúng ta không chỉ nên tránh đặt con người vào tình thế nguy hiểm khi có thể, mà còn rằng đây thường là những loại công việc mà công nghệ có thể hỗ trợ tốt.

Tất nhiên, có những hạn chế đối với một chương trình duy nhất tại một cơ sở giáo dục—thậm chí là một cơ sở nổi tiếng—có thể làm thay đổi một nguyên ngành. Nhưng Li khẳng định rằng cô phải làm những gì cô có thể để đào tạo các nhà nghiên cứu nghĩ như những nhà đạo đức, người được hướng dẫn bởi nguyên tắc hơn là lợi nhuận, được thông tin từ một loạt các nền văn hóa khác nhau.

Trên điện thoại, tôi hỏi Li liệu cô ấy có tưởng tượng được có thể phát triển AI theo một cách khác, có lẽ không gặp phải những vấn đề chúng ta đã thấy cho đến nay. “Tôi nghĩ đó là khó tưởng tượng,” cô ấy nói. “Tiến bộ khoa học và sáng tạo thực sự đến từ các thế hệ công việc nhàm chán, thử nghiệm và sai lầm. Mất một thời gian cho chúng ta để nhận ra sự thiên lệch như vậy. Tôi chỉ tỉnh dậy được sáu năm trước và nhận ra 'Ôi trời ơi, chúng ta đang bước vào một cuộc khủng hoảng.' ”

Tại Quốc hội, Li nói: “Là một nhà khoa học, tôi khiêm tốn trước sự non trẻ của khoa học trí tuệ nhân tạo. Đó chỉ là một khoa học tồn tại được 60 năm. So với các ngành khoa học cổ điển đang làm cuộc sống con người tốt hơn mỗi ngày—vật lý, hóa học, sinh học—còn một quãng đường dài để đi để trí tuệ nhân tạo thực sự phát huy tiềm năng của nó để giúp đỡ con người.” Cô thêm, “Với sự hướng dẫn đúng đắn, AI sẽ làm cuộc sống tốt đẹp hơn. Nhưng nếu thiếu điều đó, công nghệ sẽ làm mở rộng khoảng cách giàu nghèo hơn nữa, làm cho công nghệ trở nên độc quyền hơn và củng cố những định kiến mà chúng ta đã bỏ nhiều thế hệ để vượt qua.” Đây là thời điểm, Li muốn chúng ta tin, giữa một sáng chế và ảnh hưởng của nó.

Jessi Hempel viết về Giám đốc điều hành của Uber Dara Khosrowshahi trong số 26.05. Báo cáo bổ sung của Gregory Barber.

Bài viết này xuất hiện trong số tháng 12. Đăng ký ngay.

Nghe câu chuyện này và những đặc điểm khác của MYTOUR trên ứng dụng Audm.

Hãy cho chúng tôi biết bạn nghĩ gì về bài viết này. Gửi thư tới biên tập viên tại [email protected].

• Những người sửa chữa DIY tận dụng sức mạnh của AI
• 'Thuế hồng' và cách phụ nữ chi tiêu nhiều hơn trên phương tiện giao thông công cộng ở NYC
• HÌNH ẢNH: Những công cụ bí mật mà những nhà ảo thuật sử dụng để đánh lừa bạn
• Đường dây trò chơi Turkey Talk-Line đang có những điều mới
• Một người chạy marathon già cố gắng chạy nhanh sau 40 tuổi
• Khao khát thêm sự sâu sắc về chủ đề yêu thích tiếp theo của bạn? Đăng ký nhận bản tin Backchannel ngay bây giờ