Buzz
Khoảng 1 giờ sáng một đêm ấm áp vào tháng Sáu vừa qua, Fei-Fei Li đang ngồi trong bộ đồ ngủ của mình tại một khách sạn ở Washington, DC, thực hành bài diễn văn cô sẽ thuyết trình trong vài giờ tới. Trước khi đi ngủ, Li cắt bỏ một đoạn văn bản từ ghi chú của mình để đảm bảo cô có thể đạt được những điểm quan trọng nhất trong thời gian ngắn được chỉ định. Khi cô thức dậy, chuyên gia về trí tuệ nhân tạo cao 5'3" đã mang giày boots và một chiếc váy len đen và xanh da trời, khác biệt so với trang phục thường thấy của cô gồm áo thun và quần jean. Sau đó, cô đã đi Uber đến Tòa nhà Văn phòng Hạ viện Rayburn, ngay phía nam của Quốc hội Hoa Kỳ.
Trước khi bước vào phòng họp của Ủy ban Khoa học, Vũ trụ và Công nghệ Hạ viện Hoa Kỳ, cô nâng điện thoại để chụp một bức ảnh cửa gỗ quá khổ. ("Là một nhà khoa học, tôi cảm thấy đặc biệt với ủy ban này," cô nói.) Sau đó, cô bước vào căn phòng rộng lớn và đi đến bàn chứng kiến.
Cuộc điều trần vào buổi sáng đó, có tiêu đề “Trí tuệ Nhân tạo—Với Sức Mạnh Lớn Đi Kèm Với Trách Nhiệm Lớn,” có sự tham gia của Timothy Persons, nhà khoa học trưởng của Cơ quan Trách nhiệm Chính phủ, và Greg Brockman, cộng sự sáng lập và giám đốc công nghệ của tổ chức phi lợi nhuận OpenAI. Nhưng chỉ có Li, người phụ nữ duy nhất ngồi ở bàn họp, có thể tự hào với một thành tựu đột phá trong lĩnh vực Trí tuệ Nhân tạo. Là nhà nghiên cứu xây dựng ImageNet, một cơ sở dữ liệu giúp máy tính nhận diện hình ảnh, cô là một trong số những nhà khoa học ít ỏi—có thể nhỏ đủ để ngồi quanh bàn bếp—đang chịu trách nhiệm cho những tiến bộ đáng kinh ngạc gần đây của Trí tuệ Nhân tạo.
Vào tháng Sáu đó, Li đang phục vụ với tư cách là nhà khoa học Trí tuệ Nhân tạo trưởng tại Google Cloud và đang nghỉ làm việc từ vị trí giám đốc của Phòng thí nghiệm Trí tuệ Nhân tạo Stanford. Nhưng cô đến với ủy ban vì cô cũng là cộng sự sáng lập của một tổ chức phi lợi nhuận tập trung vào việc tuyển dụng phụ nữ và người da màu để trở thành người xây dựng Trí tuệ Nhân tạo.
Không có gì ngạc nhiên khi các nhà lập pháp tìm kiếm chuyên môn của cô vào ngày đó. Điều đáng ngạc nhiên là nội dung của bài nói của cô: những nguy dangersnguy hiểm nghiêm trọng do lĩnh vực mà cô yêu quý mang lại.
Thời gian giữa một sáng chế và tác động của nó có thể rất ngắn. Với sự trợ giúp của các công cụ Trí tuệ Nhân tạo như ImageNet, một máy tính có thể được dạy để học một nhiệm vụ cụ thể và sau đó hoạt động nhanh hơn rất nhiều so với một người bất kỳ. Khi công nghệ này trở nên phức tạp hơn, nó được ủy quyền để lọc, sắp xếp và phân tích dữ liệu và đưa ra quyết định có tác động toàn cầu và xã hội. Mặc dù những công cụ này đã tồn tại, một cách nào đó, hơn 60 năm qua, trong thập kỷ qua chúng ta đã bắt đầu sử dụng chúng cho những nhiệm vụ làm thay đổi quỹ đạo cuộc sống của con người: Ngày nay, trí tuệ nhân tạo giúp xác định liệu pháp liệu được sử dụng cho người mắc bệnh, ai đủ điều kiện để được bảo hiểm nhân thọ, thời gian tù phạm phải chịu, ứng viên công việc nào được phỏng vấn.
Những quyền lực đó, tất nhiên, có thể nguy hiểm. Amazon đã phải từ bỏ phần mềm tuyển dụng Trí tuệ Nhân tạo đã học cách trừng phạt những bản tự trình bày có chứa từ “women”. Và ai có thể quên vụ hỗn loạn của Google vào năm 2015, khi phần mềm nhận dạng hình ảnh của họ gán nhãn sai người da đen thành khỉ, hoặc trò trò chuyện xã hội được cung cấp sức mạnh bởi Trí tuệ Nhân tạo của Microsoft đã bắt đầu tweet những lời lẽ phân biệt chủng tộc. Nhưng đó chỉ là những vấn đề có thể giải thích và do đó có thể đảo ngược. Trong tương lai gần không xa, Li tin rằng chúng ta sẽ đạt được một khoảnh khắc khi không thể sửa đổi được nữa. Điều đó bởi vì công nghệ đang được áp dụng nhanh chóng, và rộng rãi.
Sáng hôm đó, Li đã làm lễ tại tòa nhà Rayburn vì cô kiên quyết rằng lĩnh vực của mình cần một sự điều chỉnh lại. Những nhà lãnh đạo công nghệ nổi tiếng, quyền lực và hầu hết là nam giới đã cảnh báo về một tương lai trong đó công nghệ được động viên bởi trí tuệ nhân tạo trở thành một mối đe dọa tồn tại đối với con người. Nhưng Li nghĩ rằng những lo ngại đó được đặt quá nhiều trọng lượng và sự chú ý. Cô tập trung vào một câu hỏi ít kịch tính hơn nhưng có ý nghĩa hơn: trí tuệ nhân tạo sẽ ảnh hưởng như thế nào đến cách mà con người làm việc và sống. Nó sẽ thay đổi trải nghiệm của con người - và không nhất thiết là cho tốt. “Chúng ta có thời gian,” Li nói, “nhưng chúng ta phải hành động ngay bây giờ.” Nếu chúng ta thay đổi cơ bản cách trí tuệ nhân tạo được thiết kế - và ai là người thiết kế nó - công nghệ, theo Li, sẽ là một lực lượng biến đổi cho điều tốt đẹp. Nếu không, chúng ta sẽ bỏ lỡ rất nhiều nhân loại trong phương trình.
Trong buổi điều trần, Li là người cuối cùng phát biểu. Không có bằng chứng về sự căng thẳng khiến cô phải tập luyện muộn vào đêm trước, cô bắt đầu. “Không có gì nhân tạo về trí tuệ nhân tạo.” Giọng cô trở nên mạnh mẽ hơn. “Nó được truyền cảm hứng từ con người, được tạo ra bởi con người, và - quan trọng nhất - ảnh hưởng đến con người. Đó là một công cụ mạnh mẽ mà chúng ta chỉ mới bắt đầu hiểu, và đó là một trách nhiệm sâu sắc.” Xung quanh cô, khuôn mặt sáng lên. Người phụ trách việc chấm công đã đồng tình rõ ràng, với một tiếng “mm-hmm.”
Fei-Fei Li lớn lên ở Chengdu, một thành phố công nghiệp ở miền nam Trung Quốc. Cô là một đứa trẻ cô đơn, thông minh, cũng như là một người đọc cuồng nhiệt. Gia đình cô luôn có điểm khá đặc biệt: Trong một nền văn hóa không đánh giá cao việc nuôi thú cưng, cha cô mang đến cho cô một chú chó con. Mẹ cô, người đã đến từ một gia đình trí thức, khuyến khích cô đọc Jane Eyre. (“Emily là tác giả Brontë yêu thích của tôi,” Li nói. “Wuthering Heights.”) Khi Li 12 tuổi, cha cô di cư đến Parsippany, New Jersey, và cô và mẹ không gặp lại ông trong vài năm. Họ đã gia nhập ông khi cô 16 tuổi. Ngày thứ hai ở Mỹ, cha Li đưa cô đến một trạm xăng và yêu cầu cô hãy nói cho thợ cứu hộ sửa chiếc xe của ông. Cô nói tiếng Anh rất ít, nhưng thông qua cử chỉ, Li đã tìm ra cách giải thích vấn đề. Trong vòng hai năm, Li đã học đủ tiếng Anh để làm thông dịch viên, phiên dịch viên và người ủng hộ cho mẹ và cha cô, họ chỉ học được tiếng Anh cơ bản nhất. “Tôi đã phải trở thành miệng và tai của cha mẹ tôi,” cô nói.
Cô cũng học rất tốt trong trường. Cha cô, người thích tìm kiếm ở những buổi bán đồ cũ, đã tìm cho cô một máy tính khoa học, mà cô đã sử dụng trong lớp toán cho đến khi một giáo viên, đoán sai về tính toán của cô, phát hiện ra rằng nó có một phím chức năng bị hỏng. Li ghi công cho một giáo viên toán trung học khác, Bob Sabella, đã giúp cô điều hướng cuộc sống học thuật và danh tính Mỹ mới của cô. Trường Trung học Parsippany không có lớp toán nâng cao, vì vậy ông đã phát minh ra một phiên bản tạm thời và giảng dạy Li trong giờ nghỉ trưa. Sabella và vợ ông cũng bao gồm cô trong gia đình của họ, đưa cô đi du lịch Disneyland và cho vay cô 20.000 đô la để mở một cơ sở giặt là cho cha mẹ cô quản lý. Năm 1995, cô nhận được học bổng để học tại Princeton. Trong khi đó, cô về nhà gần như mỗi cuối tuần để giúp gia đình quản lý doanh nghiệp của họ.
Tại trường đại học, sở thích của Li rất rộng rãi. Cô chuyên ngành vật lý và học ngành khoa học máy tính và kỹ thuật máy tính. Vào năm 2000, cô bắt đầu làm luận án tiến sĩ tại Caltech ở Pasadena, làm việc tại giao điểm của thần kinh học và khoa học máy tính.
Khả năng của cô nhìn nhận và phát triển các liên kết giữa những lĩnh vực dường như không liên quan nhau là điều đã dẫn Li nghĩ ra ImageNet. Đồng nghiệp trong lĩnh vực thị giác máy tính của cô đang làm việc trên các mô hình để giúp máy tính nhận diện và giải mã hình ảnh, nhưng những mô hình đó có giới hạn: Một nhà nghiên cứu có thể viết một thuật toán để nhận dạng chó và một thuật toán khác để nhận dạng mèo. Li bắt đầu tự hỏi liệu vấn đề có phải là mô hình hay không. Cô nghĩ rằng, nếu một đứa trẻ học nhìn bằng cách trải nghiệm thế giới hình ảnh - bằng cách quan sát vô số đối tượng và cảnh quan trong những năm đầu tiên của cô - có lẽ một máy tính cũng có thể học theo cách tương tự, bằng cách phân tích một loạt các hình ảnh và mối quan hệ giữa chúng. Phát hiện này là một bước lớn đối với Li. “Đó là một cách để tổ chức toàn bộ khái niệm hình ảnh của thế giới,” cô nói.
Nhưng cô gặp khó khăn trong việc thuyết phục đồng nghiệp của mình rằng việc tiến hành nhiệm vụ khổng lồ để đánh dấu mọi hình ảnh có thể của mọi đối tượng trong một cơ sở dữ liệu khổng lồ. Hơn nữa, Li đã quyết định rằng để ý tưởng hoạt động, các nhãn cần phải rất đa dạng từ chung (“động vật có vú”) đến rất cụ thể (“chuột túi mũi sao”). Khi Li, người đã quay trở lại Princeton để làm việc như một giáo sư trợ giảng vào năm 2007, giới thiệu ý tưởng ImageNet của cô, cô gặp khó khăn khi thuyết phục các thành viên giáo viên giúp đỡ. Cuối cùng, một giáo sư chuyên về kiến trúc máy tính đồng ý tham gia cùng cô làm cộng tác viên.
Thách thức tiếp theo của cô là xây dựng cái quá khổ này. Điều đó có nghĩa là nhiều người sẽ phải dành rất nhiều giờ đồng hồ để làm công việc nhàm chán đánh dấu các bức ảnh. Li đã thử trả tiền sinh viên Princeton 10 đô la một giờ, nhưng tiến triển diễn ra rất chậm. Sau đó, một sinh viên hỏi cô liệu cô có nghe về Amazon Mechanical Turk chưa. Bất ngờ cô có thể tập hợp nhiều công nhân, với chỉ một phần nhỏ chi phí. Nhưng mở rộng lực lượng lao động từ một số sinh viên Princeton thành hàng ngàn người lao động ẩn danh Turkers cũng đem lại những thách thức riêng của nó. Li phải tính đến định kiến có thể của người lao động. “Người lao động trực tuyến, mục tiêu của họ là kiếm tiền một cách dễ dàng, đúng không?” cô nói. “Nếu bạn yêu cầu họ chọn gấu trúc từ 100 hình ảnh, có gì ngăn chúng không click vào mọi thứ?” Vì vậy, cô nhúng và theo dõi một số hình ảnh nhất định - như hình ảnh của chó Retriever mà đã được xác định đúng là chó - để phục vụ như một nhóm kiểm soát. Nếu người Turk gán nhãn đúng cho những hình ảnh này, họ đang làm việc một cách trung thực.
Năm 2009, nhóm của Li cảm thấy bộ dữ liệu khổng lồ - 3,2 triệu hình ảnh - đã đủ toàn diện để sử dụng và họ đã công bố một bài báo về nó, cùng với cơ sở dữ liệu. (Sau này, số lượng hình ảnh tăng lên 15 triệu.) Ban đầu, dự án không nhận được nhiều sự chú ý. Nhưng sau đó, nhóm có một ý tưởng: Họ liên hệ với các tổ chức tổ chức một cuộc thi thị giác máy tính diễn ra vào năm sau tại Châu Âu và yêu cầu họ cho phép các đối thủ sử dụng cơ sở dữ liệu ImageNet để huấn luyện thuật toán của họ. Điều này đã trở thành Thách thức Nhận diện Hình ảnh Quy Mô Lớn của ImageNet.
Vào khoảng thời gian đó, Li gia nhập Stanford với tư cách là giáo sư trợ giảng. Khi đó, cô đã kết hôn với Silvio Savarese, một nhà máy tự động hóa. Nhưng anh ta có một công việc tại Đại học Michigan và khoảng cách là khó khăn. “Chúng tôi biết Silicon Valley sẽ dễ dàng hơn để giải quyết vấn đề hai cơ thể của chúng tôi,” Li nói. (Savarese gia nhập hội đồng giảng dạy của Stanford vào năm 2013.) “Ngoài ra, Stanford đặc biệt vì nó là một trong những nơi sinh ra của Trí tuệ Nhân tạo.”
Năm 2012, nhà nghiên cứu Geoffrey Hinton của Đại học Toronto tham gia cuộc thi ImageNet, sử dụng cơ sở dữ liệu để huấn luyện một loại trí tuệ nhân tạo được gọi là mạng nơ-ron sâu. Nó đã chứng tỏ nó chính xác hơn rất nhiều so với bất cứ điều gì từ trước đó - và anh ấy đã chiến thắng. Li không dự định đi xem Hinton nhận giải thưởng; cô đang nghỉ thai sản và buổi lễ diễn ra ở Florence, Italia. Nhưng cô nhận ra rằng lịch sử đang được tạo ra. Vì vậy, cô mua vé cuối cùng và chen chúc mình vào một ghế giữa trên chuyến bay qua đêm. Mạng nơ-ron ImageNet của Hinton đã thay đổi mọi thứ. Đến năm 2017, năm cuối cùng của cuộc thi, tỷ lệ lỗi cho máy tính nhận dạng đối tượng trong hình ảnh đã giảm xuống dưới 3% so với 15% vào năm 2012. Máy tính, ít nhất là theo một tiêu chí, đã trở nên giỏi hơn con người trong việc nhìn nhận.
ImageNet đã giúp đỡ cho học sâu trở nên mạnh mẽ - nó là nền tảng của những tiến bộ gần đây trong ô tô tự lái, nhận dạng khuôn mặt, điện thoại có thể nhận dạng đối tượng (và cho bạn biết chúng có bán).
Không lâu sau khi Hinton nhận giải thưởng của mình, trong khi Li vẫn đang nghỉ thai sản, cô bắt đầu nghĩ rất nhiều về việc có rất ít đồng nghiệp của cô là phụ nữ. Lúc đó cô cảm thấy rất sâu sắc điều này; cô nhìn thấy là sự chênh lệch này ngày càng trở thành một vấn đề. Hầu hết các nhà khoa học xây dựng thuật toán AI đều là nam giới, và thường là nam giới có nền tảng tương tự nhau. Họ có một quan điểm thế giới cụ thể đã lan rộng vào các dự án họ theo đuổi và thậm chí là những nguy hiểm họ tưởng tượng. Nhiều người tạo ra AI từng là những cậu bé với những giấc mơ khoa học viễn tưởng, tưởng tượng ra các tình huống từ The Terminator và Blade Runner. Không có gì sai với việc lo lắng về những điều như vậy, Li nghĩ. Nhưng những ý tưởng đó đã phản bội một quan điểm hẹp hòi về nguy cơ có thể của AI.
Các hệ thống học sâu, như Li nói, “chênh lệch vào, chênh lệch ra.” Li nhận ra rằng trong khi các thuật toán điều khiển trí tuệ nhân tạo có vẻ là trung lập, dữ liệu và ứng dụng hình thành kết quả của những thuật toán đó không phải như vậy. Điều quan trọng là những người xây dựng nó và tại sao họ xây dựng nó. Mà không có một nhóm kỹ sư đa dạng, Li nhấn mạnh vào ngày hôm đó tại Hill Capitol, chúng ta có thể có các thuật toán thiên vị ra quyết định vay vốn không công bằng, hoặc huấn luyện một mạng nơ-ron chỉ trên khuôn mặt da trắng - tạo ra một mô hình sẽ hoạt động kém hiệu quả với khuôn mặt da đen. “Tôi nghĩ rằng nếu chúng ta thức dậy sau 20 năm và chúng ta nhận thấy sự thiếu đa dạng trong ngành công nghệ và lãnh đạo và các chuyên gia thực hành, đó sẽ là kịch bản ngày tận thế của tôi,” cô nói.
Quan trọng, Li đã tin rằng, cần tập trung phát triển AI để giúp trải nghiệm con người. Một trong những dự án của cô tại Stanford là một hợp tác với trường y để mang AI vào ICU nhằm giảm bớt các vấn đề như nhiễm khuẩn từ việc điều trị tại bệnh viện. Nó liên quan đến việc phát triển một hệ thống camera có thể theo dõi một trạm rửa tay và cảnh báo nhân viên bệnh viện nếu họ quên lau sạch. Loại hợp tác giữa các lĩnh vực này là điều không phổ biến. “Không ai từ khoa học máy tính liên lạc với tôi,” Arnold Milstein, giáo sư y học là người chỉ đạo Trung tâm Nghiên cứu Xuất sắc Lâm sàng của Stanford nói.
Công việc đó đã mang lại hy vọng cho Li về cách mà AI có thể phát triển. Nó có thể được xây dựng để bổ sung cho kỹ năng của con người thay vì chỉ đơn giản là thay thế chúng. Nếu các kỹ sư có thể hợp tác với những người trong các lĩnh vực khác (thậm chí là những người trong thế giới thực!), họ có thể tạo ra các công cụ mở rộng năng lực con người, như tự động hóa các nhiệm vụ tốn thời gian để cho phép y tá ICU dành nhiều thời gian hơn với bệnh nhân, thay vì xây dựng AI, ví dụ, để tự động hóa trải nghiệm mua sắm của một người và loại bỏ công việc thu ngân hàng.
Xem xét rằng trí tuệ nhân tạo đang phát triển với tốc độ vượt quá nhanh, Li đoán rằng nhóm của cô cần phải thay đổi thành viên càng sớm càng tốt.
Li luôn được hấp dẫn bởi toán học, vì vậy cô nhận ra rằng việc đưa phụ nữ và người da màu vào ngành khoa học máy tính đòi hỏi một nỗ lực khổng lồ. Theo Sở Khoa học Quốc gia, vào năm 2000, phụ nữ đạt 28% bằng cử nhân trong ngành khoa học máy tính. Vào năm 2015 con số này chỉ còn 18%. Ngay cả trong phòng thí nghiệm của mình, Li gặp khó khăn trong việc tuyển dụng người da màu và phụ nữ thiểu số. Mặc dù lịch sử của phòng thí nghiệm AI này đa dạng hơn so với phòng thí nghiệm AI điển hình, nhưng vẫn chủ yếu là nam giới, cô nói. “Chúng ta vẫn chưa có đủ phụ nữ, đặc biệt là các dân tộc thiểu số, thậm chí trong dòng người vào phòng thí nghiệm,” cô nói. “Sinh viên đi đến một hội nghị AI và họ thấy 90% người giới tính giống nhau. Và họ không thấy người da Mỹ gần như bằng người trắng.”
Olga Russakovsky đã gần như từ bỏ lĩnh vực khi Li trở thành người hướng dẫn của cô. Russakovsky đã là một nhà khoa học máy tính có tài năng - với bằng cử nhân toán học và thạc sĩ khoa học máy tính, cả hai bằng đều từ Stanford - nhưng công việc luận án của cô đang trì trệ. Cô cảm thấy cô đơn so với các đồng nghiệp khi là người phụ nữ duy nhất trong phòng thí nghiệm của cô. Mọi thứ đã thay đổi khi Li đến Stanford. Li đã giúp Russakovsky học được một số kỹ năng cần thiết cho nghiên cứu thành công, “nhưng cô ấy cũng giúp tôi xây dựng lòng tự tin của mình,” Russakovsky, người hiện là giáo sư trợ lý ngành khoa học máy tính tại Princeton nói.
Bốn năm trước, khi Russakovsky hoàn thành bằng tiến sĩ của mình, cô đã yêu cầu Li giúp cô tạo ra một trại hè để làm cho các cô gái quan tâm đến AI. Li đồng ý ngay lập tức, và họ đã tổ chức các tình nguyện viên cùng nhau và đăng thông báo tuyển sinh cho học sinh lớp mười. Trong vòng một tháng, họ đã nhận được 200 đơn xin học cho 24 chỗ. Hai năm sau, họ mở rộng chương trình, thành lập tổ chức phi lợi nhuận AI4All để đưa các thanh thiếu niên thiểu số - bao gồm cả các cô gái, người da màu và những người từ hạng lớp kinh tế khó khăn - đến các khuôn viên của Stanford và UC Berkeley.
AI4All đang sắp phát triển ra khỏi văn phòng chia sẻ nhỏ tại Trung tâm Kapor ở trung tâm thành phố Oakland, California. Hiện tại, họ đã tổ chức các trại hè tại sáu trường đại học. (Năm ngoái, có 900 đơn đăng ký tham gia cho 20 chỗ ở trại hè Carnegie Mellon vừa mới khởi đầu.) Một học viên AI4All đã làm việc để phát hiện các bệnh về mắt bằng cách sử dụng thị giác máy tính. Một người khác đã sử dụng AI để viết một chương trình xếp hạng sự cấp bách của cuộc gọi 911; bà ngoại của cô đã qua đời vì một chiếc xe cứu thương không kịp đến. Xác nhận rằng quan điểm cá nhân dường như có ảnh hưởng đối với tương lai của các công cụ AI.
Sau ba năm điều hành AI Lab tại Stanford, Li nghỉ phép vào năm 2016 để gia nhập Google với tư cách là nhà khoa học trưởng của AI của Google Cloud, doanh nghiệp máy tính doanh nghiệp của công ty. Li muốn hiểu cách hoạt động của ngành công nghiệp và xem liệu việc tiếp cận các khách hàng háo hức triển khai các công cụ mới có thay đổi phạm vi của nghiên cứu đa ngành của mình không. Các công ty như Facebook, Google và Microsoft đang đổ tiền vào lĩnh vực AI để tìm cách tận dụng công nghệ này cho doanh nghiệp của họ. Và các công ty thường có nhiều và tốt hơn dữ liệu so với các trường đại học. Đối với một nhà nghiên cứu AI, dữ liệu chính là nhiên liệu.
Ban đầu, trải nghiệm này đã khiến cô cảm thấy phấn khích. Cô gặp gỡ với các công ty có ứng dụng thực tế cho khoa học của mình. Cô dẫn dắt việc triển khai các công cụ AI dành cho công chúng, cho phép bất kỳ ai cũng có thể tạo ra các thuật toán học máy mà không cần viết một dòng mã nào. Cô đã mở một phòng thí nghiệm mới tại Trung Quốc và giúp hình thành các công cụ AI để cải thiện chăm sóc sức khỏe. Cô đã phát biểu tại Diễn đàn Kinh tế Thế giới tại Davos, giao lưu với các nhà lãnh đạo quốc gia và các ngôi sao nhạc pop.
Nhưng làm việc trong một công ty tư nhân đem lại áp lực mới và khó chịu. Mùa xuân năm ngoái, Li bị cuốn vào vụ lùm xùm công khai của Google về hợp đồng Project Maven với Bộ Quốc phòng. Chương trình này sử dụng AI để giải mã hình ảnh video có thể được sử dụng để nhắm mục tiêu tấn công bằng drone; theo Google, nó là “nhận dạng đối tượng thấp thông qua AI” và “việc cứu mạng là mục đích chung.” Tuy nhiên, nhiều nhân viên phản đối việc sử dụng công việc của họ trong máy bay không người lái quân sự. Khoảng 4.000 người đã ký một đơn yêu cầu “một chính sách rõ ràng xác định rằng không có Google hoặc các nhà thầu của nó sẽ bao giờ xây dựng công nghệ chiến tranh.” Một số nhân viên đã từ chức để phản đối.
Mặc dù Li không tham gia trực tiếp vào thỏa thuận, phòng ban mà cô làm việc được giao nhiệm vụ quản lý Maven. Và cô trở thành một người đại diện nổi bật trong cuộc tranh cãi khi email cô viết như là đang cố gắng giúp công ty tránh bị xấu hổ đã bị rò rỉ cho The New York Times. Ở công chúng, điều này dường như gây nhầm lẫn, vì cô được biết đến trong lĩnh vực như một người mang đậm đà đạo đức. Trước sự phản đối của công chúng, cô đã coi công nghệ này là "khá vô hại"; cô không nghĩ rằng nó có thể gây ra sự nổi loạn của nhân viên.
Nhưng Li nhận ra tại sao vấn đề trở nên nóng: “Nó không phải chính xác vấn đề là gì. Đó là về thời điểm - sự cảm thấy cộng đồng về trách nhiệm của chúng ta, sức mạnh mới nổi của trí tuệ nhân tạo, cuộc đối thoại mà Silicon Valley cần phải tham gia. Maven chỉ trở thành một điểm hội tụ,” cô nói. “Không làm ác” không còn là một lập trường mạnh mẽ nữa.
Sự tranh cãi dịu đi khi Google thông báo họ sẽ không gia hạn hợp đồng Maven. Một nhóm các nhà khoa học và cán bộ điều hành của Google - bao gồm cả Li - cũng viết (công khai) các nguyên tắc cam kết rằng Google sẽ tập trung nghiên cứu AI của mình vào công nghệ được thiết kế cho cái thiện xã hội, sẽ tránh việc áp đặt thành kiến vào các công cụ của họ, và sẽ tránh công nghệ có thể gây thiệt hại cho con người. Li đã chuẩn bị để quay trở lại Stanford, nhưng cô cảm thấy rất quan trọng để thực hiện các nguyên tắc này. “Tôi nghĩ điều quan trọng là nhận ra rằng mọi tổ chức đều cần có một bộ nguyên tắc và quy trình đánh giá trách nhiệm. Bạn biết không, Benjamin Franklin nói khi Hiến pháp được triển khai, có thể nó không hoàn hảo nhưng nó là tốt nhất chúng ta có cho đến bây giờ,” cô nói. “Mọi người vẫn có ý kiến của riêng mình, và các bên khác nhau có thể tiếp tục cuộc đối thoại.” Nhưng khi các nguyên tắc được công bố, cô nói, đó là một trong những ngày hạnh phúc nhất của cô trong năm: “Điều đó rất quan trọng đối với tôi cá nhân để tham gia, để đóng góp.”
Vào tháng 6, tôi đến thăm Li tại nhà cô, một ngôi nhà chia đôi khiêm tốn ở khu cul-de-sac trên khuôn viên của Stanford. Đã quá 8 giờ tối, và trong khi chúng tôi trò chuyện, chồng cô đang giúp con trai và con gái nhỏ của họ chuẩn bị đi ngủ ở tầng trên. Bố mẹ cô ở nhà cho đêm ở căn hộ cho con dưới tầng hầm. Phòng ăn đã được biến thành phòng chơi, vì vậy chúng tôi ngồi trong phòng khách. Các bức ảnh gia đình đặt trên mọi bề mặt, bao gồm cả một chiếc điện thoại thời kỳ 1930 bị hỏng đặt trên một kệ sách. “Cha mẹ nhập cư!” cô nói khi tôi hỏi về điều đó. Cha cô vẫn thích đi chợ đồ cũ.
Trong khi chúng tôi trò chuyện, tin nhắn bắt đầu đổ dồn vào điện thoại của Li. Bố mẹ cô đang yêu cầu cô dịch hướng dẫn của bác sĩ để dùng thuốc cho mẹ cô. Li có thể đang ở trong cuộc họp tại Googleplex hoặc phát biểu tại Diễn đàn Kinh tế Thế giới hoặc ngồi trong phòng chờ trước buổi điều trần tại Quốc hội và bố mẹ cô vẫn nhắn tin để cô hỗ trợ nhanh chóng. Cô trả lời mà không làm gián đoạn suy nghĩ của mình.
Trong phần lớn cuộc đời của Li, cô luôn tập trung vào hai điều có vẻ như khác nhau cùng một lúc. Cô là một nhà khoa học đã suy ngẫm sâu về nghệ thuật. Cô là một người Mỹ gốc Trung Quốc. Cô yêu thích robot cũng như con người.
Vào cuối tháng Bảy, Li gọi cho tôi khi cô đang chuẩn bị hành lý cho chuyến đi cùng gia đình và giúp con gái rửa tay. “Bạn đã thấy thông báo về Shannon Vallor chưa?” cô hỏi. Vallor là một nhà triết học tại Đại học Santa Clara, nghiên cứu của cô tập trung vào triết học và đạo đức của các khoa học và công nghệ mới nổi, và cô vừa ký hợp đồng làm việc cho Google Cloud như một nhà đạo đức tư vấn. Li đã chiến đấu mạnh mẽ cho điều này; cô thậm chí đã trích dẫn Vallor trong lời khai của mình tại Washington, nói rằng: “Không có giá trị máy độc lập. Giá trị máy là giá trị của con người.” Bổ nhiệm này không phải là không có tiền lệ. Các công ty khác cũng đã bắt đầu đặt ra rào cản về cách phần mềm trí tuệ nhân tạo của họ có thể được sử dụng và ai có thể sử dụng nó. Microsoft đã thành lập một hội đồng đạo đức nội bộ vào năm 2016. Công ty cho biết họ đã từ chối kinh doanh với khách hàng tiềm năng do lo ngại về đạo đức được đưa ra bởi hội đồng. Họ cũng đã bắt đầu đặt ra giới hạn về cách công nghệ trí tuệ nhân tạo của họ có thể được sử dụng, như cấm một số ứng dụng trong nhận diện khuôn mặt.
Nhưng để nói thay mặt cho đạo đức từ bên trong một công ty là, một phần, nhận thức rằng, trong khi bạn có thể bảo vệ chuồng gà, bạn thực sự là một con cáo. Khi chúng tôi nói chuyện vào tháng Bảy, Li đã biết cô sắp rời Google. Kỳ nghỉ hai năm của cô sắp kết thúc. Có rất nhiều dự đoán về việc cô từ chức sau thất bại của Dự án Maven. Nhưng cô nói lý do khiến cô trở lại Stanford là vì cô không muốn mất vị trí học thuật của mình. Cô cũng nghe có vẻ mệt mỏi. Sau một mùa hè hỗn loạn tại Google, các nguyên tắc đạo đức mà cô giúp viết là “ánh sáng cuối đường hầm”, cô nói.
Và cô rất háo hức bắt đầu một dự án mới tại Stanford. Vào mùa thu này, cô và John Etchemendy, cựu hiệu trưởng Stanford, đã công bố việc thành lập một trung tâm học thuật sẽ kết hợp việc nghiên cứu về trí tuệ nhân tạo và nhân loại, kết hợp khoa học cứng, nghiên cứu thiết kế và các học phần liên ngành. “Là một khoa học mới, trí tuệ nhân tạo chưa bao giờ có nỗ lực toàn ngành để thu hút các nhà nhân văn học và nhà khoa học xã hội,” cô nói. Các kỹ năng này đã lâu được coi là không quan trọng đối với lĩnh vực trí tuệ nhân tạo, nhưng Li khẳng định rằng chúng là chìa khóa cho tương lai của nó.
Li là một người lạc quan về bản chất. Tại cuộc điều trần vào tháng Sáu, cô nói với các lập pháp viên, “Tôi suy nghĩ sâu về những công việc hiện tại đang nguy hiểm và có hại cho con người, từ chữa cháy đến tìm kiếm cứu nạn đến khắc phục thiên tai tự nhiên.” Cô tin rằng chúng ta không chỉ nên tránh đặt người vào nguy hiểm khi có thể, mà những công việc như vậy thường là loại công việc mà công nghệ có thể hỗ trợ tốt.
Tất nhiên có những giới hạn về mức độ một chương trình duy nhất tại một cơ sở giáo dục — thậm chí là một cơ sở nổi tiếng — có thể thay đổi một lĩnh vực toàn bộ. Nhưng Li khẳng định cô phải làm những gì cô có thể để đào tạo các nhà nghiên cứu suy nghĩ giống như những nhà đạo đức, những người được hướng dẫn bởi nguyên tắc hơn là lợi nhuận, thông tin từ một loạt các nền văn hóa khác nhau.
Trên điện thoại, tôi hỏi Li liệu cô có tưởng tượng có thể đã có một cách khác để phát triển trí tuệ nhân tạo, có lẽ không gặp phải các vấn đề mà chúng ta đã thấy cho đến nay. “Tôi nghĩ đó là khó khăn để tưởng tượng,” cô nói. “Tiến bộ và đổi mới khoa học thực sự đến từ nhiều thế hệ công việc tẻ nhạt, thử nghiệm và lỗi. Mất một thời gian cho chúng ta nhận ra sự thiên vị như vậy. Tôi chỉ nhận ra nó cách đây sáu năm và nhận ra ‘Ôi Chúa ơi, chúng ta đang đối mặt với một cuộc khủng hoảng.’”
Tại Quốc hội, Li nói, “Là một nhà khoa học, tôi khiêm tốn trước sự non trẻ của khoa học trí tuệ nhân tạo. Đây chỉ là một khoa học tồn tại trong vòng 60 năm. So với những khoa học cổ điển đem lại cuộc sống tốt đẹp hơn cho con người mỗi ngày—vật lý, hóa học, sinh học—còn một quãng đường dài lắm mới có thể thực hiện được tiềm năng của trí tuệ nhân tạo để giúp đỡ con người.” Cô thêm, “Với sự hướng dẫn đúng đắn, trí tuệ nhân tạo sẽ làm cuộc sống tốt hơn. Nhưng nếu thiếu điều đó, công nghệ này có thể làm mở rộng khoảng cách giàu nghèo hơn nữa, làm cho công nghệ trở nên càng kín đáo hơn và củng cố những định kiến mà chúng ta đã bỏ rất nhiều thế hệ để vượt qua.” Đây là thời điểm, theo Li, giữa một phát minh và tác động của nó.
Trang điểm và Tóc bởi Amy Lawson cho Makeup Forever
Jessi Hempel viết về CEO của Uber Dara Khosrowshahi trong số 26.05. Bản tin thêm của Gregory Barber.
Bài viết này xuất hiện trong số tháng 12. Đăng ký ngay.
Nghe câu chuyện này và những tính năng Mytour khác trên ứng dụng Audm.
Hãy cho chúng tôi biết bạn nghĩ gì về bài viết này. Gửi thư tới biên tập viên tại [email protected].
Các bài viết tuyệt vời khác từ Mytour
- Các người sửa chữa DIY tận dụng sức mạnh của trí tuệ nhân tạo
- 'Thuế hồng' và cách phụ nữ chi tiêu nhiều hơn cho giao thông công cộng NYC
- HÌNH ẢNH: Các công cụ bí mật mà pháp sư sử dụng để đánh lừa bạn
- Đường dây trợ giúp gọi điện thoại về gà đếm thời gian lễ hội Thanksgiving có những thay đổi mới
- Một vận động viên chạy marathon già đã cố gắng chạy nhanh sau khi bước sang tuổi 40
- Đói muốn biết thêm về chủ đề yêu thích tiếp theo của bạn? Đăng ký nhận bản tin Backchannel
