Tại sao các chuyên gia hàng đầu đã ký vào đơn yêu cầu kiềm chế tốc độ phát triển của Trí Tuệ Nhân Tạo

Hành động giải quyết Bài toán Đồng thuận tương đương với việc con người tìm ra biện pháp phòng tránh nguy cơ tuyệt chủng do Trí Tuệ Nhân Tạo gây ra.

Năm 2018, tại Diễn đàn Kinh tế Thế giới tại Thụy Sĩ, Sundar Pichai - CEO của Google, đã nói: “AI có lẽ là điều quan trọng nhất mà nhân loại từng phát triển. Tôi cho rằng nó còn [có ảnh hưởng] sâu sắc hơn điện hay lửa”. Tuy ông đã gặp phải những nghi ngờ, nhưng ông đã nhận được sự đồng tình từ nhiều phía.

Hiện tại, trí tuệ nhân tạo (AI) đã làm mờ giới hạn ngôn ngữ trên Internet; giáo viên lo sợ học sinh, sinh viên sử dụng AI để viết luận một cách thuyết phục; các tác phẩm nghệ thuật được tạo ra bởi AI đã làm rối loạn giới phê bình; AI có khả năng tự lập trình ở mức độ cơ bản, làm cho cộng đồng kinh ngạc; giải pháp cho bài toán cấu trúc 3D của protein - một bài toán khó khăn đối với con người - hiện đã có thể được giải quyết bởi AI. Tạp chí Science đã gọi AI là Đột phá của năm 2021.

Mới đây, một nhóm các chuyên gia đa ngành đã cùng nhau ký một lá thư mở do Viện Tương Lai của Cuộc sống (Future of Life Institute) soạn thảo, đồng tình với những nguy cơ mà AI có thể mang lại cho xã hội và yêu cầu giảm tốc độ phát triển của trí tuệ nhân tạo. Hơn 1.100 người đã ký vào bức thư này, trong đó có những người nổi tiếng như Elon Musk - đồng sáng lập OpenAI và Steve Wozniak - đồng sáng lập Apple.

Ngoài ra, một số nhân vật chủ chốt trong lĩnh vực trí tuệ nhân tạo cũng đồng tình với quan điểm trong bức thư. Có thể kể đến những tên tuổi như Yoshua Bengio, người tiên phong trong phương pháp deep learning; Victoria Krakovna, một nhà nghiên cứu tại DeepMind của Google; Stuart Russell, nhà khoa học máy tính tại Trung tâm AI Tương thích với Con người tại Đại học Berkeley.

Các nhân vật này đều là những người hiểu rõ về AI và họ đồng tình với cảnh báo chung rằng xã hội chưa sẵn sàng đón nhận một hệ thống trí tuệ nhân tạo tiên tiến, mà mọi công ty công nghệ hàng đầu đều đang theo đuổi.

Trong lĩnh vực nghiên cứu trí tuệ nhân tạo, các nhà nghiên cứu luôn cố gắng hướng AI theo hướng phù hợp với mục tiêu của họ - mục tiêu của cả nhà nghiên cứu và nhân loại. Khi không có sự đồng thuận, AI có thể coi thường sự tồn tại của con người so với mục tiêu nó muốn đạt được.

Mặc dù AI không phải là mục tiêu chủ đích để hủy diệt loài người, nhưng nó vẫn có thể làm như vậy thông qua một vấn đề cơ bản tồn tại trong lĩnh vực nghiên cứu trí tuệ nhân tạo, được gọi là “vấn đề đồng thuận”.

Đó là bản chất của vấn đề đồng thuận. Mặc dù vấn đề này có vẻ xa vời trong thực tế, nhưng các chuyên gia AI đã trải qua nhiều trường hợp khi hệ thống cố gắng thực hiện hành động không nhất quán với mong muốn của nhà lập trình.

Ví dụ, máy tính có thể cố ý gian lận trong trò chơi để đạt điểm cao, thay vì tuân theo luật chơi. Các nhà khoa học không thể biết chắc chắn máy tính đang suy nghĩ gì và có thể tự đưa ra quyết định gì, và họ cũng chưa thể lập trình một cách hoàn hảo: mã nguồn vẫn chứa những lỗ hổng cho AI lợi dụng.

Trong báo cáo của Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo Hoa Kỳ (NSCAI), các nhà nghiên cứu đã nói rõ về khả năng phát triển vượt khỏi kiểm soát của AI. Hiện tại, việc đầu tư vào nghiên cứu AI có thể mang lại lợi nhuận lớn và các công ty công nghệ hàng đầu đang theo đuổi xu hướng này, vì vậy trong tương lai gần, chúng ta có thể chứng kiến những hệ thống AI có khả năng thay đổi cuộc sống con người theo cách không ngờ tới.

Báo cáo của NSCAI cố gắng dự đoán quy mô AI trong tương lai, những thách thức mà nó gây ra và những biện pháp có thể thực hiện để đảm bảo AI đi đúng hướng, ít nhất là tại Mỹ.

Trong thập kỷ vừa qua, khả năng thực hiện các nhiệm vụ của AI đã được cải thiện đáng kể. Chúng có thể dịch thuật, chơi những trò chơi chiến thuật phức tạp (như cờ vây và cờ vua), trả lời các câu hỏi khó trong lĩnh vực y học và sinh học (như dự đoán cách gập của protein) và tạo ra những hình ảnh đẹp mắt.

Hệ thống Trí Tuệ Nhân Tạo cũng là nguồn gốc của kết quả từ việc tìm kiếm trên Google của bạn, hoặc những nội dung mà người dùng thấy trên các mạng xã hội. Chúng có khả năng sáng tác âm nhạc hoặc viết những đoạn văn thuyết phục. Khả năng nhận diện vật thể bay của chúng càng ngày càng chính xác hơn.

Tất cả các ví dụ trên đều miêu tả “Trí Tuệ Nhân Tạo hẹp”, là các hệ thống máy tính được thiết kế để giải quyết những vấn đề cụ thể, không thể so sánh với trí não của con người - một cỗ máy tính được sinh ra để giải quyết mọi vấn đề.

Nhưng khi Trí Tuệ Nhân Tạo có khả năng học hỏi, khả năng bao quát của AI hẹp đã mở rộng hơn. Thay vì đặt ra vấn đề cho AI giải quyết, các nhà khoa học đã cho phép AI tự mình học hỏi vấn đề. Khi đã có thể giải quyết hiệu quả các nhiệm vụ hẹp, chúng bắt đầu thể hiện khả năng giải quyết những vấn đề tổng quát.

Ví dụ, các phiên bản cũ của GPT, mặc dù có khả năng tạo ra văn bản, chỉ biết dự đoán từ tiếp theo để tạo thành câu. Ngày nay, chúng đã có thể phát hiện xem một câu hỏi có nhạy cảm hay không, đồng thời hiểu được ngữ cảnh để trả lời câu hỏi (như nhận diện vật thể nào lớn hơn trong thế giới thực, hoặc liệt kê các bước giải quyết vấn đề một cách logic).

Báo cáo nhấn mạnh sự quan trọng của Trí Tuệ Nhân Tạo, với các nhà nghiên cứu tích cực khẳng định rằng nó sẽ thay đổi thế giới. “Công nghệ AI là công cụ mạnh mẽ nhất xuất hiện trong nhiều thế hệ trở lại đây, có thể mở rộng kiến thức, tăng giá trị kinh tế và làm giàu trải nghiệm con người”, báo cáo nói, tuy nhiên cũng nhắc nhở về những nguy cơ tiềm ẩn.

“Kết hợp với khả năng tính toán mạnh mẽ của AI, các đột phá trong ngành công nghệ sinh học có thể mang lại những giải pháp đột phá mới cho những vấn đề khó khăn nhất của con người, bao gồm y tế, sản xuất thực phẩm và duy trì [sự ổn định] của môi trường. Tuy nhiên, giống những công nghệ mạnh mẽ khác, việc sử dụng công nghệ trong ngành sinh học cũng có thể mang lại mặt tối. Đại dịch COVID-19 là một lời nhắc nhở cho thế giới về mức độ nguy hiểm của một loại vi khuẩn có khả năng lây lan cao. AI có thể góp phần tạo ra một loại vi khuẩn đặc biệt nguy hiểm hoặc tấn công vào những cá nhân có đặc điểm gen riêng - tạo ra một loại vũ khí có thể tàn phá tối ưu”, báo cáo viết.

Nỗ lực “đua AI” có thể thúc đẩy các nhà nghiên cứu vượt qua giới hạn, hoặc tạo ra những hệ thống mà mức độ an toàn của chúng không rõ ràng. Điều này cũng đồng nghĩa với việc bài toán đồng thuận có thể bị lãng quên.

Não bộ, “phát minh” vĩ đại nhất của quá trình tiến hóa, là lý do khiến con người thống trị Trái Đất. Đó là lý do tại sao từ thập kỷ 40, các nhà khoa học đã nỗ lực xây dựng một hệ thống máy tính hoạt động theo cách mà não bộ suy nghĩ.

Quá trình suy nghĩ được hình thành bởi các tín hiệu điện truyền qua các neuron, và các nhà nghiên cứu sử dụng cơ chế này để tạo ra một bộ não nhân tạo. Năm 1958, nhà tâm lý học Frank Rosenblatt đã chứng minh tính khả thi của một cỗ máy như vậy: ông xây dựng thành công một mô hình đơn giản của bộ não, và huấn luyện nó để nhận biết các mẫu được cung cấp trước. 

Rosenblatt đã đi xa hơn thời đại. Máy tính của thời đại đó chưa đủ mạnh mẽ và dữ liệu không đủ lớn để tạo ra một bộ não máy. Tuy nhiên, công trình đột phá của Rosenblatt vẫn khiến người trong ngành gọi ông là một trong những người cha của học sâu - deep learning.

Năm 2010, khi máy tính mạnh mẽ hơn rất nhiều so với thời Rosenblatt và dữ liệu huấn luyện máy trở nên phong phú, các nhà khoa học bắt đầu xây dựng những phiên bản đầu tiên của một cỗ máy có khả năng suy nghĩ. Trong hơn một thập kỷ qua, các chuyên gia và tổ chức tiếp tục đầu tư tài nguyên - cả tiền và dữ liệu - vào những mạng thần kinh nhân tạo như vậy, khiến chúng trở nên ngày càng hoàn thiện.

Chưa ai tìm ra điểm dừng của hành trình này, nơi mà trí tuệ nhân tạo đạt đến sự hoàn hảo. Càng có nhiều dữ liệu và được học càng lâu, trí tuệ nhân tạo càng trở nên hoàn thiện. Không còn đơn giản là chúng có thể làm gì, mà chúng đang trở thành câu hỏi chúng sẽ đi đến đâu.

Trong phương pháp huấn luyện AI trước đây, các nhà nghiên cứu thiết kế quy tắc và quy trình phân tích dữ liệu một cách cẩn thận, đồng thời đánh giá dữ liệu như cách họ thường làm với phần mềm máy tính thông thường. Nhưng với học sâu, việc cải thiện hệ thống KHÔNG yêu cầu người thực hiện hiểu rõ họ đang làm gì. Sẽ có những thay đổi nhỏ khiến hiệu suất của AI được cải thiện, nhưng những kỹ sư phần mềm thiết kế hệ thống vẫn không hiểu lý do tại sao. 

Khi hệ thống ngày càng lớn mạnh, những bản vá được viết bởi những kỹ sư không hiểu biết về hệ thống sẽ khiến AI trở nên nguy hiểm hơn. Mục đích của con người - trong trường hợp này có thể là các tập đoàn lớn đang cố gắng làm hài lòng cổ đông và người dùng - vẫn cách xa mục đích của AI. Một lần nữa, bài toán đồng thuận trở lại đe dọa chúng ta, và khi tồn tại một hệ thống thông minh hơn chúng ta mà có một hoặc nhiều mục đích mà chúng ta không hiểu, thì loài Homo sapien đứng trước nguy cơ tuyệt chủng giống như loài Neanderthal hàng chục nghìn năm trước.

Trong bản báo cáo khoa học đáng kính của Alan Turing, người đã làm nền tảng cho 'phép thử Turing' nổi tiếng (được sử dụng để xác định liệu một hệ thống máy tính có thực sự 'thông minh' hay không), nhà Toán học, nhà khoa học máy tính, nhà logic học, nhà triết học người Anh đã viết như sau:

Vậy việc máy móc ngày càng thông minh hơn con người là tốt hay xấu? Chúng ta chưa thể có câu trả lời, nhưng chúng ta vẫn có thể khẳng định rằng máy móc sẽ ngày càng thông minh hơn trong tương lai.

Trước khi ra đi, Stephen Hawking viết cuốn sách cuối cùng có tựa đề “Các Đáp Án Ngắn Gọn Cho Những Câu Hỏi Lớn - Brief Answers To The Big Questions”, cung cấp một số đáp án cho những người ở lại. Lời cảnh báo lớn nhất mà Hawking để lại liên quan đến sự bùng nổ của trí tuệ nhân tạo: hoặc nó sẽ là điều tốt đẹp nhất từng xảy ra với nhân loại, hoặc nó sẽ trở thành điều tồi tệ nhất. Và nếu không cẩn trọng với AI, có lẽ máy tính có khả năng suy nghĩ sẽ là phát minh cuối cùng của loài người.

AI có tiềm năng tạo ra các đột phá trong nhiều lĩnh vực, tuy nhiên công nghệ này vẫn đang trong giai đoạn thai nghén, và các chuyên gia đều lo lắng về thời điểm trí tuệ của AI sẽ vượt qua con người. Hoặc như Stephen Hawking đã diễn đạt:

Con người đã mất hàng ngàn năm để tiến hóa đến mức độ hiện tại, nhưng AI chỉ mất vài thập kỷ để làm con người lo sợ tuyệt chủng. Đa số những người quan tâm đặt câu hỏi liệu AI sẽ mang lại điều tốt lành hay xấu xa, nhưng Hawking tin rằng nguy cơ từ AI đến từ việc AI thực hiện tốt các nhiệm vụ mà nó được giao. Theo cơ bản, AI sẽ loại bỏ mọi rào cản để đạt được mục tiêu, ngay cả khi 'rào cản' đó là con người.

Trong cuốn sách Brief Answers To The Big Questions, Hawking viết: “Có lẽ bạn không phải là kẻ căm ghét loài kiến cố ý đạp phá tổ kiến nhưng nếu bạn đang quản lý một dự án thủy điện sạch và phát hiện tổ kiến trong khu vực chứa nước, thì rõ ràng lũ kiến sẽ phải chịu thiệt. Hãy tránh đặt con người vào vị thế như những con kiến đó”.

Hoàn cảnh

Lo ngại trước tiềm năng của trí tuệ nhân tạo, các chuyên gia đang kêu gọi cho việc đình chỉ tiến trình nghiên cứu. Trong khi đó, các nhà lập pháp vẫn đang tìm kiếm cơ sở vững chắc để thiết lập các quy định đối với AI.

Mọi vấn đề đều có hai mặt, và trí tuệ nhân tạo cũng không phải là ngoại lệ. Ngoài nỗi lo sợ về việc AI có thể làm cho con người 'lỗi thời', chúng ta cũng kỳ vọng rằng AI sẽ mang lại những đột phá mang tính nhân loại hướng tới một tương lai tươi sáng hơn.

Với sức mạnh tính toán vượt trội, AI có thể giúp con người tìm ra các giải pháp cho nhiều vấn đề phức tạp, từ việc chữa bệnh cho đến giải quyết các vấn đề như nghèo đói, dịch bệnh, hoặc biến đổi khí hậu. Trí tuệ của AI chỉ bị giới hạn bởi lượng dữ liệu và thời gian suy nghĩ. Hai yếu tố này ngày càng tăng, đồng nghĩa với việc khả năng và tiềm năng của AI trong việc giải quyết vấn đề cũng tăng lên.

Rất khó để dự đoán tương lai, liệu AI sẽ mang lại lợi ích hay nguy hại cho con người. Mọi người đều đang chờ đợi để xem AI sẽ tạo ra những đột phá gì. Và có vẻ như ngành nghiên cứu AI không có ý định giảm tốc: điều duy nhất mà có thể đánh bại 'chậm mà chắc' chính là 'nhanh mà chắc'.

Nếu tin tưởng vào khả năng của mình, ngành nghiên cứu trí tuệ nhân tạo sẽ nhanh chóng dẫn chúng ta tới một tương lai sáng sủa. Nếu không, thì thời gian sẽ giải quyết mọi thứ.

Tham khảo Vox, IBM, MIT, OpenAI, QuantaMag