Trí Tuệ Nhân Tạo Có Thể Là Một Lực Lượng Phi Thường Đối Với Điều Tốt—Nếu Nó Được Kiểm Soát

Trong một văn phòng đẹp theo phong cách thời kỳ Regency nhìn ra quảng trường Russell ở London, tôi đã thành lập một công ty có tên là DeepMind cùng hai người bạn, Demis Hassabis và Shane Legg, vào mùa hè năm 2010. Mục tiêu của chúng tôi, một mục tiêu mà vẫn giữ nguyên sự tham vọng, điên rồ và đầy hy vọng như ngày xưa, là sao chép chính điều làm cho chúng ta đặc biệt như một loài: sự thông minh của chúng ta.

Để đạt được điều này, chúng tôi sẽ cần tạo ra một hệ thống có thể mô phỏng và sau đó dần dần vượt qua tất cả các khả năng nhận thức của con người, từ thị giác và nói chuyện đến kế hoạch và tưởng tượng, và cuối cùng là sự đồng cảm và sáng tạo. Vì một hệ thống như vậy sẽ được hưởng lợi từ việc xử lý đồng thời của siêu máy tính và sự bùng nổ của nguồn dữ liệu mới từ khắp các nguồn trên web mở, chúng tôi biết rằng thậm chí tiến triển nhỏ về mục tiêu này sẽ có ảnh hưởng sâu sắc đối với xã hội.

Điều đó chắc chắn làm cho nó trở nên xa xôi vào thời điểm đó.

Nhưng Trí Tuệ Nhân Tạo đã leo lên bậc thang của khả năng nhận thức suốt vài thập kỷ, và bây giờ nó có vẻ như sẽ đạt được hiệu suất ngang ngửa với con người trên một loạt rộng lớn các nhiệm vụ trong vòng ba năm tới. Đó là một tuyên bố lớn, nhưng nếu tôi chỉ gần đúng, những tác động thực sự sâu sắc.

Tiến triển further trong một lĩnh vực tăng tốc các lĩnh vực khác trong một quá trình hỗn loạn và tương tác vượt ra khỏi sự kiểm soát trực tiếp của bất kỳ ai. Rõ ràng là nếu chúng tôi hoặc những người khác thành công trong việc sao chép trí tuệ nhân loại, điều này không chỉ là doanh nghiệp sinh lời như thường lệ mà còn là một biến đổi địa chấn cho loài người, khởi đầu cho một thời kỳ khi cơ hội chưa từng có sẽ được so sánh với rủi ro chưa từng có. Bây giờ, cùng với một loạt các công nghệ khác bao gồm sinh học tổng hợp, robot học, và máy tính lượng tử, một làn sóng của Trí Tuệ Nhân Tạo đang bắt đầu nổi lên. Điều mà, khi chúng tôi thành lập DeepMind, đã cảm thấy kỳ quái giờ đây không chỉ là có vẻ có khả năng mà hình như là không thể tránh khỏi.

Là người xây dựng những công nghệ này, tôi tin rằng chúng có thể mang lại một lượng lớn thiện chí. Nhưng mà không có cái tôi gọi là kiểm soát, mọi khía cạnh khác của một công nghệ, mọi cuộc trò chuyện về nhược điểm đạo đức của nó, hoặc những lợi ích mà nó có thể mang lại, đều là vô nghĩa. Tôi nhìn nhận kiểm soát như là một bộ cơ cấu tương tác của các cơ chế kỹ thuật, xã hội và pháp lý hạn chế và kiểm soát công nghệ, hoạt động ở mọi cấp độ có thể: một phương tiện, lý thuyết là để tránh dilemmas của chúng ta làm thế nào chúng ta có thể giữ được kiểm soát của các công nghệ mạnh mẽ nhất trong lịch sử. Chúng ta cần gấp đôi câu trả lời chặt chẽ cho việc làm thế nào đợt sóng sắp tới có thể được kiểm soát và kiểm soát, làm thế nào các biện pháp an toàn và lợi ích của quốc gia dân chủ, quan trọng để quản lý những công nghệ này và đồng thời bị đe dọa bởi chúng, có thể được duy trì. Ngay bây giờ không ai có kế hoạch như vậy. Điều này chỉ ra một tương lai mà không ai trong chúng ta muốn, nhưng đó là một tương lai mà tôi sợ là ngày càng có khả năng xảy ra.

Đối mặt với các động lực ẩm ương mà thúc đẩy công nghệ phát triển, kiểm soát không phải là có vẻ có thể ngay từ cái nhìn bề ngoài. Và tuy nhiên vì lợi ích của tất cả chúng ta, kiểm soát phải có thể.

Hầu hết các quy định đều đi trên dây đàn của các lợi ích đối đầu. Nhưng trong ít lĩnh vực nào khác ngoài công nghệ ranh giới, nó phải đối mặt với một thứ được phổ biến rộng rãi, quan trọng đối với kinh tế và vẫn đang phát triển nhanh chóng. Tất cả tiếng ồn và sự nhầm lẫn làm rõ rằng việc quy định mọi hình thức làm khó và phức tạp, đặc biệt là giữa sự thay đổi nhanh chóng, và do đó, nó hầu như chắc chắn sẽ để lại những khoảng trống, không đạt đến sự kiểm soát hiệu quả.

Phía trên sự tranh luận của cuộc thảo luận về luật, các quốc gia cũng bị mắc kẹt trong một mâu thuẫn. Một mặt, mỗi quốc gia đều muốn và muốn được coi là ở phía trước về công nghệ. Đó là một đại lượng của niềm tự hào quốc gia, của an ninh quốc gia, và một bắt buộc tồn tại. Mặt khác, họ rất muốn quy định và quản lý những công nghệ này - để kiềm chế chúng, không kém phần vì lo sợ rằng chúng sẽ đe dọa quốc gia như trụ sở quyền lực cuối cùng. Điều đáng sợ là điều này giả định một kịch bản tốt nhất của các quốc gia mạnh mẽ, khá có năng lực, có sự liên kết (dân chủ tự do) có khả năng làm việc một cách nhất quán nội bộ và phối hợp tốt quốc tế.

Trung Quốc là một nhà lãnh đạo về quy định một cách nào đó. Chính phủ đã ban hành nhiều chỉ thị về đạo đức trí tuệ nhân tạo, cố gắng áp đặt các hạn chế rộng rãi. Nó chủ động cấm nhiều loại tiền điện tử và các sáng kiến DeFi, và giới hạn thời gian trẻ em dưới 18 tuổi có thể dành cho trò chơi và ứng dụng xã hội 90 phút mỗi ngày trong tuần, ba giờ vào cuối tuần. Quy định dự thảo về các thuật toán đề xuất và mô hình ngôn ngữ lớn ở Trung Quốc vượt xa mọi thứ chúng ta đã thấy ở phương Tây.

Nhưng trong khi Trung Quốc đang giữ phanh ở một số lĩnh vực, nó cũng đang tiến lên ở những lĩnh vực khác. Quy định của nó được kết hợp bởi sự triển khai vô song của công nghệ như một công cụ của quyền lực chính trị chủ nghĩa. Nói chuyện với những người có hiểu biết về quốc phòng và chính sách phương Tây và họ khẳng định rằng, mặc dù Trung Quốc nói nhiều về đạo đức trí tuệ nhân tạo và các hạn chế, khi nói đến an ninh quốc gia, không có rào cản có ý nghĩa nào. Thực tế, chính sách trí tuệ nhân tạo của Trung Quốc có hai hướng: một con đường dân sự được quy định và một con đường quân sự-công nghiệp tự do.

Chỉ quy định một mình có lẽ sẽ không đủ để kiểm soát công nghệ. Điều này không phải là một lập luận chống lại quy định, điều đó là hoàn toàn cần thiết, nhưng là sự nhận thức cần thiết về giới hạn của nó. Nó không ngăn chặn những hành động xấu động viên hoặc tai nạn. Nó không đặt vào trái tim của một hệ thống nghiên cứu mở và không dự đoán được. Nó không cung cấp các phương án thay thế khi có những phần thưởng tài chính khổng lồ. Và trên hết, nó không làm giảm bớt sự cần thiết chiến lược. Nó không mô tả cách các quốc gia có thể phối hợp trong một hiện tượng quốc tế hấp dẫn, khó xác định, xây dựng một khối lượng liên minh tinh tế, đặc biệt trong bối cảnh nơi các hiệp định quốc tế thường xuyên thất bại. Có một khoảng cách không thể cầu nối giữa mong muốn kiềm chế đợt sóng sắp tới và mong muốn hình thành và sở hữu nó, giữa nhu cầu bảo vệ chống lại công nghệ và nhu cầu bảo vệ chống lại người khác. Ưu điểm và kiểm soát chỉ hướng vào những hướng trái ngược nhau.

Thực tế là kiểm soát không phải là điều mà một chính phủ, hoặc thậm chí là một nhóm chính phủ, có thể làm một mình. Nó đòi hỏi sự đổi mới và táo bạo trong việc hợp tác giữa các khu vực công và tư, cũng như một bộ động viên hoàn toàn mới cho tất cả các bên. Quy định như Đạo luật AI của EU ít nhất là gợi ý đến một thế giới nơi kiểm soát đang trên bản đồ, nơi các chính phủ hàng đầu đang nghiêm túc về rủi ro sự lan truyền, thể hiện mức cam kết và sẵn lòng hy sinh nghiêm túc.

Quy định không đủ, nhưng ít nhất đó là một bước khởi đầu. Trong một thế giới nơi kiểm soát dường như không khả thi, tất cả những điều này chỉ là một cử chỉ đến một tương lai nơi nó có thể.

Vậy, chúng ta sẽ đi về đâu từ đây? Làm thế nào chúng ta vượt ra khỏi quy định? Liệu bất kỳ thực thể nào có sức mạnh ngăn chặn sự lan truyền hàng loạt trong khi nắm bắt được quyền lực và lợi ích khổng lồ từ đợt sóng sắp tới không? Để ngăn chặn những đối tượng xấu có được một công nghệ, hoặc hình thành sự lan truyền của ý tưởng mới nảy sinh xung quanh nó? Khi độc lập tăng lên, có ai hoặc bất kỳ thứ gì thực sự hy vọng kiểm soát có ý nghĩa ở mức macro? Kiểm soát có nghĩa là trả lời đúng cho những câu hỏi như vậy. Theo lý thuyết, nó đưa chúng ta ra khỏi những tác động đáng lo ngại nhất của công nghệ. Nó có nghĩa là đồng thời tận dụng và kiểm soát đợt sóng, một công cụ quan trọng để xây dựng xã hội bền vững và thịnh vượng, trong khi kiểm soát nó một cách tránh rủi ro một thảm họa nghiêm trọng, nhưng không một cách xâm phạm đến mức mời gọi một thế giới kinh hoàng. Nó có nghĩa là viết một loại thỏa thuận lớn mới.

Có vẻ hấp dẫn khi nghĩ về việc kiểm soát một cách rõ ràng, có nghĩa đen, một loại hộp ma thuật trong đó một công nghệ cụ thể có thể được phong tỏa. Tại giới hạn ngoại cùng - trong trường hợp của phần mềm độc hại hoặc tác nhân gây bệnh - có thể cần những bước đi cấp bách như vậy. Tuy nhiên, nói chung, hãy xem xét kiểm soát hơn như là một hệ thống lan can, một cách để giữ cho con người nắm giữ tay lái khi một công nghệ có nguy cơ gây thương tổn lớn hơn lợi ích. Hãy tưởng tượng những thanh chắn đó hoạt động ở các cấp độ khác nhau và với các phương thức triển khai khác nhau. Chúng cần đủ mạnh, để lý thuyết, chúng có thể ngăn chặn một thảm họa chạy trốn. Kiểm soát sẽ cần phải phản ứng với bản chất của một công nghệ và định hình nó theo hướng dễ kiểm soát hơn. Đáng giá khi đặt ra những loại câu hỏi sau để thúc đẩy những hướng tiếp cận triển vọng:

Công nghệ có phải là omni-use và đa mục đích hay không? Vũ khí hạt nhân là một công nghệ cực kỳ cụ thể với một mục đích, trong khi máy tính inherently là đa mục đích. Càng nhiều trường hợp sử dụng tiềm năng, công nghệ càng khó kiểm soát. Thay vì hệ thống tổng quát, những hệ thống hẹp hơn và cụ thể cho một lĩnh vực cần được khuyến khích.

Công nghệ có đang di chuyển từ nguyên tử sang bit không? Càng giảm tính chất vật chất của một công nghệ, nó càng phải đối mặt với các tác động tiến hóa mạnh khó kiểm soát. Các lĩnh vực như thiết kế vật liệu hoặc phát triển thuốc sẽ tăng tốc nhanh chóng, làm tăng độ khó khăn trong việc theo dõi tiến triển.

Giá cả và độ phức tạp có đang giảm xuống, và nếu có thì nhanh chóng như thế nào? Giá của máy bay chiến đấu đã không giảm như cách giá của transistor hoặc phần cứng tiêu dùng giảm. Một mối đe dọa xuất phát từ máy tính cơ bản có tính chất rộng lớn hơn so với máy bay chiến đấu, mặc dù khả năng phá hủy rõ ràng của máy bay chiến đấu.

Có các phương án thay thế khả dụng sẵn sàng không? CFC có thể bị cấm một phần là vì có những phương án thay thế rẻ tiền và an toàn hơn cho hệ thống làm lạnh. Có những phương án thay thế nào khả dụng? Càng nhiều phương án thay thế an toàn có sẵn, việc loại bỏ việc sử dụng càng dễ dàng.

Công nghệ có tạo ra tác động không đối xứng không? Hãy nghĩ đến một đàn drone chống lại quân đội truyền thống hoặc một máy tính nhỏ hoặc vi-rút sinh học gây hại cho các hệ thống xã hội quan trọng. Một số công nghệ có khả năng khai thác lỗ hổng nhiều hơn.

Có những đặc tính tự động không? Có khả năng tự học hoặc hoạt động mà không cần giám sát? Càng nhiều một công nghệ theo thiết kế đòi hỏi sự can thiệp của con người, càng ít cơ hội mất kiểm soát.

Có mang lại lợi thế chiến lược địa lý to lớn không? Ví dụ, vũ khí hóa học có những ưu điểm hạn chế và nhiều hậu quả tiêu cực, trong khi vượt lên trên trong trí tuệ nhân tạo hoặc sinh học mang lại những lợi ích to lớn, cả về kinh tế và quân sự. Nói không là điều khó khăn hơn.

Công nghệ ưa thích tấn công hay phòng thủ? Trong Thế chiến thứ hai, việc phát triển các tên lửa như V-2 hỗ trợ các hoạt động tấn công, trong khi một công nghệ như radar làm tăng cường phòng thủ. Hướng phát triển về phòng thủ hơn là tấn công thì dẫn đến kiểm soát.

Có ràng buộc về nguồn lực hoặc kỹ thuật trên sự phát minh, phát triển và triển khai của nó không? Chip silic tạo ra yêu cầu về vật liệu chuyên biệt và cao cấp, máy móc và kiến thức. Tài năng có sẵn cho một công ty khởi nghiệp sinh học tổng hợp, so với quy mô toàn cầu, vẫn khá nhỏ. Cả hai đều hỗ trợ kiểm soát trong tương lai gần.

Đặt những câu hỏi như thế này, và một tầm nhìn toàn diện về kiểm soát bắt đầu xuất hiện. Ít cái gì quan trọng hơn việc phát triển tầm nhìn đó - và biến nó thành hiện thực.

Trích từ Đợt sóng sắp tới của Mustafa Suleyman. Bản quyền © 2023 của Mustafa Suleyman. Trích từ sự cho phép của Crown. Bảo lưu mọi quyền. Không phần nào của trích dẫn này được sao chép hoặc tái in mà không có sự cho phép bằng văn bản từ nhà xuất bản.