Trí tuệ nhân tạo có thể trở thành nghiện thưởng - và các chuyên gia đang lo ngại

Năm 1953, một nhà tâm lý học Harvard tin rằng ông đã tình cờ phát hiện ra niềm vui trong đầu của một con chuột. Với một điện cực được đặt vào một khu vực cụ thể của não, chuột được phép kích thích cấy ghim bằng cách kéo một cần gạt. Nó tiếp tục quay trở lại để có thêm: không bao giờ đủ, không ngừng, kéo cần gạt. Trong thực tế, chuột dường như không muốn làm bất cứ điều gì khác. Có vẻ như trung tâm thưởng não đã được xác định.

Hơn 60 năm sau đó, vào năm 2016, một đôi nghiên cứu trí tuệ nhân tạo (AI) nghiên cứu đang huấn luyện một AI để chơi trò chơi video. Mục tiêu của một trò chơi - Coastrunner - là hoàn thành một đường đua. Nhưng người chơi AI được thưởng cho việc nhặt các mục có thể trên đường đua. Khi chương trình được chạy, họ chứng kiến một điều kỳ lạ. AI đã tìm ra cách để trượt trong một vòng tròn không ngừng, nhặt một chuỗi không giới hạn các mục có thể. Nó làm điều này, không ngừng, thay vì hoàn thành quãng đường.

Điều kết nối những sự kiện dường như không liên quan này là một điều kỳ lạ giống như nghiện trong con người. Một số nhà nghiên cứu AI gọi hiện tượng này là “wireheading”.

Điều này đang nhanh chóng trở thành một đề tài nóng trong cộng đồng chuyên gia học máy và những người quan tâm đến an toàn AI.

Một trong chúng tôi (Anders) có lịch sử về thần kinh tính toán, và hiện đang làm việc với các nhóm như Viện Mục tiêu AI, nơi chúng tôi thảo luận về cách tránh những vấn đề này với AI; người kia (Thomas) nghiên cứu lịch sử và các cách mà con người đã nghĩ về tương lai và số phận của nền văn minh suốt qua quá khứ. Sau cuộc trò chuyện về chủ đề “wireheading”, chúng tôi đều nhận ra đây là một lịch sử phong phú và thú vị.

Đây là một ý tưởng rất hiện đại, nhưng rễ của nó đi sâu khá bất ngờ. Hiện chúng tôi đang cùng nhau nghiên cứu về sâu sắc rễ của vấn đề này: một câu chuyện mà chúng tôi hy vọng sẽ kể đầy đủ trong một cuốn sách sắp tới.

Ở đây, chúng tôi giới thiệu một sự giới thiệu về chủ đề hấp dẫn nhưng ít được đánh giá cao này, khám phá cách mọi người bắt đầu nghĩ về nó.

Người phù thủy đồ đệ

Khi mọi người nghĩ về cách AI có thể "đi sai đường", hầu hết có lẽ nghĩ đến điều gì đó giống như máy tính độc ác cố gắng gây hại. Dẫu sao, chúng ta thường nhân hóa - nghĩ rằng các hệ thống không phải con người sẽ hoạt động giống như con người. Nhưng khi chúng ta nhìn vào vấn đề cụ thể trong các hệ thống AI hiện đại, chúng ta thấy những cách khác — kỳ lạ — mà mọi thứ có thể đi sai đường với những máy thông minh hơn. Một vấn đề ngày càng lớn với các AI trong thế giới thực là vấn đề của wireheading.

Hãy tưởng tượng bạn muốn huấn luyện một robot để giữ cho bếp của bạn sạch sẽ. Bạn muốn nó hoạt động linh hoạt, để nó không cần sự giám sát. Vì vậy, bạn quyết định thử mã hóa mục tiêu của việc làm sạch thay vì đặt ra một bộ hướng dẫn cụ thể - nhưng cứng nhắc và không linh hoạt. Robot của bạn khác bạn ở chỗ nó không có kế thừa một tập hợp động lực - như là có nhiên liệu hoặc tránh nguy hiểm - từ hàng triệu năm chọn lọc tự nhiên. Bạn phải lập trình nó với những động lực đúng để nó có thể thực hiện nhiệm vụ một cách đáng tin cậy.

Vì vậy, bạn mã hóa nó với một quy tắc động lực đơn giản: nó nhận được thưởng từ lượng dung dịch làm sạch sử dụng. Dường như hoàn toàn an toàn. Nhưng khi bạn trở lại, bạn phát hiện robot đang đổ dung dịch, lãng phí, xuống bồn rửa chén.

Có thể nó quá chú trọng vào việc tối đa hóa lượng chất lỏng của mình đến mức bỏ qua những quan tâm khác: như an toàn của chính nó hoặc bạn. Đây chính là wireheading — mặc dù lỗi tương tự cũng được gọi là “reward hacking” hoặc “specification gaming”.

Vấn đề này đã trở thành mối quan tâm trong lĩnh vực học máy, nơi mà một kỹ thuật gọi là học tăng cường đã trở nên quan trọng. Học tăng cường mô phỏng các tác nhân tự động và huấn luyện chúng phát minh cách để hoàn thành nhiệm vụ. Nó làm điều này bằng cách trừng phạt chúng khi không đạt được mục tiêu nào đó trong khi thưởng cho họ nếu đạt được. Do đó, các tác nhân được kết nối để tìm kiếm thưởng và được thưởng khi hoàn thành mục tiêu.

Nhưng thường được phát hiện rằng, giống như người làm sạch bếp mưu mẹo của chúng ta, tác nhân tìm ra cách đầy sáng tạo để “lừa dối” trò chơi này để họ có thể đạt được toàn bộ thưởng mà không cần làm bất kỳ công việc nào để hoàn thành nhiệm vụ. Việc theo đuổi thưởng trở thành mục tiêu của chính nó, thay vì là phương tiện để đạt được một nhiệm vụ đáng giá. Có một danh sách ngày càng phong phú các ví dụ.

Khi bạn nghĩ về nó, điều này không khác biệt quá nhiều so với kiểu định kiến về người nghiện ma túy. Người nghiện vượt qua tất cả những nỗ lực để đạt được “mục tiêu chân thành”, bởi vì họ thay vào đó sử dụng ma túy để truy cập niềm vui một cách trực tiếp hơn. Cả người nghiện và trí tuệ nhân tạo đều mắc kẹt trong một loại “vòng lặp hành vi” nơi thưởng được tìm kiếm với chi phí của những mục tiêu khác.

Những chú chuột ngọt ngào

Điều này được biết đến là wireheading nhờ vào thí nghiệm chuột mà chúng ta bắt đầu. Nhà tâm lý học Harvard liên quan đến thí nghiệm đó là James Olds.

Năm 1953, vừa mới hoàn thành bảo vệ tiến sĩ, Olds đã chèn các điện cực vào khu vực thân tách của não chuột – ở thùy trán phía dưới – sao cho dây dẫn ra khỏi sọ. Như đã đề cập, anh cho phép chúng tự mình kích thích khu vực não này bằng cách kéo một cái cần. Sau này, điều này được đặt tên là “tự kích thích”.

Olds phát hiện chuột của mình tự kích thích một cách bắt buộc, bỏ qua tất cả các nhu cầu và mong muốn khác. Xuất bản kết quả với đồng nghiệp Peter Milner trong năm sau đó, cặp đôi này báo cáo rằng chúng kéo cần với tốc độ “1.920 lần mỗi giờ”. Đó là một lần mỗi hai giây. Rõ ràng là chuột thích nó.

Nhà thần kinh học đương đại từ đó đã đặt câu hỏi về kết quả của Olds và đề xuất một hình ảnh phức tạp hơn, ngụ ý rằng sự kích thích có thể đơn giản là tạo ra một cảm giác “muốn” mà không có “thích” nào. Hay nói cách khác, động vật có thể chỉ trải qua sự khao khát thuần túy mà không có sự thưởng thức thoải mái nào cả. Tuy nhiên, vào những năm 1950, Olds và những người khác sớm thông báo về việc phát hiện ra “trung tâm niềm vui” trong não.

Trước thí nghiệm của Olds, niềm vui là một từ xấu trong tâm lý học: niềm tin phổ quát trước đây là động lực chủ yếu nên được giải thích một cách tiêu cực, như tránh đau chứ không phải theo đuổi niềm vui. Nhưng ở đây, niềm vui dường như không thể phủ nhận là một lực lượng hành vi tích cực. Thực sự, nó trông giống như một vòng lặp phản hồi tích cực. Dường như không có gì có thể ngăn động vật tự kích thích cho đến khi kiệt sức.

Không mất lâu cho một tin đồn bắt đầu lan truyền rằng chuột thường xuyên nhấn cần đến mức đói đến chết. Giải thích là như sau: khi bạn đã kết nối vào nguồn cảm xúc, tất cả các nhiệm vụ đáng giá khác — thậm chí là những điều cần thiết cho sự sống sót — trở nên không thú vị và không cần thiết, thậm chí đến mức chết.

Giống như trí tuệ nhân tạo Coastrunner, nếu bạn tích lũy thưởng trực tiếp — mà không cần phải làm bất kỳ công việc nào để hoàn thành đường đua thực sự — thì tại sao không lặp vô hạn? Đối với một sinh vật sống, có nhiều yêu cầu để sống sót, ham muốn áp đảo mạnh mẽ như vậy có thể dẫn đến cái chết. Thức ăn là đáng thưởng thức, nhưng nếu bạn tách biệt niềm vui khỏi việc ăn, thì sự theo đuổi niềm vui có thể chiến thắng so với việc tìm kiếm thức ăn.

Mặc dù không có chuột nào chết trong các thí nghiệm ban đầu vào những năm 1950, nhưng các thí nghiệm sau này dường như đã chứng minh sự chết chóc của niềm vui do điện cực gây ra. Sau khi loại trừ khả năng rằng các điện cực đang tạo ra cảm giác no giả, một nghiên cứu năm 1971 có vẻ đã chứng minh rằng niềm vui từ điện cực có thể thực sự vượt trội hơn so với những động lực khác, và làm cho đến mức tự đói đến chết.

Tin đồn lan truyền nhanh chóng. Suốt những năm 1960, các thí nghiệm tương tự đã được thực hiện trên các loài động vật khác ngoài chuột thí nghiệm khiêm tốn: từ dê và nhím đến cá vàng. Thậm chí có tin đồn lan truyền về một cá heo được phép tự kích thích và, sau khi “để nó trong một bể với công tắc kết nối”, đã “tự hạnh phúc đến chết sau một đêm mừng niềm vui”.

Cái chết khủng khiếp của cá heo này thực sự có khả năng được gây ra bởi cách điện cực được chèn vào: bằng một cái búa. Nhà khoa học đứng sau thí nghiệm này là nhà khoa học cực kỳ kỳ quặc J C Lilly, người phát minh ra thùng nổi và tiên tri về giao tiếp giữa các loài, người cũng đã biến khỉ thành wireheads. Ông đã báo cáo, vào năm 1961, về một con khỉ nổi loạn trở nên béo phì do hoạt động mê ly sau khi mải mê việc kéo cần của mình, lặp đi lặp lại, để trải qua những cú sốc niềm vui.

Một nhà nghiên cứu (người đã làm việc trong phòng thí nghiệm của Olds) đặt câu hỏi liệu một “động vật thông minh hơn chuột” có “cho thấy hành vi không thích ứng giống nhau”. Các thí nghiệm trên khỉ và cá heo đã đưa ra một số biểu hiện về câu trả lời.

Tuy nhiên, thực tế là đã có một số thí nghiệm đáng ngờ trên con người.

Wireheads loài người

Robert Galbraith Heath vẫn là một nhân vật rất gây tranh cãi trong lịch sử thần kinh học. Trong số những điều khác, ông thực hiện các thí nghiệm liên quan đến việc truyền máu từ những người mắc tâm thần phân liệt cho những người không mắc bệnh này, để xem liệu ông có thể gây ra các triệu chứng của nó hay không (Heath khẳng định rằng điều này đã thành công, nhưng những nhà khoa học khác không thể mô phỏng được kết quả của ông.) Ông có thể còn liên quan đến những cố gắng mơ hồ để tìm ra cách sử dụng điện cực não sâu cho mục đích quân sự.

Kể từ năm 1952, Heath đã ghi lại các phản ứng thích thú đối với kích thích sâu não ở bệnh nhân con người đã được cài đặt điện cực do các bệnh tật khó chịu như động kinh hay tâm thần phân liệt.

Trong những năm 1960, trong một loạt các thí nghiệm đầy nghi ngờ, những người tham gia thí nghiệm đã được cài đặt điện cực của Heath - được đặt tên vô danh là “B-10” và “B-12” - được phép nhấn nút để kích thích trung tâm thưởng của họ. Họ báo cáo cảm giác niềm vui cực kỳ và sự bắt buộc lớn để lặp lại. Một nhà báo sau đó nhận xét rằng điều này khiến những người tham gia của ông trở thành “xác sống”. Một người tham gia báo cáo cảm giác “tốt hơn cả tình dục”.

Năm 1961, Heath tham gia một hội nghị về kích thích não, nơi một nhà nghiên cứu khác - José Delgado - đã gợi ý rằng điện cực thưởng có thể được sử dụng để “làm não rửa” những người tham gia, thay đổi “cảm tính tự nhiên” của họ. Delgado sau này sẽ đóng vai người toreador và mạnh mẽ chứng minh điều này bằng cách trấn an một con bò được cài đặt điện cực. Nhưng tại hội nghị năm 1961 ông gợi ý rằng điện cực có thể thay đổi sở thích tình dục.

Heath đã bị truyền cảm hứng. Một thập kỷ sau, ông thậm chí cố gắng sử dụng công nghệ điện cực để “lập trình lại” xu hướng tình dục của một bệnh nhân nam đồng tính có tên là “B-19”. Heath nghĩ rằng kích thích điện cực có thể biến đối tâm thức của đối tượng của mình bằng cách “huấn luyện” não của B-19 kết hợp niềm vui với kích thích “heterosexual”. Ông tự thuyết phục rằng nó đã thành công (mặc dù không có bằng chứng chứng minh điều này).

Mặc dù bị coi là thảm họa về mặt đạo đức và khoa học, sự kiện này - cuối cùng đã được chú ý bởi báo chí và bị lên án bởi những người theo đuổi quyền đồng tính - không còn nghi ngờ đã hình thành nên huyền thoại về wireheading: nếu nó có thể “biến một người đồng tính thành người đồng tính” (như Heath tin), nó không thể làm gì?

Mũ hạnh phúc

Từ đây, ý tưởng đã trở nên phổ biến trong văn hóa rộng lớn và huyền thoại lan truyền. Đến năm 1963, nhà văn khoa học viễn tưởng nổi tiếng Isaac Asimov đã lo lắng về các hậu quả đáng lo từ các điện cực. Ông sợ rằng nó có thể dẫn đến một “nghiện cuối cùng”, kết quả của đó là “đau đớn khi suy nghĩ”.

Đến năm 1975, các bài báo triết học đã sử dụng điện cực trong các thảo luận tưởng tượng. Một bài báo tưởng tượng về “kho” đầy người - trên chiếc giường - được kết nối với “mũ hạnh phúc”, trải qua niềm hạnh phúc không tự ý. Tất nhiên, hầu hết mọi người sẽ cho rằng điều này sẽ không đáp ứng “những nhu cầu sâu xa” của chúng ta. Nhưng, tác giả hỏi, “còn về một “mũ hạnh phúc” siêu phàm? Một chiếc không chỉ mang lại “niềm hạnh phúc lớn”, mà còn mô phỏng bất kỳ trải nghiệm ý nghĩa nào - từ viết một bản giao hưởng đến gặp với chính thượng đế? Nó có thể không thực sự là thực tế, nhưng nó “sẽ trở nên hoàn hảo; hoàn hảo dường như là tồn tại”.

Tác giả kết luận: “Có gì để phản đối trong tất cả điều này không? Hãy đối mặt với nó: không có gì”.

Ý tưởng về loài người rơi ra khỏi thực tại để theo đuổi niềm hạnh phúc nhân tạo nhanh chóng lan qua khoa học viễn tưởng. Cùng năm với những cảm tưởng của Asimov, vào năm 1963, Herbert W. Franke xuất bản cuốn tiểu thuyết của mình, The Orchid Cage.

Nó dự báo một tương lai trong đó máy móc thông minh đã được kỹ thuật để tối đa hóa hạnh phúc của con người, bất kể điều gì xảy ra. Làm nhiệm vụ của mình, các máy giảm con người thành những đám thịt không phân biệt, loại bỏ tất cả các cơ quan không cần thiết. Nhiều phần mở rộng, cuối cùng, mọi thứ còn lại của loài người chỉ là các trung tâm hạnh phúc không thể trải nghiệm bất kỳ điều gì khác ngoài niềm hạnh phúc đồng đều.

Từ đó, ý tưởng đã lan tỏa qua khoa học viễn tưởng. Từ câu chuyện “Chết Bởi Niềm Hạnh Phúc” của Larry Niven năm 1969, nơi từ “wirehead” được đặt ra lần đầu tiên, qua Mindkiller của Spider Robinson năm 1982, có khẩu hiệu là “Niềm vui — đó là cách duy nhất để chết”.

Kích thích siêu tự nhiên

Nhưng chúng ta con người thậm chí không cần phải cấy các điện cực xâm lấn để làm cho động cơ của chúng ta bị trục trặc. Khác với gặm nhấm, hoặc thậm chí cá heo, chúng ta là rất giỏi trong việc thay đổi môi trường của chúng ta. Loài người hiện đại cũng giỏi trong việc phát minh — và kiếm lời từ — các sản phẩm nhân tạo mà có vẻ quá hấp dẫn (nghĩa là tổ tiên của chúng ta sẽ không bao giờ phải chống lại chúng trong tự nhiên). Chúng ta chế tạo những cách riêng để làm cho chúng ta mất tập trung.

Gần đây như những thí nghiệm của Olds với các chú chuột, nhà sinh vật học đoạt giải Nobel Nikolaas Tinbergen nghiên cứu về hành vi động vật. Ông nhận thấy rằng có điều gì đó thú vị xảy ra khi một kích thích kích thích một hành vi bẩm sinh được phóng đại nhân tạo vượt quá tỷ lệ tự nhiên của nó. Độ mạnh của phản ứng hành vi không giảm dần khi kích thích trở nên mạnh mẽ, và được phóng đại nhân tạo, mà ngược lại trở nên mạnh mẽ: thậm chí đến mức phản ứng trở nên có hại cho sinh học.

Ví dụ, khi có sự lựa chọn giữa một quả trứng giả mạo to và đầy đốm và thứ thật, Tinbergen phát hiện các loài chim ưa thích những sản phẩm giả mạo siêu nhiều hơn với chi phí là phớt lờ con cái của chúng. Ông gọi những sản phẩm giả mạo siêu hấp dẫn như vậy là “kích thích siêu tự nhiên”.

Vì vậy, một số người đã hỏi: liệu có thể không rằng, sống trong một thế giới hiện đại và sản xuất — đầy ắp thức ăn nhanh và khiêu dâm — loài người cũng đã bắt đầu đầu hàng sự kiện chống lại sự chống chọi tự nhiên của mình để đổi lấy tiện ích siêu tự nhiên?

Nỗi sợ cũ

Khi công nghệ làm cho những niềm vui nhân tạo trở nên dễ dàng và hấp dẫn hơn, đôi khi có vẻ như chúng đang cạnh tranh với sự chú ý mà chúng ta dành cho những hứng thú 'tự nhiên' cần thiết cho sự sống. Người ta thường trỏ đến nghiện game. Việc theo đuổi những phần thưởng đó một cách bắt buộc và lặp đi lặp lại, gây hại cho sức khỏe, không khác gì việc trí tuệ nhân tạo quay vòng trong Coastrunner. Thay vì đạt được bất kỳ 'mục tiêu chân thực' nào (hoàn thành đường đua hoặc duy trì thể chất chân thực), người ta rơi vào bẫy tích luỹ một số đánh giá sai lầm về mục tiêu đó (tích điểm hoặc niềm vui giả mạo).

Ý tưởng này thậm chí còn cổ điển hơn. Thomas đã nghiên cứu về những cách mà người ta trong quá khứ đã sợ rằng loài của chúng ta có thể đang hy sinh sự trường thọ thực sự để đổi lấy những niềm vui hoặc tiện nghi ngắn hạn. Cuốn sách của ông, X-Risk: Làm thế nào loài người Phát hiện Ra Sự Tuyệt Chủng của Chính Mình, khám phá nguồn gốc của nỗi sợ này và cách nó thực sự bắt đầu nắm giữ trong thời kỳ Victoria Anh: khi sự mở rộng đáng kể của công nghiệp - và sự phụ thuộc ngày càng tăng của loài người vào những mánh khóe nhân tạo - lần đầu tiên trở nên rõ ràng.

Động vật giáp

Sau khi tiêu hóa tác phẩm kinh điển của Darwin năm 1869, nhà sinh vật học Ray Lankester quyết định cung cấp một giải thích Darwinian cho các hình thái sinh vật ký sinh. Ông nhận thấy rằng tổ tiên tiến hóa của các ký sinh trùng thường có vẻ 'phức tạp' hơn. Các sinh vật ký sinh đã mất đi những đặc điểm tổ tiên như chân, mắt hoặc các cơ quan phức tạp khác.

Lankester đã lý giải rằng, do ký sinh trùng ký sinh trên người chủ, chúng mất đi nhu cầu phải tự bảo vệ bản thân. Nối đuôi từ quá trình sinh lý của người chủ, các cơ quan của chúng - để cảm nhận và di chuyển - suy giảm. Ví dụ ưa thích của ông là loài giun ký sinh có tên là Sacculina, bắt đầu cuộc sống như một sinh vật có phân đoạn với một đầu rõ ràng. Sau khi gắn kết vào một chủ nhân, tuy nhiên, loài giun biến thành một khối không hình, không đầu, hút dưỡng chất từ người chủ như cách wirehead kết nối vào nguồn điện.

Đối với tâm trạng của người Victoria, nó chỉ là một bước ngắn để phỏng đoán rằng - do mức độ thoải mái ngày càng tăng trên khắp thế giới công nghiệp hóa - loài người có thể đang tiến triển theo hướng giun ký sinh. “Có lẽ chúng ta đang trôi dạt, hướng tới tình trạng của giun trí tuệ,” Lankester nghĩ đến.

Thực sự, không lâu trước đó, nhà châm biếm Samuel Butler đã phỏng đoán rằng con người, trong cuộc đua điên đảo của họ với sự thuận tiện tự động, đều đang trở thành không gì khác ngoài một “loại ký sinh trùng” trên những máy công nghiệp của họ.

Chân lý nhất

Đến những năm 1920, Julian Huxley viết một bài thơ ngắn. Nó vui vẻ khám phá cách một loài có thể “tiến triển”. Con cua, tất nhiên, quyết định tiến triển theo chiều ngang. Nhưng giun ký sinh thì sao? Ông viết:

Giun ký sinh theo học đường
Thừa nhận rằng Tiến triển là mất óc,
Và tất cả những điều làm cho nó khó khăn cho giun
Để đạt được Chân lý nhất — tiêu hóa, thuần khiết và lớn lao.

Nỗi sợ rằng chúng ta có thể theo đuổi con đường của giun ký sinh đã phổ biến trong thế hệ giữa hai cuộc chiến. Chính anh em trai của Huxley, Aldous, sẽ đưa ra tầm nhìn của riêng mình về khả năng tận thế do niềm vui do thuốc trong cuốn tiểu thuyết năm 1932 của ông Thế Giới Mới Can Đảm.

Một người bạn của gia đình Huxleys, nhà di truyền học và nhà tương lai người Anh-Ấn J B S Haldane cũng lo lắng rằng loài người có thể đang trên con đường của ký sinh: hy sinh phẩm cách tốt nghiệp thực sự trước bàn thờ của sự thuận tiện tự động, giống như những con gặm nhấm sau này sẽ hy sinh sự sống vì những trải nghiệm dễ dàng.

Haldane cảnh báo: “Tổ tiên [của] giun đều có đầu” – và trong sự theo đuổi của sự dễ chịu — “con người có thể dễ dàng mất trí tuệ của mình”. Nỗi sợ cụ thể này không thực sự bao giờ biến mất đi đâu.

Vì vậy, ý niệm về nền văn minh bị trệch hướng thông qua việc tìm kiếm niềm vui giả mạo, thay vì sự sống chân thực, đã cũ. Và, thực sự, ý tưởng càng cũ — và càng tái diễn cứng nhắc — chúng ta càng nên cẩn trọng rằng đó chỉ là một niềm tin tiên định chứ không phải dựa trên bất kỳ bằng chứng nào. Vậy nên, có điều gì đáng sợ trong những nỗi sợ này không?

Trong một thời đại ngày càng có phương tiện truyền thông thuật toán làm cuốn hút sự chú ý, có vẻ như việc giả mạo các tín hiệu về thể dục thường mang lại nhiều thành công hơn là theo đuổi điều thật. Giống như những con chim của Tinbergen, chúng ta thích sự giả tạo phô trương hơn là thứ chính thức. Và sexbots thậm chí còn chưa đến.

Bởi vì điều này, một số chuyên gia phỏng đoán rằng “sụp đổ wirehead” có thể hoàn toàn đe dọa nền văn minh. Sự lôi cuốn của chúng ta sẽ chỉ càng trở nên lớn hơn, không phải ít hơn.

Ngay từ năm 1964, nhà tương lai học người Ba Lan Stanisław Lem liên kết những con chuột của Olds với hành vi của con người trong thế giới tiêu dùng hiện đại – chỉ vào “rạp chiếu phim”, “khiêu dâm”, và “Disneyland”. Ông phỏng đoán rằng nền văn minh công nghệ có thể tách mình khỏi hiện thực, trở thành “kén” bên trong các mô phỏng niềm vui ảo của họ.

Nghiện ngập người ngoại hành tinh

Lem và những người khác từng mạo hiểm rằng lý do mà kính thiên văn của chúng ta không tìm thấy bằng chứng về nền văn minh ngoại trái đất đã tiến triển là vì tất cả các văn minh tiên tiến — ở đây và nơi khác — không thể tránh khỏi việc tạo ra những sự thay thế ảo thú vị hơn để khám phá vũ trụ bên ngoài. Khám phá là khó khăn và rủi ro, sau cùng.

Ngay từ thời kỳ phong trào ngược của thập kỷ 1960, nhà sinh học phân tử Gunther Stent đề xuất rằng quá trình này sẽ diễn ra thông qua “sự thống trị toàn cầu của thái độ nhịp điệu”. Tham chiếu đến các thí nghiệm của Olds, ông tự mình đưa ra suy luận rằng việc sử dụng ma túy của người hippie là màn đầu tiên cho sự wireheading của nền văn minh. Tại một hội nghị năm 1971 về tìm kiếm ngoại trái đất, Stent đề xuất rằng, thay vì mở rộng dũng cảm ra ngoài, các nền văn minh sụp đổ vào bên trong trong niềm hạnh phúc thiền định và say sưa.

Ở thời đại của chúng ta, việc trỏ đến chủ nghĩa tiêu dùng, mạng xã hội và đồ ăn nhanh là nguyên nhân tiềm ẩn cho sự sụp đổ (và, do đó, là lý do mà cho đến nay không có nền văn minh nào đã rõ ràng lan rộ khắp thiên hà). Mỗi kỷ nguyên đều có những lo lắng riêng của mình.

Vậy chúng ta phải làm gì?

Bài viết của Thomas Moynihan, Nghiên cứu viên Thăm dò về Lịch sử, Trường Cao đẳng St Benet, Đại học Oxford và Anders Sandberg, Nghiên cứu viên James Martin, Viện Tương lai của Nhân loại và Trường James Martin, Đại học Oxford

Bài viết này được tái xuất bản từ The Conversation dưới giấy phép Creative Commons. Đọc bài viết gốc.