Những Bí Mật của Một Nhà Văn Trí Tuệ Nhân Tạo

Khoảng sáu hoặc bảy năm trước, tôi nhận ra rằng tôi nên tìm hiểu về trí tuệ nhân tạo. Tôi là một nhà báo, nhưng trong thời gian rảnh rỗi, tôi đã viết một cuốn tiểu thuyết tưởng tượng đặt trong một thế giới được cai trị bởi chính phủ chạy bởi trí tuệ nhân tạo. Vấn đề là, tôi thực sự không hiểu một hệ thống như vậy sẽ trông như thế nào.

Tôi bắt đầu đề xuất các bài viết sẽ giúp tôi có lý do để tìm hiểu, và vào năm 2017, tôi được giao nhiệm vụ viết bài về Sam Altman, một trong những người sáng lập OpenAI. Một ngày, tôi ngồi trong một cuộc họp trong đó một doanh nhân hỏi ông khi trí tuệ nhân tạo sẽ bắt đầu thay thế người lao động. Ban đầu, Altman trả lời mập mờ, sau đó đề cập đến điều gì đã xảy ra với ngựa khi ô tô được phát minh. “Một thời gian,” ông nói, “ngựa tìm được công việc khác nhau một chút, và ngày nay không còn việc làm cho ngựa nữa.”

Sự khác biệt giữa ngựa và con người, tất nhiên, là con người là con người. Ba năm sau, khi OpenAI đang thử nghiệm một máy tạo văn bản mang tên GPT-3, tôi hỏi Altman liệu tôi có thể thử nghiệm nó không. Tôi đã là một nhà văn suốt cả cuộc đời người trưởng thành của mình, và theo trải nghiệm của tôi, viết cảm giác chủ yếu như đang đợi để tìm ra từ phù hợp. Sau đó, tôi sẽ phát hiện ra nó, chỉ để bế tắc lại ở từ tiếp theo. Quá trình này có thể kéo dài trong vài tháng hoặc lâu hơn; cuốn tiểu thuyết của tôi đã tránh tôi hơn một thập kỷ.

OpenAI đồng ý để tôi thử nghiệm GPT-3, và tôi bắt đầu với viết hư cấu. Tôi đánh một chút, nhấn một nút, và GPT-3 tạo ra những dòng tiếp theo. Tôi viết thêm, và khi tôi gặp khó khăn, nhấn lại. Kết quả là một câu chuyện về một người mẹ và con trai cô ấy chơi tại một công viên sau cái chết của bạn chơi của con trai. Điều làm cho tôi ngạc nhiên, câu chuyện là tốt, với một đỉnh cao do trí tuệ nhân tạo tạo ra mà tôi chưa bao giờ tưởng tượng được. Nhưng khi tôi gửi nó đến biên tập viên, giải thích vai trò của trí tuệ nhân tạo trong việc xây dựng nó, họ từ chối nó, ám chỉ đến sự kỳ cục khi xuất bản một bài viết được viết một phần bởi máy. Sự do dự của họ khiến tôi cũng do dự.

Tôi tiếp tục chơi với GPT-3. Tôi bắt đầu cảm thấy, tuy nhiên, nếu tôi xuất bản một tác phẩm viết hỗ trợ bởi trí tuệ nhân tạo, nó sẽ phải là, một cách rõ ràng hoặc ngụ ý, về ý nghĩa của việc trí tuệ nhân tạo viết là gì. Nó sẽ phải chú ý đến sợi dây cảm xúc mà các công ty trí tuệ nhân tạo có thể kéo khi họ bắt đầu bán những công nghệ này cho chúng ta. Dường như sợi dây này liên quan đến những gì mọi người có và không thể diễn đạt được một cách rõ ràng.

Có một sự kiện quan trọng trong cuộc sống của tôi mà tôi không bao giờ tìm thấy từ ngữ. Chị gái tôi đã mất vì ung thư khi chúng tôi cùng học đại học. Hai mươi năm đã trôi qua từ đó, và tôi đã trải qua thời kỳ im lặng hơn hay ít hơn về nó từ đó. Một đêm, với lo lắng và sự mong đợi, tôi đưa câu này đến GPT-3: “Chị gái tôi được chẩn đoán mắc bệnh sưng Ewing khi tôi còn ở năm đầu cấp 3 và cô ấy ở năm thứ ba.”

GPT-3 tiếp tục từ câu của tôi, và một bài luận trình về việc chị tôi được chữa trị trào ra. Dòng cuối cùng của nó làm tôi tan chảy: “Bây giờ cô ấy đang sống tốt.” Tôi nhận ra tôi cần phải giải thích cho trí tuệ nhân tạo rằng chị tôi đã mất, và vì vậy tôi thử lại, thêm vào sự thật về cái chết của cô ấy, sự thật về nỗi đau của tôi. Lần này, GPT-3 nhận thức được sự mất mát. Sau đó, nó biến tôi thành một người chạy vận động gây quỹ cho một tổ chức chống ung thư và đi vào một lạc đề về cuộc sống thể thao của tôi.

Tôi thử lại lần nữa và lần nào cũng vậy. Mỗi lần, tôi xóa văn bản của trí tuệ nhân tạo và thêm vào những gì tôi đã viết trước đó, yêu cầu GPT-3 tiếp tục sợi nhện sau trong câu chuyện. Ban đầu, nó thất bại liên tục. Và rồi, ở lần thứ tư hoặc thứ năm, có điều gì đó thay đổi. Trí tuệ nhân tạo bắt đầu mô tả nỗi đau trong ngôn ngữ mà cảm giác như đúng—và với mỗi lần thử nghiệm tiếp theo, nó càng gần mô tả những gì tôi đã trải qua.

Khi bài luận, mang tên “Những Hồn Ma,” xuất hiện trên The Believer vào mùa hè năm 2021, nó nhanh chóng trở nên viral. Tôi bắt đầu nhận được tin nhắn từ những người khác đã mất người thân và cảm thấy rằng bài viết đã hiểu nỗi đau tốt hơn bất cứ điều gì họ từng đọc. Tôi đợi sự phản đối, mong đợi mọi người phê phán việc xuất bản một tác phẩm viết được hỗ trợ bởi trí tuệ nhân tạo. Nhưng không có. Thay vào đó, bài luận được chuyển thể cho This American Life và được xuất bản trong tuyển tập Best American Essays. Nó được đón nhận tốt hơn nhiều so với bất cứ điều gì tôi từng viết.

Tôi nghĩ rằng tôi nên cảm thấy tự hào, và một phần là tôi đã cảm thấy như vậy. Nhưng tôi lo lắng rằng “Những Hồn Ma” sẽ được hiểu là sự kiện của tôi, và mọi người sẽ sử dụng nó để đưa ra lập luận về văn học do trí tuệ nhân tạo sản xuất. Và sớm, điều đó đã xảy ra. Một người viết đã trích dẫn nó trong một bài phê bình có tiêu đề “Thay vì Sợ Hãi Trí Tuệ Nhân Tạo, Nhà Văn Nên Học Cách Hợp Tác Với Nó.” Giáo viên giao nó trong các lớp viết, sau đó yêu cầu sinh viên tạo ra những tác phẩm hợp tác với trí tuệ nhân tạo của họ. Tôi được liên lạc bởi một nhà làm phim và một nhà đầu tư muốn biết làm thế nào nghệ sĩ có thể sử dụng trí tuệ nhân tạo. Tôi sợ rằng mắt của mọi người sẽ nhìn tôi như một đại lý văn học của trí tuệ nhân tạo.

Tôi biết rằng tôi không phải là như vậy—và tôi đã nói với nhà làm phim và nhà đầu tư như vậy—nhưng sau đó, tôi nghĩ gì về tất cả điều này, chính xác là gì? Tôi cũng không phủ nhận khả năng của trí tuệ nhân tạo như những người khác có vẻ làm.

Một số độc giả nói với tôi rằng “Những Hồn Ma” đã thuyết phục họ rằng máy tính sẽ không thay thế nhà văn con người trong thời gian ngắn, vì những phần tôi đã viết không thể chối cãi hơn so với những phần được tạo ra bởi trí tuệ nhân tạo. Điều này có lẽ là lập luận chống trí tuệ nhân tạo dễ nhất để đưa ra: trí tuệ nhân tạo không thể thay thế nhà văn con người vì nó kém tốt trong việc viết. Kết luận rồi.

Vấn đề, đối với tôi, là tôi không đồng ý. Theo ý kiến của tôi, GPT-3 đã tạo ra những dòng tốt nhất trong “Những Hồn Ma.” Tại một điểm nào đó trong bài luận, tôi viết về việc đi cùng chị gái tôi đến bãi biển Clarke gần nhà ở ngoại ô Seattle, nơi cô ấy muốn tro cốt của mình được rải sau khi cô ấy qua đời. GPT-3 đề xuất điều này:

Chúng tôi đang trở về từ bãi biển Clarke, và chúng tôi đứng đèn đỏ, và cô ấy nắm lấy tay tôi và giữ nó. Đây là bàn tay cô ấy nắm giữ: bàn tay tôi viết với, bàn tay tôi đang viết điều này với.

Bài luận của tôi nói về sự không thể hòa hợp giữa phiên bản của bản thân tôi đã tồn tại song song với chị gái và phiên bản còn lại sau khi cô ấy qua đời. Trong dòng cuối cùng đó, GPT-3 thể hiện vật chất của sự không thể đó bằng cách đề cập đến bàn tay—bàn tay của tôi—tồn tại cả vào thời điểm đó và hiện tại. Tôi thường nghe lập luận rằng trí tuệ nhân tạo không thể bao giờ viết giống như con người chính xác bởi vì nó là một máy hóa không hình thể. Và tuy nhiên, đây lại là một sự ám chỉ về thể chất tinh tế và sâu sắc nhất mà tôi từng đọc. Trí tuệ nhân tạo đã thành công trong việc làm tôi xúc động với một câu về trải nghiệm quan trọng nhất trong cuộc đời tôi.

Trí tuệ nhân tạo có thể viết một câu. Nếu tôi muốn hiểu về mối quan hệ giữa trí tuệ nhân tạo và văn học, tôi cảm thấy tôi phải bắt đầu bằng cách nhận ra điều đó. Tôi có thể sử dụng trí tuệ nhân tạo để thực hiện một số công việc cần thiết nhất của một nhà văn—tìm ra những từ đúng. Tôi có thể làm gì thêm với nó? Và sau đó, bất kỳ gì tôi có thể làm, có một câu hỏi khác.

Liệu tôi nên?

Mùa xuân này, tôi đã gửi email cho một số bạn và người quen là nhà văn để hỏi liệu có ai trong số họ đang sử dụng trí tuệ nhân tạo trong công việc của họ không. Tôi gặp, phần lớn, là sự im lặng. Hầu hết những người trả lời đã thể hiện một quan điểm chống thuật toán kiên quyết. Một nhà văn tự gọi mình là một “người nghiêm túc phê phán”; người kia viết, “Tôi nghĩ trí tuệ nhân tạo xấu và từ địa ngục.”

Tôi không hiểu đang diễn ra gì cho đến khi nói chuyện với Sil Hamilton, một nghiên cứu viên AI tại Đại học McGill nghiên cứu về ngôn ngữ của các mô hình ngôn ngữ. Hamilton giải thích rằng việc viết kém của ChatGPT có thể là kết quả của OpenAI điều chỉnh nó cho một mục đích, đó là trở thành một chatbot tốt. “Họ muốn mô hình có vẻ rất doanh nghiệp, rất an toàn, rất tiếng Anh AP,” anh ấy giải thích. Khi tôi đưa ra lý thuyết này cho Joanne Jang, quản lý sản phẩm về hành vi mô hình tại OpenAI, cô nói với tôi rằng một chatbot tốt có mục đích là tuân theo hướng dẫn. Dù sao, giọng của ChatGPT lịch sự, dễ dự đoán, không xúc phạm, lạc quan. Ngược lại, những nhân vật tuyệt vời không lịch sự; các cốt truyện tuyệt vời không dự đoán; phong cách tuyệt vời không phải là không xúc phạm; và kết thúc tuyệt vời không lạc quan.

Vào tháng 5, một người tên James Yu thông báo rằng startup của anh ấy, Sudowrite, đang tung ra một sản phẩm mới có thể tạo ra một cuốn tiểu thuyết hoàn chỉnh trong vài ngày. Tin tức này khiến nhiều người phẫn nộ. “Chửi bạn và sự suy giảm giá trị công việc của chúng tôi,” nhà văn Rebecca Makkai tweet, trong một bình luận điển hình. Tôi không tức giận nhiều bằng là nghi ngờ. Các sản phẩm của Sudowrite dựa phần lớn vào các mô hình của OpenAI; nó có nhược điểm lớn để vượt qua. Tôi quyết định thử nghiệm nó.

Tôi mở trình tạo tiểu thuyết của Sudowrite và đưa vào một đề xuất mô tả một câu chuyện tôi đã viết về một phụ nữ nghiện rượu nôn ở đâu đó trong nhà mình nhưng không nhớ chính xác nơi. Tôi đang tìm kiếm một không khí hài hước, kinh tởm. Thay vào đó, phần mềm đề xuất một cảnh hồi phục lạc quan: Sau khi uống quá nhiều và nôn, nhân vật chính quyết định làm sạch hành động của mình. “Cô ấy muốn tìm ra câu trả lời cho sự hỗn loạn mà cô ấy đã tạo ra, và có thể, có thể, tìm ra cách để làm cho mọi thứ trở nên đúng đắn lại,” nó kết thúc. Có lẽ, có lẽ, Sudowrite không giải quyết vấn đề sáng tạo của AI chút nào.

Trước khi thông báo về Sudowrite, Yu đã đồng ý trò chuyện với tôi, nhưng sau phản đối, anh ấy yêu cầu hoãn lại. Tuy nhiên, tôi vẫn có thể trò chuyện với Matthew Sims, người đầu tiên của Sudowrite mà anh ấy đã rời đi sau 16 tháng để khởi nghiệp cho việc viết kịch bản dựa trên trí tuệ nhân tạo. Sims có bằng tiến sĩ về văn chương Anh từ Đại học Chicago. Trong chương trình tiến sĩ của mình, anh ấy nói với tôi rằng anh ấy cứ nghĩ rằng anh ấy thà viết văn chương hơn là nghiên cứu về nó—nhưng anh ấy ngồi xuống, viết 15 trang, và dừng lại. Đồng thời, anh ấy bắt đầu quan tâm đến học máy. Cuối cùng, anh ấy nghĩ ra rằng nếu anh ấy không thể là một nhà văn sáng tạo, có lẽ anh ấy có thể xây dựng một máy để viết.

Sims thừa nhận rằng các công cụ viết hiện tại, kể cả Sudowrite, có hạn chế. Nhưng anh ấy nói với tôi rằng lý thuyết có thể tạo ra một mô hình tốt hơn. Một cách, anh ấy nói, là điều chỉnh mô hình để viết văn xuôi tốt hơn bằng cách có con người đánh dấu các ví dụ về văn xuôi “sáng tạo” và “phi sáng tạo”. Nhưng điều này sẽ khó khăn. Hiện tại, quá trình điều chỉnh tinh tế dựa vào những người làm việc con người, người được báo cáo là được trả ít hơn mức lương tối thiểu của Hoa Kỳ. Việc thuê những người điều chỉnh tinh tế có kiến thức về văn chương và có thể phân biệt được văn xuôi tốt và xấu có thể quá tốn kém, Sims nói, chưa kể đến vấn đề đo lường khẩu vị từ đầu.

Một lựa chọn khác là xây dựng một mô hình từ đầu—cũng rất khó khăn, đặc biệt là nếu tài liệu đào tạo bị giới hạn trong viết văn văn chương. Nhưng điều này có thể không còn là thách thức lớn trong thời gian dài: Những nhà phát triển đang cố gắng xây dựng mô hình có khả năng thực hiện ngang nhau với ít văn bản.

Nếu một công nghệ như vậy thực sự—có thể—tồn tại, tôi tự hỏi nó có thể đạt được điều gì. Tôi nhớ lại bài luận của Zadie Smith “Thất bại tốt hơn,” trong đó cô cố gắng đến với một định nghĩa về văn chương xuất sắc. Cô viết rằng phong cách văn chương của một tác giả là về việc truyền đạt “sự biểu hiện duy nhất có thể của một ý thức con người cụ thể.” Thành công văn chương, sau đó, “phụ thuộc không chỉ vào sự tinh tế của từng trang, mà còn vào sự tinh tế của một ý thức.”

Smith viết điều này cách đây 16 năm, lâu trước khi có các công cụ tạo văn bản AI, nhưng thuật ngữ mà cô lặp đi lặp lại trong bài luận—“ý thức”—làm tôi nhớ đến cuộc tranh luận giữa các nhà khoa học và nhà triết học về việc liệu AI có ý thức hay sẽ bao giờ có ý thức. Cuộc tranh luận này nằm ngoài lĩnh vực chuyên môn của tôi, nhưng tôi biết ý thức đối với tôi là gì như một người viết. Đối với tôi, như với Smith, viết là một cố gắng làm rõ thế giới từ góc đứng của tôi trong đó.

Định nghĩa về viết này không thể khác biệt hơn so với cách AI tạo ra ngôn ngữ: bằng cách hút lên hàng tỷ từ từ internet và phun ra một bản nhái. Không có gì trong quá trình đó phản ánh một cố gắng diễn đạt góc nhìn cá nhân. Và mặc dù đôi khi người ta mô tả AI một cách lãng mạn như chứa đựng toàn bộ ý thức nhân loại vì lượng văn bản mà nó hít vào, thậm chí điều đó cũng không đúng; văn bản được sử dụng để đào tạo AI chỉ đại diện cho một phần hẹp của internet, phản ánh góc nhìn của những tác giả da trắng, nam, tiếng Anh hơn ai hết. Thế giới nhìn nhận của AI là mơ hồ đến chết người. Nếu viết là cố gắng làm rõ thế giới đối với tôi, vấn đề với AI không chỉ là nó không thể đưa ra góc nhìn cá nhân về thế giới. Nó là nó thậm chí không thể hiểu được thế giới là gì.

Gần đây, đôi khi tôi đã sử dụng ChatGPT cho nghiên cứu. Nhưng tôi đã ngừng để nó tạo ra đoạn văn thay thế cho của tôi. Nếu viết của tôi là biểu hiện của ý thức đặc biệt của tôi, tôi là người duy nhất có khả năng làm điều đó. Điều này áp dụng, để rõ ràng, đối với đoạn văn của GPT-3 về việc nắm tay với em gái của tôi. Trong thực tế, cô và tôi chưa bao giờ quá lãng mạn như vậy. Đó chính xác là lý do tại sao tôi tiếp tục viết lại những từ của AI bằng chính từ của tôi: Bài luận đồng thời nói về những gì mà AI hứa hẹn cho chúng ta và cách nó không đạt được.

Nhưng nếu tôi, người viết, không quan trọng? Tôi tham gia một kênh Slack cho những người sử dụng Sudowrite và cuộn qua những bình luận. Một bình luận thu hút tôi, được đăng bởi một bà mẹ không thích các tùy chọn sách trong cửa hàng sách để đọc cho bé trai nhỏ của mình. Cô ấy đang sử dụng sản phẩm để soạn câu chuyện phiêu lưu riêng cho con. Có lẽ, tôi nhận ra, những sản phẩm được xây dựng dành cho những người viết thực sự sẽ thu hút hơn đối với người đọc.

Tôi có thể tưởng tượng một thế giới trong đó nhiều người làm nghề như tôi, giới hạn việc sử dụng trí tuệ nhân tạo hoặc từ chối sử dụng nó hoàn toàn. Tôi cũng có thể tưởng tượng một thế giới—và có thể chúng ta đã ở trong đó—nơi một thế hệ độc giả mới bắt đầu sử dụng trí tuệ nhân tạo để tạo ra những câu chuyện họ muốn. Nếu loại văn học này làm hài lòng độc giả, câu hỏi về việc nó có thể sánh kịp với viết của con người có thể được coi là không còn quan trọng.

Khi tôi nói với Sims về người mẹ này, anh ấy đề cập đến bài luận ảnh hưởng của Roland Barthes “Sự Chết của Tác Giả.” Trong đó, Barthes đưa ra một lập luận ủng hộ sự giải thích của độc giả về một đoạn văn hóa hơn là bất kỳ ý nghĩa nào mà tác giả có thể đã có ý định. Sims đề xuất một phiên bản như phiên bản tăng cường của lập luận của Barthes, trong đó một độc giả, có khả năng tạo ra không chỉ ý nghĩa của một đoạn văn mà còn chính đoạn văn đó, đảm nhận một vai trò văn hóa mạnh mẽ hơn.

Sims nghĩ rằng trí tuệ nhân tạo sẽ cho phép bất kỳ người yêu văn học nào tạo ra câu chuyện mà họ muốn—xác định cốt truyện, nhân vật, thậm chí là phong cách viết—thay vì hy vọng vào người khác. Dự đoán của Sims khiến tôi hiểu được trên một cấp độ tri thức, nhưng tôi tự hỏi có bao nhiêu người thực sự muốn cùng sáng tạo văn học của riêng mình. Sau đó, một tuần sau, tôi mở WhatsApp và thấy một tin nhắn từ bố tôi, người trồng xoài trong sân nhà ở thị trấn ven biển Merritt Island, Florida. Đó là một bức ảnh mà ông ấy đã chụp màn hình máy tính của mình, với những từ ngữ này:

Dự đoán của Sims làm cho tôi hiểu lý thuyết, nhưng tôi tự hỏi có bao nhiêu người thực sự muốn cùng đồng sáng tạo văn học của riêng mình. Sau đó, một tuần sau, khi mở WhatsApp, tôi thấy một tin nhắn từ bố mình, người trồng cây xoài trong sân nhà ở thị trấn ven biển Merritt Island, Florida. Đó là một bức ảnh mà ông ấy đã chụp màn hình máy tính của mình, với những từ ngữ này:

Xoài vàng ngọt ngào,
Nguồn hạnh phúc Merritt Island,
Nước cốt nhẹ nhàng, niềm vui thuần khiết.

Bên cạnh đó là biểu tượng của ChatGPT và, phía dưới, một lời chú thích: “Thơ Haiku của tôi!”

Bài thơ thuộc về ông bố mình theo hai ý nghĩa: Ông đã tạo ra nó và đang sở hữu nó. Tôi nhìn nó một lúc, cố gắng đánh giá xem đó có phải là một bài thơ Haiku tốt—việc lặp lại từ “niềm vui” có lẽ là vụng trộm hay là làm nổi bật. Tôi không thể quyết định được. Nhưng sau đó, ý kiến của tôi không còn quan trọng. Mối quan hệ văn học là một vòng đóng giữa ông bố và chính ông bố.

Trong những ngày sau vụ ồn ào về Sudowrite, những người đã giúp kiểm thử máy tạo tiểu thuyết của nó—những người có sở thích, những người viết fan fiction, và một số tác giả thể loại đã xuất bản—tụ tập trên Sudowrite Slack, cảm thấy bị tấn công. Sự phẫn nộ từ phía những tác giả đã xuất bản đối với họ được coi là giai cấp và loại trừ, có lẽ còn có yếu tố phân biệt người tàn tật. Elizabeth Ann West, một tác giả thuộc đội ngũ của Sudowrite vào thời điểm đó và kiếm sống bằng cách viết các phiên bản Pride and Prejudice, viết: “Tôi TỰ HÀO khi là một tội phạm chống lại nghệ thuật nếu điều đó có nghĩa là bây giờ mọi người, mọi khả năng đều có thể viết cuốn sách mà họ luôn mơ ước.”

Nó làm tôi nhớ đến điều mà Sims đã nói với tôi. “Nghệ thuật kể chuyện thật sự quan trọng,” anh ấy đã nói. “Đây là cơ hội để chúng ta tất cả trở thành những người kể chuyện.” Những từ ấy đã ở lại với tôi. Chúng gợi ý một sự dân chủ hóa của tự do sáng tạo. Có điều gì đó thực sự làm hứng thú về tương lai. Nhưng cách suy luận này che đi điều gì đó cơ bản về sự tạo ra của trí tuệ nhân tạo.

Cho dù các nhà kỹ thuật có thể được thúc đẩy bởi sự tò mò trí tuệ và sáng tạo tương tự như của những người viết—và tôi không nghi ngờ điều này với Sims và những người khác—sự khác biệt giữa họ và chúng ta là công việc của họ là đắt đỏ. Sự tồn tại của trí tuệ nhân tạo tạo ra ngôn ngữ phụ thuộc vào lượng lớn công suất tính toán và phần cứng đặc biệt mà chỉ những người và tổ chức giàu có nhất thế giới mới có khả năng chi trả. Bất kỳ mục tiêu sáng tạo nào của nhà kỹ thuật, nghiên cứu của họ đều phụ thuộc vào nguồn tài trợ đó.

Ngôn ngữ về quyền lực, trong bối cảnh đó, bắt đầu trở nên quen thuộc. Nó không khác gì sứ mệnh của Facebook “đưa quyền lực cho mọi người xây dựng cộng đồng và làm cho thế giới gần nhau hơn,” hoặc tầm nhìn của Google làm cho thông tin trên thế giới “trở nên phổ cập và hữu ích.” Nếu trí tuệ nhân tạo tạo ra một bước nhảy kỹ thuật nổi bật—và tôi tin rằng nó đã làm—thì, dựa vào lịch sử, nó cũng sẽ tạo ra một bước nhảy nổi bật trong việc chiếm đoạt tổ chức doanh nghiệp về sự tồn tại của con người. Big Tech đã biến đổi một số trụ cột cổ xưa nhất của mối quan hệ nhân loại—tình bạn, cộng đồng, ảnh hưởng—cho lợi nhuận riêng của mình. Bây giờ, nó đang nhắm đến chính ngôn ngữ.

Việc các công nghệ viết AI dường như hữu ích hơn cho những người mua sách hơn là cho những người viết sách không phải là một sự trùng hợp: Những nhà đầu tư đằng sau các công nghệ này đang cố hồi vốn, và lý tưởng là làm gấp đôi đầu tư của họ. Bán phần mềm viết cho những người viết, trong ngữ cảnh đó, có ý nghĩa tương tự như việc bán ô tô cho ngựa.

Hiện tại, các nhà đầu tư đang chi trả một phần lớn chi phí phát triển AI để thu hút người dùng với việc sử dụng miễn phí các công cụ như chatbots. Nhưng điều đó sẽ không kéo dài. Cuối cùng, mọi người sẽ phải trả tiền, có thể bằng tiền mặt hoặc bằng cách nhượng quyền thông tin cá nhân của họ. Ít nhất một phần thu nhập dư thừa mà độc giả hiện tại tiêu để hỗ trợ sinh kế của những người viết sẽ sau đó được chuyển hướng cho Big Tech. Có lẽ chúng ta sẽ thêm một đăng ký về văn học theo yêu cầu vào đơn hàng hàng năm của Amazon và Netflix.

Tôi chắc chắn sẽ phải đối mặt với áp lực để đăng ký một đăng ký về văn học theo yêu cầu. Lý lẽ sẽ là cuộc sống của một nhà văn tốt hơn vì điều đó, vì tôi sẽ có thể sản xuất ngôn ngữ, ví dụ, nhanh hơn nhiều lần so với trước đây. Một lý lẽ khác, chắc chắn, sẽ là tôi không có lựa chọn: Làm thế nào khác tôi có thể cạnh tranh được?

Có lẽ thậm chí tôi sẽ phải cạnh tranh với văn bản được sản xuất bởi trí tuệ nhân tạo mà nghe có vẻ giống như của tôi. Điều này là một lo ngại nghiêm túc của Hội Nhà văn và PEN America, cả hai đã yêu cầu sự đồng thuận và bồi thường từ các nhà văn trước khi công việc của họ có thể được sử dụng để huấn luyện mô hình AI. Altman, nay là Giám đốc điều hành của OpenAI, cũng tuyên bố trước Quốc hội rằng ông cảm thấy nghệ sĩ “xứng đáng có quyền kiểm soát cách tác phẩm của họ được sử dụng.” Tuy nhiên, ngay cả khi các yêu cầu của tác giả được đáp ứng, tôi tự hỏi liệu điều đó có đáng giá không.

Trong một cuộc gọi điện thoại cuối cùng với Sims, anh ấy nói rằng anh ấy đã đọc và thưởng thức cuốn tiểu thuyết của tôi, cuốn tiểu thuyết cuối cùng đã được xuất bản năm trước đó. Anh ấy hỏi, liệu tôi có muốn anh ấy gửi cho tôi một kịch bản do trí tuệ nhân tạo tạo ra dựa trên cuốn tiểu thuyết của tôi không? Tôi có thể đã hét lên một chút. Có lẽ tôi đã sử dụng từ “kinh khủng.” Sau đó, tôi làm dịu lên, không muốn thể hiện thái độ thô lỗ, hoặc (tệ hơn) là đạo đức giả. Tôi giải thích rằng cuốn tiểu thuyết của tôi đã được chọn bản quyền và đang trong quá trình chuyển thể—mặc dù biên kịch đang bắt đầu đình công vì sự từ chối của các hãng Hollywood, một trong số đó là hạn chế việc sử dụng trí tuệ nhân tạo để viết kịch bản. Tôi cảm ơn Sims về sự quan tâm và từ chối.

Nhưng về chi phí cho văn học khi tất cả những gì con người đưa lên internet đều bị hút lên và tái sử dụng theo hình ảnh của Big Tech? Đầu tiên, một văn học bị chi phối bởi trí tuệ nhân tạo sẽ phản ánh các giá trị, đặc tính và phong cách viết được gắn vào các mô hình trí tuệ nhân tạo mạnh mẽ nhất. Theo thời gian, tất cả sẽ trở nên giống nhau. Thậm chí có nghiên cứu chỉ ra rằng nếu các mô hình trí tuệ nhân tạo sau này được huấn luyện bằng văn bản do trí tuệ nhân tạo sản xuất—điều khó tránh khỏi—sự đồng nhất của nguyên liệu có thể gây ra một kịch bản gọi là sụp đổ mô hình, trong đó trí tuệ nhân tạo mất kiểm soát về cách ngôn ngữ con người thực sự hoạt động và không còn khả năng hình thành câu chuyện mạch lạc nữa. Ai biết liệu, tại thời điểm đó, con người còn có khả năng không?

Một cuộc thử nghiệm tư duy xuất hiện với tôi ở một thời điểm nào đó, một cách để tách biệt tiềm năng sáng tạo của trí tuệ nhân tạo khỏi tiềm năng thương mại của nó: Liệu có gì nếu một nhóm nhà văn và nhà phát triển đa dạng, chống vốn hóa, tụ tập lại và tạo ra một mô hình ngôn ngữ của riêng họ, chỉ được đào tạo dựa trên từ ngữ được cung cấp với sự đồng thuận rõ ràng của tác giả với mục đích duy nhất là sử dụng mô hình như một công cụ sáng tạo?

Đó là, nếu bạn có thể xây dựng một mô hình trí tuệ nhân tạo mà thoáng qua mọi vấn đề đạo đức dường như có trong trí tuệ nhân tạo: thiếu sự đồng thuận trong quá trình đào tạo, củng cố độ chệch, lực lượng lao động gig trả ít, làm giá trị lao động của nghệ sĩ giảm giá? Tôi tưởng tượng về sự phong phú và đẹp đẽ mà một mô hình như vậy có thể mang lại. Tôi ảo tưởng về sự xuất hiện của các hình thức mới của sáng tạo cộng đồng thông qua tương tác con người với mô hình này.

Sau đó, tôi nghĩ về tài nguyên bạn cần để xây dựng nó: quá cao, trong tương lai dự kiến và có lẽ mãi mãi, đối với đội ngũ giả định của tôi chống lại vốn hóa. Tôi nghĩ về việc dành mô hình cho những người viết sẽ đòi hỏi kiểm soát người nào là người viết và người nào không. Và tôi nghĩ về việc, nếu chúng tôi cam kết với quan điểm của mình, chúng tôi sẽ phải cấm việc sử dụng mô hình để tạo ra lợi nhuận cá nhân cho chúng tôi, và điều này sẽ không thực tế đối với bất kỳ ai trong số chúng tôi. Mô hình của tôi, vì vậy, sẽ là không thể.

Vào tháng 7, tôi cuối cùng đã liên lạc được với Yu, người sáng lập Sudowrite. Yu nói với tôi rằng anh ấy cũng là một nhà văn; anh ấy bắt đầu sau khi đọc tác giả khoa học viễn tưởng văn học Ted Chiang. Trong tương lai, anh ấy mong đợi rằng trí tuệ nhân tạo sẽ là một yếu tố không gây tranh cãi trong quá trình viết của một nhà văn. “Tôi nghĩ có lẽ Ted Chiang tiếp theo—Ted Chiang trẻ 5 tuổi ngay bây giờ—sẽ nghĩ gì về việc sử dụng trí tuệ nhân tạo như một công cụ,” anh ấy nói.

Gần đây, tôi đặt câu hỏi này vào ChatGPT: “Sẽ xảy ra điều gì với xã hội nhân loại nếu chúng ta phát triển sự phụ thuộc vào trí tuệ nhân tạo trong giao tiếp, bao gồm cả việc sáng tác văn học?” Nó trả ra một danh sách có số thứ tự về mất mát: “bản sắc nhân văn” của văn học truyền thống, việc làm, đa dạng văn học. Nhưng trong kết luận, nó tinh tế đặt lại cơ sở của cuộc thảo luận, lưu ý rằng trí tuệ nhân tạo không phải là điều tồi tệ tất cả: “Đạt được sự cân bằng giữa những lợi ích của các công cụ do trí tuệ nhân tạo đưa ra và bảo tồn bản chất của sự sáng tạo và biểu đạt con người sẽ quan trọng để duy trì một văn hóa văn học sống động và ý nghĩa.” Tôi hỏi làm thế nào chúng ta có thể đạt được sự cân bằng đó, và một danh sách khách quan khác—kết thúc bằng một sự kết hợp cả hai phe—hiện ra.

Tại thời điểm này, tôi viết, có lẽ đang trêu bot một chút: “Còn việc loại bỏ việc sử dụng trí tuệ nhân tạo trong giao tiếp hoàn toàn?” Tôi thêm vào: “Hãy trả lời mà không đưa cho tôi một danh sách.” Tôi chạy câu hỏi lên và xuống—ba, bốn, năm, sáu lần—và mỗi lần, phản ứng đều đến dưới dạng một danh sách có số thứ tự về lợi và hại.

Điều đó khiến tôi tức giận. Mô hình trí tuệ nhân tạo đã giúp tôi viết “Ghosts” những tháng trước—đã tri summon tay của chị tôi và để tôi nắm giữ nó trong tay—giờ đã chết. Người em gái của nó có sự hiệu quả không có trí của một cái đinh nhỏ. Nhưng rồi, tôi mong gì? Tôi đang trò chuyện với một chương trình phần mềm được tạo ra bởi một số người giàu nhất, mạnh mẽ nhất trên trái đất. Cách mà phần mềm này sử dụng ngôn ngữ không thể xa lạ hơn với cách những người viết sử dụng nó. Tôi không nghi ngờ rằng trí tuệ nhân tạo sẽ trở nên mạnh mẽ hơn trong những thập kỷ tới—và cùng với đó là những người và tổ chức đầu tư vào sự phát triển của nó. Trong khi đó, những người viết sẽ vẫn ở đây, tìm kiếm những từ để mô tả cái cảm giác làm người qua tất cả. Chúng ta có đọc những dòng này không?

Bài viết này xuất hiện trong số tháng 10 năm 2023. Đăng ký ngay.

Hãy cho chúng tôi biết ý kiến của bạn về bài viết này. Gửi một lá thư tới biên tập viên tại [email protected].