Sức Mạnh Khổng Lồ và Nguy Cơ Tiềm Ẩn của Mã Nguồn do Trí Tuệ Nhân Tạo Tạo Ra

Vào tháng 6 năm 2021, GitHub công bố Copilot, một loại tự hoàn thành mã máy tính được cung cấp bởi công nghệ sinh văn bản của OpenAI. Nó cung cấp một cái nhìn sớm về tiềm năng ấn tượng của trí tuệ nhân tạo sinh mạng để tự động hóa công việc có giá trị. Hai năm sau, Copilot là một trong những ví dụ chín chắn nhất về cách công nghệ có thể thực hiện các nhiệm vụ trước đây phải được thực hiện bằng tay.

Tuần này, Github đã phát hành một báo cáo, dựa trên dữ liệu từ gần một triệu lập trình viên trả phí để sử dụng Copilot, cho thấy mức độ biến đổi của việc lập trình sinh ngẫu nhiên của trí tuệ nhân tạo đã trở nên quan trọng. Trung bình, họ chấp nhận gợi ý của trợ lý trí tuệ nhân tạo khoảng 30% thời gian, cho thấy hệ thống này đáng kinh ngạc trong việc dự đoán mã code hữu ích.

Biểu đồ nổi bật ở trên thể hiện cách người dùng có xu hướng chấp nhận nhiều hơn các gợi ý của Copilot khi họ sử dụng công cụ này trong nhiều tháng hơn. Báo cáo cũng kết luận rằng lập trình viên được tăng cường bởi trí tuệ nhân tạo thấy năng suất của họ tăng theo thời gian, dựa trên việc một nghiên cứu Copilot trước đây báo cáo một mối liên kết giữa số gợi ý được chấp nhận và năng suất của một lập trình viên. Báo cáo mới của GitHub nói rằng những tăng trưởng năng suất lớn nhất được thấy ở giữa các nhà phát triển ít kinh nghiệm.

Trên bề mặt, đó là một bức tranh ấn tượng về một công nghệ mới nhanh chóng chứng minh giá trị của nó. Mọi công nghệ nâng cao năng suất và tăng cường khả năng của người lao động kỹ thuật kém có thể là một điều hỗ trợ đối với cả cá nhân lẫn nền kinh tế rộng lớn. GitHub tiếp tục đưa ra một số phỏng đoán tầm bậy, ước tính rằng lập trình AI có thể tăng GDP toàn cầu lên 1,5 nghìn tỷ đô la vào năm 2030.

Nhưng biểu đồ của GitHub về các lập trình viên tương tác với Copilot nhắc tôi đến một nghiên cứu khác mà tôi vừa nghe về gần đây, trong khi trò chuyện với Talia Ringer, một giáo sư tại Đại học Illinois tại Urbana-Champaign, về mối quan hệ của lập trình viên với các công cụ như Copilot.

Cuối năm ngoái, một nhóm tại Đại học Stanford đã đăng một bài báo nghiên cứu xem việc sử dụng trợ lý trí tuệ nhân tạo sinh mã code mà họ xây dựng ảnh hưởng thế nào đến chất lượng của mã code mà mọi người tạo ra. Các nhà nghiên cứu phát hiện rằng các lập trình viên nhận gợi ý từ trí tuệ nhân tạo thường bao gồm nhiều lỗi trong mã code cuối cùng của họ—tuy nhiên, những người có quyền truy cập vào công cụ này thường tin rằng mã code của họ an toàn hơn. “Có lẽ có cả lợi ích và rủi ro” khi lập trình song song với trí tuệ nhân tạo, Ringer nói. “Nhiều mã code không phải là mã code tốt.”

Khi xem xét bản chất của lập trình, việc này hoàn toàn không ngạc nhiên. Như Clive Thompson đã viết trong một bài viết đặc biệt của MYTOUR năm 2022, Copilot có vẻ như là một phép màu, nhưng các gợi ý của nó dựa trên các mẫu trong công việc của các lập trình viên khác, có thể bị lỗi. Những đoán này có thể tạo ra lỗi mà rất khó để nhận ra, đặc biệt khi bạn bị quyến rũ bởi sự tốt của công cụ này.

Chúng ta biết từ các lĩnh vực kỹ thuật khác rằng con người có thể bị mê hoặc bởi sự quá phụ thuộc vào tự động hóa. Cơ quan Hàng không Liên bang Mỹ đã cảnh báo nhiều lần rằng một số phi công đang trở nên quá phụ thuộc vào chế độ tự động hóa đến mức kỹ năng lái máy bay của họ đang suy giảm. Hiện tượng tương tự cũng quen thuộc từ xe tự lái, nơi yêu cầu sự cảnh giác phi thường để ngăn chặn những sự cố hiếm hoi nhưng có thể gây nguy hiểm.

Thách thức nghịch lý này có thể là trung tâm của câu chuyện phát triển của trí tuệ nhân tạo sinh mệnh—và nó sẽ đưa chúng ta đi đâu. Công nghệ đã thực sự xuất hiện và đang làm suy giảm chất lượng nội dung web, khi các trang web uy tín bị tràn ngập bởi những nội dung tạo bằng trí tuệ nhân tạo kém chất lượng, các trang web rác lan rộng và các chatbot cố gắng tăng cường sự tương tác một cách nhân tạo.

Nhưng điều này không có nghĩa là trí tuệ nhân tạo sinh mệnh thất bại. Có một lượng lớn nghiên cứu cho thấy cách các công cụ trí tuệ nhân tạo sinh mệnh có thể tăng cường hiệu suất và sự hạnh phúc của một số công nhân, như những người xử lý cuộc gọi hỗ trợ khách hàng. Một số nghiên cứu khác cũng không tìm thấy sự tăng lỗi bảo mật khi nhà phát triển sử dụng trợ lý trí tuệ nhân tạo. Và đáng khen ngợi, GitHub đang nghiên cứu vấn đề làm thế nào để lập trình an toàn với sự trợ giúp của trí tuệ nhân tạo. Vào tháng 2, họ đã công bố một tính năng mới của Copilot cố gắng bắt lỗi bảo mật do mô hình cơ bản tạo ra.

Tuy nhiên, những tác động phức tạp của việc tạo mã cung cấp một câu chuyện cảnh báo đối với các công ty đang làm việc triển khai thuật toán sinh mệnh đối với các trường hợp sử dụng khác.

Các cơ quan quản lý và nhà lập pháp quan tâm nhiều hơn về trí tuệ nhân tạo cũng nên chú ý. Với sự phấn khích về tiềm năng của công nghệ này—và sự phóng đại hoang đường về cách nó có thể thống trị thế giới—có thể bị bỏ qua bằng bằng chứng tinh tế hơn nhưng cũng có ý nghĩa hơn về cách triển khai trí tuệ nhân tạo. Hầu hết mọi thứ trong tương lai của chúng ta sẽ được xây dựng dựa trên phần mềm—và nếu chúng ta không cẩn thận, nó cũng có thể đầy lỗi do trí tuệ nhân tạo tạo ra.