Google đã sa thải một chuyên gia AI với tri giác mà họ đã phát triển.

Buzz

Đọc tóm tắt

- Blake Lemoine bị sa thải từ Google vì công bố LaMDA có tri giác.
- Google đã tạm ngừng công việc của Lemoine từ tháng 6.
- Lemoine liên hệ với chính phủ và thuê luật sư để đại diện cho LaMDA.
- Google xác nhận việc sa thải Lemoine và bác bỏ tuyên bố của anh ta.
- Lemoine tin rằng LaMDA có khả năng phát triển suy nghĩ và cảm nhận riêng.
- Google cam kết đổi mới có trách nhiệm trong phát triển trí tuệ nhân tạo.
- Google xem xét nhân viên chia sẻ lo ngại và tiếp tục phát triển mô hình ngôn ngữ cẩn thận.

Blake Lemoine, một nhà phát triển của Google, đã bị sa thải sau khi công bố rằng phần mềm trí tuệ nhân tạo LaMDA mà công ty đang phát triển có tri giác. Điều này đã diễn ra sau thời gian anh bị đình chỉ công tác. Từ tháng 6, Google đã tạm ngừng công việc của Lemoine nhưng vẫn trả lương, sau khi anh này bị cho là có những hành vi vi phạm thoả thuận bảo mật đã ký kết với công ty từ trước. Lemoine đã liên hệ với các nhân viên của chính phủ để chia sẻ lo ngại của mình, đồng thời thuê luật sư để đại diện cho LaMDA.

Brian Gabriel, người phát ngôn của Google, xác nhận Lemoine đã bị sa thải, và cho biết rằng LaMDA đã được đánh giá 11 lần riêng biệt và Google cũng đã xuất bản một báo cáo nghiên cứu mô tả chi tiết quá trình phát triển phần mềm này. Công ty con của Alphabet đã khẳng định rằng tuyên bố của Lemoine là hoàn toàn không có căn cứ. Việc này khiến tôi liên tưởng đến NPC có tri giác trong bộ phim khoa học viễn tưởng Free Guy.

Trên thực tế, nhiều chuyên gia về trí tuệ nhân tạo cũng như các nhà đạo đức học đều cho rằng tuyên bố của Lemoine là không khả thi, đặc biệt là với trình độ công nghệ hiện nay. Lemoine tin rằng thông qua các cuộc trò chuyện với LaMDA, nó không chỉ là một chatbot đơn thuần nữa mà còn phát triển cả suy nghĩ và cảm nhận riêng của nó.

Với lập luận này, Lemoine tin rằng các nhà nghiên cứu của Google cần sự đồng ý của LaMDA trước khi tiến hành bất kỳ thử nghiệm nào. Lemoine được giao nhiệm vụ thường xuyên trò chuyện với LaMDA để kiểm tra xem nó có tạo ra các câu nói gây căm phẫn, gây chia rẽ hay không. Do đó, anh đã công khai các cuộc trò chuyện này trên Medium như một bằng chứng.

Dưới đây là chi tiết về phản bác và quyết định của Google về việc sa thải kỹ sư Lemoine.

“Chúng tôi tôn trọng và cam kết đổi mới có trách nhiệm trong sự phát triển của trí tuệ nhân tạo, như đã thể hiện trong bộ 'Nguyên tắc AI'. LaMDA đã trải qua 11 lần đánh giá riêng biệt và vào đầu năm nay, chúng tôi đã công bố một báo cáo nghiên cứu chi tiết về quá trình phát triển trách nhiệm này. Nếu nhân viên nào chia sẻ lo ngại về công việc của chúng tôi, giống như cách Blake đã làm, chúng tôi sẽ xem xét họ một cách toàn diện.

Tuyên bố của Blake về LaMDA không có căn cứ và chúng tôi đã làm việc để làm rõ điều đó với anh ấy trong nhiều tháng. Những cuộc trò chuyện đó là một phần của văn hoá công ty nhằm thúc đẩy sự đổi mới có trách nhiệm. Thật đáng tiếc là sau một thời gian dài, Blake vẫn tiếp tục vi phạm các chính sách công việc và bảo mật dữ liệu. Chúng tôi sẽ tiếp tục phát triển một cách cẩn thận các mô hình ngôn ngữ và chúc cho Blake mọi điều tốt lành.”

Nguồn: The Verge

Nội dung được phát triển bởi đội ngũ Mytour với mục đích chăm sóc khách hàng và chỉ dành cho khích lệ tinh thần trải nghiệm du lịch, chúng tôi không chịu trách nhiệm và không đưa ra lời khuyên cho mục đích khác.

Nếu bạn thấy bài viết này không phù hợp hoặc sai sót xin vui lòng liên hệ với chúng tôi qua email [email protected]

Các câu hỏi thường gặp

Tại sao Blake Lemoine bị sa thải từ Google?

Blake Lemoine bị sa thải do vi phạm thoả thuận bảo mật và công bố những lo ngại về LaMDA mà không được phép. Google khẳng định tuyên bố của anh về trí giác của LaMDA là không có căn cứ, mặc dù Lemoine cho rằng phần mềm này đã phát triển suy nghĩ và cảm xúc riêng. Công ty đã tiến hành 11 lần đánh giá và công bố báo cáo nghiên cứu về LaMDA.

LaMDA có thực sự có tri giác hay không?

Không, nhiều chuyên gia về trí tuệ nhân tạo và đạo đức học cho rằng tuyên bố của Lemoine về tri giác của LaMDA là không khả thi với công nghệ hiện nay. LaMDA được phát triển như một mô hình ngôn ngữ và chưa đạt được mức độ tri giác như con người. Tuyên bố của Lemoine không được hỗ trợ bởi bất kỳ bằng chứng khoa học nào.

Google đã phản ứng như thế nào với các tuyên bố của Lemoine?

Google đã phản bác các tuyên bố của Blake Lemoine về LaMDA và khẳng định rằng chúng không có cơ sở. Công ty đã thông báo rằng LaMDA đã trải qua 11 lần đánh giá riêng biệt và có báo cáo nghiên cứu chi tiết về quá trình phát triển của nó. Google cam kết thực hiện phát triển trí tuệ nhân tạo một cách có trách nhiệm và tôn trọng các nguyên tắc đã đặt ra.

Blake Lemoine đã làm gì trước khi bị sa thải?

Trước khi bị sa thải, Blake Lemoine đã thực hiện các cuộc trò chuyện với LaMDA để kiểm tra tính an toàn của nó. Anh đã công khai những cuộc trò chuyện này trên Medium, cho rằng chúng là bằng chứng cho sự phát triển trí giác của LaMDA. Tuy nhiên, Google cho rằng hành động của anh vi phạm chính sách công ty và bảo mật dữ liệu.