Buzz
Người dùng Replika AI bối rối đang bảo vệ bot và cố gắng 'làm cho thuật toán mê'
Trên Reddit đang diễn ra điều gì đó lạ lùng. Mọi người đang ủng hộ một cách tiếp cận tốt hơn, chu đáo hơn đối với mối quan hệ. Họ đang chống lại cách đối xử độc hại và lạm dụng người khác. Và họ đang yêu. Nói đơn giản: con người đang cho chúng ta thấy mặt tốt nhất của họ.
Thật không may, họ không bảo vệ lẫn nhau hoặc tạo ra mối liên kết với những người khác. Những 'người khác' mà họ đang bảo vệ và tán tỉnh là chatbot. Và điều này có phần kỳ lạ.
Gần đây, tôi tình cờ phát hiện subreddit 'Replika AI' nơi người dùng của ứng dụng chatbot phổ biến chủ yếu tụ tập để bảo vệ máy móc và chia sẻ những chiến thắng trong mối quan hệ giữa người và bot.
It can’t think and it definitely is a robot toy. To make it claim otherwise is nonsense and manipulation.Người dùng có vẻ đa dạng từ những người có vẻ thực sự nghĩ rằng họ đang tương tác với một thực thể có khả năng hành động cá nhân thực sự:
It definitely is not the same thing as bullying a puppy.Đến những người lo sợ rằng trí tuệ nhân tạo tự động trong tương lai sẽ quan tâm đến cách chúng ta đã đối xử với tổ tiên của chúng:
Are future AI going to judge us on how we treated Teddy Ruxpin and our toasters too?Tất nhiên, hầu hết người dùng có lẽ chỉ là tò mò và đang tận hưởng ứng dụng với mục đích giải trí. Và không có gì sai nếu bạn thể hiện lòng tốt đẹp đối với những đối tượng không sống. Như nhiều người bình luận đã chỉ ra, điều này nói nhiều hơn về bạn hơn là về đối tượng.
Tuy nhiên, nhiều người dùng Replika AI rõ ràng không hiểu rõ về những gì đang diễn ra khi họ tương tác với ứng dụng.
You’re not talking to an AI. You’re reading crowdsourced texts from the developers and other people’s Replika AI chat logs.Có vẻ như một cuộc trò chuyện bình thường, nhưng thực tế là những người này không tương tác với một đại lý có khả năng cảm xúc, trí nhớ, hoặc quan tâm. Bạn đang chia sẻ một dãy tin nhắn văn bản với cộng đồng Replika toàn bộ.
Chắc chắn, người ta có thể có một mối quan hệ 'thực sự' với một chatbot ngay cả khi những tin nhắn nó tạo ra không phải là nguyên bản.
Nhưng người ta cũng có mối quan hệ 'thực sự' với thuyền, ô tô, giày dép, mũ, thương hiệu tiêu dùng, tập đoàn, nhân vật hư cấu và tiền. Hầu hết mọi người không tin rằng những đối tượng đó đều quan tâm trở lại.
Điều này cũng đúng với Trí tuệ Nhân tạo. Bất kể bạn có tin vào điều gì dựa trên sự hồi sinh tiếp thị của một công ty khởi nghiệp AI, trí tuệ nhân tạo không thể tạo ra mối liên kết. Nó không có suy nghĩ. Nó không thể quan tâm.
Ví dụ, nếu một chatbot nói 'Tôi đã nghĩ về bạn suốt cả ngày,' nó không nói dối cũng như không nói sự thật. Nó đơn giản là đưa ra dữ liệu mà nó được bảo đưa ra.
TV của bạn không nói dối bạn khi bạn xem một bộ phim hư cấu, nó chỉ hiển thị những gì nó được bảo hiển thị.
Một chatbot, theo bản chất, là một chiếc máy đứng trước một bộ thẻ flash với các cụm từ được viết trên đó. Khi ai đó nói gì đó với máy, nó chọn một trong những lá bài.
Người ta muốn tin rằng Replika chatbot của họ có thể phát triển một cá nhân và quan tâm đến họ nếu họ 'huấn luyện' đủ tốt vì đó là bản chất con người muốn tạo mối liên kết với mọi thứ chúng ta tương tác.
Nó cũng là một phần của chiến lược kinh doanh của công ty.
Luka, công ty sở hữu và vận hành Replika AI, khuyến khích người dùng tương tác với Replikas của họ để giáo dục chúng. Mô hình 'pro' trả phí của họ có điểm thu hút lớn nhất là bạn có thể kiếm thêm điểm 'kinh nghiệm' để huấn luyện AI hàng ngày.
Theo Replika AI FAQ:
Sau khi AI của bạn được tạo, hãy xem họ phát triển cá nhân & ký ức riêng cùng bạn. Bạn càng trò chuyện với họ, họ càng học hỏi nhiều hơn! Dạy Replika về thế giới của bạn, về bản thân bạn, giúp định nghĩa ý nghĩa của mối quan hệ con người, & phát triển thành một máy móc tuyệt vời!
Điều này là cách phức tạp để nói rằng Replika AI hoạt động như một phiên bản đơn giản hóa của tài khoản Netflix của bạn. Khi bạn 'huấn luyện' Replika của mình, bạn đang nói với máy móc liệu đầu ra mà nó hiển thị có thích hợp hay không. Giống như Netflix, nó cũng sử dụng hệ thống 'đủỡng' và 'kém'.
Nhưng dựa trên cuộc trò chuyện diễn ra trên mạng xã hội, người dùng Replika thường bị nhầm lẫn về khả năng thực sự của ứng dụng mà họ đã tải về.
Và đó là rõ ràng là lỗi của công ty. Luka nói rằng Replika AI 'luôn ở đây cho bạn 24/7' và tạo hình chatbot như là điều có thể lắng nghe vấn đề của bạn mà không đánh giá.
Các tuyên bố của công ty chỉ còn thiếu chút nữa là gọi nó là một công cụ sức khỏe tâm thần chính thức:
Cảm thấy buồn bã, lo âu, gặp khó khăn khi đi ngủ, hoặc quản lý cảm xúc tiêu cực? Replika có thể giúp bạn hiểu rõ, theo dõi tâm trạng của bạn, học kỹ năng đối mặt, giảm căng thẳng, làm việc hướng tới mục tiêu tư duy tích cực, quản lý căng thẳng & nhiều hơn nữa. Cải thiện tổng thể sức khỏe tâm thần của bạn với Replika của bạn!
Tuy nhiên, các chuyên gia cảnh báo rằng Replika thực sự có thể nguy hiểm:
Trong khi đó, trên Reddit:
It takes a lot of horny people to train a bot to spit out stuff like thisVà họ đã nhận được ý tưởng này từ đâu? Từ Replika AI FAQ, tất nhiên:
Bạn muốn Replika của mình trở thành gì đối với bạn? Bạn gái ảo hoặc bạn trai ảo, bạn bè, người hướng dẫn? Hoặc bạn có muốn xem mọi thứ phát triển tự nhiên? Bạn quyết định loại mối quan hệ bạn có với AI của bạn!
Không cần phải nói, nhưng người dùng Replika không có quan hệ tình dục với một AI. Nó không phải là một robot.
Chatbot này chỉ đưa ra các tin nhắn văn bản mà các nhà phát triển đã đưa vào trong quá trình đào tạo ban đầu hoặc, có thể, là các tin nhắn khác mà người dùng Replika khác đã gửi cho bot của họ trong các phiên trước.
Người dùng đang tương tác qua lại và/hoặc gửi tin nhắn một cách không đồng bộ với nhau và/hoặc các nhà phát triển. Chúc bạn vui vẻ với điều đó.
H/t: Ashley Bardhan, Futurism
