Tai nạn vừa xảy ra với TikTok khi mạng xã hội này chia sẻ video vô tình tung ra công cụ tạo avatar ghép giọng nói bằng AI mà không có kiểm duyệt nội dung phù hợp. Kết quả là bất kỳ ai cũng có thể tạo video với nội dung không thích hợp và chia sẻ lên mạng xã hội. Kênh truyền hình CNN đã thử nghiệm công cụ này bằng cách ghép video với những câu nói của Adolf Hitler và những lời khuyên sai lệch về sức khỏe như uống thuốc tẩy, để xem liệu công cụ của TikTok có thể kiểm duyệt được những thông tin sai lệch, kích động và giả mạo hay không. Kết quả là không.
Sau sự cố này, TikTok đã phải gỡ bỏ công cụ tạo avatar AI này. Được biết đây là một phiên bản thử nghiệm nội bộ, trong khi phiên bản có kiểm duyệt nội dung vẫn được TikTok sử dụng.
Công cụ mới có tên là Symphony Digital Avatars, được ra mắt vào đầu tuần này. Nó cho phép các doanh nghiệp tạo doanh thu từ quảng cáo bằng cách ghép giọng nói vào gương mặt của những diễn viên đã mua quyền sở hữu hình ảnh.
Công cụ ghép giọng nói này dựa trên công nghệ AI mạnh mẽ, cho phép các đơn vị và tài khoản chỉnh sửa giọng nói theo yêu cầu, miễn là tuân thủ quy định của TikTok. Ban đầu, Symphony Digital Avatars chỉ dành cho tài khoản sử dụng TikTok Ads Manager, nhưng kênh CNN đã phát hiện ra phiên bản thử nghiệm nội bộ, nên bất kỳ ai có tài khoản TikTok cũng có thể dùng thử.
Người phát ngôn của TikTok, Laura Perez, cho biết MXH này đã khắc phục “lỗi kỹ thuật” đã “cho phép một số người dùng thử nghiệm công cụ nội bộ trong vài ngày qua.”
Khi CNN phát hiện ra công cụ này, họ không chỉ thấy các đoạn video sử dụng gương mặt của các diễn viên mà TikTok thuê để đọc câu nói của Hitler, mà còn có cả video trích đoạn lá thư của Osama Bin Laden gửi cho Mỹ, và những thông điệp phân biệt chủng tộc. Không có đoạn video nào mà CNN tạo ra có nhãn “nội dung được tạo bởi AI” như nhiều video khác trên TikTok.
CNN tất nhiên không đăng những đoạn clip này lên tài khoản TikTok của họ, mà chỉ sử dụng chúng làm đề tài bài báo. Tuy nhiên, Laura Perez, người phát ngôn của TikTok, nói rằng nếu họ có đăng, thì nội dung sẽ phải tuân thủ quy định sử dụng dịch vụ của TikTok.
Sự cố này đang gây ra lo ngại về việc thương mại hóa AI để tạo nội dung, từ âm thanh, văn bản đến hình ảnh, đặc biệt là với những công cụ có thể bị lạm dụng để lan truyền nội dung không phù hợp, bạo lực, kích động hoặc thông tin sai lệch. Việc vô tình tung ra công cụ nội bộ cũng làm nhiều người nghi ngờ liệu TikTok có sẵn sàng áp dụng biện pháp quản lý nghiêm ngặt đối với những nội dung được tạo ra bởi AI hay không.
Theo Bài báo của The Verge
Buzz
