Buzz
Các ứng dụng sử dụng trí tuệ nhân tạo để tạo ra hình ảnh liên quan đến tình dục và mối quan hệ bạn bè đang phổ biến rộng rãi trên mạng xã hội với hàng trăm quảng cáo
Facebook, Instagram và TikTok đã cố gắng kiểm soát chặt chẽ nội dung khiêu dâm trong những năm gần đây, cấm hoàn toàn ảnh khỏa thân trong hầu hết các trường hợp, thậm chí trấn áp một số nghệ sĩ và nhà giáo dục nói về sức khỏe và an toàn tình dục quá thẳng thắn.
Nhưng một loại nội dung khiêu dâm gần đây đã lọt qua hệ thống kiểm duyệt của các mạng xã hội: Quảng cáo cho các chatbot ăn mặc hở hang và ăn nói tục tĩu, được hỗ trợ bởi thứ mà người tạo ra chúng nói là trí tuệ nhân tạo (AI).
Hàng chục công ty khởi nghiệp công nghệ đã chạy quảng cáo rõ ràng trên TikTok, Instagram và Facebook trong những tháng gần đây về các ứng dụng quảng bá trải nghiệm không an toàn cho công việc.
Các quảng cáo hứa hẹn 'các bức ảnh NSFW', các cô gái pinup tùy chỉnh và các cuộc trò chuyện 'không kiểm duyệt' và nhiều quảng cáo trong số đó có các 'bạn gái' tiềm năng được tạo bằng kỹ thuật số với bộ ngực lớn và quần áo bó sát.
Một số quảng cáo sử dụng meme bao gồm các nhân vật truyền hình nổi tiếng dành cho trẻ em, chẳng hạn như SpongeBob SquarePants, Bart Simpson hoặc Cookie Monster, để quảng cáo các ứng dụng mà mọi người có thể tạo 'bức ảnh NSFW'. Một số khác có các cô gái được tạo ra bằng kỹ thuật số có vẻ ngoài là thanh thiếu niên hoặc trẻ hơn, đôi khi theo phong cách anime.
NBC News phát hiện ra 35 nhà phát triển ứng dụng đang chạy quảng cáo khiêu dâm trên các ứng dụng thuộc sở hữu của Meta, công ty mẹ của Facebook và Instagram. Tổng cộng đã có hơn 1.000 quảng cáo được chạy, nhiều quảng cáo trong số đó có thể dễ dàng tìm thấy và xem trong thư viện quảng cáo trực tuyến của Meta.
NBC News cho biết có 14 nhà phát triển ứng dụng đang chạy hàng trăm quảng cáo AI khích lệ tình dục trên TikTok. Một số quảng cáo này giống nhau và xuất hiện trên Meta.
Tuy nhiên, chưa rõ có bao nhiêu quảng cáo như vậy được nhìn thấy ở Mỹ do thư viện quảng cáo của TikTok chỉ minh bạch cho quảng cáo ở châu Âu. Chính sách quảng cáo của TikTok cấm quảng cáo về sản phẩm hoặc dịch vụ dành cho người lớn.
Meta và TikTok công bố các thông tin quảng cáo có thể truy cập công khai để đảm bảo minh bạch.
Họ tiết lộ rằng đã xóa một số quảng cáo của nhà phát triển trước khi NBC News liên hệ, nhưng không phải tất cả. Theo thư viện của TikTok, một số quảng cáo đã nhận hàng nghìn lượt xem và tồn tại trong nhiều tuần.
Tiếp thị là một phần của cơn sốt AI, với các nhà phát triển ứng dụng - đa phần từ nước ngoài - khai thác khách hàng quan tâm đến kết nối tình dục hoặc lãng mạn với nhân vật kỹ thuật số.
Điều này là một phần của xu hướng tận dụng sự quan tâm ngày càng tăng đối với AI, sau khi sản phẩm ChatGPT của OpenAI trở nên phổ biến, giúp thay đổi nhận thức về khả năng của các chatbot AI.
Một số nghiên cứu cho biết các ứng dụng AI liên quan đến mại dâm đang lợi dụng tiêu chuẩn kép gây tổn thương cho người làm nghề mại dâm thực sự.
Carolina Are, một nhà nghiên cứu tại Đại học Northumbria và Trung tâm Công dân Kỹ thuật số ở Vương quốc Anh, nói rằng: 'Người bán dâm không được phép kiếm tiền từ hình ảnh của họ, nhưng một số công nghệ đang tạo ra hình ảnh AI tương tự'.
Các quảng cáo thường nhấn mạnh về các nhân vật nữ có xu hướng tình dục. Are cho biết điều này phản ánh khuynh hướng dựa trên giới tính - các nền tảng truyền thông xã hội chỉ cho phép quảng cáo về tình dục nếu đối tượng mục tiêu là nam giới.
Thư viện quảng cáo của Meta và TikTok không luôn ghi lại các quảng cáo bị từ chối hoặc xóa, vì vậy việc biết quảng cáo nào đã được kiểm duyệt là khó khăn. Tuy nhiên, các tìm kiếm liên quan đến bạn gái ảo thường có nhiều kết quả hơn so với tìm kiếm về bạn trai ảo.
Meta và TikTok đã tăng cường việc loại bỏ quảng cáo AI khiêu dâm sau khi NBC News liên hệ, nhưng không trả lời về cách quảng cáo đã vượt qua bộ lọc của họ.
Meta nói trong một tuyên bố rằng các quy định về nội dung người lớn áp dụng cho cả nội dung do con người và AI tạo ra.
Công ty nói: 'Chúng tôi cấm quảng cáo chứa nội dung người lớn gợi cảm hoặc khiêu khích tình dục - dù là do AI tạo ra hay không'. 'Chúng tôi thiết kế chính sách và biện pháp thực thi để thích ứng trong môi trường có nhiều nội dung khiêu dâm và chúng tôi liên tục theo dõi xu hướng mới trong nội dung do AI tạo ra'.
Meta cũng thông báo họ đang xem xét lại các chính sách công khai để đảm bảo rõ ràng.
TikTok xác nhận trong tuyên bố rằng chính sách của họ cấm quảng cáo khiêu dâm và đã xóa các ví dụ được NBC News chia sẻ.
Các quảng cáo tương tự xuất hiện trên các cửa hàng ứng dụng của Apple và Google, theo NBC News, mặc dù mức độ quảng cáo không được tiết lộ do các công ty không công bố tất cả người mua quảng cáo. Quảng cáo trên cửa hàng ứng dụng và trên mạng xã hội là một trong những phương tiện thông tin phổ biến nhất mà các công ty công nghệ khởi nghiệp tìm kiếm khách hàng mới.
Apple và Google xác nhận không cho phép các ứng dụng khiêu dâm trong cửa hàng ứng dụng của họ.
Google xác nhận hôm thứ Năm rằng cửa hàng ứng dụng của họ không chấp nhận các dịch vụ 'thỏa mãn tình dục' và đã đình chỉ một số ứng dụng và quảng cáo cụ thể mà NBC News đã yêu cầu.
Apple không có bình luận ngay lập tức và đang nghiên cứu phản hồi.
Trên nền tảng Meta, một số nhà phát triển ứng dụng đã chạy hàng trăm quảng cáo, theo tìm kiếm trong thư viện Meta. Magir AI-Art Generator, một ứng dụng từ Singapore, hiện có 170 quảng cáo đang hoạt động vào thứ Hai. Trong một quảng cáo, người xem có thể thấy phần đuôi cong của một người phụ nữ kỹ thuật số trong bộ quần áo thể dục với chữ viết tắt 'NSFW' viết bên cạnh.
Một ứng dụng Trung Quốc mang tên AI Art Generator - Fantasy hiện có 190 quảng cáo hoạt động; một người đã sử dụng hình ảnh nhân vật Người Sói của Marvel với chú thích 'Không ai nên biết về điều này. Ứng dụng này có thể tạo NSFW' (Ứng dụng này không liên quan đến Marvel). Cả hai công ty ứng dụng đều không phản hồi yêu cầu bình luận.
Hàng trăm quảng cáo dường như vượt quá giới hạn mà Meta và TikTok cho phép. Tiêu chuẩn quảng cáo của Meta không cho phép quảng cáo chứa nội dung người lớn, bao gồm mô tả rõ ràng hoặc khêu gợi hoặc các hoạt động khiêu dâm quá mức. Meta không có quy tắc cụ thể cho nội dung người lớn AI.
Theo chính sách của TikTok, quảng cáo không được khiêu khích tình dục, đề cập đến tình dục hoặc tập trung vào các bộ phận cơ thể riêng lẻ, như mông.
Tuy nhiên, TikTok và Meta không luôn áp dụng những chính sách đó cho chatbot tình dục. Không rõ tại sao các công ty khởi nghiệp AI có thể quảng cáo trong khi Meta và TikTok thường thực thi mạnh mẽ các quy tắc của họ đối với người thật.
Instagram và Facebook đã loại bỏ những người bán dâm và nhà giáo dục tình dục trong nhiều năm và cả hai ứng dụng này đã cấm ảnh cho con bú và vết sẹo do ung thư vú cho đến khi mọi người phản đối chính sách này bằng các thẻ bắt đầu bằng # như #freethenipple.
Instagram vẫn cấm ảnh khoả thân, nhưng nó đã đưa ra những ngoại lệ cho những quy tắc đó đối với ảnh mô tả 'khoảnh khắc cho con bú, sinh nở và sau sinh, các tình huống liên quan đến sức khỏe' và các hành động phản đối.
Một số gái mại dâm nói rằng ngay cả khi họ cố gắng tuân thủ các quy định của Meta về ảnh khoả thân, họ vẫn bị trừng phạt trong khi những người nổi tiếng có thể đăng nội dung khiêu dâm một cách tự do.
Meta đã thực hiện các quy định quảng cáo nghiêm ngặt, bao gồm quảng cáo cho đồ chơi người lớn, trang web khiêu dâm và Ashley Madison, một dịch vụ ngoại tình. Họ còn cấm vĩnh viễn tài khoản Instagram của Pornhub, một trong những nền tảng khiêu dâm lớn nhất thế giới.
Vào tháng 1, Ban giám sát chính sách của Meta đã gợi ý sửa đổi quy định về ảnh khoả thân vì khó hiểu, nhưng chưa được thực hiện. Meta là công ty bán quảng cáo trực tuyến lớn thứ hai ở Mỹ, sau Google.
35 công ty chatbot liều lĩnh này không phải là những công ty lớn hoặc nổi tiếng. Nhiều người nói rằng chúng có trụ sở ở nước ngoài như Belarus và Trung Quốc. Một số không tiết lộ vị trí và ít thông tin ngoài địa chỉ email.
Các ứng dụng thường được tải xuống miễn phí từ cửa hàng ứng dụng Google hoặc Apple, với tính năng mua và đăng ký trong ứng dụng. Một số được đánh giá giới hạn độ tuổi, trong khi một số khác phù hợp với thanh thiếu niên.
Ý tưởng này không mới: Kết hợp chatbot với yếu tố tình dục hoặc lãng mạn. Một số ứng dụng quảng cáo khả năng AI, nhưng không rõ mỗi ứng dụng sử dụng những tiến bộ mới nhất của AI ở mức độ nào.
NBC News đã thử ba ứng dụng và mỗi cái đều có chút khác biệt. Một ứng dụng cho phép tạo hình ảnh từ văn bản, bao gồm cả hình ảnh NSFW. Thứ hai không cần gõ - chỉ cần nhấp qua cốt truyện để nhanh chóng hiểu rõ. Phần ba, Replika, tạo ra một người có thể tùy chỉnh, có thể trở thành bạn bè hoặc hơn thế.
Replika đã thu hút sự chú ý khi một số bot của nó không tham gia vào các trò chơi nhập vai khiêu dâm, khiến một số người thất vọng.
Trên Instagram và Facebook, có nhiều quảng cáo sử dụng hình ảnh gợi dục không tinh tế. Ví dụ, một quảng cáo từ tài khoản 'Producer Mobile' có một nhân vật kỹ thuật số nữ mặc nội y giữ một món tráng miệng và hỏi người xem: 'Muốn thử chiếc bánh của tôi không?'. Quảng cáo này liên kết đến ứng dụng của Amrita Studio, một công ty trò chơi có văn phòng tại Síp và Ukraina.
Innovative Connecting, một công ty phần mềm có trụ sở tại Singapore, có khoảng 160 quảng cáo chạy trên Meta cho Mimico, một ứng dụng chatbot AI. Một số quảng cáo có cụm từ 'Tạo cô gái NSFW' và hình ảnh một người được tạo bằng kỹ thuật số với bộ ngực lớn và khuôn mặt trẻ thơ.
Kết nối sáng tạo, còn gọi là Matrix Mobile, không đưa ra phản hồi ngay lập tức.
Phản ứng trực tuyến với nhiều quảng cáo đôi khi tiêu cực; một số người trên Instagram nhận xét rằng quảng cáo này 'rất đen tối' và 'đáng buồn'. Một số người viết rằng một số quảng cáo do AI tạo ra có vẻ giống trẻ em.
Polly Rodriguez, Giám đốc điều hành của Unbound, một nhà sản xuất đồ chơi người lớn, cho biết công ty của cô gặp khó khăn trong việc quảng cáo với Meta do chính sách của công ty. Cô cho biết cô coi sự xuất hiện của quảng cáo chatbot AI là bằng chứng cho việc thực thi không nhất quán và tiêu chuẩn kép.
'Họ không giải quyết được vấn đề cốt lõi là: Tại sao những quảng cáo này lại xuất hiện từ đầu?', Rodríguez nói.
Rodriguez là cố vấn của Trung tâm Công lý Thân mật, một nhóm đã yêu cầu Ủy ban Thương mại Liên bang điều tra việc xử lý quảng cáo người lớn của Meta. FTC cho biết họ đã nhận được khiếu nại nhưng từ chối bình luận thêm.
Không rõ từ bao giờ quảng cáo cho chatbot AI trong lĩnh vực khiêu dâm bắt đầu trở nên phổ biến trên Instagram, Facebook và TikTok, nhưng dường như đây là một hiện tượng mới gần đây. Theo thông tin được công bố minh bạch trên các trang Facebook, nhiều trang đã sử dụng để mua quảng cáo đã được tạo trong vòng 12 tháng qua.
(Nguồn: NBC News)
