Buzz
Với một chút thủ đoạn, kẻ gian đã có thể sử dụng AI để thực hiện những hành động như vậy.
Kênh Instagram sử dụng AI để đăng tải những nội dung gây sốc và phản cảm.
Thời đại của Trí tuệ Nhân tạo (AI) đã mở ra nhiều cơ hội sáng tạo và tối ưu hóa trên hầu hết các lĩnh vực. Từ nghệ thuật, y tế cho đến truyền thông, AI giúp các quy trình trở nên dễ dàng hơn và mở ra nhiều tiềm năng chưa từng có.
Tuy nhiên, bên cạnh những lợi ích vượt trội, cũng tồn tại những mối nguy hiểm đáng lo ngại, đặc biệt là khi công nghệ tạo sinh (Generative AI) bị lợi dụng bởi những người có mục đích xấu. Một nhóm nhỏ lợi dụng khả năng tạo ra nội dung nhanh chóng và tinh vi của AI để trục lợi và khai thác sự tò mò của người xem.
Mới đây, cộng đồng mạng xôn xao về một trường hợp điển hình phơi bày mặt tối của việc ứng dụng AI. Một tài khoản Instagram tên “A. asmr studio” chuyên đăng tải các nội dung được tạo ra từ AI, nhưng lại mang tính chất nhạy cảm và phản cảm quá mức.
Kênh này khai thác định dạng ASMR (Autonomous Sensory Meridian Response) – một dạng nội dung được thiết kế để mang lại cảm giác thư giãn thông qua các âm thanh lặp đi lặp lại. Tuy nhiên, “A. asmr studio” đã biến thể nó thành công cụ trục lợi một cách rẻ tiền.
Cụ thể, kênh này đã sử dụng AI để tạo ra các video giả lập mát-xa giữa hai nhân vật nữ, với những động tác gợi cảm, thậm chí có yếu tố khêu gợi, cùng với biểu cảm gương mặt được phóng đại. Các video này có độ chân thực cao đến mức khó phân biệt với thực tế, khiến người xem dễ dàng bị cuốn vào. Sự tinh vi của AI đã giúp kẻ xấu sản xuất hàng loạt nội dung như vậy nhanh chóng, vượt qua rào cản về chi phí và thời gian, khiến việc kiểm soát trở nên khó khăn hơn bao giờ hết.
Các nền tảng mạng xã hội cần nâng cao công tác kiểm duyệt.
Điều đáng lo ngại là mức độ tương tác khủng khiếp mà kênh này đạt được. Trong một thời gian ngắn, tài khoản “A. asmr studio” đã thu hút hơn 155.000 người theo dõi, kèm theo hàng triệu lượt xem và bình luận cho các video của mình. Con số này không chỉ phản ánh lượng lớn người tiêu thụ loại nội dung này mà còn chỉ ra tốc độ lan truyền của các video AI độc hại.
Điều này làm nổi bật vấn đề kiểm duyệt nghiêm trọng đối với các nền tảng mạng xã hội lớn như Instagram. Việc nội dung phản cảm được tạo ra từ AI vẫn dễ dàng tồn tại và phát tán cho thấy các thuật toán hiện tại không đủ khả năng nhận diện và ngăn chặn hiệu quả.
Vấn đề then chốt là các nền tảng mạng xã hội cần phải thay đổi chiến lược kiểm duyệt. Nếu không có hành động quyết liệt, việc sử dụng AI để tạo ra nội dung phản cảm nhằm “câu view” sẽ trở thành một vấn nạn khó kiểm soát, tương tự như các hình thức spam hay lừa đảo khác.
Sự chậm trễ trong việc xử lý không chỉ tạo cơ hội cho kẻ gian trục lợi mà còn làm xói mòn môi trường mạng xã hội, đặc biệt gây ảnh hưởng tiêu cực đến người dùng trẻ. Về phía người dùng, họ cần phải tỉnh táo trong việc chọn lọc thông tin, đồng thời nhanh chóng báo cáo các kênh tương tự để tự bảo vệ bản thân khỏi những rủi ro không đáng có.
