Một Bot Porn Deepfake Đang Được Sử Dụng để Lạm Dụng Hàng Ngàn Phụ Nữ

Các deepfake khiêu dâm đang được sử dụng như một vũ khí với quy mô đáng báo động, với ít nhất 104.000 phụ nữ làm mục tiêu bởi một bot hoạt động trên ứng dụng nhắn tin Telegram kể từ tháng 7. Bot này được hàng ngàn người sử dụng hàng tháng để tạo ra hình ảnh nude của bạn bè và thành viên trong gia đình, một số trong số họ có vẻ dưới 18 tuổi.

Các hình ảnh vẫn của phụ nữ nude được tạo ra bởi một trí tuệ nhân tạo loại bỏ quần áo từ một bức ảnh không nude. Mỗi ngày, bot gửi ra một bộ sưu tập hình ảnh mới đến một kênh Telegram liên quan với gần 25.000 người đăng ký. Những bộ hình ảnh thường xuyên được xem hơn 3.000 lần. Một kênh Telegram khác quảng cáo bot có hơn 50.000 người đăng ký.

Một số hình ảnh do bot tạo ra có hiện tượng lỗi, nhưng nhiều hình có thể được coi là thật. “Đây có lẽ là lần đầu tiên chúng ta nhìn thấy chúng với quy mô lớn,” giám đốc điều hành và nhà khoa học trưởng tại công ty phát hiện deepfake Sensity, Giorgio Patrini, nói trong cuộc nghiên cứu. Công ty đang công khai các kết quả nghiên cứu để áp đặt áp lực lên các dịch vụ lưu trữ nội dung để gỡ bỏ chúng, nhưng không công khai tên các kênh Telegram liên quan.

Số lượng thực sự phụ nữ bị nhắm đến bởi bot deepfake có thể cao hơn nhiều so với 104.000. Sensity chỉ có thể đếm được hình ảnh được chia sẻ công khai, và bot cho phép người dùng tạo ra hình ảnh riêng tư. “Hầu hết sự quan tâm đến cuộc tấn công đều là đối với cá nhân tư,” Patrini nói. “Rất nhiều trong số đó là cho những người mà chúng ta không thể nhận ra.”

Do đó, rất có thể rất ít phụ nữ bị nhắm đến biết rằng những hình ảnh này tồn tại. Bot và một số kênh Telegram liên quan chủ yếu bằng tiếng Nga nhưng cũng cung cấp bản dịch tiếng Anh. Trong một số trường hợp, những hình ảnh tạo ra có vẻ chứa đựng các cô gái dưới 18 tuổi, Sensity thêm vào, nói rằng họ không có cách nào để xác minh điều này nhưng đã thông báo cho cảnh sát về sự tồn tại của chúng.

Không giống như các video deepfake khiêu dâm không tự nguyện khác, mà đã thu hút hàng triệu lượt xem trên các trang web khiêu dâm, những hình ảnh này không đòi hỏi kiến thức kỹ thuật để tạo ra. Quá trình này được tự động hóa và có thể được sử dụng bởi bất kỳ ai—nó đơn giản chỉ cần tải lên một hình ảnh lên bất kỳ dịch vụ nhắn tin nào.

Các hình ảnh được tạo tự động sau khi người dùng tải lên một hình ảnh mặc quần áo của nạn nhân lên bot Telegram từ điện thoại hoặc máy tính của họ. Phân tích của Sensity cho biết công nghệ này chỉ hoạt động trên hình ảnh của phụ nữ. Bot là miễn phí để sử dụng, tuy nhiên nó giới hạn người dùng tạo chỉ 10 hình ảnh mỗi ngày, và phải thanh toán để loại bỏ dấu nước trên hình ảnh. Phiên bản cao cấp có giá khoảng 8 đô la cho 112 hình ảnh, Sensity nói.

“Đây là một sự xác nhận buồn chán cho tất cả những nỗi sợ hãi mà những người trong chúng ta đã nghe về công nghệ này từ đầu,” Mary Anne Franks, một giáo sư luật tại Đại học Miami nói. Franks đã đưa ra một số ý kiến phản hồi về nghiên cứu của Sensity trước khi được công bố nhưng không liên quan đến kết quả cuối cùng của báo cáo. “Bây giờ bạn có thêm hiện thực đáng sợ hơn là không quan trọng liệu bạn có từng chụp hình nude hay chia sẻ bất kỳ dữ liệu cá nhân nào với ai, tất cả họ cần là một bức ảnh của khuôn mặt của bạn.”

Nghi rằng bot Telegram được cung cấp bởi một phiên bản của phần mềm DeepNude. Vice đã báo cáo về DeepNude vào tháng 6 năm 2019. Người sáng tạo ban đầu đã dừng ứng dụng vì lo ngại về cách nó có thể được sử dụng, nhưng không trước khi đạt 95.000 lượt tải xuống chỉ trong vài ngày.

Mã nguồn đã nhanh chóng được sao lưu và sao chép. Phần mềm DeepNude sử dụng học sâu và mạng gan đối địch sinh sản để tạo ra những hình ảnh cuối cùng theo quan điểm của nó về cơ thể của nạn nhân. Trí tuệ nhân tạo được huấn luyện trên một tập hợp hình ảnh của phụ nữ mặc quần áo và nude và có khả năng tổng hợp các bộ phận cơ thể trong hình ảnh cuối cùng.

“Đây hiện tại là điều gì đó mà cộng đồng đã tích hợp vào một ứng dụng nền tảng tin nhắn, và do đó họ đã đẩy mạnh tính khả dụng và sự dễ dàng để truy cập vào loại công nghệ này,” Patrini nói. Bot Telegram được cung cấp bởi các máy chủ bên ngoài, Sensity cho biết, có nghĩa là nó giảm rào cản đối với người dùng. “Một cách nào đó, nó thực sự là deepfake dưới dạng dịch vụ.”

Telegram không trả lời câu hỏi về bot và hình ảnh lạm dụng mà nó sản xuất. Báo cáo của Sensity cũng nói rằng công ty không phản hồi khi họ báo cáo về bot và các kênh một vài tháng trước. Công ty có một tập hợp hạn chế các điều khoản dịch vụ. Một trong ba điểm nói rằng người dùng không nên “đăng nội dung khiêu dâm bất hợp pháp trên các kênh, bot, vv. của Telegram có thể nhìn thấy công khai.”

Trong một bộ câu hỏi thường gặp mở rộng, Telegram nói rằng họ xử lý yêu cầu gỡ bỏ “nội dung công khai bất hợp pháp.” Nó thêm rằng các cuộc trò chuyện và nhóm trò chuyện trên Telegram là riêng tư, và công ty không xử lý yêu cầu liên quan đến chúng; tuy nhiên, các kênh và bot có sẵn công khai. Một phần về việc gỡ bỏ nói “chúng tôi có thể gỡ bỏ bot khiêu dâm.”

Trước khi bài viết này được xuất bản, kênh Telegram phát hàng ngày các bộ sưu tập hình ảnh deepfake được tạo ra bởi bot đã xóa tất cả các tin nhắn trong đó. Không rõ rằng những tin nhắn này đã bị xóa bởi ai.

Đối với loại hoạt động như vậy, thông thường có một số dữ liệu về người đã sử dụng bot và ý định của họ. Trong các kênh Telegram liên kết với bot, có một “chính sách bảo mật” chi tiết, và những người sử dụng dịch vụ đã trả lời các cuộc khảo sát tự chọn về hành vi của họ.

Một cuộc thăm dò ẩn danh được đăng trên kênh Telegram vào tháng 7 năm 2019 đã được hơn 7.200 người tham gia trả lời, trong đó 70% cho biết họ đến từ “Nga, Ukraine, Belarus, Kazakhstan và toàn bộ Liên Xô cũ.” Tất cả các khu vực khác trên thế giới có ít hơn 6% cổ phần thăm dò mỗi khu vực. Những người sử dụng bot cũng tự báo cáo đã tìm thấy nó từ mạng xã hội Nga VK. Báo cáo của Sensity cho biết họ đã tìm thấy một lượng lớn nội dung deepfake trên mạng xã hội này, và bot cũng có một trang web riêng trên trang này. Một người phát ngôn của VK nói rằng họ “không dung thứ cho hành vi như vậy trên nền tảng” và đã “chặn vĩnh viễn cộng đồng này.”

Một cuộc thăm dò riêng vào tháng 7 năm 2019 được 3.300 người tham gia tiết lộ động cơ của họ khi sử dụng bot. Nó hỏi, “Trước hết, bạn quan tâm đến việc tẩy trần ai?” Đa số áp đảo người tham gia, 63%, chọn lựa chọn “Những cô gái quen thuộc, mà tôi biết trong đời thực.” Người nổi tiếng và “ngôi sao” là loại thứ hai được chọn nhiều nhất (16%), “những người mẫu và người đẹp từ Instagram” là lựa chọn thứ ba với tám phần trăm.

Các chuyên gia lo ngại những hình ảnh loại này sẽ được sử dụng để nhục nhã và tống tiền phụ nữ. Nhưng khi công nghệ deepfake đã được mở rộng nhanh chóng, luật pháp không theo kịp và chủ yếu tập trung vào tác động chính trị trong tương lai của công nghệ này.

Kể từ khi deepfakes được phát minh vào cuối năm 2017, chúng chủ yếu đã được sử dụng để lạm dụng phụ nữ. Sự tăng trưởng trong năm qua đã tăng vọt, khi công nghệ cần thiết để tạo ra chúng trở nên rẻ hơn và dễ sử dụng hơn. Vào tháng 7 năm 2019, có 14.678 video deepfake trực tuyến, một nghiên cứu trước đây của Sensity phát hiện. Đến tháng 6 năm nay, con số này đã tăng lên 49.081. Gần như tất cả các video này đều có tính chất khiêu dâm và nhắm đến phụ nữ.

Vào tháng 8, MYTOUR đưa tin về cách video khiêu dâm deepfake đã trở nên phổ biến. Hơn 1.000 video lạm dụng được tải lên các trang web khiêu dâm lớn nhất thế giới mỗi tháng. Một video ngắn 30 giây sử dụng khuôn mặt của nữ diễn viên Emma Watson và được lưu trữ trên XVideos và Xnxx, cả hai đều thuộc sở hữu của cùng một công ty, đã được xem hơn 30 triệu lần. Công ty không phản hồi khi được yêu cầu bình luận vào thời điểm đó, trong khi xHamster xóa đi hàng chục video deepfake có hàng triệu lượt xem từ trang web của họ sau khi MYTOUR nhấn mạnh về các video này.

Sự đột phá của hình ảnh được tạo ra bởi bot đẩy lạm dụng deepfake vào vùng nguy hiểm mới. Bot Telegram không phải là ví dụ duy nhất về hệ thống DeepNude được sử dụng trong thực tế. Cửa hàng Google Play có các ứng dụng làm mờ các khu vực của các bức ảnh khiến người xem có cảm giác như họ không mặc quần áo hoặc nói rằng chúng sử dụng tia X để nhìn xuyên qua quần áo của người. Các trang web khác tính phí cho việc truy cập công nghệ deepfake - một trong số chúng thậm chí cung cấp dịch vụ đăng ký hàng tháng với giá 20 đô la.

Sensity tin rằng người đứng sau bot Telegram có thể đặt cơ sở tại Nga. Khi nhắn tin về bot, người tạo bot đã giảm bớt tác động mà công nghệ này đang gây ra. “Mọi thứ đều miễn phí. Nếu bạn quyết định sử dụng ứng dụng giải trí cho mục đích cá nhân, thì bạn chịu trách nhiệm về điều này, bạn phải chịu trách nhiệm về hành động của mình,” người tạo ẩn danh khẳng định. Chính sách bảo mật của bot khẳng định rằng hình ảnh được tạo ra bằng cách sử dụng bot là “một bản nhái giả mạo không được nhầm lẫn là thật [sic] hoặc liên quan đến bất kỳ người nào,” và hình ảnh được tạo ra “vì mục đích vui vẻ.”

Có nhiều phiên bản của mã nguồn DeepNude công khai trên nền tảng phần mềm của Microsoft là GitHub. Vào thời điểm viết, hai bộ mã nguồn DeepNude đã được cập nhật trong vòng một tuần qua. Tài liệu cho biết những người có kỹ năng kỹ thuật có thể sử dụng mã nguồn mà không có dấu nước và cung cấp các bản demo về cách vận hành hệ thống một cách tốt nhất.

Các phiên bản mã nguồn mở của mã DeepNude trên GitHub vẫn tồn tại mặc dù tổ chức trước đây đã loại bỏ chúng. Sau khi ứng dụng DeepNude xuất hiện lần đầu vào tháng 7 năm 2019, GitHub nói rằng nó vi phạm 'chính sách sử dụng chấp nhận được' của họ và đã loại bỏ một số tệp tin. Khi được hỏi về các tệp DeepNude vẫn còn trên nền tảng của mình, người phát ngôn GitHub nói rằng họ không kiểm duyệt nội dung được người dùng tải lên trừ khi họ nhận được khiếu nại. 'Chúng tôi không tán thành việc sử dụng GitHub để đăng tải nội dung khiêu dâm và cấm hành vi như vậy trong Điều Khoản Sử Dụng và Chính Sách Sử Dụng Chấp Nhận Của chúng tôi,' người phát ngôn của công ty nói. Vào thời điểm viết, tất cả các phiên bản của mã nguồn mở vẫn có thể truy cập trên trang web.

Sự tồn tại của công nghệ này, và việc thiếu hành động để ngăn chặn sự lan truyền của nó từ các công ty công nghệ, có thể gây tổn thương lâu dài cho phụ nữ và các cô gái, Franks nói. 'Nó nhất định sẽ ngăn chặn những gì bạn muốn nói, những gì bạn sẵn lòng làm, những rủi ro bạn có thể chịu, những loại công việc mà bạn sẽ nộp đơn. Đây là những cách mà chúng ta đang áp đặt hiệu ứng làm im lặng lên phụ nữ và cô gái.'

Câu chuyện này ban đầu xuất hiện trên MYTOUR UK.

Các Bài Viết Tuyệt Vời Hơn từ MYTOUR

• 📩 Muốn cập nhật tin tức về công nghệ, khoa học và nhiều hơn nữa? Đăng ký nhận bản tin của chúng tôi ngay!
• Trường học (và trẻ em) cần một sự cải thiện về không khí
• Câu chuyện thật về cuộc xâm nhập antifa tại Forks, Washington
• “The Wire” truyền cảm hứng cho một quả trứng rùa giả mạo để giám sát kẻ săn trộm
• Silicon Valley mở ví tiền cho Joe Biden
• Người ủng hộ QAnon không hoàn toàn như bạn nghĩ
• 🎮 MYTOUR Games: Nhận các mẹo mới nhất, đánh giá và nhiều hơn nữa
• 📱 Đang phân vân giữa các dòng điện thoại mới nhất? Đừng lo lắng—hãy xem hướng dẫn mua iPhone của chúng tôi và những dòng điện thoại Android ưa thích