Deepfake Porn là một vấn đề Nan giải cho 'Dilemma của kẻ đen tội lỗi'

Ngày 10 tháng 4 đã trở thành một ngày tồi tệ trong cuộc đời của ngôi sao game và YouTuber nổi tiếng Atrioc (Brandon Ewing). Trong lúc đang trực tiếp Twitch như mọi khi, cửa sổ trình duyệt của Ewing đã vô tình bị tiết lộ trước khán giả. Trong những khoảnh khắc đó, người xem đột nhiên đối diện với những video deepfake khiêu dâm dường như có sự tham gia của các YouTuber và game thủ nữ nổi tiếng QTCinderella và Pokimane - những người là đồng nghiệp và, theo hiểu biết của tôi, là bạn bè của Ewing. Không lâu sau đó, một người xem sắc tốt đã tải lên một bức ảnh chụp màn hình của cảnh đó lên Reddit, và vì vậy, scandal đã trở thành sự thật. 

Thuật ngữ 'deepfake' một cách tổng quát đề cập đến nội dung được chỉnh sửa bởi trí tuệ nhân tạo, thường là để đặt khuôn mặt của một người lên khuôn mặt của, ví dụ, một diễn viên trong một bộ phim hoặc đoạn video. Nhưng đáng tiếc, theo báo cáo của nhà báo Vice Samantha Cole, chức năng chính của nó đã làm phim khiêu dâm có sự tham gia của các nữ ngôi sao nổi tiếng, và có thể là điều đáng lo ngại hơn, để hình dung những ước mơ tình dục của bạn bè hoặc người quen. Với sự tinh vi và sẵn có ngày càng tăng, bất kỳ ai có một bức ảnh của khuôn mặt của bạn bây giờ đều có thể biến nó thành một bộ phim khiêu dâm. 'Chúng ta đều bị phá hủy', như Cole tóm tắt một cách chính xác. 

Đối với hầu hết mọi người, tôi tin rằng, có thể thấy rõ rằng Ewing đã phạm một loại hành vi không chấp nhận khi tiêu thụ phim khiêu dâm tưởng tưởng nhưng không chấp thuận của bạn bè. Thực sự, những ý kiến trên Reddit và những phản ứng mạnh mẽ (đúng đắn) từ phía phụ nữ mà khuôn mặt của họ được sử dụng trong những đoạn clip, chứng tỏ sự kinh tởm sâu sắc. Điều này là dễ hiểu, nhưng việc xác định đúng nơi phạm tội là một nhiệm vụ khó khăn đáng kể. Trên thực tế, nhiệm vụ đó đặt ra một vấn đề triết học đòi hỏi chúng ta phải xem xét lại không chỉ về khiêu dâm, mà còn về bản chất của trí tưởng tượng con người. Tôi gọi nó là 'dilemma của kẻ đen tội lỗi'. 

Một khía cạnh, có thể cho rằng bằng cách tiêu thụ nội dung, Ewing đang khuyến khích sự sản xuất và phổ biến của nó, điều này cuối cùng có thể gây tổn thương đến danh tiếng và sự phúc lợi của các nữ game thủ đồng đội của anh. Nhưng tôi nghi ngờ rằng quyết định trong mắt công chúng có lẽ đã nhẹ nhàng hơn nhiều nếu anh ấy tự sản xuất các video với mục đích cá nhân. Và ít người nhìn nhận việc anh ấy quên đóng tab là vấn đề chính. Tội ác, đó là, dường như nằm trong việc tiêu thụ chính của những video deepfake, chứ không phải trong những hiệu ứng xuôi dòng của việc làm đó. Tiêu thụ deepfakes là sai, không có điểm dừng, bất kể liệu những người 'đóng' trong đoạn clip hay bất kỳ ai khác có biết về nó hay không. 

Đồng thời, chúng ta cũng chắc chắn rằng ước mơ tình dục là đạo đức trung lập. Thực sự, không ai (trừ có lẽ là một số người theo đạo Công giáo cứng rắn) sẽ trách Ewing vì tạo ra hình ảnh khiêu dâm của QTCinderella trong tâm trí anh ấy. Nhưng sự khác biệt là gì, thực sự? Cả ước mơ và deepfake đều là hình ảnh ảo được tạo ra từ dữ liệu đầu vào trước đó, chỉ có một tồn tại trong đầu người, một cái khác trên màn hình. Đúng, cái sau có thể dễ dàng được chia sẻ hơn, nhưng nếu tội ác nằm trong việc tiêu thụ cá nhân, chứ không phải trong các ảnh hưởng bên ngoài, điều này nên là không liên quan. Vì vậy, đây là 'dilemma của kẻ đen tội lỗi': Chúng ta nghĩ rằng ước mơ tình dục là tốt miễn là chúng chỉ được tạo ra và giữ trong tâm trí của một người, và là đáng ghê tởm ngay khi chúng tồn tại trong não với sự trợ giúp của một biểu tượng hình ảnh hơi thực tế - nhưng chúng ta gặp khó khăn khi xác định bất kỳ sự khác biệt có tính chất đạo đức để chứng minh đánh giá này. 

Trong tương lai, có khả năng rằng điều này sẽ buộc chúng ta phải xem xét lại quan điểm đạo đức của chúng ta đối với cả deepfakes và ước mơ tình dục, ít nhất là trong mức độ chúng ta muốn duy trì tính nhất quán trong đạo đức của mình. Có hai hướng rõ ràng mà điều này có thể điều này có thể đi. 

Hướng đầu tiên là chúng ta đơn giản chấp nhận deepfakes khiêu dâm như một cách bình thường để tưởng tượng về tình dục, chỉ là chúng ta outsourcing một số công việc trước đây thường xuyên xảy ra trong não đến máy móc. Xét về nguồn cung khổng lồ của deepfakes khiêu dâm (đôi khi đáng kinh ngạc thực tế) và sự dễ dàng mà chúng có thể được tùy chỉnh theo sở thích cá nhân (bao lâu trước khi có một DALL-E cho khiêu dâm?), điều này có thể là một kết quả có thể tin được. Biết rằng người ta có thể sử dụng ảnh của bạn để tạo ra phim khiêu dâm tưởng tưởng có thể giống như biết rằng một số người có lẽ nghĩ về bạn (hoặc nhìn vào bức ảnh selfie Instagram mới nhất của bạn) khi họ tự sướng - không phải là một vấn đề lớn trừ khi họ nói với bạn trực tiếp. Ít nhất là, chúng ta có thể tưởng tượng rằng sự sản xuất deepfakes sẽ có cùng một địa vị như việc vẽ một bức tranh hết sức chân thực về ước mơ tình dục của một người - kỳ lạ, nhưng không đáng kinh tởm đạo đức. 

Hãy nghĩ về điều này như thế này: Chúng ta biết có bao nhiêu electron trong một nguyên tử hydrogen, và vì vậy chúng ta không bao giờ cần phải đặt câu hỏi đó nữa. Nhưng những câu hỏi như “Chúng ta nên là ai?”, “Cuộc sống con người tốt là gì?”, hoặc “Chúng ta có thể trách móc người khác về ảo tưởng của họ không?”, ngược lại, là những câu hỏi mà mỗi thế hệ cần phải đặt ra nhiều lần. Điều này bởi vì triết học đạo đức là một hoạt động mà chết ngay lập tức khi chúng ta dừng lại. Để thế giới đạo đức của chúng ta có ý nghĩa, chúng ta phải tự ý đánh giá lại, vì hoạt động này luôn phụ thuộc vào bối cảnh xã hội, công nghệ và văn hóa trong đó nó diễn ra. Vì vậy, ngay từ lúc chúng ta đưa ra một câu trả lời rõ ràng cho câu hỏi về lựa chọn ưu tiên từ quan điểm triết học đạo đức, triết học đạo đức chấm dứt.

Tất cả những điều này đưa chúng ta đến đâu trong mối quan hệ với Ewing, Pokimane và QTCinderella? Không có nghi ngờ gì về việc cảm giác của những người bị những video nhắm đến là thực. Và cá nhân tôi không thấy có lý do gì để nghi ngờ tính chân thành của sự xấu hổ và hối tiếc được thể hiện bởi Ewing. Nhưng cách chúng ta hiểu về tình hình mô phỏng đạo đức lại là một vấn đề khác. Và chúng ta nên mở cửa trái tim với việc, trong 20 năm, chúng ta có thể nghĩ khác về những điều này. Tất cả phụ thuộc vào cách chúng ta tiếp tục xây dựng và tái đánh giá thế giới đạo đức của mình. Một bước quan trọng là bước lùi lại và xem xét xem chính xác chúng ta có điều gì là không chấp nhận được về deepfakes.

Tôi nghĩ nơi tốt nhất để bắt đầu là đánh giá ngữ cảnh xã hội trong đó deepfakes được sử dụng, và so sánh điều này với ngữ cảnh xung quanh ảo tưởng tình dục. Ngày nay, rõ ràng rằng deepfakes, khác với ảo tưởng tình dục, là một phần của việc hủy hoại hệ thống công nghệ đối với phụ nữ một cách rất đặc biệt (hầu hết mọi deepfake khiêu dâm đều liên quan đến phụ nữ). Và hậu quả đạo đức của hệ thống này lớn hơn tổng số của từng phần riêng lẻ (các hành động tiêu biểu cá nhân). Ngược lại, ảo tưởng không có yếu tố giới tính—ít nhất là chúng ta không có bằng chứng đáng tin cậy về việc đàn ông tham gia nhiều hơn vào tưởng tượng tình dục so với phụ nữ—và trong khi nội dung của từng ảo tưởng có thể phản nữ quốc học, thì thể loại đó không phải vậy trong bản thân nó. Khía cạnh không đạo đức của hành động của Ewing chủ yếu nằm ở sự gây tổn thương cho những người được mô phỏng, nhưng ở việc tham gia vào một hệ thống hủy hoại phụ nữ được hỗ trợ kỹ thuật, một hệ thống đại diện cho cái gì đó lớn hơn tổng số của từng phần.

Mặc dù đây chỉ là bắt đầu của một câu trả lời, nhưng nó không phải là câu trả lời đó. Cách công nghệ được sử dụng và tích hợp vào giao thức xã hội và văn hóa của chúng ta sẽ tiếp tục thay đổi. Điều Ewing đã làm sai không thể được trả lời một lần cho tất cả. Vì vào ngày mai, chúng ta sẽ cần phải đặt câu hỏi lại.