Buzz
Một người đàn ông Hàn Quốc bị tống giam sau khi dùng các chat bot AI để tạo ra hình ảnh khiêu dâm về trẻ em.
Văn phòng công tố và Tòa án quận Busan cho biết một đối tượng đàn ông (tên không rõ, khoảng 40 tuổi) bị kết án hai năm rưỡi tù giam vì vi phạm Luật Bảo vệ Trẻ em và Thanh thiếu niên khi sử dụng công nghệ AI để sản xuất hình ảnh khiêu dâm.
Theo CNN, người đàn ông này đã sử dụng từ khóa 'trẻ em', '10 tuổi' để tạo ra những hình ảnh chứa nội dung nhạy cảm. Rất may những hình ảnh này không được phát tán trước khi bị cảnh sát thu giữ.
Sự việc xảy ra khi chính phủ trên toàn cầu đang cố gắng kiểm soát việc sử dụng trí thông minh nhân tạo, sau những vấn đề liên quan đến bản quyền, an ninh quốc gia và quyền riêng tư trong nội dung 18+.
Một thị trấn nhỏ ở Tây Ban Nha đã bắt đầu điều tra sau khi những hình ảnh 18+ của những cô gái chưa đủ tuổi được tạo ra bởi trí thông minh nhân tạo lan truyền. Hơn 20 cô gái từ 11 đến 17 tuổi đã trở thành nạn nhân tại Almendralejo, vùng Extremadura ở phía Tây.
Các hình ảnh deepfake được cho là được tạo bởi ứng dụng Fabricoff, cho phép người dùng 'lột sạch' trang phục miễn phí từ những bức ảnh gốc chủ yếu lấy từ các tài khoản mạng xã hội.
Ban đầu, công nghệ Deepfake được áp dụng để tạo ra các video giải trí như thay đổi khuôn mặt của các diễn viên nổi tiếng hoặc biến đổi giọng nói của nhân vật nổi tiếng để tạo ra những video thú vị.
Tuy nhiên, công cụ này đã dần trở nên dễ dàng tiếp cận hơn, dẫn đến việc sử dụng Deepfake gây ra nhiều hậu quả nghiêm trọng trong những năm gần đây.
Deepfake là một công nghệ rất tiên tiến và tiềm năng, nhưng nếu không sử dụng đúng cách, nó có thể trở thành một vũ khí nguy hiểm có thể thay đổi cả nhân loại.
