Buzz
Một người đàn ông Trung Quốc bị bắt vì sử dụng ChatGPT để lan truyền thông tin giả về vụ tai nạn tàu hỏa khiến 9 người thiệt mạng.
Cảnh sát Trung Quốc mới đây đã bắt giữ một nghi phạm, một người đàn ông đã sử dụng trí tuệ nhân tạo để tuyên truyền thông tin sai lệch về một vụ tai nạn tàu hỏa và lan truyền thông tin này trên nhiều tài khoản khác nhau. Đây được biết đến như vụ bắt giữ đầu tiên liên quan đến việc lạm dụng ChatGPT ở Trung Quốc.
Cảnh sát ở tỉnh Cam Túc phía tây bắc cho biết, nghi phạm có tên Hong đã bị bắt giữ vì 'sử dụng công nghệ trí tuệ nhân tạo để tạo ra thông tin sai lệch và không chính xác'.
Sự việc này đã được phát hiện bởi Cục An ninh Mạng Quận Kongtong sau khi phát hiện 20 tài khoản trên mạng xã hội Baijiahao của Baidu lan truyền thông tin giả về một vụ tai nạn tàu hỏa làm 9 người thiệt mạng. Những bài viết này đã thu hút hơn 15.000 lượt nhấp chuột vào thời điểm đó.
Cục Cảnh sát tỉnh Cam Túc thông báo rằng Hong đang bị nghi ngờ phạm tội 'lan truyền thông tin sai lệch và gây hoang mang dư luận', một tội danh có thể bị phạt tối đa là 5 năm tù. Tuy nhiên, trong những trường hợp đặc biệt nghiêm trọng như này, kẻ phạm tội có thể bị kết án 10 năm tù và phải nộp thêm tiền phạt.
Đây là vụ bắt giữ đầu tiên tại Trung Quốc, sau khi các quy định về việc sử dụng công nghệ “deepfake” được áp dụng chính thức từ tháng 1 do Chính phủ Bắc Kinh ban hành.
Cảnh sát cho biết họ đã tìm ra nguồn gốc của bài đăng từ một công ty thuộc sở hữu của Hong, công ty này hoạt động các nền tảng truyền thông cá nhân được đăng ký tại Thâm Quyến, tỉnh Quảng Đông, miền nam Trung Quốc. Sau khoảng 10 ngày, một đội cảnh sát đã tiến hành kiểm tra nhà cửa và máy tính của Hong và bắt giữ anh.
Hong đã chia sẻ rằng với kinh nghiệm của mình, anh ta có thể tránh qua kiểm tra thông tin người dùng của mạng xã hội Baijiahao để tạo ra nhiều tài khoản. Anh ta đã sử dụng thông tin phổ biến nhất ở Trung Quốc trong những năm qua vào ChatGPT để tạo ra các phiên bản khác nhau của câu chuyện giả mạo và đăng tải chúng lên tài khoản Baijiahao của mình.
Mặc dù ChatGPT không thể trực tiếp hoạt động ở Trung Quốc vì hạn chế về IP, nhưng người dùng Trung Quốc vẫn có thể truy cập dịch vụ bằng cách sử dụng VPN.
Trung Quốc là một trong số những quốc gia áp dụng các biện pháp và công nghệ để giám sát chặt chẽ các phương tiện truyền thông xã hội, đặc biệt là Sina Weibo với hơn 592 triệu người dùng nhằm ngăn chặn sự lan truyền của thông tin sai lệch.
Cục An ninh Mạng Trung Quốc đã từng cảnh báo rằng việc phát triển và sử dụng công nghệ deepfake mà không có sự kiểm soát có thể dẫn đến việc lạm dụng nó trong các hoạt động tội phạm như lừa đảo trực tuyến hoặc lan truyền thông tin giả.
Sự kết hợp giữa deepfake và ChatGPT đã trở nên phổ biến trong thời gian gần đây, và điều này được các cơ quan chức năng Trung Quốc lên tiếng cảnh báo về mức độ nguy hiểm của việc lạm dụng cả hai công nghệ này.
