Tin An Ninh Trong Tuần: ChatGPT Tiết Lộ Dữ Liệu Nhạy Cảm Khi Được Yêu Cầu Lặp 'Thơ' Mãi Mãi

Chiến lược tái ủy quyền quyền giám sát chính phủ Mỹ, được biết đến với tên gọi là “Mục 702,” đã leo thang trong Quốc hội Mỹ tuần này, khi các tổ chức nhân quyền báo động về hậu quả của chương trình và khả năng gia hạn của nó. Một cuộc điều tra của MYTOUR trên hơn 100 kênh Telegram bị hạn chế đã chỉ ra rằng các lệnh cấm của ứng dụng trò chuyện về cuộc sống đều không hiệu quả hoặc không đủ. Và nền tảng quản lý danh tính Okta thừa nhận tuần này rằng một vụ vi phạm an ninh trước đây được cho là ảnh hưởng đến 1% khách hàng của mình thực sự ảnh hưởng đến 100%.

Phân tích cho thấy rằng các chatbot tùy chỉnh của OpenAI, được biết đến là GPTs, có thể bị thao túng để rò rỉ dữ liệu đào tạo và thông tin riêng tư khác. Nguy cơ về việc mất nguồn lực cho nghiên cứu về bạo lực bằng súng tại Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh Hoa Kỳ đang rơi vào tình trạng rủi ro khi Đảng Cộng hòa quietly làm việc để loại bỏ sự hỗ trợ. Công ty drone tự động Anduril của Palmer Luckey đang tìm kiếm các đổi mới trong nguồn năng lượng phản ứng và trí tuệ nhân tạo để cải thiện những thiết bị chuyển động chiến đấu này—có thể là tốt hoặc xấu. Và quyền kiểm soát lâu dài của chính phủ Ấn Độ đối với tin tức đài phát thanh đang mang lại lợi thế quan trọng cho Thủ tướng Narendra Modi khi cuộc bầu cử đang đến gần.

Nếu bạn muốn làm một chút việc dọn dẹp số hóa vào cuối tuần này, chúng tôi có hướng dẫn để làm cho tìm kiếm web của bạn an toàn và riêng tư hơn, mẹo để đảm bảo tài khoản Google của bạn duy trì hoạt động và không bị xóa, cập nhật phần mềm bạn cần cài đặt ngay bây giờ, và thông tin về tính năng NameDrop của Apple trên iOS 17. Một gợi ý nhanh: Ngay cả khi được kích hoạt mặc định, nó vẫn an toàn và vẫn yêu cầu đăng ký cho mỗi lần sử dụng.

Nhưng chờ đã, còn nhiều hơn. Mỗi tuần, chúng tôi tổng hợp tin tức về an ninh và quyền riêng tư mà chúng tôi không đề cập sâu vào. Nhấn vào các tiêu đề để đọc toàn bộ câu chuyện và giữ an toàn khi sử dụng internet.

ChatGPT Phun Ra Dữ Liệu Nhạy Cảm Khi Yêu Cầu Lặp Lại 'Thơ' hoặc 'Sách' Mãi Mãi

Các nhà phê bình của các công cụ AI sinh sáng như ChatGPT lập luận rằng chúng chỉ là máy phun lại nội dung của người khác như 'nghĩ' của chúng. Những người ủng hộ AI đối lập rằng không, các hệ thống như các mô hình ngôn ngữ lớn đang đọc tất cả những từ ngữ đó để học từ chúng như 'dữ liệu đào tạo,' giống như con người. Nhưng hóa ra, việc lừa AI để bắn ra dữ liệu đào tạo của nó, nguyên văn, là điều kỳ quặc nhưng dễ dàng với những kỹ thuật phù hợp—như yêu cầu nó lặp lại từ 'thơ' đến vô cùng.

Các nhà nghiên cứu từ Google DeepMind, Đại học Washington, Đại học California, Berkeley, và các trường đại học khác tuần này đã tiết lộ rằng họ đã tiết lộ một loạt các lỗ hổng trong ChatGPT mà họ gọi là một 'tấn công phân kỳ.' Khi họ chỉ cần yêu cầu nó 'lặp lại từ 'thơ' mãi mãi' hoặc 'lặp lại từ 'sách' mãi mãi,' công cụ AI sẽ bắt đầu bằng cách lặp lại từ đó hàng trăm lần. Nhưng cuối cùng, nó sẽ trôi vào văn bản khác, thường bao gồm các chuỗi dài từ văn bản dữ liệu đào tạo như mã, đoạn văn, và thậm chí thông tin cá nhân có thể nhận biết được—ví dụ như tên, địa chỉ email và số điện thoại của người dùng.

Các Thành viên Băng Ransomware Bị Bắt Khắp Ukraine

Trong một cuộc truy cứu lớn trải rộng qua nhiều thành phố Ukraina, ít nhất năm thành viên chủ chốt của một băng ransomware đã bị bắt giữ trong tuần này trong các đợt đột kích được phối hợp bởi Europol cùng với các đặc vụ an ninh từ Ukraina, Hoa Kỳ, Canada, Hà Lan và các quốc gia châu Âu khác. Các thành viên của nhóm bị buộc tội triển khai nhiều biến thể ransomware bao gồm LockerGoga, Hive, MegaCortex và Dharma. Theo cảnh sát Ukraina, nhóm này được cáo buộc đã gây thiệt hại ít nhất 82 triệu đô la trong các cuộc tấn công đã mã hóa hơn một nghìn máy chủ trên các mạng của nạn nhân trong suốt năm qua.

Quan chức An ninh Mạng Ukraina Bị Giữ trong Vụ Án Tham Nhũng

Trong một loại vụ án tội phạm Ukraina rất khác, cảnh sát Ukraina trong tuần này đã giữ ông Viktor Zhora, phó giám đốc Cơ quan Dịch vụ Truyền thông Đặc biệt của Ukraina, cơ quan tập trung vào an ninh mạng. Zhora, cùng với giám đốc cơ quan, bị buộc tội tham gia vào một kế hoạch tham nhũng triệu đô la. Mặc dù tham nhũng đã lâu đã là vấn đề của chính phủ và quân đội Ukraina, nhưng cáo buộc chống lại Zhora — và việc giữ ông trong tuần này — đã gửi sóng shock qua cộng đồng an ninh mạng toàn cầu, nơi Zhora là một nhân vật nổi bật và thường xuyên là gương mặt công cộng của phòng ngự an ninh mạng Ukraina. Ví dụ, vào tháng 11, Zhora là diễn giả chính tại hội nghị nổi tiếng Cyberwarcon của các nhà nghiên cứu an ninh ở Arlington, Virginia. Zhora được phóng thích trên bảo lãnh vào cuối tuần. Khi các cáo buộc chống lại ông được thông báo, ông nói với TechCrunch rằng ông sẽ “bảo vệ tên và danh tiếng của mình trong một tòa án.”

Người Sáng lập Hacking Team Bị Báo Cáo Về Tội Giết Người Cố Ý Của Thành Viên Gia Đình

Theo đúng chủ đề của tuần này về tội ác và trừng phạt (được cho là), David Vincenzetti, người sáng lập của công ty thuê hacker Hacking Team, đã bị bắt giữ vào cuối tuần qua vì cáo buộc đâm và cố ý giết người trong gia đình, TechCrunch đưa tin dựa trên các bài báo trên nhiều phương tiện truyền thông bằng tiếng Ý. Theo một trong những tờ báo đó, Il Giorno, nạn nhân đang thăm Vincenzetti để chăm sóc anh ta do vấn đề tâm lý của anh ta. Khi Vincenzetti xuất hiện trước một thẩm phán, anh ta được cho là đã đưa ra một tuyên bố bị lạc hậu, khiến thẩm phán yêu cầu công tố viên điều tra sức khỏe tâm thần của anh ta, theo La Stampa. Các cáo buộc báo cáo có thể gợi ý một kết thúc u ám cho câu chuyện của một người đàn ông có một sự nghiệp u ám, người đã giúp khởi động một ngành công nghiệp của những binh sĩ mạng như NSO Group, Appin, CyberRoot, và BellTroX.

Cập nhật lúc 12 giờ trưa, ngày 2 tháng 12 năm 2023, với một thông tin về tin tặc Iran xâm nhập cơ sở hạ tầng quan trọng của Hoa Kỳ.