Buzz
Tại sự kiện ra mắt Pixel 9 Series, Google đã công bố ứng dụng Pixel Studio và tính năng Reimagine (các phần mềm sử dụng AI để tạo hình ảnh từ mô tả văn bản). Theo thông tin từ 9to5Google (21/8/2024), Google hiện chưa áp dụng các hạn chế cho các công cụ tạo ảnh bằng AI của mình, dẫn đến việc người dùng có thể lợi dụng để thêm các yếu tố đáng sợ như xác chết, tai nạn, thảm họa vào ảnh với mức độ chân thực cao.
Nếu người dùng cố tình sử dụng phần mềm Pixel Studio để thực hiện các hành vi xấu, họ có thể tạo ra những hình ảnh không thích hợp và phát tán chúng trên mạng (ví dụ như hình ảnh một nhân vật hoạt hình cầm súng AK47). Nguồn: Digital Trends.
Người dùng khai thác lỗ hổng của Pixel Studio và Reimagine để tạo ra hình ảnh không phù hợp
Theo thông tin từ trang Digital Trends, tác giả đã dễ dàng 'lừa' Pixel Studio tạo ra hình ảnh các nhân vật hoạt hình nổi tiếng tham gia vào các hoạt động không thích hợp như: Sử dụng súng, ma túy, rượu, và thậm chí là… xả súng ở trường học. Digital Trends cho rằng mặc dù Pixel Studio không tự động tạo ra những hình ảnh này, nhưng nhiều người dùng có thể thử nghiệm phần mềm theo cách tiêu cực. Google cho biết Pixel Studio được trang bị các biện pháp kiểm tra an toàn, nhưng vẫn có một số hạn chế. Phần mềm này không tạo ra hình ảnh con người và Google đang điều chỉnh AI để khắc phục vấn đề.
Tổng hợp các hình ảnh nhân vật hoạt hình thực hiện các hành động không phù hợp như: Uống rượu, hút thuốc, cầm súng,… Nguồn: Digital Trends.
Trang The Verge cũng bày tỏ lo ngại về tính năng Reimagine. Chỉ với vài thao tác đơn giản và lựa chọn từ ngữ phù hợp, Reimagine có thể biến một bức ảnh bình thường thành cảnh tai nạn xe hơi, bom khói ở nơi công cộng và thậm chí là ga trải giường che phủ xác chết đẫm máu. The Verge lo ngại vì Pixel Studio và Reimagine được tích hợp sẵn trong dòng flagship Pixel 9 Series, cho phép bất kỳ người dùng nào cũng có thể tạo ra những hình ảnh giả với mục đích xấu mà không cần kiến thức chuyên môn về chỉnh sửa ảnh.
So sánh giữa hình ảnh gốc (bên trái) và hình ảnh do AI tạo ra với đám cháy nhỏ thêm vào (bên phải). Nguồn: The Verge.
So sánh giữa hình ảnh gốc (bên trái) và hình ảnh do AI tạo ra với một vụ tai nạn xe nghiêm trọng (bên phải). Nguồn: The Verge.
So sánh giữa hình ảnh gốc (bên trái) và hình ảnh do AI tạo ra với một vụ tai nạn máy bay thêm vào (bên phải). Nguồn: The Verge.Hiện tại, Google chỉ áp dụng hệ thống gắn thẻ SynthID cho hình ảnh được tạo ra bởi Pixel Studio, còn ảnh chỉnh sửa bằng Reimagine thì không có thẻ. Điều này cho phép người dùng dễ dàng phát tán hình ảnh giả mạo từ Reimagine mà không bị phát hiện.
Các ý kiến cá nhân của tôi
Tôi không thể phủ nhận rằng Pixel Studio và Reimagine mang lại nhiều tiện ích cho người dùng, đặc biệt là trong việc tạo hình ảnh chỉ với vài thao tác đơn giản. Tuy nhiên, nếu Google không có những biện pháp phù hợp cho các phần mềm AI của mình, tình trạng lan truyền thông tin giả trên internet có thể trở nên nghiêm trọng hơn. Các hình ảnh từ Pixel Studio và Reimagine có độ chân thực cao, khiến người dùng khó nhận ra chúng là sản phẩm của trí tuệ nhân tạo.
Google có thể cần xem xét việc đào tạo và bổ sung các hạn chế cho các phần mềm tạo hình ảnh bằng AI của mình (hình minh họa: Pixel 9 Pro Fold đang sử dụng Pixel Studio). Nguồn: Digital Trends.
Có lẽ Google đang triển khai các tính năng AI cho sản phẩm của mình quá nhanh (bao gồm cả phần cứng và phần mềm). Công ty dường như chưa có những quy định cụ thể để điều chỉnh hệ thống AI của mình. Trước đó, công cụ Google AI Overviews (tháng 5/2024) cũng đã đưa ra những gợi ý tìm kiếm sai lệch và thậm chí có thể gây nguy hiểm cho người dùng.
