Những mối đe dọa an ninh từ công nghệ AI tạo sinh

Trong bối cảnh của sự đổi mới và sáng tạo hiện nay, cùng với sự tiến bộ không ngừng của trí tuệ nhân tạo (AI), công nghệ AI tạo sinh (generative AI) đã mở ra một tầm nhìn mới, với khả năng tạo ra nội dung sáng tạo và đa dạng. Tuy nhiên, AI tạo sinh cũng giống như

Sáng tạo mới nhờ vào công nghệ AI tạo sinh

Tạo ra văn bản, hình ảnh và âm thanh đến các hình thức sáng tạo khác, AI tạo sinh đã vượt qua các ranh giới truyền thống và mở rộng phạm vi khả năng sáng tạo của con người. Điều này là nhờ vào khả năng của AI tạo sinh có thể “học” từ các dữ liệu đầu vào để tạo ra những sản phẩm mới và có tính sáng tạo. Chính vì vậy, AI tạo sinh đã nhanh chóng trở thành một trong những xu hướng quan trọng trong lĩnh vực AI ngày nay, với khả năng tạo ra nội dung sáng tạo và đa dạng.

Cách hoạt động của AI tạo sinh tập trung vào việc tìm ra các mẫu và xu hướng từ dữ liệu đầu vào, sau đó sử dụng những thông tin này để tạo ra nội dung mới có thể hoặc không giống với dữ liệu gốc. Kiến trúc mô hình GAN (Generative Adversarial Network) là một phần quan trọng của AI tạo sinh, bao gồm hai mô hình cạnh tranh: Mô hình tạo sinh và mô hình phân biệt. Dựa trên dữ liệu đào tạo có sẵn, mô hình tạo sinh thực hiện việc tạo ra nội dung với mục tiêu chặt chẽ hóa thông tin để đạt được sự tương đồng cao với các ví dụ trong tập dữ liệu đó.

Tiếp đến, một mô hình phân biệt được áp dụng để đánh giá kết quả tạo ra bằng cách đo lường khả năng mẫu thử nghiệm thuộc về tập dữ liệu gốc, thay vì xuất phát từ mô hình tạo sinh. Từ những kết quả kiểm tra này, mô hình liên tục điều chỉnh và tối ưu hóa để nội dung tạo ra có khả năng tương đương với dữ liệu đào tạo ban đầu của mô hình tạo sinh.

Qua những hoạt động này, trong vòng một năm trở lại đây, AI tạo sinh đã trở thành một công cụ phổ biến trên Internet. Cụ thể, việc ra mắt , một công cụ AI tạo sinh mạnh mẽ được OpenAI giới thiệu vào tháng 11/2022, đã gây chấn động trong cộng đồng công nghệ AI và học máy. Ngoài ra, sự tiến bộ nhanh chóng trong các công nghệ AI như xử lý ngôn ngữ tự nhiên đã làm cho AI tạo sinh trở nên dễ tiếp cận với người dùng và những người sáng tạo nội dung quy mô lớn.

Theo đó, các tập đoàn công nghệ lớn đã nhanh chóng tham gia vào cuộc đua này. Cụ thể, Google, Microsoft, Amazon, Meta và nhiều tên tuổi khác đều ra mắt các công cụ AI tạo sinh riêng trong vài tháng ngắn ngủi. Một báo cáo mới từ công ty phần mềm đám mây Salesforce (Mỹ) đã tiết lộ rằng, có tới 67% các nhà quản lý cấp cao trong lĩnh vực công nghệ thông tin đang đặt AI tạo sinh vào danh sách ưu tiên cho phát triển doanh nghiệp của họ trong khoảng thời gian 18 tháng tới, trong đó 1/3 (33%) xem đây là mục tiêu quan trọng hàng đầu.

Có thể nói, sự phổ biến của AI tạo sinh trong thời gian gần đây đã mở ra cơ hội mới cho nhiều lĩnh vực, như sáng tạo nghệ thuật, tiếp thị và giáo dục. Khả năng tạo ra nội dung tự động, nhanh chóng và có tính sáng tạo đã giúp các ngành công nghiệp tận dụng hiệu quả hơn sự phát triển của công nghệ này. Thậm chí, ngay cả việc tạo ra nội dung quảng cáo hấp dẫn đến việc tạo ra hình ảnh thiết kế mới, AI tạo sinh đã góp phần thay đổi cách mọi người tương tác với các khía cạnh khác nhau của cuộc sống hàng ngày.

Nguy cơ từ AI tạo sinh

Mặc dù AI tạo sinh mang lại những tiềm năng vượt trội trong việc sáng tạo và tạo nội dung, nhưng đồng thời cũng mở ra những cơ hội mà tin tặc và các tác nhân đe dọa có thể lợi dụng để thực hiện các cuộc tấn công mạng độc hại. Những rủi ro phát sinh từ AI tạo sinh là tạo ra nội dung giả mạo, gây ảnh hưởng đến tính xác thực, sự tin cậy và quyền riêng tư của người dùng. Điều này đang trở thành một thách thức lớn đối với an ninh thông tin và quyền riêng tư.

Một trong những cách sử dụng chính của công nghệ AI tạo sinh trong tấn công mạng là công nghệ Deepfake. Theo đó, AI tạo sinh tạo ra các video, hình ảnh và âm thanh giả mạo với độ chân thực đáng kể. Điều này có thể dẫn đến việc tạo ra thông tin sai lệch, xuyên tạc thông điệp và gây hiểu lầm đối với công chúng; thậm chí có thể ảnh hưởng đến danh tiếng, gây hoang mang trong xã hội và gây ra hậu quả nghiêm trọng.

AI tạo sinh có khả năng phát sinh các tin nhắn, email và thậm chí cuộc trò chuyện tự động mô phỏng giọng điệu và ngôn ngữ của đối tượng. Điều này khiến các cuộc tấn công lừa đảo trở nên khó phát hiện hơn, dễ dàng đánh lừa người nhận và tiết lộ thông tin cá nhân quan trọng.

Công nghệ AI tạo sinh cũng có thể được dùng để tạo ra các loại mã độc, mã nguồn và chương trình độc hại. Kẻ tấn công có thể tạo ra các phần mềm độc hại mới tinh vi, với khả năng che giấu và tránh phát hiện bởi các công cụ bảo mật. Việc tạo ra các email và trang web giả mạo bằng AI tạo sinh làm cho các cuộc tấn công lừa đảo trở nên phức tạp và khó nhận biết hơn.

Đối với lĩnh vực quảng cáo, AI tạo sinh đang góp phần làm tăng số vụ gian lận quảng cáo. Báo cáo mới nhất từ DoubleVerify (DV - nền tảng hàng đầu về đo lường, dữ liệu và phân tích truyền thông kỹ thuật số) đã chỉ ra rằng, số vụ gian lận và các biến thể gian lận mới đã tăng 23% so với năm trước, đặc biệt là tại khu vực APAC.

54% bên mua quảng cáo tại APAC cho rằng, tình trạng gia tăng các nội dung chất lượng thấp và các trang MFA (Made-For-Advertising) đang đe dọa nghiêm trọng hệ sinh thái kỹ thuật số. Các trang MFA thường giảm 7% hiệu quả quảng cáo hiển thị và 28% đối với quảng cáo video so với các kênh khác.

Mặc dù AI tạo sinh mang lại những tiềm năng lớn, nó cũng gây ra những mối đe dọa nghiêm trọng đối với an ninh thông tin và sự riêng tư. Việc lợi dụng AI tạo sinh để tạo ra thông tin giả mạo, thực hiện các cuộc tấn công lừa đảo và gia tăng tình trạng gian lận quảng cáo đang là mối quan ngại lớn.

Chuyên gia an ninh mạng khuyến cáo người dùng và doanh nghiệp nên chú ý bảo vệ dữ liệu cá nhân. Việc chia sẻ thông tin cần được thực hiện cẩn thận và thông minh, đảm bảo rằng các biện pháp bảo mật đã được triển khai đầy đủ. Sự hợp tác giữa cá nhân, doanh nghiệp và chính phủ sẽ đóng vai trò quan trọng trong việc phát triển bền vững của công nghệ AI tạo sinh.