Sử dụng trí tuệ nhân tạo giả giọng người thân để lừa đảo: 2,4 triệu người đã bị lừa 'núi tiền' tương đương với hơn 200.000 tỷ đồng

Một cặp vợ chồng già ở Canada đã bị lừa 21.000 USD sau khi nhận được cuộc gọi từ một người tự xưng là luật sư của con trai họ. Người luật sư này nói rằng con trai của họ đang ngồi tù vì gây ra một vụ tai nạn xe hơi. Anh Benjamin Perkin, người con trai, chia sẻ với The Washington Post rằng, người gọi đã sử dụng một giọng nói do trí tuệ nhân tạo tạo ra nghe giống hệt như bản thân anh nói chuyện điện thoại với bố mẹ mình để đòi tiền. Sau cuộc gọi giả danh bằng trí tuệ nhân tạo, vị luật sư gọi lại cho cha mẹ và trao đổi cần 21.000 USD chi phí pháp lý. Anh Perkin chia sẻ, giọng nói rất giống như bản thân nói chuyện và khiến bố mẹ thực sự tin rằng họ đã nói chuyện với anh. Ngay lập tức, cha mẹ của anh đã gom góp tiền mặt và gửi tiền cho kẻ lừa đảo thông qua hệ thống Bitcoin. Cha mẹ của anh Perkin sau đó nhận thấy cuộc gọi có vẻ gì đó kỳ lạ nhưng chỉ khi đến tối có thể liên lạc với con trai, họ mới biết đã bị lừa. Anh Perkin cho biết, gia đình anh đã trình báo cảnh sát Canada, nhưng để đòi lại số tiền này rất khó vì khoản tiền được gửi đi thông qua Bitcoin, không có giao dịch ghi chép, không bảo hiểm. The Washington Post cho rằng, kẻ lừa đảo đã tìm thấy những video của anh Perkin trên Youtube và dùng trí tuệ nhân tạo để có thể tạo ra giọng nói gần giống với anh. Business Insider nhận định, sự phát triển của các công cụ trí tuệ nhân tạo đã diễn ra mạnh mẽ cùng với đó số vụ lừa đảo mạo danh cũng tăng lên đồng thời. Business Insider cho biết, theo số liệu thống kê của Uỷ ban thương mại Liên bang Hoa Kỳ, năm 2022 đã có hơn 2,4 triệu người Mỹ báo cáo mình bị lừa đảo cùng với tống số tiền 8,8 tỷ USD (hơn 200.000 tỷ đồng). Hany Farid, giáo sư tại Đại học California ở Berkeley, cho biết mặc dù tồn tại nhiều hình thức lừa đảo, nhưng về cơ bản, chúng sẽ thuyết phục nạn nhân gửi tiền vì người thân của họ đang gặp khó khăn. Nhưng chính công nghệ giọng nói được tạo ra bởi trí tuệ nhân tạo khiến mưu mẹo trở nên thuyết phục hơn. Ông Farid cho biết, phần mềm tạo giọng nói trí tuệ nhân tạo đã phân tích rất kỹ giọng nói của một người trở dựa trên tuổi tác, giới tính và sự khác biệt của giọng nói, đồng thời tìm kiếm cơ sở dữ liệu khổng lồ về các giọng nói để tìm những giọng nói tương tự và dự đoán các mẫu. Sau đó, trí tuệ nhân tạo có thể tạo ra một giọng nói tương tự với cùng cao độ, âm vực và âm thanh riêng lẻ của một người. Tuy nhiên, ông Farid cho biết, hầu hết trí tuệ nhân tạo dựa trên dữ liệu có từ các mạng xã hội như YouTube, podcast, quảng cáo, video TikTok, Instagram hoặc Facebook để tạo ra giọng nói.