Mỹ chấn động vì nhầm lẫn kẻ cướp ngân hàng: Tên phạm nhân khiến cảnh sát 'mơ màng' là một công nghệ đang được hàng triệu người dùng

Ít ai biết rằng, một công nghệ đang ngày càng phổ biến hiện nay ẩn chứa 'bí mật đen' đáng sợ.

Trường hợp nhầm lẫn gây xôn xao

Vào năm 2016, Mỹ chấn động khi Steve Talley, một người đàn ông từ bang Colorado, bị lực lượng cảnh sát đặc nhiệm Mỹ (SWAT) 'đột kích' vì công nghệ nhận diện khuôn mặt xác định anh là tên cướp ngân hàng hàng loạt.

Sự tương đồng về khuôn mặt với tên cướp thực sự, và việc sống gần ngân hàng bị cướp chỉ 0,1 dặm khiến Talley khó lòng chứng minh vô tội của mình.

Sau vài tháng bị giam giữ trái phép, Talley chỉ được thả ra sau khi chiến đấu gay gắt. Nhưng vào lúc này, anh đã mất nhà, mất việc và không thể tìm việc mới vì 'tiền án'. Các hóa đơn y tế khiến anh vỡ nợ và trở thành một người vô gia cư.

Người đàn ông này vẫn bị ám ảnh bởi lời đàm tiếu, đến khi một nhân viên ngân hàng bị cướp quyết định làm chứng trước tòa rằng Talley không phải là tên cướp trong vụ việc đó.

Thuật toán tự động của công nghệ nhận diện hình ảnh và đội ngũ kiểm định được đào tạo kém đã hủy hoại cuộc sống của một con người.

Công nghệ gây tranh cãi

Các chuyên gia công nghệ nhận diện khuôn mặt cho biết, khả năng nhận dạng sai sót thường tăng khi cơ sở dữ liệu nhận dạng khuôn mặt càng lớn. Khi có nhiều khuôn mặt trùng khớp, rủi ro của việc nhầm lẫn giữa các khuôn mặt giống nhau càng cao.

Ước tính cơ sở dữ liệu của FBI hiện nay lưu trữ tới hơn 640 triệu bức ảnh khuôn mặt của con người.

Con số này có vẻ lớn, nhưng đối với các công ty tư nhân, bộ dữ liệu này không đáng kể. FBI thu thập hình ảnh từ các nguồn chính thức, trong khi các công ty tư nhân có thể thu thập hình ảnh trực tiếp từ mạng xã hội mà không gặp trở ngại.

Ví dụ, công ty Clearview AI có trụ sở tại New York đã thu thập khoảng 3 tỷ hình ảnh người dùng từ các mạng xã hội như Facebook, Twitter, sau đó cung cấp bộ dữ liệu cho hàng trăm cơ quan thực thi pháp luật trên toàn quốc Mỹ.

Khi được hỏi về tính hợp pháp của việc này, Clearview AI nói rằng đó là do người dùng đã tự công khai các bức ảnh của mình.

Các hệ thống kỹ thuật số của công ty ICE (có trụ sở tại Mỹ) cũng được cho là đã sàng lọc hàng triệu bức ảnh từ giấy phép lái xe để bắt những người nhập cư không có giấy tờ.

Theo chuyên san Calbiz, công nghệ nhận dạng khuôn mặt có thể phá hủy cuộc sống của một con người. Các hệ thống nhận dạng sử dụng trí tuệ nhân tạo (AI) thậm chí có thể xác định bạn đã qua đời, mặc dù vẫn còn sống.

Trên thực tế đã có trường hợp một nhân viên chính phủ Mỹ bị thuật toán máy tính xác định nhầm là đã chết, trong khi thực tế là cô này đã bị đánh cắp số an ninh xã hội (SSN) và kẻ gian đã sử dụng danh tính của nạn nhân để đăng ký các khoản vay lớn. Phải mất tới 20 năm, mọi vấn đề mới được giải quyết.

Gần đây nhất, vào tháng 1/2023, một người đàn ông từ bang Georgia (Mỹ) đã bị cảnh sát nhầm là người bị truy nã. Đáng chú ý, vụ việc này còn nhấn mạnh sự chênh lệch về nhận diện sắc tộc trong công nghệ nhận dạng khuôn mặt. Điểm giống nhau duy nhất giữa người bị bắt và tên tội phạm nằm ở màu da.

Sự việc này lại khiến cho tranh cãi về công nghệ nhận diện khuôn mặt trở nên rất rối ren. Theo một nghiên cứu của Mỹ vào năm 2019, phụ nữ có nguy cơ bị nhận diện sai lần nhiều hơn, trong khi nguy cơ đối với người da đen và người châu Á lại cao hơn từ 10-100 lần so với người da trắng.

Hiện nay, công nghệ nhận diện khuôn mặt đang ngày càng trở nên phổ biến. Người dùng tiếp xúc với công nghệ này chủ yếu thông qua tính năng mở khóa bằng gương mặt trên điện thoại.

Tuy vậy, 'bí mật đen' trong công nghệ nhận diện khuôn mặt vẫn là nguồn gốc của rất nhiều tranh cãi. Chúng ta không biết hình ảnh của mình đang bị thu thập mà không được sự đồng ý của chúng ta, và sau này những bức ảnh đó có thể được sử dụng cho mục đích giám sát chúng ta.