Nhận diện khuôn mặt trong các trường học làm cho việc giám sát trở nên thông thường — và đe dọa quyền riêng tư của trẻ em

Trong cuộc trò chuyện với con gái thiếu niên của tôi tuần trước, tôi chỉ ra một bài báo cảnh báo về việc sử dụng các công nghệ nhận diện khuôn mặt tại một số căng tin trường học ở North Ayrshire, Scotland. Chín trường học trong khu vực này gần đây đã triển khai thực hành này nhằm thu tiền cơm nhanh hơn và giảm thiểu nguy cơ COVID, mặc dù họ đã tạm dừng triển khai công nghệ này.

Khi tôi hỏi con gái tôi liệu cô ấy có lo lắng về việc sử dụng công nghệ nhận diện khuôn mặt trong căng tin trường học của mình, cô ấy trả lời bình thường: “Không thực sự. Nhưng việc này sẽ làm nhanh hơn ở quầy thanh toán đó.”

Lời của cô ấy đã xác nhận rằng trẻ em ít nhận thức hơn về quyền dữ liệu của họ so với người lớn. Và mặc dù có các quy định đặc biệt và biện pháp bảo vệ cho trẻ em dưới một loạt các luật bảo vệ dữ liệu, việc sử dụng công nghệ nhận diện khuôn mặt đối với trẻ em có thể tạo ra các rủi ro riêng về quyền riêng tư.

Công nghệ nhận diện khuôn mặt nhận dạng và xác minh danh tính của mọi người bằng cách nhận dạng, chụp và so khớp khuôn mặt với hình ảnh từ cơ sở dữ liệu. Công nghệ này được cung cấp bởi trí tuệ nhân tạo (AI), cụ thể là công nghệ được gọi là học máy.

Học máy dự đoán kết quả dựa trên dữ liệu lịch sử hoặc các thuật toán đã được đưa vào hệ thống. Vì vậy đối với nhận diện khuôn mặt, học máy dự đoán danh tính liên quan đến biểu diễn kỹ thuật số của khuôn mặt người, hoặc “mô hình khuôn mặt”, dựa trên cơ sở dữ liệu hình ảnh khuôn mặt. Phần mềm sẽ tiếp tục thích nghi qua trải nghiệm này, từ đó học hỏi để tạo ra các dự đoán dễ dàng hơn sau này.

Công nghệ nhận diện khuôn mặt hiện được sử dụng trong nhiều cách khác nhau, như xác minh danh tính của nhân viên, mở khóa điện thoại cá nhân, đánh dấu người trên các nền tảng mạng xã hội như Facebook, và thậm chí cho mục đích giám sát ở một số quốc gia.

Công nghệ nhận diện khuôn mặt không phải là vấn đề. Thay vào đó, vấn đề là cách nó được sử dụng và, trong trường hợp này, việc công nghệ này đã xâm nhập vào hành lang trường học và nhắm mục tiêu vào một đối tượng dễ tổn thương: trẻ em.

Vậy vấn đề bảo mật riêng tư cho trẻ em là gì?

Dấu mặt của bạn là dữ liệu của bạn, vì vậy đối với bất kỳ hệ thống nhận diện khuôn mặt nào, quan trọng là hiểu cách cơ sở dữ liệu hình ảnh được thu thập và lưu trữ. Mặc dù tôi có thể đồng ý một cách rủi ro để sử dụng công nghệ nhận diện khuôn mặt để vào một buổi hòa nhạc, tôi không mấy vui lòng nếu dấu mặt của tôi được lưu lại cho "mục đích kinh doanh khác của công ty" (một cụm từ thường xuất hiện trong điều khoản về việc sử dụng dữ liệu cá nhân trong vé mua).

Nếu công nghệ nhận diện khuôn mặt được sử dụng trong môi trường trường học, chúng ta cần thông tin rõ ràng về việc hình ảnh của học sinh sẽ được sử dụng ngoài mục đích hàng đợi ăn trưa. Ví dụ, liệu chúng có được chia sẻ với bất kỳ bên thứ ba nào và để làm gì? Các vấn đề có thể phát sinh, ví dụ, nếu dấu mặt được liên kết với dữ liệu khác về trẻ, như sở thích ăn trưa của họ. Lý thuyết, bên thứ ba có thể sử dụng dữ liệu này cho mục đích tiếp thị.

Chúng ta cũng cần thông tin về cách hình ảnh sẽ được bảo vệ. Nếu dấu mặt của học sinh không được bảo mật đúng cách, hoặc hệ thống không đủ mạnh mẽ để chống lại hacker, điều này tạo ra rủi ro an ninh mạng. Có thể có khả năng cho hacker liên kết dấu mặt của trẻ với dữ liệu khác về họ và theo dõi họ.

Rủi ro bảo mật tăng cao xung quanh việc sử dụng công nghệ nhận diện khuôn mặt trong các trường học cũng liên quan đến sự đồng ý được thông tin. Mặc dù luật bảo vệ dữ liệu của Anh quy định rằng trẻ em từ 13 tuổi trở lên có thể đồng ý cho việc xử lý dữ liệu cá nhân của họ, điều này không có nghĩa là họ hiểu đầy đủ các hệ quả. Ví dụ, một cuộc khảo sát phát hiện rằng trẻ em trong độ tuổi từ tám đến 15 tuổi gặp khó khăn trong việc hiểu các điều khoản của Instagram.

Trẻ em, phụ huynh và người giám hộ cần được cung cấp không gì khác ngoài thông tin đầy đủ, được diễn đạt bằng ngôn ngữ mà trẻ dễ dàng hiểu. Mọi người, bao gồm cả trẻ em, có quyền biết chính xác cách thức dữ liệu cá nhân của họ sẽ được xử lý, chia sẻ và lưu trữ, và có thể chỉ định điều kiện mà sự đồng ý của họ sẽ áp dụng. Bất kỳ điều gì ít hơn sự thận trọng và minh bạch sẽ rủi ro làm nguy hiểm quyền riêng tư của trẻ em.

Việc bình thường hóa việc giám sát trẻ em?

Đây chỉ là một số câu hỏi mà việc sử dụng công nghệ nhận diện khuôn mặt trong các trường học đặt ra. Công nghệ nhận diện khuôn mặt cũng mang theo những rủi ro khác, như các sai sót, có thể dẫn đến việc tính tiền cho học sinh không chính xác. Và giống như bất kỳ hệ thống trí tuệ nhân tạo nào khác, chúng ta cũng nên quan ngại liệu các thuật toán và bộ dữ liệu có không có định kiến, và có dữ liệu huấn luyện sạch, đầy đủ và đại diện hay không.

Đặc biệt, việc sử dụng công nghệ nhận diện khuôn mặt trong các trường học cũng một phần bình thường hóa việc giám sát trẻ em. Có khả năng việc họ biết rằng họ đang được theo dõi theo cách này có thể ảnh hưởng đến sức khỏe tinh thần của một số trẻ.

Không ngạc nhiên khi cơ quan giám sát dữ liệu của Anh, Văn phòng Ủy ban Thông tin, đã can thiệp để điều tra việc sử dụng công nghệ nhận diện khuôn mặt trong hàng đợi ăn trưa của trường học. Và khi có cuộc điều tra này, thì thấy vui khi Hội đồng Bắc Ayrshire đã tạm ngưng triển khai việc thực hành này.

Bài viết của Pin Lean Lau, Giảng viên Luật Sinh học, Trường Luật Brunel | Trung tâm Trí tuệ Nhân tạo: Các Đổi mới Xã hội & Kỹ thuật số, Đại học Brunel London

Bài viết này được tái xuất bản từ The Conversation dưới giấy phép Creative Commons. Đọc bài viết gốc.