Một 'Lỗi Tìm Kiếm' Đầy Chủ Nghĩa Phân Biệt Giới Nói Nhiều Hơn Về Chúng Ta Hơn Là Về Facebook

Ngay trước ngày Lễ Tình Nhân tuần trước, nhà nghiên cứu an ninh người Bỉ Inti De Ceukelaire phát hiện điều gì đó kỳ lạ trên Facebook. Anh ta nhận thấy rằng chức năng tìm kiếm của mạng xã hội này xử lý hình ảnh của nam và nữ một cách rất khác nhau. Việc tìm kiếm “ảnh của bạn gái tôi” trả về một loạt hình ảnh ngẫu nhiên, trong khi tìm kiếm tương tự cho “ảnh của bạn trai tôi” không đưa ra kết quả. Hơn nữa, Facebook giả định rằng “nam” chỉ là một lỗi chính tả của từ “nữ”.

Các blog công nghệ nhanh chóng đưa tin về những tweet của De Ceukelaire, và sau khi mô phỏng lại các kết quả, đã đăng các bài viết với tựa đề như "Facebook cho phép bạn tìm kiếm ảnh của bạn gái, nhưng không phải của bạn trai." Điều đáng kể hơn là dự đoán tự động của Facebook: Khi nhiều người dùng nhập “ảnh của bạn gái tôi,” nền tảng đề xuất các cụm từ như “đang mặc bikini” hoặc “tại bãi biển.”

Phát hiện này thực sự là kinh hoàng—đặc biệt là khi xem xét chuỗi vụ lạch cách riêng tư liên tục của Facebook gần đây. Nhưng những kết quả tìm kiếm đó không phải là sản phẩm của các kỹ sư có chủ nghĩa nữ tính. Tìm kiếm trên Facebook được điều khiển một phần bởi một thuật toán, ưa thích các truy vấn phổ biến hơn so với những truy vấn ít được thực hiện. Thuật toán có thể có chủ nghĩa và nó có thể phản ánh những định kiến đã tồn tại trong xã hội. Trong trường hợp này, người ta thực sự quan tâm nhiều hơn đến việc sử dụng Facebook để tìm kiếm hình ảnh của phụ nữ mặc bikini hơn là để tìm kiếm hình ảnh của nam—và thuật toán phản ánh điều đó.

Tương tự như với Google và các công cụ tìm kiếm khác, có sự khác biệt giữa dự đoán tìm kiếm trên Facebook và kết quả tìm kiếm thực tế. Việc từ khóa 'bikinis' được đề xuất khi tìm kiếm 'ảnh của bạn bè nữ' không có nghĩa là Facebook đang huấn luyện thuật toán để lưu trữ những bức ảnh bikini của bạn. (Điều này không có nghĩa là trí tuệ nhân tạo của Facebook không thể xử lý ảnh - thực sự là có thể. Công ty cho biết, ví dụ, nó tự động phát hiện và loại bỏ khoảng 96 phần trăm nội dung người lớn và khỏa thân vi phạm quy tắc của nó. Ảnh Speedo hở hang không bị nằm trong cái máng chảy đó vì một lý do nào đó.) Khi tôi tìm kiếm 'ảnh của bạn bè nữ trong bikini,' Facebook trả về một dãy ảnh lạ lẫm thực sự chỉ có phụ nữ, nhưng không có ai mặc đồ tắm.

“Dự đoán tìm kiếm trên Facebook đại diện cho những gì mọi người có thể tìm kiếm trên Facebook, nhưng không nhất thiết phản ánh nội dung thực tế trên Facebook,” một người phát ngôn nói trong một tuyên bố. “Chúng tôi biết rằng chỉ vì một điều gì đó không vi phạm Quy định Cộng đồng của chúng tôi không nhất thiết có nghĩa là mọi người muốn xem nó, nên chúng tôi liên tục làm việc để cải thiện tìm kiếm để đảm bảo dự đoán phù hợp với mọi người.”

Dự đoán được tạo ra dựa trên nhiều yếu tố, bao gồm sự phổ biến tổng thể của cụm từ tìm kiếm. Điều đó có nghĩa là chúng về cơ bản là một cửa sổ vào những gì người dùng khác tìm kiếm trên Facebook, điều này có thể làm sáng tỏ. Khi tôi tìm kiếm 'bạn bè nữ,' ví dụ, một số dự đoán bao gồm 'độc thân,' 'có lợi ích,' và 'trên 50.' Một cuộc tìm kiếm về 'hẹn hò' đưa ra các gợi ý như 'cho những người từ 40, 50, 60 và hơn thế nữa,' cũng như 'độc thân gần tôi.' Có thể không ngạc nhiên khi nhìn vào đó, dường như người cao tuổi thường sử dụng tìm kiếm trên Facebook để tìm kiếm ngày hẹn. (Theo Trung tâm Nghiên cứu Pew, tỷ lệ người Mỹ trên 65 tuổi cho biết họ sử dụng Facebook đã tăng gấp đôi kể từ năm 2012.)

Vì cùng một lý do, dự đoán tìm kiếm trên Facebook cũng phản ánh các sự kiện tin tức lớn. Khi tôi tìm kiếm 'giáo viên Oakland' vào thứ Sáu, dự đoán hàng đầu là 'đình công,' vì hầu hết 2,300 giáo viên của thành phố California đã bắt đầu biểu tình vào thứ Năm.

Dự đoán tìm kiếm trên Facebook cũng được cá nhân hóa một cách duy nhất cho mỗi người dùng, dựa trên các trang bạn đã thích, nhóm bạn đã tham gia, thành phố hiện tại bạn đã cung cấp, các kết nối của bạn, dữ liệu vị trí và các bài đăng trên Bảng tin và kết quả tìm kiếm mà bạn đã tương tác trong quá khứ. Do đó, tìm kiếm trên Facebook cá nhân hóa nhiều hơn rất nhiều so với Google Search - với lý do chặt chẽ. Việc này là lý do khi bạn bắt đầu gõ một tên như 'Jeff,' Facebook dự đoán rằng bạn đang muốn tìm kiếm người bạn biết thay vì, ví dụ, Jeff Bezos.

Kết quả tìm kiếm cũng được cá nhân hóa tương tự dựa trên mối quan hệ xã hội của bạn và hoạt động trên Facebook. Một lần nữa, nếu bạn tìm kiếm 'Jeff,' Facebook có thể trả về những người bạn đã kết bạn và những người bạn có bạn chung. Chức năng này cho phép người dùng dễ dàng tìm thấy người họ gặp gần đây và thêm họ vào Facebook. Nhưng điều này không có nghĩa là kết quả tìm kiếm được tạo ra tự động bằng thuật toán của mạng xã hội không đôi khi kỳ cục. Cuộc tìm kiếm 'ảnh của bạn bè nữ' tạo ra một loạt ảnh ngẫu nhiên của những người phụ nữ tôi biết, một số trong số đó đã được tải lên cách đây nhiều năm. Không rõ tại sao tôi lại thấy một số hình ảnh này thay vì những hình ảnh khác.

Và trong trường hợp của De Ceukelaire, cuộc tìm kiếm 'ảnh của bạn bè nam' không trả về gì cả. Khi tôi thử nghiệm, tìm kiếm không tạo ra ảnh của bạn bè của tôi, như khi tìm kiếm bạn bè nữ. Thay vào đó, tôi thấy một đồng bộ ngẫu nhiên của meme. “Tôi nhận được những con chó có lẽ là đực và hai bức tranh về nam giới, bao gồm một cảnh báo nam giới không nên đi tiểu ngoài trời trong xoáy lạnh,” Melissa Locker viết trong Fast Company. Một người phát ngôn của Facebook nói rằng trải nghiệm này là “một lỗi mà chúng tôi đang cố gắng sửa chữa.”

Vấn đề này bị bỏ qua bởi (ít nhất là cho đến khi nó được nổi bật trong các bài viết tin tức) cụm từ tìm kiếm 'ảnh của bạn bè nam' rất ít người sử dụng. Với tài nguyên hạn chế, Facebook có động lực để đảm bảo những tìm kiếm phổ biến nhất tạo ra nội dung liên quan, trước khi tối ưu hóa kết quả cho những tìm kiếm hiếm hoi. Điều này cũng đúng với Google. Các truy vấn phổ biến như 'Jeff Bezos bao nhiêu tuổi?' dễ dàng tạo ra câu trả lời chính xác trên Google, trong khi những tìm kiếm kỳ lạ hơn có thể không tạo ra điều bạn đang tìm kiếm chút nào.

Công cụ tìm kiếm của Facebook không được thiết kế để phân biệt giới, nhưng điều đó không có nghĩa là nó không gặp vấn đề. Thuật toán quản lý nó vẫn là hộp đen, và người dùng không thể biết chính xác tại sao một dự đoán hoặc kết quả cụ thể có thể được tạo ra. Tháng trước, nhà báo của New York Times, John Herrman, viết rằng thiếu minh bạch của Facebook khuyến khích sự nghi ngờ trong người dùng, người thường phải đoán về lý do tại sao mọi chuyện diễn ra như vậy trên nền tảng. Tình cảnh rối trong việc tìm kiếm bikini của Facebook và phản ứng không thoải mái mà nó tạo ra chỉ là ví dụ mới nhất.

Nhiều bài viết tuyệt vời khác trên MYTOUR

• Amazon Alexa and the search for the one perfect answer
• ATM hacking has gotten so easy, the malware's a game
• The devastating allure of medical miracles
• Would you pay $6,000 for vision-quality VR?
• China might corner the 5G market. The US needs a plan
• 👀 Looking for the latest gadgets? Check out our latest buying guides and best deals all year round
• 📩 Get even more of our inside scoops with our weekly Backchannel newsletter