Buzz
Vào năm 2020, tôi đã giúp tạo ra Tín hiệu Cầu cứu, một biểu hiện tay để truyền đạt đến bạn bè, gia đình và người chứng kiến rằng “Tôi cần bạn kiểm tra tôi một cách an toàn.” Đội ngũ của chúng tôi đã quảng bá Tín hiệu Cầu cứu trên mạng xã hội, dự đoán sự tăng cao liên quan đến đại dịch trong mức cao của bạo lực theo giới tính và nó đã lan truyền rộng rãi vào tháng 11 năm 2021 trong một thời điểm đầy lo lắng, chỉ thị ở nhà và sự lan rộng của cuộc gọi video.
Các trường hợp phụ nữ và cô gái sử dụng Tín hiệu Cầu cứu để nhận được sự trợ giúp trong các tình huống nguy hiểm đã được đưa ra trên các phương tiện thông tin. Ví dụ, một phụ nữ đã sử dụng Tín hiệu Cầu cứu trong lúc bị dừng xe để nhờ sự trợ giúp trước chồng bạo lực của mình, và một phụ nữ khác đã sử dụng nó để thông báo cho nhân viên tại một trạm xăng rằng cô đang bị giữ lại bởi một người bạn trai cũ bạo lực. Kết quả là, những người có ý tốt đã cố gắng tích hợp Tín hiệu Cầu cứu với công nghệ số. Một công ty có công cụ camera AI đã liên hệ để hỏi về việc tích hợp nhận diện Tín hiệu Cầu cứu vào hệ thống an ninh của họ, và cũng có những nỗ lực tự nhiên tương tự được thảo luận trên mạng xã hội.
Lý do hấp dẫn rõ ràng: Việc phát hiện tự động có thể hữu ích cho một người bạn hoặc đồng nghiệp có ý định tốt ở phía bên kia cuộc gọi video, người có thể bỏ lỡ việc nhìn thấy ai đó sử dụng Tín hiệu Cầu cứu. Việc muốn giúp đỡ những người có thể đang gặp nguy hiểm là đáng tán dương, nhưng những ứng dụng mới của công nghệ này hiểu lầm mục đích và cách sử dụng của Tín hiệu Cầu cứu.
Những nỗ lực như vậy là một phần của xu hướng ngày càng sử dụng Trí tuệ nhân tạo để nhận diện sự căng thẳng: Các thử nghiệm nhận diện sự căng thẳng trong động vật chăn nuôi như gà, bò và lợn mang lại kết quả hứa hẹn vì Trí tuệ nhân tạo dường như giải quyết được một loạt tiếng kêu, gáy và rên của động vật tốt hơn so với tai thường.
Nhưng con người không phải là gà hoặc bò. Ý định lạm dụng và kiểm soát có thể biến những người ngụy sành điệu thành chuyên gia. Trong các mối quan hệ nguy hiểm, luôn có câu hỏi về ai là người điều khiển công nghệ.
Tín hiệu Cầu cứu là một công cụ vụ tạm thời được thiết kế để giúp người giao tiếp mà không cần phải nói một từ, và mà không để lại dấu vết số hóa. Tôi bị tổn thương ... Tôi không thể nói ra ... bạn có ở đó với tôi trong khi tôi tìm hiểu được không? Sự tạm thời là một đặc điểm quan trọng, vì cách mà những kẻ lạm dụng thường kiểm soát và thao túng. Họ lẻn trốn, săn đuổi và theo dõi thiết bị. Các nơi trú ẩn cho phụ nữ thường xuyên giúp các nạn nhân với việc xử lý smartphone bị hack, việc theo dõi vị trí không mong muốn và ứng dụng ghi âm giọng nói, camera ẩn và những điều tương tự. Các diễn đàn tin nhắn, mạng xã hội và thậm chí cả thông tin từ miệng này đến miệng khác có thể giúp kẻ lạm dụng vi phạm những người họ tuyên bố yêu thương. Trong trường hợp của Tín hiệu Cầu cứu, kẻ lạm dụng có thể sử dụng cơ chế Trí tuệ nhân tạo cùng để an toàn để báo cho họ biết người họ đang làm tổn thương đang cố gắng sử dụng Tín hiệu Cầu cứu.
Và còn các vấn đề khác với các công cụ Trí tuệ nhân tạo để phát hiện sự căng thẳng ở con người, bao gồm phần mềm quét email và tìm kiếm web của học sinh để phát hiện tự tử và bạo lực, cũng như nhận biết sự rối bời, chán chường và mất tập trung của học sinh trong lớp học ảo. Ngoài những lo ngại về đạo đức và quyền riêng tư, việc triển khai của chúng phụ thuộc vào niềm tin rằng chúng ta có thể nhìn nhận đáng tin cậy một người gặp khó khăn và hành động dựa trên nó một cách thực sự giúp họ. Các công cụ này hoạt động dựa trên niềm tin duy lý tích cực rằng khi một con người gặp khó khăn, họ biểu hiện ra ngoài một cách dễ dàng đoán trước. Và khi họ biểu hiện ra, họ mong muốn một loại can thiệp cụ thể.
Nhưng nghiên cứu cho thấy rằng sự giả định của chúng ta rằng biểu hiện khuôn mặt con người tương ứng với cảm xúc không phải là một điều chúng ta có thể tin tưởng một cách hoàn toàn. Sự không phù hợp giữa cơ thể và cảm xúc có thể rõ ràng hơn trong các mối quan hệ không lành mạnh. Những người bị lạm dụng nói về sự phân liệt, về việc cần phải 'rời khỏi cơ thể' để sống sót. Một số người đề cập đến những hành động họ thực hiện để che giấu sự tội lỗi, thương tích và đau đớn của họ, rằng họ phải làm như vậy để làm dịu người lạm dụng và những người chứng kiến ủng hộ họ. Họ nói về việc họ nhận thức rõ từng điệu cười và giật mình, cách họ nhai, chớp mắt và thở, và rằng họ bị trừng phạt khi chỉ tồn tại theo cách làm phát cáu kẻ lạm dụng của họ.
Tôi không chắc chắn liệu chúng ta có thể có được dữ liệu để giải quyết những mất cân đối quyền lực đáng sợ này. Có nhiều ví dụ về các công cụ Trí tuệ nhân tạo hoạt động dựa trên định kiến, phân biệt đối xử và sự hiểu lầm của chúng ta, lặp lại quan điểm mờ nhạt và lệch lạc của chúng ta. Mối quan hệ không lành mạnh dường như là một tập dữ liệu đặc biệt nan giải.
Và phản ứng như thế nào khi phát hiện sự căng thẳng liên quan đến lạm dụng? Một cảnh báo sẽ được gửi đến dịch vụ khẩn cấp, cảnh sát hoặc một người bạn, ví dụ? Nếu điều đó gây hại hơn là giúp ích? Giai đoạn nguy hiểm nhất đối với một phụ nữ bị lạm dụng là khi cô ấy hành động để rời bỏ đối tác bạo lực của mình. Hành động có thể kích hoạt kẻ lạm dụng gia tăng bạo lực, và có khả năng chuyển hướng sang một hành động chết người hơn. Và những người có nguy cơ cao bị lạm dụng theo giới tính, bao gồm phụ nữ có chủng tộc hóa và bản xứ, phụ nữ có khuyết tật, và người que và trans, đối mặt với nguy hiểm đặc biệt trong giao tiếp của họ với các cơ quan chức năng.
Khi phụ nữ và những người đa dạng về giới không thể rời xa kẻ lạm dụng, khi họ không gọi cảnh sát hoặc đến bệnh viện, họ có lý do của riêng mình. Hành động kích hoạt bởi Trí tuệ nhân tạo là một công cụ gồ ghề ở những thời điểm nhạy cảm như vậy.
Công cụ cho việc phát hiện và phản ứng với lạm dụng AI có thể dẫn đến việc loại bỏ các lựa chọn, nhưng ngừng thử nghiệm là một phản ứng. Câu trả lời không phải là dừng lại việc tìm cách Trí tuệ nhân tạo có thể giúp chúng ta chấm dứt lạm dụng. Nhưng chúng ta cần có ý thức hơn về những rủi ro và điểm nguy hiểm của nó. Những giọng thông thái kêu gọi việc tích hợp tri thức về chấn thương vào tính toán, nhận thức rằng công nghệ có thể tạo ra và làm trầm trọng thêm chấn thương, và cam kết liên tục tránh nó, và thiết kế dựa trên hiện thực của những người tìm kiếm công bằng. Thay vì nói lên cho công nghệ phát hiện lạm dụng thay cho chúng ta, có lẽ chúng ta nên tập trung vào tiềm năng của nó ở một nơi khác. Có thể Trí tuệ nhân tạo có thể giúp chúng ta xây dựng sự tự tin và năng lực để phản ứng chủ động đối với các tín hiệu của lạm dụng trong cuộc sống của những người thân gần chúng ta, dù họ có sử dụng Tín hiệu Cầu cứu hay không. Có thể nó có thể giúp chúng ta thực hành một thái độ không đánh giá và cung cấp sự giúp đỡ cho những người sống sót với tinh thần chăm sóc, chống lại xu hướng văn hóa của chúng ta là phớt lờ và kỳ thị.
Bạn có ở đó với tôi không? Có lẽ Trí tuệ nhân tạo có thể giúp chúng ta học cách trở thành những người ủng hộ xuất sắc biết cách đáp ứng trong mỗi tình huống đặc biệt.
QUAN ĐIỂM CỦA MYTOUR đăng bài viết của các đồng phát biểu bên ngoài đại diện cho một loạt quan điểm. Đọc thêm quan điểm ở đây, và xem hướng dẫn gửi bài của chúng tôi tại đây. Gửi bài viết ý kiến tại [email protected].
