Buzz
Trong tháng 5 năm 2021, Twitter, một nền tảng nổi tiếng với việc lạm dụng và sự nóng nảy, triển khai tính năng “gợi ý” để người dùng suy nghĩ hai lần trước khi gửi tweet. Tháng sau đó, Facebook thông báo về “cảnh báo xung đột” của trí tuệ nhân tạo cho các nhóm, để quản trị viên có thể thực hiện hành động khi có “cuộc trò chuyện gây tranh cãi hoặc không lành mạnh.” Các phản hồi thông minh qua email và tin nhắn hoàn thành hàng tỷ câu cho chúng ta mỗi ngày. Amazon’s Halo, ra mắt vào năm 2020, là một dây đeo vận động theo dõi âm điệu của giọng nói của bạn. Sức khỏe tinh thần không chỉ là việc theo dõi nhịp tim hoặc đếm bước chân, mà là cách chúng ta hiểu được bản thân mình trong mắt của những người xung quanh. Công cụ trị liệu theo thuật toán đang được phát triển để dự đoán và ngăn chặn hành vi tiêu cực.
Jeff Hancock, một giáo sư truyền thông tại Đại học Stanford, định nghĩa giao tiếp thông qua trí tuệ nhân tạo là khi “một đại lý thông minh hoạt động thay mặt cho một người truyền thông bằng cách sửa đổi, bổ sung hoặc tạo ra các thông điệp để hoàn thành mục tiêu giao tiếp.” Ông nói rằng công nghệ này đã được triển khai ở quy mô lớn.
Dưới tất cả đó là niềm tin nổi lên rằng mối quan hệ của chúng ta chỉ cách một bước nhỏ đến sự hoàn hảo. Kể từ khi bắt đầu đại dịch, mối quan hệ của chúng ta phụ thuộc nhiều hơn vào các kênh truyền thông máy tính. Trong một đại dương xoáy của các cuộc tranh cãi trực tuyến, tin nhắn Slack độc hại và không giới hạn Zoom, liệu thuật toán có thể giúp chúng ta tốt hơn với nhau? Liệu một ứng dụng có thể đọc được cảm xúc của chúng ta tốt hơn chúng ta? Hay việc giao tiếp của chúng ta được giao cho trí tuệ nhân tạo có làm mòn đi những gì làm cho mối quan hệ con người trở nên nhân văn?
Trong việc khuyến khích sự lịch sự, trí tuệ nhân tạo đã trở thành một tính năng ngày càng nổi bật. OurFamilyWizard có chức năng 'ToneMeter' sử dụng phân tích tình cảm để giám sát các tin nhắn gửi trên ứng dụng — 'một cái gì đó để tạo ra một biển báo dừng,' Kissoon nói. Phân tích tình cảm là một phần của xử lý ngôn ngữ tự nhiên, phân tích lời nói của con người. Được đào tạo trên cơ sở dữ liệu ngôn ngữ rộng lớn, các thuật toán này phân tích văn bản và đánh điểm cho tình cảm dựa trên các từ và cụm từ mà nó chứa. Trong trường hợp của ToneMeter, nếu một cụm từ mang tính cảm xúc được phát hiện trong một tin nhắn, một tập hợp thanh hiệu số sẽ chuyển sang màu đỏ và các từ gây vấn đề sẽ được đánh dấu. 'Đó là lỗi của bạn khiến chúng ta muộn,' ví dụ, có thể được đánh dấu là 'hùng hổ.' Các cụm từ khác có thể được đánh dấu là 'xúc phạm' hoặc 'đau lòng.' Quyết định việc gửi tin nhắn vẫn tùy thuộc vào người dùng.
ToneMeter ban đầu được sử dụng trong dịch vụ nhắn tin, nhưng hiện đang được mã hóa cho tất cả các điểm trao đổi giữa các bậc cha mẹ trong ứng dụng. Shane Helget, giám đốc sản phẩm chính, nói rằng sớm sẽ không chỉ ngăn chặn việc giao tiếp tiêu cực, mà còn khuyến khích ngôn ngữ tích cực. Anh đang thu thập thông tin từ một loạt tương tác với quan điểm rằng ứng dụng có thể được sử dụng để thúc đẩy các bậc cha mẹ hành xử tích cực với nhau ngoài các cuộc trò chuyện thông thường. Có thể có nhắc nhở để thông tin lịch trình trước, hoặc đề xuất đổi ngày sinh nhật hoặc ngày lễ — những cử chỉ có thể không cần thiết nhưng có thể được hoan nghênh.
CoParenter, được ra mắt vào năm 2019, cũng sử dụng phân tích tình cảm. Cha mẹ đàm phán qua tin nhắn và một cảnh báo hiện lên nếu một tin nhắn quá thù địch — giống như một trung gian con người có thể lắng im khách hàng của họ. Nếu hệ thống không dẫn đến thỏa thuận, có lựa chọn để đưa một người vào trò chuyện.
Việc dựa vào một ứng dụng cho các cuộc đàm phán nhiều cảm xúc như vậy không phải là không có vấn đề. Kissoon cẩn trọng để không cho phép ToneMeter đánh điểm cha mẹ về mức tích cực hoặc tiêu cực mà họ dường như. Và Karpf nói rằng ông đã thấy ảnh hưởng rõ rệt đối với hành vi của người dùng. 'Giao tiếp trở nên cứng nhắc hơn,' ông nói. 'Bây giờ bạn đang viết cho một khán giả, đúng không?'
Các ứng dụng hỗ trợ cha mẹ chung có thể giúp hướng dẫn một mối quan hệ vấn đề, nhưng chúng không thể giải quyết hoàn toàn. Đôi khi, chúng có thể làm tồi tệ hơn. Karpf nói rằng một số cha mẹ sử dụng ứng dụng như một công cụ và gửi các tin nhắn 'mồi' để khiến cho đối tác tức giận và thách thức họ gửi tin nhắn gây rắc rối: “Một người cha mặc cảm sẽ luôn là người cha mặc cảm.” Kisson nhớ lại một cuộc trò chuyện mà ông có với một vị thẩm phán khi ông triển khai chương trình thử nghiệm. “Điều cần nhớ về các công cụ là tôi có thể đưa cho bạn một cây tua vít và bạn có thể sửa chữa nhiều thứ với nó,” thẩm phán nói. “Hoặc bạn có thể tự chọc vào mắt mình.”
Máy Tính Nói Cần Ôm
Năm 2017, Adela Timmons là một sinh viên cao học chuyên ngành tâm lý học thực hiện thực tập lâm sàng tại Đại học California, San Francisco và Bệnh viện Tổng hợp San Francisco, nơi cô làm việc với các gia đình có trẻ nhỏ từ nền kinh tế thấp đã tiếp xúc với trauma. Trong quá trình làm việc, cô nhận thấy một mô hình đang xuất hiện: Bệnh nhân tiến triển trong liệu pháp chỉ để mất đi trong hỗn loạn của cuộc sống hàng ngày giữa các buổi hẹn. Cô tin rằng công nghệ có thể “kết nối khoảng cách giữa phòng của nhà tâm lý học và thế giới thực” và nhận thấy tiềm năng của công nghệ có thể đeo được có thể can thiệp ngay lúc một vấn đề đang diễn ra.
Trong lĩnh vực, đây được coi là một 'Can Thiệp Linh Hoạt Đúng Thời Điểm'. Lý thuyết, nó giống như có một nhà tâm lý học sẵn sàng thì thầm vào tai bạn khi chuông báo động cảm xúc đổ chuông. “Nhưng để làm điều này một cách hiệu quả,” Timmons, hiện là giám đốc của Laboratoire Interventions Technologiques pour les Systèmes Écologiques (TIES) tại Đại học Quốc gia Florida, nói, “bạn phải cảm nhận được các hành vi quan trọng, hoặc phát hiện chúng từ xa.”
Nghiên cứu của Timmons, liên quan đến việc xây dựng mô hình tính toán về hành vi con người, tập trung vào việc tạo ra thuật toán có thể dự đoán hiệu quả hành vi trong các cặp đôi và gia đình. Ban đầu, cô tập trung vào các cặp đôi. Đối với một nghiên cứu, các nhà nghiên cứu kết nối 34 cặp đôi trẻ bằng các cảm biến trên cổ tay và ngực để theo dõi nhiệt độ cơ thể, nhịp tim và mồ hôi. Họ cũng trang bị cho họ các điện thoại thông minh nghe trộm cuộc trò chuyện. Bằng cách liên kết dữ liệu này với các cuộc khảo sát hàng giờ trong đó các cặp đôi mô tả trạng thái cảm xúc và các cuộc tranh cãi của họ, Timmons và đội ngũ của cô đã phát triển các mô hình để xác định khi nào một cặp đôi có khả năng cao xảy ra xung đột. Các yếu tố kích hoạt có thể là nhịp tim cao, việc sử dụng từ ngữ như “bạn,” và các yếu tố ngữ cảnh, như thời gian trong ngày hoặc ánh sáng trong phòng. “Không có một biến số duy nhất nào có thể coi là một chỉ số mạnh mẽ của một cuộc cãi vã không thể tránh khỏi,” Timmons giải thích (mặc dù việc lái xe trong giao thông ở LA là một yếu tố quan trọng), “nhưng khi bạn có rất nhiều mảnh thông tin khác nhau được sử dụng trong một mô hình, kết hợp lại, bạn có thể tiến gần hơn đến các mức độ chính xác cho một thuật toán thực sự hoạt động trong thế giới thực.”
Timmons đang mở rộng các mô hình này để nghiên cứu động lực gia đình, với sự tập trung vào việc cải thiện mối quan hệ giữa cha mẹ và con cái. TIES đang phát triển các ứng dụng di động nhằm cảm nhận một cách chủ động các tương tác tích cực bằng cách sử dụng điện thoại thông minh, Fitbits và Apple Watches (ý tưởng là nó nên có thể hoạt động với công nghệ tiêu dùng hiện tại). Trước hết, dữ liệu được thu thập—chủ yếu là nhịp tim, giọng điệu và ngôn ngữ. Thiết bị cũng cảm nhận hoạt động vận động và việc cha mẹ và con cái ở cùng nhau hay xa nhau.
Trong nghiên cứu về các cặp đôi, thuật toán đã có độ chính xác 86% trong việc phát hiện xung đột và có thể tạo ra mối tương quan với trạng thái cảm xúc tự báo cáo. Trong bối cảnh gia đình, hy vọng là bằng cách phát hiện các trạng thái này, ứng dụng sẽ có khả năng can thiệp một cách tích cực. “Có thể là một gợi ý, như ‘đi ôm con của bạn’ hoặc ‘nói với con điều gì mà họ đã làm tốt hôm nay,’” Timmons nói. “Chúng tôi cũng đang làm việc trên các thuật toán có thể phát hiện các trạng thái tiêu cực và sau đó gửi can thiệp để giúp cha mẹ điều chỉnh cảm xúc của họ. Chúng tôi biết rằng khi cảm xúc của một người cha mẹ được kiểm soát, mọi thứ thường diễn ra tốt hơn.”
Thông tin ngữ cảnh giúp cải thiện tỷ lệ dự đoán: Người đó đã ngủ ngon vào đêm trước không? Họ đã tập thể dục vào ngày hôm đó chưa? Gợi ý có thể mang dạng của việc thiền, thử một bài tập thở, hoặc tham gia vào một số kỹ thuật điều trị hành vi nhận thức. Ứng dụng chú ý đến tâm trí đã tồn tại, nhưng chúng dựa vào người dùng nhớ sử dụng nó vào những khoảnh khắc khi họ có thể tức giận, buồn bã, hoặc bị áp đảo cảm xúc. “Thực tế là trong những khoảnh khắc đó bạn ít có khả năng sử dụng tài nguyên nhận thức của mình,” Timmons nói. “Hy vọng là chúng tôi có thể tiếp cận người một cách đúng nơi và đúng lúc thông qua việc thông báo cho họ nhận ra khoảnh khắc mà họ cần sử dụng những kỹ năng đó.” Từ kinh nghiệm làm việc với các gia đình, cách tiếp cận truyền thống của liệu pháp—50 phút một tuần—không nhất thiết là cách hiệu quả nhất để có ảnh hưởng. “Tôi nghĩ rằng lĩnh vực này đang bắt đầu quan tâm rõ ràng hơn đến việc chúng ta có thể mở rộng khoa học can thiệp tâm lý.”
Công việc được hỗ trợ bởi một học bổng từ Viện Y tế Quốc gia và Quỹ Khoa học Quốc gia là một phần của quỹ để tạo ra các hệ thống công nghệ có khả năng thương mại, và Timmons hy vọng nghiên cứu sẽ dẫn đến chăm sóc sức khỏe tâm lý mà có thể tiếp cận, mở rộng và bền vững. Khi phòng thí nghiệm của cô có dữ liệu để chứng minh nó là hiệu quả và an toàn cho gia đình—và không gây ra thiệt hại không mong muốn—thì sẽ cần quyết định về việc công nghệ như thế nào có thể triển khai.
Khi chăm sóc sức khỏe dựa trên dữ liệu mở rộng, quyền riêng tư là một vấn đề. Apple là công ty công nghệ lớn nhất mới nhất mở rộng vào lĩnh vực này; nó đang tiến hành một nghiên cứu ba năm với các nhà nghiên cứu tại UCLA, bắt đầu từ năm 2020, để xác định liệu iPhone và Apple Watches có thể phát hiện—và cuối cùng là dự đoán và can thiệp vào—các trường hợp trầm cảm và rối loạn tâm trạng. Dữ liệu sẽ được thu thập từ camera và cảm biến âm thanh của iPhone, cũng như các chuyển động của người dùng và thậm chí cách họ gõ phím trên thiết bị của họ. Apple dự định bảo vệ dữ liệu người dùng bằng cách có thuật toán trên chính chiếc điện thoại, không gửi bất cứ điều gì lên máy chủ của mình.
Tại phòng thí nghiệm TIES, Timmons nói rằng không có dữ liệu nào được bán hoặc chia sẻ, ngoại trừ các trường hợp liên quan đến tổn thương hoặc lạm dụng. Cô tin rằng việc quan trọng là các nhà khoa học phát triển các công nghệ này nghĩ về việc sử dụng sai lầm có thể có: “Đây là trách nhiệm chung của cộng đồng khoa học cùng với các nhà lập pháp và công chúng để xác định những giới hạn và ranh giới chấp nhận được trong không gian này.”
Bước tiếp theo là kiểm tra các mô hình theo thời gian thực để xem chúng có hiệu quả và liệu những gợi ý từ điện thoại di động thực sự dẫn đến sự thay đổi hành vi ý nghĩa hay không. “Chúng tôi có rất nhiều lý do tốt và lý thuyết để nghĩ rằng đó sẽ là một cơ chế can thiệp rất mạnh mẽ,” Timmons nói. “Chúng tôi chỉ đơn giản là chưa biết chúng hoạt động tốt như thế nào trong thế giới thực.”
Tia X quang cho Mối quan hệ
Ý tưởng rằng cảm biến và thuật toán có thể hiểu được sự phức tạp của tương tác con người không mới. Đối với nhà tâm lý học mối quan hệ John Gottman, tình yêu luôn là một trò chơi con số. Kể từ những năm 1970, ông đã cố gắng định lượng và phân tích chất phản ứng của mối quan hệ.
Gottman tiến hành các nghiên cứu về các cặp đôi, nổi tiếng nhất là tại “Phòng thí nghiệm Tình yêu,” một trung tâm nghiên cứu tại Đại học Washington mà ông thành lập vào những năm 1980. Một phiên bản của Phòng thí nghiệm Tình yêu vẫn hoạt động ngày nay tại Viện Gottman ở Seattle, được thành lập cùng với vợ ông, Julie Gottman, một nhà tâm lý học khác, vào năm 1996. Theo cách gọi hài hước, Phòng thí nghiệm Tình yêu giống như cảnh mở đầu của When Harry Met Sally kết hợp với cảnh trong Meet the Parents khi Robert De Niro kết nối con rể tương lai của mình vào một bài kiểm tra máy phát hiện nói dối. Mọi người được kết nối hai người và được yêu cầu trò chuyện với nhau—đầu tiên về lịch sử mối quan hệ của họ, sau đó là về một mâu thuẫn—trong khi các thiết bị theo dõi nhịp tim, mồ hôi, giọng điệu và mức độ lo lắng của họ trong ghế ngồi. Ở phòng sau cùng đầy màn hình, mọi biểu cảm khuôn mặt được mã hóa bởi các nhà điều hành được đào tạo. Phòng thí nghiệm Tình yêu nhằm thu thập dữ liệu về cách các cặp đôi tương tác và truyền đạt cảm xúc của họ.
Nghiên cứu này dẫn đến “phương pháp Gottman,” một phương pháp tư vấn mối quan hệ. Việc duy trì tỉ lệ 5:1 giữa tương tác tích cực và tiêu cực là quan trọng; rằng 33% thất bại trong việc phản hồi khi đối tác yêu cầu sự chú ý tương đương với một “thảm họa”; và rằng việc lăn mắt mạnh mẽ liên quan mật thiết đến sự tan vỡ hôn nhân. “Mối quan hệ không phức tạp như vậy,” John Gottman nói, từ nhà của ông ở đảo Orcas, Washington.
Cả hai Gottmans cũng đang bước vào lĩnh vực trí tuệ nhân tạo. Năm 2018, họ thành lập một công ty khởi nghiệp, Affective Software, để tạo ra một nền tảng trực tuyến để đánh giá và hướng dẫn mối quan hệ. Nó bắt đầu từ một tương tác ngoại đời thực; một mối quan hệ bạn bè đã bắt đầu từ nhiều năm trước khi Julie Gottman gặp Rafael Lisitsa, một cựu chiến binh của Microsoft, khi họ đón con gái tại cổng trường. Lisitsa, người đồng sáng lập và CEO của Affective Software, đang phát triển một phiên bản ảo của Phòng thí nghiệm Tình yêu, trong đó các cặp đôi có thể nhận được chẩn đoán “tia X” về mối quan hệ của họ thông qua camera trên máy tính, iPhone hoặc máy tính bảng của họ. Một lần nữa, biểu hiện khuôn mặt và giọng điệu được theo dõi, cũng như nhịp tim. Đây là chỉ báo cho việc công nghệ phát hiện cảm xúc, hoặc “tính toán hiệu ứng” đã đi đến đâu; mặc dù Phòng thí nghiệm Tình yêu ban đầu được hỗ trợ bởi màn hình và thiết bị, nhưng cuối cùng cần một người được đào tạo đặc biệt để theo dõi màn hình và mã hóa chính xác từng dấu hiệu. Gottman chưa bao giờ tin rằng yếu tố con người có thể bị loại bỏ. “Rất ít người thực sự có thể một cách nhạy cảm mã hóa cảm xúc,” ông nói. “Họ phải có kỹ năng âm nhạc. Họ phải có một số kinh nghiệm với kịch… Tôi chưa bao giờ mơ mộng rằng một máy móc có thể làm được điều đó.”
Không phải ai cũng tin rằng máy móc có thể làm điều này. Trí tuệ nhân tạo phát hiện cảm xúc là lãnh thổ gập ghềnh. Nó lớn dần dựa trên ý tưởng rằng con người có biểu hiện cảm xúc phổ quát—một lý thuyết được phát triển từ những năm 1960 và 1970 với quan sát của Paul Ekman, người tạo ra một hệ thống mã hóa biểu hiện khuôn mặt mà định hình công việc của Gottmans và là cơ sở của rất nhiều phần mềm tính toán hiệu ứng. Một số nhà nghiên cứu, như nhà tâm lý học Lisa Feldman Barrett của Đại học Northeastern, đã nghi ngờ liệu có thể nhận diện cảm xúc từ biểu hiện khuôn mặt một cách đáng tin cậy hay không. Và mặc dù đã được sử dụng rộng rãi, một số phần mềm nhận diện khuôn mặt đã cho thấy dấu hiệu của thiên hướng phân biệt chủng tộc; một nghiên cứu so sánh hai chương trình phổ biến đã phát hiện họ gán nhiều cảm xúc tiêu cực hơn cho khuôn mặt người da đen hơn so với người da trắng. Gottman nói rằng Phòng thí nghiệm Tình yêu ảo được huấn luyện trên các bộ dữ liệu về khuôn mặt bao gồm tất cả các loại da và hệ thống của ông để mã hóa tương tác đã được kiểm tra trên các nhóm khác nhau tại Mỹ, bao gồm các nhóm người Mỹ gốc Phi và người Mỹ gốc Á. “Chúng tôi biết rằng văn hóa thực sự điều chỉnh cách mà người ta thể hiện hoặc che giấu cảm xúc,” ông nói. “Chúng tôi đã xem xét ở Úc, Anh, Hàn Quốc và Thổ Nhĩ Kỳ. Và có vẻ như hệ thống cụ thể về ảnh hưởng mà tôi đã tiến hóa thực sự hoạt động. Bây giờ, nó có thể hoạt động trong tất cả các văn hóa khác nhau? Chúng tôi thực sự không biết.”
Gottman bổ sung rằng Phòng thí nghiệm Tình yêu thực sự hoạt động thông qua một hệ thống mã hóa xã hội; bằng cách xem xét nội dung của cuộc trò chuyện, giọng điệu, ngôn ngữ cơ thể và biểu hiện, nó ít tập trung vào việc phát hiện một cảm xúc đơn lẻ trong khoảnh khắc và thay vào đó phân tích những đặc tính tổng thể của một tương tác. Khi ghép lại những điều này, Gottman nói rằng bạn có thể đưa ra một cách đáng tin cậy hơn về một hạng mục như tức giận, buồn bã, kinh tởm, khinh thường. Khi một cặp đôi tham gia, họ được mời trả lời một bảng câu hỏi chi tiết, sau đó ghi lại hai cuộc trò chuyện trong 10 phút. Một cuộc trò chuyện về tuần trước; và một cuộc trò chuyện về một mâu thuẫn. Sau khi tải lên video, cặp đôi đánh giá trạng thái cảm xúc của họ trong các giai đoạn khác nhau của cuộc trò chuyện, từ 1 (rất tiêu cực) đến 10 (rất tích cực). Ứng dụng sau đó phân tích điều này, cùng với các dấu hiệu phát hiện được và cung cấp kết quả bao gồm tỉ lệ tích cực đến tiêu cực, một chỉ số tin cậy và sự phổ biến của những “Tứ Kỵ của Thế Kỷ”: phê bình, phòng vệ, khinh bỉ và im lặng. Nó được thiết kế để sử dụng kết hợp với một nhà tâm lý.
Dịch vụ tâm lý và tư vấn sức khỏe tâm thần ngày càng được cung cấp thông qua cuộc gọi video—kể từ đại dịch, sự chuyển đổi này đã được tăng tốc. Đầu tư vốn rủi ro vào chăm sóc ảo và sức khỏe kỹ thuật số đã tăng gấp ba lần kể từ Covid-19, theo các nhà phân tích tại McKinsey, và các chatbot tư vấn mối quan hệ trí tuệ nhân tạo, như Woebot, đang trở nên phổ biến. Ứng dụng tư vấn mối quan hệ như Lasting đã được dựa trên phương pháp Gottman và gửi thông báo nhắc nhở người dùng, ví dụ như, để họ cho đối tác biết rằng họ yêu thương họ. Ai có thể tưởng tượng điều này làm cho chúng ta trở nên lười biếng, nhưng Gottmans nhìn nhận đó là quá trình giáo dục—trang bị chúng ta với các công cụ sẽ cuối cùng trở thành thói quen tự nhiên. Đội ngũ đã bắt đầu nghĩ về một phiên bản đơn giản hóa có thể được sử dụng độc lập mà không cần một nhà tâm lý.
Đối với Gottmans, họ đã được truyền cảm hứng từ việc rằng nhiều cặp đôi bị mắc kẹt trên điện thoại thông minh của họ, công nghệ mở ra cách để phổ cập tư vấn. “Mọi người đang trở nên thoải mái hơn với công nghệ như một ngôn ngữ,” Gottman nói. “Và như một công cụ để cải thiện cuộc sống của họ theo nhiều cách khác nhau.”
Email cho bạn, nhưng không phải bởi bạn
Công nghệ này đã lan rộng khắp mọi nơi. Nó có thể ảnh hưởng đến mối quan hệ của bạn mà không bạn không để ý. Hãy xem xét Smart Reply của Gmail—những đề xuất về cách bạn có thể phản hồi email—và Smart Compose, mà đề xuất hoàn thành câu của bạn. Smart Reply được thêm vào như một tính năng di động vào năm 2015, Smart Compose ra mắt vào năm 2018; cả hai đều được cung cấp bởi mạng thần kinh.
Jess Hohenstein, một nghiên cứu sinh tiến sĩ tại Đại học Cornell, lần đầu tiên gặp Smart Reply khi ứng dụng nhắn tin Google Allo, hiện đã ngừng hoạt động, được ra mắt vào năm 2016. Nó có một trợ lý ảo tạo ra những đề xuất phản hồi. Cô thấy nó kỳ quặc: “Tôi không muốn một thuật toán nào ảnh hưởng đến cách nói của mình, nhưng tôi nghĩ rằng điều này phải ảnh hưởng đến mình.”
Trong năm 2019, cô ấy đã tiến hành các nghiên cứu và phát hiện rằng Trí tuệ Nhân tạo thực sự đang thay đổi cách chúng ta tương tác và liên quan đến nhau. Trong một nghiên cứu sử dụng Google Allo, 113 sinh viên đại học được yêu cầu hoàn thành một nhiệm vụ với một đối tác trong đó một, cả hai hoặc không ai trong số họ có thể sử dụng Smart Reply. Sau đó, người tham gia được hỏi họ đánh giá mức độ họ gắn liền thành công hoặc thất bại của nhiệm vụ vào người kia (hoặc Trí tuệ Nhân tạo) trong cuộc trò chuyện. Một nghiên cứu thứ hai tập trung vào các hiệu ứng ngôn ngữ; cách mà mọi người phản ứng với các phản hồi “thông minh” tích cực hoặc tiêu cực.
Hohenstein đã phát hiện rằng ngôn ngữ mà mọi người sử dụng với Smart Reply có xu hướng thiên về tính tích cực. Mọi người có xu hướng đồng ý với một gợi ý tích cực hơn là một gợi ý tiêu cực — người tham gia cũng thường thấy họ trong tình huống muốn phản đối, nhưng chỉ được đề xuất những lời đồng ý. Hiệu ứng này làm cho cuộc trò chuyện diễn ra nhanh hơn và mượt mà hơn — Hohenstein nhận thấy rằng nó khiến mọi người trong cuộc trò chuyện cảm thấy tốt hơn với nhau.
Hohenstein nghĩ rằng điều này có thể trở nên không hiệu quả trong mối quan hệ chuyên nghiệp: Công nghệ này (kết hợp với sự dễ bị đề xuất của chúng ta) có thể ngăn cản chúng ta khỏi việc thách thức ai đó, hoặc thậm chí là không đồng ý. Trong việc làm cho giao tiếp của chúng ta hiệu quả hơn, Trí tuệ Nhân tạo cũng có thể đẩy cảm xúc thật của chúng ta ra khỏi đó, giảm bớt các trao đổi thành việc trả lời “thích thú!” và “nghe có vẻ tốt!” cho nhau. Đối với những người trong nơi làm việc truyền thống đã thấy khó khăn trong việc phát biểu, điều này có thể làm tăng thêm sự không động viên để làm như vậy.
Trong nghiên cứu hoàn thành nhiệm vụ, Hohenstein phát hiện rằng con người đã đề nghị cho mình thành công. Khi có điều gì đó không đúng, Trí tuệ Nhân tạo bị kết án. Bằng cách này, thuật toán bảo vệ mối quan hệ con người và cung cấp một lớp bảo vệ cho sự thất bại của chúng ta. Điều này đặt ra một câu hỏi sâu sắc về sự minh bạch: liệu có nên tiết lộ rằng một Trí tuệ Nhân tạo đã giúp đỡ tạo ra một phản hồi? Khi một đối tác đang sử dụng Smart Reply, ban đầu nó khiến người nhận cảm thấy tích cực hơn về người kia. Nhưng khi được cho biết rằng có một Trí tuệ Nhân tạo tham gia, họ cảm thấy không thoải mái.
Điều này làm nền tảng cho một nghịch lý lan tỏa qua việc sử dụng công nghệ như vậy — nhận thức và hiện thực không đồng nhất. “Mọi người cảm thấy rùng rợn về nó, nhưng nó đang cải thiện nhận thức giữa con người bạn đang giao tiếp,” Hohenstein nói. “Điều này đi ngược lại với trực giác.”
Trong bài báo của mình, Hancock nhấn mạnh cách những công cụ này “có thể ảnh hưởng rộng rãi đến xã hội” và đề ra một chương trình nghiên cứu để đối mặt với một cuộc cách mạng công nghệ đã xảy ra ngay trước mắt chúng ta. Giao tiếp thông qua Trí tuệ Nhân tạo có thể biến cách chúng ta nói chuyện, làm dịu những định kiến, hoặc làm trầm trọng thêm. Nó có thể khiến chúng ta tự hỏi chúng ta đang nói chuyện với ai thực sự. Nó có thể thậm chí thay đổi cách chúng ta tự nhận thức. “Nếu Trí tuệ Nhân tạo điều chỉnh tin nhắn của người gửi để trở nên tích cực hơn, vui vẻ hơn, hoặc hướng ngoại hơn, liệu nhận thức về bản thân của người gửi có chuyển hướng thành tích cực hơn, vui vẻ hơn, hoặc hướng ngoại hơn không?” ông viết. Nếu Trí tuệ Nhân tạo chiếm quá nhiều trong mối quan hệ của chúng ta, thì chúng ta còn lại điều gì thực sự?
Nhiều Bài viết Tuyệt vời từ Mytour
- 📩 Tin tức mới nhất về công nghệ, khoa học và nhiều hơn nữa: Nhận bản tin của chúng tôi!
- Một thế giới ảo có thể kết nối trực tiếp vào não bạn?
- Cơn bão trong tương lai có thể đến sớm và kéo dài lâu hơn
- Khái niệm về thế giới ảo là gì, cụ thể là như thế nào?
- Ban nhạc của trò chơi Marvel này có một câu chuyện nguồn cốc huyền thoại
- Cẩn thận với “công việc linh hoạt” và ngày làm việc không bao giờ kết thúc
- 👁️ Khám phá Trí tuệ Nhân tạo một cách chưa từng có với cơ sở dữ liệu mới của chúng tôi
- 🎧 Âm thanh không nghe đúng cách? Kiểm tra tai nghe không dây, loa thanh và loa Bluetooth yêu thích của chúng tôi
