Những sai lầm nghiêm trọng của trí tuệ nhân tạo

TPO - Từ những hệ thống chatbot cung cấp lời khuyên về y tế cho đến phần mềm nhận dạng khuôn mặt của các nghị sỹ quốc hội, đều là các sai lầm đáng lên án mà trí tuệ nhân tạo (AI) đã từng phạm phải.

Nỗi lo âu về trí tuệ nhân tạo (AI) rất rõ ràng, đến mức đã có một trường phái triết học công nghệ chuyên nghiên cứu về cách mà AI có thể dẫn đến sự kết thúc của loài người.

Dưới đây là danh sách những sai lầm nghiêm trọng của AI

Lời khuyên sai lầm từ chatbot của Air Canada

Air Canada đã phải đối mặt với tòa án sau khi một trong những công cụ được hỗ trợ bởi AI của họ đưa ra lời khuyên không chính xác về việc bảo đảm giá vé. Đối diện với vấn đề pháp lý, đại diện của Air Canada lập luận rằng họ không chịu trách nhiệm về lỗi từ chatbot của họ.

Bên cạnh những tổn thất về danh tiếng có thể xảy ra trong các trường hợp như vậy, Air Canada buộc phải hoàn trả lại gần một nửa số tiền vé do sai sót này.

Lỗi triển khai của trang web NYC

Một chatbot mang tên MyCity của thành phố New York, Mỹ, đã bị phát hiện khuyến khích các chủ doanh nghiệp thực hiện các hoạt động phi pháp. Theo chatbot, bạn có thể lấy trộm một phần tiền lương của nhân viên, không dùng tiền mặt và chi trả cho họ ít hơn mức lương tối thiểu.

Từ chức hàng loạt do AI phân biệt đối xử

Vào năm 2021, các nhà lãnh đạo tại Hà Lan, bao gồm cả thủ tướng, đã từ chức sau khi một cuộc điều tra phát hiện ra rằng trong 8 năm qua, hơn 20.000 gia đình đã bị lừa do một thuật toán phân biệt đối xử.

Lời khuyên có hại từ chatbot y tế

Hiệp hội Rối loạn Ăn uống Quốc gia Mỹ đã gây sốc khi tuyên bố sẽ thay thế con người bằng chương trình AI. Ngay sau đó, người sử dụng đường dây nóng của tổ chức này đã phát hiện ra rằng chatbot có tên là Tessa đưa ra những lời khuyên có hại cho những người mắc rối loạn ăn uống.

Kết quả tìm kiếm phân biệt chủng tộc trên Google Images

Google đã phải loại bỏ tính năng tìm kiếm khỉ đột trên phần mềm AI của họ sau khi kết quả tìm kiếm hiển thị hình ảnh của người da đen. Các công ty khác, bao gồm cả Apple, cũng phải đối mặt với các vụ kiện liên quan.

Thảm họa xe tự lái

Vào tháng 10 năm 2023, một vụ tai nạn đã khiến một người đi bộ bị thương nặng sau khi họ va vào đường đi của chiếc xe tự lái Cruise của GM.

Vào tháng 2 năm 2024, bang California cáo buộc rằng Cruise đã gian lận các nhà điều tra về nguyên nhân và hậu quả của vụ tai nạn.

Lỗ hổng bảo mật trong sản phẩm của Apple

Năm 2017, tính năng nhận diện khuôn mặt Face ID của Apple đã bị đánh lừa bởi một chiêu trò rất đơn giản và đã có những lo ngại rằng công nghệ của Apple có thể ưu tiên cho người da trắng hơn từ lâu.

Theo Apple, công nghệ này sử dụng mạng lưới thần kinh sâu trên thiết bị, nhưng không thể tránh khỏi những lo ngại về tác động của AI đối với bảo mật thiết bị.

Nhầm nghị sỹ quốc hội là tội ác

Một nghiên cứu của Liên minh Tự do Dân sự Mỹ năm 2018 cho thấy Rekognition AI của Amazon, một phần của Amazon Web Services, đã nhận dạng sai 28 thành viên Quốc hội Mỹ là những người đã từng bị bắt giữ. Lỗi này xảy ra với hình ảnh của các thành viên từ cả hai đảng chính, đặc biệt là những người da màu.

Vụ bê bối tồi tệ nhất

Trong một trong những vụ bê bối tồi tệ nhất liên quan đến AI từng xảy ra với mạng lưới an toàn xã hội, chính phủ Úc đã sử dụng một hệ thống tự động để buộc những người hợp pháp nhận trợ cấp phải trả lại những khoản tiền đó.

Hơn 500.000 người đã bị ảnh hưởng bởi hệ thống này, được gọi là Robodebt, áp dụng từ năm 2016 đến năm 2019. Chính phủ Úc đã phải đối mặt với các vấn đề pháp lý bổ sung liên quan đến triển khai này, bao gồm việc phải hoàn trả hơn 700 triệu đô la Úc (khoảng 460 triệu đô la Mỹ) cho các nạn nhân.

Tính năng giả mạo của AI

Khả năng mô phỏng sâu của AI đã được tội phạm mạng sử dụng rộng rãi, từ việc giả mạo giọng nói của các ứng viên chính trị, tạo ra các cuộc họp báo thể thao giả mạo, đến việc tạo ra những hình ảnh giả của nhân vật nổi tiếng chưa từng xảy ra...

Tuy nhiên, một trong những ứng dụng đáng lo ngại nhất của công nghệ deepfake là tình trạng lỗ 25 triệu USD của một công ty Anh sau khi một nhân viên bị lừa bởi một video giả mạo trang phục thành đồng nghiệp của anh ta để chuyển số tiền này.

Can thiệp vào bầu cử

Khi AI trở thành nền tảng quan trọng để tiếp cận thông tin thế giới, một xu hướng đáng lo ngại đang phát triển. Theo nghiên cứu của Bloomberg News, ngay cả những hệ thống AI chính xác nhất cũng có đến 1/5 câu trả lời sai khi đưa ra các câu hỏi liên quan đến bầu cử trên toàn cầu. Một trong những mối lo ngại lớn nhất hiện nay là việc sử dụng công nghệ deepfake để can thiệp vào kết quả bầu cử.

AI và các vụ tai nạn hàng không

Theo ít nhất hai sự kiện, AI có vẻ đã đóng vai trò quan trọng trong các vụ tai nạn liên quan đến máy bay Boeing. Theo cuộc điều tra của New York Times vào năm 2019, một hệ thống tự động thiết kế mạnh mẽ hơn và rủi ro hơn, bao gồm việc loại bỏ các biện pháp an toàn có thể có. Những lỗi của AI đã dẫn đến cái chết của hơn 300 người.