Tại sao quản lý trí tuệ nhân tạo quan trọng để xây dựng trí tuệ nhân tạo đáng tin cậy và có thể giải thích được

Nội dung được cung cấp bởi IBM và TNW

Những nguy cơ của việc robot tiến triển ngoài sự kiểm soát của chúng ta được ghi chép rõ ràng trong các bộ phim và chương trình khoa học viễn tưởng như Her, Black Mirror, Surrogates, I, Robot, có cần chúng ta phải nói thêm không?

Mặc dù điều này có vẻ như một giấc mơ xa xôi, báo cáo Tình trạng Trí tuệ Nhân tạo Chịu trách nhiệm 2021 của FICO cho thấy 65% các công ty thực sự không thể giải thích cách quyết định hoặc dự đoán cụ thể của mô hình AI được thực hiện.

Mặc dù AI không thể phủ nhận đang giúp đẩy nhanh chóng doanh nghiệp và xã hội của chúng ta phát triển, chúng ta cũng đã thấy những ảnh hưởng tiêu cực mà thiếu sự giám sát có thể mang lại.

Nghiên cứu sau nghiên cứu đã chỉ ra rằng quyết định do AI đưa ra có thể dẫn đến các kết quả thiên lệch, từ việc xác định sắc tộc trong các thuật toán dự đoán trong lĩnh vực công an đến quyết định tuyển dụng mang tính phân biệt giới tính.

Khi các chính phủ và doanh nghiệp áp dụng các công cụ trí tuệ nhân tạo với tốc độ nhanh chóng, đạo đức trí tuệ nhân tạo sẽ chạm vào nhiều khía cạnh của xã hội. Tuy nhiên, theo báo cáo của FICO, 78% các công ty cho biết họ "được trang bị kém để đảm bảo các tác động đạo đức của việc sử dụng các hệ thống trí tuệ nhân tạo mới", và chỉ có 38% có các bước phát hiện và giảm thiểu độ chệch dữ liệu.

Như thông thường với các công nghệ đột phá, tốc độ phát triển của trí tuệ nhân tạo đã nhanh chóng vượt qua tốc độ của quy định. Nhưng trong cuộc đua để áp dụng trí tuệ nhân tạo, điều mà nhiều công ty đang bắt đầu nhận ra là các cơ quan quản lý hiện đang bắt kịp. Một số vụ kiện đã được đưa ra chống lại các công ty, có thể là do phát triển hoặc đơn giản chỉ là sử dụng các thuật toán trí tuệ nhân tạo có chệch.

Các công ty đang cảm nhận áp lực từ quy định về trí tuệ nhân tạo

Trong năm nay, Liên minh châu Âu đã công bố Chỉ thị về Trách nhiệm Trí tuệ Nhân tạo, một dự luật sẽ làm cho việc kiện cáo các công ty vì thiệt hại gây ra trở nên dễ dàng hơn, là một phần của đợt đẩy mạnh rộng lớn để ngăn các công ty phát triển và triển khai trí tuệ nhân tạo có hại. Dự luật này thêm một tầng bổ sung vào Đạo luật Trí tuệ Nhân tạo đề xuất, mà sẽ yêu cầu kiểm tra thêm cho việc sử dụng trí tuệ nhân tạo ở mức "rủi ro cao", như trong việc sử dụng trong lĩnh vực công an, tuyển dụng, hoặc chăm sóc sức khỏe. Được công bố trong tháng này, dự luật có khả năng trở thành luật trong vài năm tới.

Mặc dù có người lo lắng rằng Chỉ thị về Trách nhiệm Trí tuệ Nhân tạo sẽ làm chậm lại sự đổi mới, mục đích là đưa các công ty trí tuệ nhân tạo vào trách nhiệm, và yêu cầu họ giải thích cách hệ thống trí tuệ nhân tạo của họ được xây dựng và đào tạo. Các công ty công nghệ không tuân thủ có thể đối mặt với các vụ kiện đòi hỏi từ khắp châu Âu.

Mặc dù Hoa Kỳ đã chậm chạp hơn trong việc áp dụng các chính sách bảo vệ, Nhà Trắng cũng đã công bố bản thiết kế cho một Hiến pháp Quyền lợi Trí tuệ Nhân tạo vào đầu tháng này, mô tả cách mà người tiêu dùng nên được bảo vệ khỏi trí tuệ nhân tạo có hại:

1. Trí tuệ nhân tạo nên an toàn và hiệu quả
2. Các thuật toán không nên phân biệt đối xử
3. Quyền riêng tư dữ liệu phải được bảo vệ
4. Người tiêu dùng nên biết khi trí tuệ nhân tạo được sử dụng
5. Người tiêu dùng nên có khả năng từ chối sử dụng nó và nói chuyện với một con người thay vì

Nhưng có một điều bắt buộc. “Quan trọng là nhận ra rằng Hiến pháp Quyền lợi Trí tuệ Nhân tạo không phải là pháp lý bắt buộc,” viết Sigal Samuel, một phóng viên cấp cao tại Vox. “Đó là một tập hợp các đề xuất mà các cơ quan chính phủ và các công ty công nghệ có thể tuân theo tùy ý — hoặc không. Điều này bởi vì nó được tạo ra bởi Văn phòng Chính sách Khoa học và Công nghệ, một tổ chức thuộc Nhà Trắng chỉ tư vấn cho Tổng thống nhưng không thể đưa ra luật lệ thực sự.”

Có hay không các quy định nghiêm ngặt về trí tuệ nhân tạo, nhiều công ty và tổ chức tại Hoa Kỳ đã phải đối mặt với các vụ kiện vì các thực hành trí tuệ nhân tạo không đạo đức.

Và không chỉ là chi phí pháp lý mà các công ty cần lo lắng. Niềm tin của công chúng vào trí tuệ nhân tạo đang giảm sút. Một nghiên cứu của Trung tâm Nghiên cứu Pew hỏi 602 nhà đổi mới công nghệ, nhà phát triển, doanh nhân và lãnh đạo chính trị, “Đến năm 2030, hệ thống trí tuệ nhân tạo được sử dụng bởi các tổ chức mọi loại có sử dụng các nguyên tắc đạo đức tập trung chủ yếu vào lợi ích cộng đồng hay không?” 68% cho rằng không.

Cho dù một doanh nghiệp có thất bại trong một cuộc chiến pháp lý về cáo buộc về trí tuệ nhân tạo có độ chệch, tác động mà những vụ việc như vậy có thể gây ra cho uy tín của một công ty cũng có thể ngang ngửa với thiệt hại từ chi phí pháp lý.

Trong khi điều này làm cho tương lai của trí tuệ nhân tạo trở nên u ám, không phải mọi thứ đều mất đi. Chỉ số Sự áp dụng Trí tuệ Nhân tạo Toàn cầu của IBM cho thấy 85% chuyên gia IT đồng ý rằng người tiêu dùng có khả năng chọn một công ty mà minh bạch về cách mà mô hình trí tuệ nhân tạo của họ được xây dựng, quản lý và sử dụng.

Các doanh nghiệp thực hiện các bước để áp dụng các thực hành trí tuệ nhân tạo đạo đức có thể thu được những phần thưởng. Vậy tại sao có nhiều doanh nghiệp lại chậm chạp trong việc đưa ra quyết định?

Vấn đề có thể là, trong khi nhiều công ty muốn áp dụng các thực hành trí tuệ nhân tạo đạo đức, nhiều công ty không biết nên bắt đầu từ đâu. Chúng tôi đã nói chuyện với Priya Krishnan, người dẫn dắt nhóm quản lý sản phẩm Dữ liệu và Trí tuệ nhân tạo tại IBM, để tìm hiểu cách xây dựng một mô hình quản lý trí tuệ nhân tạo mạnh mẽ có thể giúp ích như thế nào.

Quản lý trí tuệ nhân tạo

Theo IBM, “Quản lý trí tuệ nhân tạo là quá trình định nghĩa các chính sách và thiết lập trách nhiệm để hướng dẫn quá trình tạo ra và triển khai các hệ thống trí tuệ nhân tạo trong một tổ chức.”

“Trước khi có quản lý, mọi người đều chuyển từ các thử nghiệm trực tiếp sang sản xuất trong trí tuệ nhân tạo,” Krishnan nói. “Nhưng sau đó họ nhận ra, ‘đợi đã, đây không phải là quyết định mà tôi mong đợi hệ thống thực hiện. Tại sao lại như vậy?’ Họ không thể giải thích tại sao trí tuệ nhân tạo lại đưa ra những quyết định cụ thể.”

Quản lý trí tuệ nhân tạo thực sự là về việc đảm bảo rằng các công ty hiểu rõ về những gì thuật toán của họ đang làm — và có tài liệu chứng minh điều đó. Điều này có nghĩa là theo dõi và ghi lại cách mà một thuật toán được đào tạo, các tham số được sử dụng trong quá trình đào tạo, và bất kỳ chỉ số nào được sử dụng trong các giai đoạn kiểm thử.

Việc có điều này giúp cho các công ty dễ dàng hiểu những gì đang diễn ra dưới bề mặt của hệ thống trí tuệ nhân tạo của họ và cho phép họ dễ dàng rút tài liệu trong trường hợp kiểm toán. Krishnan chỉ ra rằng sự minh bạch này cũng giúp phá vỡ các hộp kiến thức tách biệt trong một công ty.

“Nếu một nhà khoa học dữ liệu rời bỏ công ty và bạn không có thông tin quá khứ được cắm vào kết nối này trong các quy trình, quản lý rất khó khăn. Những người nghiên cứu hệ thống sẽ không biết đã xảy ra chuyện gì. Vì vậy, quy trình này của việc tài liệu cung cấp sự hiểu biết cơ bản về những gì đang diễn ra và làm cho việc giải thích nó cho các bộ phận khác trong tổ chức (như quản lý rủi ro) dễ dàng hơn.”

Trong khi các quy định vẫn đang được phát triển, việc áp dụng quản lý trí tuệ nhân tạo ngay bây giờ là một bước quan trọng đến điều mà Krishnan gọi là “bảo vệ cho tương lai”:

“[Quy định] đang đến rất nhanh và mạnh mẽ. Bây giờ mọi người đang tạo ra tài liệu thủ công cho mục đích kiểm toán sau sự kiện,” cô nói. Thay vào đó, việc bắt đầu tài liệu ngay bây giờ có thể giúp các công ty chuẩn bị cho bất kỳ quy định sắp tới.

Tranh cãi giữa sáng tạo và quản lý

Các công ty có thể phải đối mặt với sự cạnh tranh ngày càng gia tăng để nhanh chóng đổi mới và đầu tiên ra thị trường. Vậy có phải việc dành thời gian cho quản lý trí tuệ nhân tạo sẽ làm chậm quá trình này và làm chết đứa trẻ sáng tạo không?

Krishnan đưa ra lý lẽ rằng quản lý trí tuệ nhân tạo không ngăn chặn sự đổi mới nhiều hơn là phanh ngăn chặn ai đó có thể lái xe: “Có kiểm soát độ bám đường trên ô tô, có hệ thống phanh trên ô tô. Tất cả đều được thiết kế để khiến bạn di chuyển nhanh hơn, an toàn hơn. Đó là cách tôi nghĩ về quản lý trí tuệ nhân tạo. Nó thực sự là để có được giá trị tối đa từ trí tuệ nhân tạo của bạn, đồng thời đảm bảo có rào cản an toàn để hỗ trợ bạn trong quá trình đổi mới.”

Và điều này khớp với lý do lớn nhất để áp dụng quản lý trí tuệ nhân tạo: nó chỉ đơn giản là hợp lý kinh doanh. Không ai muốn có sản phẩm và dịch vụ lỗi lầm. Thiết lập các tiêu chuẩn tài liệu, các điểm kiểm tra và quy trình đánh giá nội bộ rõ ràng và minh bạch để giảm thiểu chệch lệch có thể giúp doanh nghiệp tạo ra các sản phẩm tốt hơn và cải thiện tốc độ đưa sản phẩm ra thị trường.

Chưa chắc bạn biết bắt đầu từ đâu?

Chỉ trong tháng này, công ty công nghệ lớn này đã ra mắt Quản lý Trí tuệ Nhân tạo của IBM, một giải pháp toàn diện cho các công ty đang gặp khó khăn để hiểu rõ hơn về những gì đang diễn ra dưới bề mặt của những hệ thống này. Công cụ này sử dụng phần mềm tự động hóa để làm việc với nền tảng khoa học dữ liệu của các công ty để phát triển quy trình quản lý mô hình thuật toán nhất quán và minh bạch, đồng thời theo dõi thời gian phát triển, siêu dữ liệu, theo dõi sau triển khai và quy trình làm việc tùy chỉnh. Điều này giúp giảm áp lực cho các đội ngũ khoa học dữ liệu, cho phép họ tập trung vào các nhiệm vụ khác. Công cụ cũng giúp các nhà lãnh đạo kinh doanh luôn có cái nhìn về các mô hình của họ và hỗ trợ tài liệu phù hợp trong trường hợp kiểm toán.

Đây là một lựa chọn đặc biệt tốt cho các công ty đang sử dụng trí tuệ nhân tạo trên toàn tổ chức và không biết nên tập trung vào điều gì trước tiên.

“Trước khi mua ô tô, bạn muốn thử nghiệm nó. Tại IBM, chúng tôi đã đầu tư vào một nhóm kỹ sư giúp khách hàng của chúng tôi trải nghiệm quản lý trí tuệ nhân tạo để giúp họ bắt đầu. Chỉ trong vài tuần, đội ngũ Kỹ sư Khách hàng của IBM có thể giúp các nhóm đổi mới với công nghệ và phương pháp Quản lý Trí tuệ Nhân tạo mới nhất bằng cách sử dụng mô hình kinh doanh và dữ liệu của họ. Đó là một đầu tư của chúng tôi vào khách hàng để nhanh chóng cùng nhau sáng tạo bằng công nghệ IBM để họ có thể bắt đầu nhanh chóng,” Krishnan nói.