Công nghệ lớn muốn cạnh tranh với ngân hàng? Họ nên giải quyết vấn đề đạo đức trí tuệ nhân tạo trước hết.

Với ưu thế cạnh tranh của họ trong các công nghệ mới như trí tuệ nhân tạo và máy học, các công ty công nghệ lớn đã chuyển hướng và làm đảo lộn các ngành công nghiệp truyền thống, từ ảnh hưởng của Airbnb đối với ngành công nghiệp lưu trú đến sự làm thay đổi của Uber đối với dịch vụ taxi và di chuyển khác. Bây giờ, công nghệ lớn đã nhắm đến thế giới tài chính với sự ra mắt của Google Pay, Apple Card, Facebook Libra và các khoản vay của Amazon dành cho doanh nghiệp nhỏ và vừa.

Nhưng trong khi những công nghệ này có thể giúp công nghệ lớn có ưu thế trong việc đối phó với mối đe dọa ngày càng phức tạp từ bên ngoại, phát hiện gian lận và tự động hóa các quy trình như đơn đăng ký vay và kiểm tra tín dụng, đạo đức trí tuệ nhân tạo cũng có thể trở thành một trong những thách thức lớn nhất của chúng.

Giống như các công cụ xác định hồ sơ của cảnh sát có lỗi nặng, các thuật toán trí tuệ nhân tạo có độ chệch có thể làm nghiêng kết quả. Ví dụ, vào năm 2019, thuật toán được Apple Card sử dụng đã được phát hiện là có chệch đối với phụ nữ sau khi xác định "độ xứng đáng với tín dụng" của người đăng ký.

Nhưng không chỉ là độ chệch, dữ liệu tài chính cực kỳ nhạy cảm sẽ đưa thêm một chiều sâu mới vào cuộc tranh luận giữa việc thu thập dữ liệu và quyền riêng tư người dùng đã diễn ra trong Liên minh châu Âu. Thực tế, vào tháng 6 năm nay, Tòa án Tư pháp Liên minh châu Âu đã hỗ trợ một quyết định sẽ tăng cường khả năng của các cơ quan giám sát quốc gia để kiểm tra công nghệ lớn trên toàn liên minh.

Đã lâu nay đối mặt với sự quản lý nặng nề, ngân hàng truyền thống có thể dạy cho những người chơi mới này về việc xây dựng khả năng trí tuệ nhân tạo công bằng, đạo đức và được chấp thuận bởi cơ quan quản lý nào?

Cần hơn là những lời nói đẹp để giải quyết độ chệch trong trí tuệ nhân tạo

Tội phạm mạng đang tiếp tục phát triển kỹ thuật và phương pháp tấn công của họ. Trong khi trí tuệ nhân tạo ngày càng trở nên quan trọng trong cuộc sống hàng ngày của chúng ta, chẳng hạn như phát hiện các giao dịch khác biệt so với hành vi thông thường của khách hàng, vẫn còn những thách thức.

"Chệch lệch là một trong những thách thức mới của trí tuệ nhân tạo," nói Mark Wiggerman, một nhà khoa học dữ liệu tại văn phòng an ninh thông tin doanh nghiệp ABN AMRO.

Vấn đề với độ chệch là nó ẩn đi; không rõ là mô hình trí tuệ nhân tạo học từ dữ liệu và đưa ra dự đoán mới như thế nào. Vì vậy, tính minh bạch trở nên khó khăn vì bạn phải làm điều gì đó để giải thích quyết định của mô hình của mình.

Chức năng của hệ thống quyết định được xác định bởi dữ liệu đào tạo, Wiggerman giải thích thêm rằng một mô hình thường phải được đào tạo lại, điều này có thể dẫn đến các chức năng mới và có thể làm nảy sinh các độ chệch mới.

Bạn phải liên tục theo dõi để xem nó có nằm trong giới hạn của khung quyền riêng tư áp dụng hay không. Điều này không chỉ là về việc đưa ra quyết định khác nhau cho các nhóm khác nhau, mà còn là về tác động của nó đối với con người và cách để cân bằng với những lợi ích tiềm năng.

Một ví dụ (hư cấu) về ảnh hưởng tiêu cực có thể là hệ thống phát hiện gian lận (không chủ ý) đặt các giao dịch từ những người trẻ trên hàng đợi kiểm tra thủ công. Ảnh hưởng tiêu cực là giao dịch của họ được xử lý vài giờ sau đó, và ảnh hưởng tiêu cực là cấu trúc đối với nhóm đó.

Nhiều hệ thống trí tuệ nhân tạo có độ chệch đã phản ứng thay vì tích cực. Chìa khóa để giải quyết vấn đề về đạo đức trong trí tuệ nhân tạo là không chỉ định kỳ theo dõi hệ thống của bạn, mà còn có các hướng dẫn rõ ràng về điều gì thực sự là trí tuệ nhân tạo đạo đức cho tổ chức của bạn. Wiggerman chia sẻ:

Tôi nghĩ rằng các công ty công nghệ lớn cùng với các tổ chức phi thương mại đang tiến bộ tích cực khi đối mặt với độ chệch. Ví dụ, các gói phần mềm có thể tái sử dụng như AIF360 giúp bạn đo lường độ chệch.

Như các công ty khác, ABN AMRO đang đánh giá trí tuệ nhân tạo và tiềm năng mà nó có thể mang lại cho khách hàng và nhân viên. Đồng thời, họ đang phát triển chính sách để đảm bảo sự công bằng trong các ứng dụng trí tuệ nhân tạo.

Tiếp tục thu thập dữ liệu cá nhân

Các công ty công nghệ lớn như Amazon, Facebook và Google là những tổ chức mạnh mẽ và phổ biến, đặc biệt là khi nói đến việc thu thập dữ liệu cá nhân. Theo các phát hiện gần đây, Google đứng đầu về lưu trữ nhiều dữ liệu cá nhân nhất, trong khi công ty bảo mật tốt nhất là Apple. Twitter và Facebook được phát hiện lưu trữ nhiều dữ liệu hơn họ cần, nhưng với Facebook, điều này xuất phát từ dữ liệu mà người dùng đã nhập vào chính họ.

Bởi vì vị thế ưu ái mà các công ty công nghệ lớn đang có, họ có khả năng tận dụng dữ liệu họ đã có về người tiêu dùng. Tuy nhiên, chính việc này đặt ra câu hỏi về quyền riêng tư của người tiêu dùng, đặc biệt là khi liên quan đến dịch vụ tài chính.

Wiggerman đặt câu hỏi liệu việc công nghệ lớn xử lý loại dữ liệu họ đang thu thập có phải là đúng không.

Họ cần phải có dữ liệu để sản phẩm của họ hoạt động không? Họ có thể làm được điều đó với ít dữ liệu hơn không? Những câu hỏi này cũng có liên quan đến học máy. Tôi có thể nhập vào địa điểm GPS chính xác của bạn và dự đoán hành động của bạn. Nhưng liệu tôi có thực sự cần thông tin này để sản phẩm của tôi phát hiện gian lận không? Có thể tôi chỉ cần biết liệu bạn ở Hà Lan hay Bỉ thôi.

Chỉ thu thập dữ liệu cần thiết (điều này cũng là một phần của GDPR), là điều mà công nghệ lớn cần xem xét. Độ chệch không nên chỉ là trọng tâm duy nhất, nhưng nó nên là một phần của một đề xuất trí tuệ nhân tạo rộng lớn hơn, chịu trách nhiệm và tính đến các quy định của các quốc gia khác nhau. Ví dụ, các quy định ở Mỹ khác biệt so với châu Âu, mặc dù theo Wiggerman, Mỹ cũng đang áp dụng nhiều quy định giống GDPR hơn trước đây.

Quyền riêng tư, đạo đức và sự công bằng nên được thêm vào vòng đời phát triển sản phẩm từ đầu. Nói cách khác, công bằng và quyền riêng tư theo thiết kế. Điều này không phải là điều gì đó nên thêm vào sau đó. Xem xét an ninh theo thiết kế. Biện pháp bảo mật không nên thêm vào sau đó, mà nên được xem xét từ đầu. Đạo đức trí tuệ nhân tạo cần phải lan tỏa vào tất cả các chính sách rủi ro của mọi công ty.

Hợp tác cùng nhau

Mặc dù công nghệ lớn đang bắt đầu cung cấp nhiều dịch vụ tài chính hơn, một trong nhược điểm là họ không có dữ liệu tài chính lịch sử như ngành ngân hàng truyền thống. Họ cũng thiếu kinh nghiệm trong xử lý tài chính. Wiggerman đề xuất rằng các tổ chức công nghệ lớn hợp tác với ngân hàng để học từ lịch sử tài chính của họ, cũng như hiểu cách họ tuân thủ các mô hình GDPR hoặc yêu cầu kiểm toán.

Tất nhiên, nếu họ muốn trở thành một ngân hàng, họ phải tuân thủ tất cả các quy tắc và quy định. Nhưng tôi nghĩ nếu bạn muốn phát triển sản phẩm tốt, bạn cần nhiều lịch sử tài chính như dữ liệu giao dịch, thông tin về cách khách hàng được tham gia, và cách họ sử dụng các dịch vụ tài chính (vay, thế chấp, vv.) và công nghệ lớn chỉ mới bắt đầu có nó.

Khi đến việc hòa giải an ninh và quyền riêng tư của khách hàng, Wiggerman cho rằng hai khái niệm này có thể kết hợp. "Chắc chắn," ông nói.

Tôi nghĩ chúng có thể kết hợp, đặc biệt là với loại công nghệ mới đang nổi lên từ giới học thuật được gọi là các công nghệ tăng cường quyền riêng tư (PET). Tôi là người hâm mộ của một công nghệ khá mới gọi là tính toán đa bên (MPC), được sử dụng để thực hiện tính toán chung trên dữ liệu đã được mã hóa.

Trong tháng 3, đã được báo cáo rằng ABN AMBRO đang hợp tác với tổ chức nghiên cứu khoa học Hà Lan TNO và công ty dịch vụ tài chính Rabobank để thực hiện dự án MPC nhằm chia sẻ và phân tích dữ liệu để phát hiện tội phạm tài chính.

ABN AMRO không công bố bất kỳ nỗ lực chống tội phạm nào của mình; tuy nhiên, Wiggerman giải thích rằng có sự hợp tác mạnh mẽ giữa các ngân hàng khi đến với an ninh mạng. Khi có điều gì đó xảy ra, thông tin được chia sẻ giữa các dịch vụ ngân hàng thay vì coi an ninh như một lĩnh vực cạnh tranh. Đây là nơi mà các công ty công nghệ lớn có thể khác biệt.

Khi nghĩ về công nghệ lớn, chúng ta thường nghĩ đến các tổ chức lớn cung cấp các nền tảng truyền thông xã hội, các trang web thương mại điện tử hoặc viễn thông. Chúng ta không tự động nghĩ đến trí tuệ nhân tạo và dịch vụ tài chính. Với thuật toán YouTube của Google và Alexa của Amazon, rõ ràng công nghệ lớn đang được thúc đẩy bởi trí tuệ nhân tạo và học máy.

Vì vậy, không có gì ngạc nhiên khi những công ty này đang chuyển hướng vào dịch vụ tài chính, đang nhanh chóng thay đổi ngành ngân hàng. Nhưng để công nghệ lớn thực sự bước vào ngành công nghiệp này, một sự hợp tác giữa hai bên có thể là hướng đi phía trước.