Các Thuật toán Trí tuệ Nhân tạo Cần Các Cuộc Thử Nghiệm Dược Phẩm Kiểu FDA

Hãy tưởng tượng một cặp sinh viên hóa sinh uống cà phê đêm khuya trong căn bếp ký túc xá, nấu ra một loại thuốc mới vô tình gây ra thay đổi hành vi vĩnh viễn. Những người sử dụng thuốc trở nên chính trị hóa mạnh mẽ và không kiểm soát được khi nói chuyện thông thường. Tuy nhiên, hỗn hợp này được bán cho hàng tỷ người. Điều này nghe có vẻ ngớ ngẩn, vì FDA sẽ không bao giờ để cho một loại thuốc như vậy được đưa ra thị trường.

Tuy nhiên, điều điên rồ này đang diễn ra ở mọi nơi trên mạng. Mỗi ngày, chúng ta xem những dòng nội dung được lựa chọn tùy chỉnh bởi các thuật toán phần mềm đơn giản, một số được tạo ra trong ký túc xá, dựa trên một kỹ thuật gọi là học tăng cường thích nghi. Mỗi lần nhấp chuột, các thuật toán học cách cá nhân hóa dòng cung cấp theo sở thích của người dùng, từ đó mang về lợi nhuận cho chủ sở hữu của chúng. Nhưng nhà thiết kế đã mắc một sai lầm đơn giản: họ cho rằng sở thích của con người là cố định. Trên thực tế, các thuật toán được áp dụng cho con người linh hoạt có thể gây ra những tác động phụ hoàn toàn khác biệt và có hại trên quy mô toàn cầu. Chúng thay đổi sở thích của chúng ta để làm chúng ta dễ dự đoán hơn, đẩy chúng ta về những cực đoan, và cuối cùng làm suy giảm sự lịch sự và niềm tin trong xã hội. Đã đến lúc chúng ta ngừng cho phép điều này diễn ra một cách thản nhiên và tạo ra phiên bản kỹ thuật số tương đương với các cuộc thử nghiệm dược phẩm.

Các hệ thống thông minh quy mô lớn cần được quy định vì chúng là một công cụ tăng cường lực lượng chưa từng có để thúc đẩy lợi ích của cá nhân hoặc một nhóm. Lần đầu tiên trong lịch sử, một người có thể tùy chỉnh một thông điệp cho hàng tỷ người và chia sẻ nó với họ chỉ trong vài ngày. Một kỹ sư phần mềm có thể tạo ra một đội quân các bot được trang bị trí tuệ nhân tạo, mỗi bot đóng vai một người khác nhau, quảng cáo nội dung thay mặt cho lợi ích chính trị hoặc thương mại. Khác với tuyên truyền truyền hình hoặc tiếp thị trực tiếp, cách tiếp cận này cũng sử dụng các đặc tính tự củng cố của thuật toán để học điều gì hoạt động tốt nhất để thuyết phục và thúc đẩy từng cá nhân.

Thao túng sở thích người dùng và sử dụng đội quân bot để tận dụng sự lừa dối rộng rãi đã làm đảo lộn sự đoàn kết của xã hội và quá trình dân chủ. Để bảo vệ sự tự chủ nhận thức của cá nhân và sức khỏe chính trị của xã hội nói chung, chúng ta cần làm cho chức năng và ứng dụng của thuật toán trở nên minh bạch, và FDA cung cấp một mô hình hữu ích.

Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ yêu cầu kiểm tra kiểm soát trên động vật để xác định an toàn, sau đó là kiểm tra thêm trên các nhóm dân số nhỏ để xác định hiệu quả. Chỉ sau đó một công ty mới có thể cung cấp một loại thuốc mới cho đám đông. Trái ngược với đó, phần mềm thường chỉ phải trải qua “kiểm thử đơn vị” để đảm bảo các dòng mã mới hoạt động như mong đợi và “kiểm thử tích hợp” để đảm bảo các cập nhật không làm suy giảm hiệu suất hệ thống. Điều này giống như kiểm tra một loại thuốc cho chất gây ô nhiễm mà không kiểm tra tác động của thành phần hoạt tính.

Tất nhiên, chúng ta không thể tập hợp một bảng xét duyệt kiểu FDA truyền thống để loại bỏ nội dung giả mạo có chủ ý trong mọi bài viết trực tuyến. Nhưng chúng ta đã có công cụ cho cả nền tảng và người dùng để phát hiện sự không đúng và loại bỏ nguồn tin đáng ngờ, bao gồm hệ thống danh tiếng, các đánh giá viên bên ngoài, các tổ chức giống như cơ quan công chứng, khả năng truy vết, và, như trường hợp tại California, quy định yêu cầu bot tự xác định mình và làm việc pháp lý với việc triển khai bot có chủ đích gian lận người khác trong việc thúc đẩy mua hàng hoặc ảnh hưởng đến bầu cử.

Tuy nhiên, điều này chưa đủ để bảo vệ xã hội. Facebook và bộ tối ưu click của nó đã tái cấu trúc xã hội mà không có dấu hiệu cố ý lừa dối. Một quy trình kiểm thử số học toàn diện hơn sẽ cần giảm thiểu nguy cơ hại cho người và xã hội bất kể động cơ của các nhà phát triển.

Thử nghiệm lâm sàng số học như thế nào? Một cơ quan giám sát sẽ cần có thẩm quyền của một cơ quan chính phủ như FDA, nhưng cũng sử dụng sâu sắc kiến thức chuyên sâu về công nghệ có sẵn tại các cơ quan quản lý hiện tại như ICANN. Nó sẽ cần sự đa dạng đầy đủ kiến thức để hiểu rộng lớn của xã hội, mời các nhà tâm lý học và nhà xã hội học cùng với các lập trình viên và nhà kinh tế học ngồi cùng nhau. Vì không phải mọi đoạn mã đều cần sự giám sát chặt chẽ, nó sẽ cần các điểm kích hoạt cụ thể để xem xét và mức độ kiểm tra như thế nào, tương tự như cách quyền của FDA mở rộng hoặc thu hẹp đối với dược phẩm so với bổ sung dinh dưỡng.

Cần sử dụng kiểm thử cấp hệ thống không chỉ quan sát cách phần mềm hoạt động mà còn mô phỏng các tác động cấp hai và ba mà nó có thể gây ra trên xã hội, như tăng cường căm ghét quyết liệt với các nhóm khác và tạo điều kiện cho nghiện game xã hội. Công nghệ này sẽ giống như các phương pháp mà các nhà khoa học chính trị và các cơ quan tình báo sử dụng để xây dựng các mô hình tính toán của các xã hội đang trải qua biến đổi như khủng hoảng thực phẩm và dịch bệnh. Với các công cụ kiểm thử cả sự đàn hồi và tác động lan truyền, chúng ta có thể triển khai một quy trình phát hành từ các mô phỏng "hộp cát" này đến một nhóm nhỏ người dùng, và sau đó đến thị trường tổng thể.

Đây chỉ là điểm khởi đầu cho một cơ quan giám sát có thể dần dần tạo điều kiện cho sự đổi mới có lợi, giống như cách luật lệ giao thông làm cho giao thông thông suốt hơn. Cấu trúc, quy trình và menu các công cụ kiểm thử mà nó sử dụng sẽ phải linh hoạt đủ để theo kịp với sự thay đổi công nghệ liên tục. Bất kể thiết kế cuối cùng ra sao, chúng ta cần bắt đầu ngay. Mặc dù quy trình phê duyệt thuốc có thể bị lỗi hoặc bị tham nhũng, như nỗi ác mộng về opioid đang diễn ra, mô hình của nó vẫn tốt hơn rất nhiều so với các biện pháp phòng thủ nhỏ bé hiện tại để bảo vệ chúng ta khỏi vũ khí tàn phá xã hội hàng loạt.

Mất thời gian để tạo ra một cơ chế bảo vệ cá nhân và xã hội mà không cản trở các con đường dẫn tới các công nghệ mới hứa hẹn. Chúng ta có thể mong đợi thêm sự phá vỡ xã hội trong thời gian chờ đợi, khi động cơ thương mại và chính trị tiếp tục dẫn lối cho các ngành tư nhân đi xa khỏi những biện pháp bảo vệ tích cực mà chúng ta cần. Chúng ta sẽ bị đẩy thêm về hai đầu cực, và hi vọng về một cuộc trò chuyện trên mạng lưới thông tin kỹ thuật số mở, màu mỡ và đa dạng sẽ héo úa. Điều đó không tốt cho xã hội chúng ta cũng như cho sự đổi mới của người khởi nghiệp. Đó là lợi ích chung của chúng ta để tránh số phận đó.

MYTOUR Opinion phát hành các bài viết được viết bởi các đồng sáng tác bên ngoài và đại diện cho nhiều quan điểm khác nhau. Đọc thêm các ý kiến tại đây. Gửi bài viết tại [email protected].

• 3 năm đau khổ bên trong Google, nơi hạnh phúc nhất trong ngành công nghệ
• Lịch sử kỳ lạ và u ám của 8chan và người sáng lập
• 8 cách các nhà sản xuất thuốc nước ngoài đánh lừa Cục FDA
• Một lỗ hổng mã code của Boeing tiết lộ các lỗi bảo mật sâu trong dòng sản phẩm 787
• Nỗi lo lắng kinh hoàng từ các ứng dụng chia sẻ vị trí địa lý
• 🏃🏽‍♀️ Muốn có những công cụ tốt nhất để khỏe mạnh? Kiểm tra bộ sưu tập của đội ngũ Gear với các bộ theo dõi sức khỏe, trang thiết bị chạy bộ (bao gồm giày và tất) và tai nghe tốt nhất.
• 📩 Nhận thêm thông tin nội bộ của chúng tôi với bản tin hàng tuần Backchannel