Những Đạo đức Nan giải của Hoài bão Đám mây của Google

Cố gắng của Google để chiếm đường nhiều đô la từ lĩnh vực tính toán đám mây hơn các đối thủ thị trường như Amazon và Microsoft đã có một người quản lý mới vào cuối năm ngoái. Tuần sau, Thomas Kurian dự kiến sẽ trình bày tầm nhìn của mình về doanh nghiệp tại hội nghị tính toán đám mây của công ty, phát triển chiến lược của người tiền nhiệm bằng cách nhấn mạnh sức mạnh của Google trong trí tuệ nhân tạo.

Chiến lược này trở nên phức tạp do các tranh cãi về cách Google và khách hàng của nó sử dụng công nghệ mạnh mẽ này. Sau các cuộc biểu tình của nhân viên về một hợp đồng với Quân đội nơi mà Google đào tạo thuật toán để hiểu ảnh chụp từ drone, đơn vị đám mây bây giờ đưa dự án Trí tuệ nhân tạo của mình—và của khách hàng—qua đánh giá đạo đức. Điều này đã khiến Google từ chối một số giao dịch kinh doanh. “Có những điều mà chúng tôi đã từ chối,” Tracy Frey, giám đốc chiến lược Trí tuệ nhân tạo của Google Cloud nói, mặc dù bà từ chối tiết lộ điều gì.

Tuy nhiên, tuần này, công ty đã làm tăng lên chỉ trích rằng những cơ chế đó không thể tin tưởng khi nó vụng trộm trong việc cố gắng đưa ra sự giám sát bên ngoài đối với quá trình phát triển Trí tuệ nhân tạo của mình.

Đánh giá đạo đức của Google kết nối nhiều chuyên gia. Frey cho biết các quản lý sản phẩm, kỹ sư, luật sư và nhà đạo đức đánh giá các dịch vụ mới được đề xuất dựa trên các nguyên tắc Trí tuệ nhân tạo của Google. Một số sản phẩm mới được thông báo tuần sau sẽ có các tính năng hoặc hạn chế được thêm vào như một kết quả.

Năm ngoái, quá trình đó dẫn Google không phát hành dịch vụ nhận diện khuôn mặt, điều mà các đối thủ như Microsoft và Amazon đã thực hiện. Tuần này, hơn 70 nghiên cứu viên Trí tuệ nhân tạo—bao gồm chín người làm việc tại Google—ký tên trên một lá thư mở gọi Amazon dừng bán công nghệ này cho lực lượng chức năng.

Frey nói rằng các quyết định khó khăn về cách—hoặc liệu—phát hành công nghệ Trí tuệ nhân tạo sẽ trở nên phổ biến hơn khi công nghệ tiến bộ.

Tháng 2, Viện nghiên cứu OpenAI ở San Francisco cho biết nó sẽ không phát hành phần mềm mới nó tạo ra có khả năng tạo văn bản trôi chảy đáng kinh ngạc vì nó có thể được sử dụng một cách độc hại. Một số nhà nghiên cứu coi sự kiện này như một trò chơi bài, nhưng Frey nói rằng nó cung cấp một ví dụ mạnh mẽ về sự kiềm chế cần thiết khi công nghệ Trí tuệ nhân tạo trở nên mạnh mẽ hơn. “Chúng tôi hy vọng có thể duy trì quan điểm can đảm đó,” bà nói. Google nói năm ngoái rằng nó đã sửa đổi nghiên cứu về phần mềm đọc môi để giảm thiểu rủi ro lạm dụng. Công nghệ có thể giúp những người khuyết tật thính lực—hoặc có thể được sử dụng để xâm phạm quyền riêng tư.

Không phải ai cũng tin rằng Google có thể được tin tưởng để đưa ra quyết định đạo đức về công nghệ và kinh doanh của chính mình.

Nguyên tắc Trí tuệ nhân tạo của Google đã bị chỉ trích là quá mơ hồ và quá phù hợp. Dự án vũ khí bị cấm, nhưng công việc quân sự vẫn được phép. Nguyên tắc nói rằng Google sẽ không theo đuổi “các công nghệ mà mục đích vi phạm nguyên tắc phổ biến của luật quốc tế và nhân quyền,” nhưng công ty đã thử nghiệm một công cụ tìm kiếm cho Trung Quốc có thể phải thực hiện kiểm duyệt chính trị nếu được ra mắt.

Kể từ khi Google tiết lộ nguyên tắc Trí tuệ nhân tạo của mình, công ty đã phải đối mặt với những câu hỏi về cách chúng sẽ được thi hành mà không có sự giám sát bên ngoài. Tuần trước, Google thông báo về một bảng cố vấn gồm tám người ngoại vi mà nó nói sẽ giúp thi hành nguyên tắc. Vào cuối thứ Năm, công ty thông báo rằng Hội đồng Tư vấn Công nghệ Ngoại vi Nâng cao đang được đóng cửa và công ty đang “trở lại vẽ lại kế hoạch.

Sự thay đổi hướng đến sau khi hàng nghìn nhân viên Google ký tên vào một đơn phản đối sự bao gồm cả Kay Coles James, chủ tịch của viện tư duy bảo thủ Heritage Foundation. Bà đã làm việc trong nhóm chuyển giao của Tổng thống Trump và đã phát biểu chống lại các chính sách nhằm giúp đỡ người trans và LGBTQ. Khi gian lận trở nên lớn, một thành viên của hội đồng từ chức và một người khác, nhà triết học của Đại học Oxford Luciano Floridi, nói rằng Google đã đưa ra một “lỗi nghiêm trọng” khi bổ nhiệm James.

Os Keyes, một nghiên cứu viên tại Đại học Washington, đã tham gia cùng hàng trăm người ngoại vi trong việc ký tên vào đơn phản đối việc bao gồm cả Kay Coles James, nói rằng sự kiện này cho thấy Google quan tâm hơn đến việc lấy lòng ủng hộ chính trị của người bảo thủ hơn là tác động của công nghệ Trí tuệ nhân tạo. “Ý tưởng về 'Trí tuệ nhân tạo có trách nhiệm' theo cách mà Google thực hành thực sự không có trách nhiệm,” Keyes nói. “Họ có nghĩa là 'không gây hại, trừ khi gây hại mang lại tiền.'”

Bất cứ điều gì làm tăng ma sát đối với các sản phẩm hoặc giao dịch mới có thể làm tăng thách thức của Kurian. Ông đảm nhận vị trí tại Google Cloud năm ngoái sau khi Diane Greene rời đi, một kỹ sư và quản lý nổi tiếng đã dẫn dắt một sự mở rộng đáng kể của đơn vị sau khi gia nhập vào năm 2016. Mặc dù doanh nghiệp đám mây của Google đã đạt được tiến triển trong thời kỳ lãnh đạo của Greene, Amazon và Microsoft cũng đã làm tăng. Oppenheimer ước tính rằng Google chiếm 10% thị trường đám mây, rất kém so với 45% của Amazon và 17% của Microsoft.

Google không phải là công ty lớn duy nhất gần đây nói nhiều hơn về đạo đức Trí tuệ nhân tạo. Microsoft có quy trình đánh giá đạo đức nội bộ riêng cho các hợp đồng Trí tuệ nhân tạo và cũng nói rằng họ đã từ chối một số dự án Trí tuệ nhân tạo. Frey nói rằng những đánh giá như vậy không nhất thiết phải làm chậm kinh doanh và rằng các cuộc kiểm tra đạo đức Trí tuệ nhân tạo của Google có thể tạo ra kinh doanh mới vì nhận thức ngày càng tăng về các rủi ro đi kèm với sức mạnh của Trí tuệ nhân tạo. Google Cloud cần khuyến khích niềm tin vào Trí tuệ nhân tạo để thành công lâu dài, bà nói. “Nếu niềm tin đó bị phá vỡ ở bất kỳ điểm nào, chúng ta có nguy cơ không thể thực hiện được những tác động quan trọng và giá trị của Trí tuệ nhân tạo được tích hợp vào doanh nghiệp trên toàn thế giới,” Frey nói.

Nhiều câu chuyện tuyệt vời khác của Mytour

• Muốn bắt đầu lên men thực phẩm? Lấy ngay bộ dụng cụ này
• Những cú ném tự do nên dễ dàng. Tại sao các cầu thủ NBA lại bỏ lỡ?
• Nỗ lực của Nga khai thác khí dưới tundra Bắc Cực
• Theo dõi chuyển động của mắt có thể giúp máy tính học
• Al Gore không phải là người phát minh ra Green New Deal, nhưng anh ấy thích nó
• 👀 Đang tìm kiếm những thiết bị công nghệ mới nhất? Kiểm tra các hướng dẫn mua sắm và ưu đãi tốt nhất của chúng tôi suốt cả năm
• 📩 Muốn biết thêm? Đăng ký nhận bản tin hàng ngày của chúng tôi và không bao giờ bỏ lỡ những câu chuyện tuyệt vời nhất của chúng tôi