Buzz
Để “xây dựng mô hình có thể bắt đầu thay thế trực giác hoặc nhận thức của con người,” Curwin giải thích, “nhà nghiên cứu phải hiểu trước tiên cách diễn giải hành vi và chuyển đổi hành vi đó thành điều gì đó mà trí tuệ nhân tạo có thể học được.”
Mặc dù học máy và phân tích dữ liệu lớn cung cấp phân tích dự đoán về điều gì có thể xảy ra hoặc có thể sẽ xảy ra, nhưng nó không thể giải thích cho các nhà phân tích cách hoặc tại sao nó đạt đến những kết luận đó. Sự mơ hồ trong lý do của trí tuệ nhân tạo và khó khăn trong việc kiểm tra nguồn gốc, bao gồm các bộ dữ liệu cực kỳ lớn, có thể ảnh hưởng đến tính chắc chắn và tính minh bạch thực tế hoặc được nhìn nhận của những kết luận đó.
Minh bạch trong lý do và nguồn cung là yêu cầu đối với các tiêu chuẩn nghệ thuật phân tích của các sản phẩm được sản xuất bởi và dành cho cộng đồng tình báo. Tính khách quan trong phân tích cũng được yêu cầu theo quy định, kích thích các lời kêu gọi trong chính phủ Hoa Kỳ để cập nhật các tiêu chuẩn và luật lệ như vậy ánh sáng của sự phổ biến ngày càng tăng của trí tuệ nhân tạo.
Học máy và thuật toán khi được sử dụng cho các đánh giá dự đoán cũng được một số người thực hành tình báo coi là nghệ thuật hơn là khoa học. Điều này có nghĩa là chúng dễ bị chệch lệch, nhiễu loạn và có thể đi kèm với các phương pháp không đúng và dẫn đến các sai lầm tương tự như trong các ngành nghệ thuật và khoa học pháp y tội phạm.
Với sự gia tăng dự kiến của trí tuệ nhân tạo trong việc bổ sung hoặc tự động hóa phân tích cho cộng đồng tình báo, ngày càng trở nên cấp thiết phải phát triển và triển khai các tiêu chuẩn và phương pháp, vừa có cơ sở khoa học vừa đạo đức cho ngữ cảnh của lực lượng chức năng và an ninh quốc gia. Trong khi các nhà phân tích tình báo đối mặt với cách làm thế nào để làm cho độ mờ của trí tuệ nhân tạo phù hợp với các tiêu chuẩn chứng cứ và phương pháp lập luận yêu cầu cho ngữ cảnh của lực lượng chức năng và tình báo, cuộc đấu tranh tương tự có thể được tìm thấy trong việc hiểu lập luận vô thức của những người phân tích, điều này có thể dẫn đến kết luận chính xác hoặc có độ chệch.
