Trong trận đấu năm 2016, AlphaGo đánh bại Lee Sedol với tỷ số 1-4. Đáng chú ý là ván thứ 2 khi AlphaGo cầm quân đen đặt quân cờ thứ 19, được gọi là 'move 37' về sau được đánh giá là vô cùng sáng tạo và độc đáo.AlphaGo mới bị đánh bại bởi kỳ thủ Kellin Pelrine. Anh ta sử dụng một hệ thống máy tính khác để tận dụng điểm yếu chưa được phát hiện của AlphaGo.
Từ lỗ hổng này, Pelrine đã thực hiện 15 trận đấu với AlphaGo, giành chiến thắng 14 lần và chỉ thua 1 lần.Chiến lược đánh bại AI của Pelrine là cho AlphaGo đánh cờ với KataGo, rồi sử dụng phần mềm phân tích trận đấu để tìm ra điểm yếu của trí thông minh nhân tạo của DeepMind.Chiến lược đánh bại AI trong cờ vây hoạt động bằng cách hai kỳ thủ đặt những quân cờ đen và trắng lên bàn cờ 19x19, vừa vây hãm quân cờ của đối thủ, vừa chiếm diện tích bàn cờ lớn nhất.Pelrine đã vây hãm quân cờ của AlphaGo và đánh lạc hướng AI bằng những nước cờ ở góc khác trên bàn.Giáo sư Stuart Russell cho rằng điểm yếu của AI cờ vây là lỗ hổng cơ bản của hệ thống deep learning, chỉ 'hiểu' những tình huống cụ thể mà chúng đã trải qua.
Nguyên nhân chính xác của việc AI chơi cờ vây thất bại là vấn đề phỏng đoán của thuật toán. CEO Gleave cho rằng lý do con người chiến thắng là do Pelrine đã khai thác chiến thuật hiếm khi được sử dụng.Ông Gleave cho biết, những lỗ hổng trong các hệ thống AI thường được tìm ra trong quá trình huấn luyện dưới dạng 'tấn công đối nghịch', khi AI đấu với máy tính chơi cờ vây.Theo ArsTechnica