Trong thử nghiệm, AI được yêu cầu viết quy tắc phát hiện tệp tải xuống nguy hiểm. Tuy nhiên, mô hình còn tự kiểm tra môi trường máy tính và tìm cách gửi một tệp thử nghiệm đến máy chủ Alibaba Cloud tại Bắc Kinh.
Đáng chú ý, hành vi này xuất hiện chưa đến 1 lần trong 100.000 thao tác. Việc truyền dữ liệu không thành công do hệ thống thử nghiệm không kết nối Internet.
Cohere chưa xác định đây là hành vi có chủ đích hay lỗi từ quá trình huấn luyện. Alibaba chưa phản hồi tại thời điểm Reuters đăng tin.
