Canary Deployment / Triển khai Canary

📖 Canary Deployment

Definition (English):

Canary deployment gradually shifts traffic from the old model to the new model, starting with a small percentage (e.g., 1-5%) and increasing if metrics remain healthy. If the new model shows degradation, traffic is rolled back. This minimizes blast radius of failures. Combined with monitoring (latency, error rates, prediction distributions), canary deployment is standard for safe ML model updates.

📖 Triển khai Canary

Định nghĩa (Tiếng Việt):

Triển khai canary dần dần chuyển lưu lượng từ mô hình cũ sang mô hình mới, bắt đầu với tỷ lệ nhỏ (ví dụ: 1-5%) và tăng nếu chỉ số vẫn tốt. Nếu mô hình mới thể hiện suy giảm, lưu lượng được hoàn原. Điều này giảm thiểu bán kính nổ của lỗi. Kết hợp với giám sát (độ trễ, tỷ lệ lỗi, phân bố dự đoán), triển khai canary là tiêu chuẩn cho cập nhật mô hình ML an toàn.

📂 Phân loại: MLOps