Constrained Decoding / Giải mã Bị ràng buộc

📖 Constrained Decoding

Definition (English):

Constrained decoding restricts the LLM's token generation to follow specific formats or rules. Techniques include grammar-constrained decoding (enforcing JSON, SQL, or custom grammar), token masking (blocking certain tokens), and structured output modes. This ensures reliable, parseable outputs critical for production systems integrating LLMs with downstream applications.

📖 Giải mã Bị ràng buộc

Định nghĩa (Tiếng Việt):

Giải mã bị ràng buộc hạn chế việc tạo token của LLM để tuân theo định dạng hoặc quy tắc cụ thể. Kỹ thuật bao gồm giải mã bị ràng buộc ngữ pháp (bắt buộc JSON, SQL hoặc ngữ pháp tùy chỉnh), mask token (chặn một số token) và chế độ đầu ra có cấu trúc. Điều này đảm bảo đầu ra có thể phân tích cú pháp đáng tin cậy, rất quan trọng cho hệ thống sản xuất tích hợp LLM với ứng dụng downstream.

📂 Phân loại: Prompting