Temperature Sampling / Lấy mẫu Temperature

📖 Temperature Sampling

Definition (English):

Temperature sampling controls the randomness of LLM text generation by dividing logits by a temperature parameter before softmax. Temperature < 1 sharpens the distribution (more deterministic), temperature > 1 flattens it (more random). Temperature = 0 is greedy decoding (always pick highest). Temperature 0.7-0.9 is typical for creative writing; 0-0.2 for factual tasks.

📖 Lấy mẫu Temperature

Định nghĩa (Tiếng Việt):

Lấy mẫu temperature kiểm soát tính ngẫu nhiên của tạo văn bản LLM bằng cách chia logits cho tham số temperature trước softmax. Temperature < 1 sắc nét phân bố (deterministic hơn), temperature > 1 làm phẳng (ngẫu nhiên hơn). Temperature = 0 là greedy decoding (luôn chọn cao nhất). Temperature 0.7-0.9 là điển hình cho viết sáng tạo; 0-0.2 cho tác vụ thực tế.

📂 Phân loại: Techniques