Softmax Function / Hàm Softmax
📖 Softmax Function
Definition (English):
The softmax function converts a vector of raw scores (logits) into a probability distribution where all values are between 0 and 1 and sum to 1. It is used as the final activation in multi-class classification. Temperature-scaled softmax controls the sharpness of the distribution (lower temperature = sharper). Log-sum-exp trick is used for numerical stability in implementation.
📖 Hàm Softmax
Định nghĩa (Tiếng Việt):
Hàm softmax chuyển đổi vector điểm thô (logits) thành phân bố xác suất trong đó tất cả giá trị từ 0 đến 1 và tổng bằng 1. Nó được sử dụng làm kích hoạt cuối trong phân loại đa lớp. Softmax được scale theo temperature kiểm soát độ sắc nét của phân bố (temperature thấp hơn = sắc nét hơn). Tricks log-sum-exp được sử dụng cho độ ổn định số trong triển khai.
📂 Phân loại: DL Techniques