RMSProp / RMSProp

📖 RMSProp

Definition (English):

RMSProp (Root Mean Square Propagation) addresses AdaGrad's aggressive learning rate decay by using an exponentially decaying average of squared gradients instead of a simple sum. This allows the learning rate to adapt without shrinking too aggressively. RMSProp was proposed by Geoffrey Hinton and is particularly effective for recurrent neural networks.

📖 RMSProp

Định nghĩa (Tiếng Việt):

RMSProp (Root Mean Square Propagation) giải quyết sự suy giảm mạnh của AdaGrad bằng cách sử dụng trung bình bậc hai giảm hàm mũ của gradient bình phương thay vì tổng đơn giản. Điều này cho phép tốc độ học thích ứng mà không giảm quá mạnh. RMSProp được đề xuất bởi Geoffrey Hinton và đặc biệt hiệu quả cho mạng nơ-ron hồi quy.

📂 Phân loại: Algorithms