Convex Optimization / Tối ưu hóa Lồi

📖 Convex Optimization

Definition (English):

Convex optimization minimizes a convex function over a convex set. Many ML problems reduce to convex optimization (SVM, logistic regression, linear regression). Gradient descent and its variants are key solvers. Convex problems have a single global optimum, guaranteeing convergence. Non-convex problems (deep learning) may have many local optima but SGD with momentum often finds good solutions empirically.

📖 Tối ưu hóa Lồi

Định nghĩa (Tiếng Việt):

Tối ưu hóa lồi minimal hóa hàm lồi trên tập lồi. Nhiều bài toán ML giảm thành tối ưu hóa lồi (SVM, hồi quy logistic, hồi quy tuyến tính). Gradient descent và các biến thể là solver chính. Bài toán lồi có một optimum toàn cục duy nhất, đảm bảo hội tụ. Bài toán phi lồi (học sâu) có thể có nhiều optimum cục bộ nhưng SGD với momentum thường tìm giải pháp tốt trong thực nghiệm.

📂 Phân loại: Math+