Self-supervised Learning / Tự giám sát

📖 Self-supervised Learning

Definition (English):

Self-supervised learning is a machine learning paradigm where the model learns to predict parts of its own input from other parts of its input, without requiring explicit human labels. The supervision signal is derived from the data itself. This approach has been revolutionary for training large language models like GPT and BERT, where the model learns from the structure of text data.

📖 Tự giám sát

Định nghĩa (Tiếng Việt):

Tự giám sát là paradim học máy trong đó mô hình học cách dự đoán một phần đầu vào từ các phần khác của chính đầu vào, không cần nhãn người giám sát rõ ràng. Tín hiệu giám sát được rút ra từ chính dữ liệu. Cách tiếp cận này đã cách mạng hóa việc huấn luyện các mô hình ngôn ngữ lớn như GPT và BERT, trong đó mô hình học từ cấu trúc dữ liệu văn bản.

📂 Phân loại: ML Techniques