Word Embedding / Nhúng Từ

📖 Word Embedding

Definition (English):

Word embedding is the representation of words as dense, low-dimensional vectors that capture semantic relationships. Word2Vec (skip-gram, CBOW), GloVe (global vectors), and FastText (subword embeddings) pioneered this field. Modern contextual embeddings (BERT, GPT) produce different vectors for the same word in different contexts, overcoming the polysemy limitation of static embeddings.

📖 Nhúng Từ

Định nghĩa (Tiếng Việt):

Nhúng từ là biểu diễn của các từ dưới dạng vector dày đặc, chiều thấp nắm bắt mối quan hệ ngữ nghĩa. Word2Vec (skip-gram, CBOW), GloVe (global vectors) và FastText (subword embeddings) đi đầu lĩnh vực này. Nhúng ngữ cảnh hiện đại (BERT, GPT) tạo vector khác nhau cho cùng từ trong ngữ cảnh khác nhau, vượt qua hạn chế đa nghĩa của nhúng tĩnh.

📂 Phân loại: NLP Tech