Task Arithmetic / Toán học Nhiệm vụ

✍️

📖 Task Arithmetic

Definition (English):

Task arithmetic performs arithmetic operations on model weights to compose or remove capabilities. Given a pre-trained model θ₀ and fine-tuned models θ₁, θ₂ for tasks A, B: θ₀ + (θ₁ – θ₀) + (θ₂ – θ₀) = multi-task model. Negation: θ₀ – (θ₁ – θ₀) removes task A. This enables modular, training-free model editing and composition. Related: model merging, weight disentanglement.


📖 Toán học Nhiệm vụ

Định nghĩa (Tiếng Việt):

Toán học nhiệm vụ thực hiện phép toán số học trên trọng số mô hình để.compose hoặc loại bỏ khả năng. Cho mô hình pre-trained θ₀ và fine-tuned θ₁, θ₂ cho nhiệm vụ A, B: θ₀ + (θ₁ – θ₀) + (θ₂ – θ₀) = mô hình đa nhiệm. Phép phủ định: θ₀ – (θ₁ – θ₀) loại bỏ nhiệm vụ A. Điều này cho phép chỉnh sửa và compose mô hình mô-đun, không cần huấn luyện. Liên quan: model merging, weight disentanglement.


📂 Phân loại: Foundation Models

Hỏi AI Edu?