Task Arithmetic / Toán học Nhiệm vụ
📖 Task Arithmetic
Definition (English):
Task arithmetic performs arithmetic operations on model weights to compose or remove capabilities. Given a pre-trained model θ₀ and fine-tuned models θ₁, θ₂ for tasks A, B: θ₀ + (θ₁ – θ₀) + (θ₂ – θ₀) = multi-task model. Negation: θ₀ – (θ₁ – θ₀) removes task A. This enables modular, training-free model editing and composition. Related: model merging, weight disentanglement.
📖 Toán học Nhiệm vụ
Định nghĩa (Tiếng Việt):
Toán học nhiệm vụ thực hiện phép toán số học trên trọng số mô hình để.compose hoặc loại bỏ khả năng. Cho mô hình pre-trained θ₀ và fine-tuned θ₁, θ₂ cho nhiệm vụ A, B: θ₀ + (θ₁ – θ₀) + (θ₂ – θ₀) = mô hình đa nhiệm. Phép phủ định: θ₀ – (θ₁ – θ₀) loại bỏ nhiệm vụ A. Điều này cho phép chỉnh sửa và compose mô hình mô-đun, không cần huấn luyện. Liên quan: model merging, weight disentanglement.
📂 Phân loại: Foundation Models