AI Alignment / Căn chỉnh AI

📖 AI Alignment

Definition (English):

AI alignment is the technical problem of ensuring that AI systems behave in ways that are consistent with human values, intentions, and goals. It addresses the challenge of making AI systems that are beneficial, controllable, and safe. Alignment research includes value learning, reward modeling, interpretability, and corrigibility. It is considered one of the most important challenges in AI safety.

📖 Căn chỉnh AI

Định nghĩa (Tiếng Việt):

Căn chỉnh AI là vấn đề kỹ thuật đảm bảo hệ thống AI hoạt động phù hợp với giá trị, ý định và mục tiêu của con người. Nó đề cập đến thách thức tạo hệ thống AI có lợi, có thể kiểm soát và an toàn. Nghiên cứu căn chỉnh bao gồm học giá trị, mô hình hóa phần thưởng, khả năng giải thích và khả năng sửa chữa. Nó được coi là một trong những thách thức quan trọng nhất trong an toàn AI.

📂 Phân loại: AI Safety