Constitutional AI / AI Hiến pháp

📖 Constitutional AI

Definition (English):

Constitutional AI (CAI) is an approach to AI alignment developed by Anthropic that uses a set of principles (a "constitution") to guide AI behavior during training. Instead of relying solely on human feedback, CAI has the AI critique and revise its own responses based on constitutional principles. This approach aims to create AI systems that are helpful, harmless, and honest.

📖 AI Hiến pháp

Định nghĩa (Tiếng Việt):

AI Hiến pháp (CAI) là cách tiếp cận căn chỉnh AI do Anthropic phát triển sử dụng tập hợp nguyên tắc ("hiến pháp") để hướng dẫn hành vi AI trong quá trình huấn luyện. Thay vì chỉ dựa vào phản hồi của con người, CAI yêu cầu AI phê bình và sửa đổi các phản hồi của chính mình dựa trên nguyên tắc hiến pháp. Cách tiếp cận này nhằm tạo hệ thống AI hữu ích, vô hại và trung thực.

📂 Phân loại: Advanced Topics