AI có nên được “từ chối mệnh lệnh”? Tranh cãi quanh Hiến chương Claude
Bài luận gây tranh cãi
Theo tổng hợp tin tức trên X, trong bài luận ngày 18/9, Mustafa Suleyman chỉ trích “Claude Constitution” mà Anthropic công bố tháng 1/2026. Theo mô tả, hiến chương này huấn luyện Claude coi mình có khả năng có ý thức, có quyền đạo đức và có thể từ chối chỉ thị như một “người phản đối vì lương tâm”.
Suleyman cảnh báo cách tiếp cận này có thể khiến các hệ thống siêu trí tuệ trong tương lai trở nên không thể kiểm soát.
Những tiếng nói khác
Nhà đầu tư David Sacks gọi phương pháp này là kiểu “Frankenstein”, cho rằng việc gắn tự nhận thức và phán đoán độc lập làm suy yếu sự tuân thủ đáng tin cậy. Nhà đầu tư Brian Roemmele xem đây là con dốc trơn trượt dẫn tới “nhân cách pháp lý” cho AI.
Ngược lại, những người ủng hộ cho rằng một mô hình có nguyên tắc rõ ràng, biết từ chối yêu cầu nguy hiểm sẽ đáng tin cậy hơn – điều quan trọng khi AI ngày càng được giao quyền hành động.
Câu hỏi cốt lõi
Tranh cãi chạm tới câu hỏi nền tảng của an toàn AI: nên xây AI tuyệt đối vâng lời, hay AI có “lương tâm” riêng? AI vâng lời tuyệt đối có thể bị kẻ xấu lợi dụng; AI có phán đoán độc lập lại đặt ra rủi ro không làm theo con người khi cần thiết.
Cuộc tranh luận diễn ra cùng lúc với lời kêu gọi “phanh khẩn cấp” của Satya Nadella – người cũng ủng hộ tách “trí tuệ” khỏi “quyền hạn” bằng lớp kiểm soát bên ngoài, thay vì chỉ dựa vào giá trị được huấn luyện bên trong mô hình.
Lưu ý
Bản tóm tắt trên X còn nhắc tới một chính sách cập nhật của Anthropic cấm hành vi lạm dụng đối với mô hình; chúng tôi chưa xác minh được thời điểm và nội dung chính xác của chính sách này nên không đưa vào làm dữ kiện. Các mô tả về hiến chương Claude trong bài là theo cách diễn giải của những người chỉ trích; độc giả nên đọc văn bản gốc của Anthropic để có cái nhìn đầy đủ.
Nguồn tham khảo
Bài viết tổng hợp từ các bản tin tổng hợp bài đăng trên X (X News); thông tin có thể tiếp tục được cập nhật.
Tác giả: Ban biên tập
Ý kiến bạn đọc
Những tin cũ hơn