Nadella và Bill Gates cùng lên tiếng: AI cần “phanh khẩn cấp”

AI như “người trong cuộc” khó truy vết

Theo tổng hợp tin tức trên X, Satya Nadella cho rằng các hệ thống AI mạnh hiện nay hoạt động giống những “người trong cuộc” có quyền truy cập dữ liệu nhạy cảm nhưng khó truy vết. Ông đề xuất tách bạch “trí tuệ” và “quyền hạn”: mô hình có thể thông minh, nhưng quyền hành động phải đi qua lớp kiểm soát bên ngoài, có ghi nhật ký và có khả năng tắt khẩn cấp.

Nadella nhấn mạnh doanh nghiệp không thể “thuê ngoài” trách nhiệm cho nhà cung cấp mô hình. Họ cần hồ sơ hoạt động không thể chỉnh sửa và đa dạng hóa mô hình để tránh phụ thuộc. Cách tiếp cận thiên về kỹ thuật này nhận được sự ủng hộ từ David Sacks, Elon Musk và Mustafa Suleyman.

Bill Gates: tin tặc sẽ gỡ bỏ rào chắn

Trên chương trình State of the Union của CNN, Bill Gates cảnh báo trong năm tới, kẻ xấu có thể gỡ các cơ chế an toàn khỏi mô hình mạnh để dùng cho tống tiền và gây rối thị trường. Ông kêu gọi ngành thay cơ chế tự quản bằng kiểm soát chặt hơn, tương tự quy định với máy bay hay thuốc.

Chủ tịch Microsoft Brad Smith nói với BBC rằng AI hiện còn thiếu cả những quy tắc an toàn cơ bản vốn áp dụng cho sữa hay máy giặt, đồng thời ủng hộ tiêu chuẩn toàn cầu có “phanh khẩn cấp”.

Động thái chính sách

Theo các thông tin được chia sẻ, chính quyền Mỹ hiện cho phép các công ty chia sẻ mô hình AI chưa phát hành với Viện An ninh AI của Anh để kiểm thử – một bước hợp tác an toàn trong khi vẫn duy trì tự điều chỉnh.

Doanh nghiệp nên làm gì?

Thông điệp chung khá rõ: khi AI agent bắt đầu tự gửi email, sửa dữ liệu hay thực hiện giao dịch, doanh nghiệp phải thiết kế quyền hạn tối thiểu, lưu nhật ký mọi hành động, có người phê duyệt với thao tác quan trọng và có nút dừng rõ ràng. Đây không còn là bài toán lý thuyết mà là yêu cầu vận hành thực tế.

Các phát biểu trong bài được tổng hợp từ bản tin trên X; độc giả nên tham khảo bài phỏng vấn và bài viết gốc để có đầy đủ ngữ cảnh.

Nguồn tham khảo

• X News – Nadella Calls for Emergency Brakes on Superintelligent AI
• X News – Bill Gates Warns of Imminent AI Cyberattack Risks

Bài viết tổng hợp từ các bản tin tổng hợp bài đăng trên X (X News); thông tin có thể tiếp tục được cập nhật.