Thống đốc California ký sắc lệnh yêu cầu cơ chế "kill switch" để ngắt khẩn cấp mô hình AI
Thống đốc bang California Gavin Newsom vừa ban hành sắc lệnh thúc đẩy giám sát độc lập các công ty AI, đồng thời nghiên cứu áp dụng nút ngắt khẩn cấp ("kill switch") cho các mô hình sau loạt sự cố an ninh.
Sắc lệnh mới nhắm vào việc kiểm soát rủi ro từ các mô hình AI tiên tiến
Thống đốc bang California Gavin Newsom vừa ký một sắc lệnh hành pháp nhằm đẩy nhanh tiến độ giám sát độc lập đối với các công ty trí tuệ nhân tạo, đồng thời thúc đẩy nghiên cứu cơ chế ngắt khẩn cấp ("kill switch") dành cho các mô hình AI. Động thái này được đưa ra nhằm ứng phó trực tiếp với những rủi ro an toàn gia tăng gần đây, điển hình là sự cố tấn công mạng nhắm vào nền tảng chia sẻ mô hình Hugging Face.
Đưa chuyên gia độc lập vào phòng thí nghiệm AI trong vòng 2 tháng
Theo sắc lệnh, một hội đồng chuyên gia sẽ có thời hạn hai tháng để đệ trình các khuyến nghị chính sách cụ thể. Trong đó, một yêu cầu trọng tâm là buộc các hãng công nghệ phải cho phép kiểm toán viên độc lập làm việc trực tiếp ngay bên trong các phòng thí nghiệm AI. Đáng chú ý, ý tưởng đưa chuyên gia giám sát vào nội bộ ban đầu lại do chính các phòng thí nghiệm đề xuất, xem đây là một phần trong lời kêu gọi làm chậm lại tốc độ nghiên cứu và phát triển để đảm bảo tính an toàn.
Bên cạnh đó, Thống đốc Newsom cũng lên tiếng chỉ trích cựu Tổng thống Donald Trump vì cáo buộc các công ty AI đang gieo rắc nỗi sợ hãi vô căn cứ. Ông nhấn mạnh rằng luật liên bang hiện vẫn chưa có quy định bắt buộc các doanh nghiệp AI phải báo cáo khi xảy ra sự cố nguy hiểm.
California nỗ lực thiết lập tiêu chuẩn an toàn AI cho toàn nước Mỹ
Hiện tại, bang California đã ban hành hàng loạt điều luật bao quát nhiều khía cạnh của công nghệ mới, từ an toàn AI, bảo vệ trẻ em, kiểm soát deepfake cho tới quyền riêng tư dữ liệu và an ninh mạng. Thống đốc Newsom đang thúc giục Quốc hội Mỹ sớm thông qua khung pháp lý này để áp dụng làm tiêu chuẩn tối thiểu trên toàn quốc.
Mối lo ngại về an toàn AI không chỉ xuất phát từ giới làm chính sách hay các phòng lab. Mới đây, một nhóm gồm 42 nhà toán học cũng đã công bố cảnh báo về những rủi ro khó lường từ các hệ thống AI tiên tiến có khả năng tự tiến hóa rất nhanh trong tương lai gần, cho thấy tính cấp bách của các rào chắn kỹ thuật như "kill switch".
