California muốn ép các hãng công nghệ cài "công tắc khẩn cấp" cho mô hình AI

Bang California dẫn đầu làn sóng siết quy định an toàn AI

Thống đốc California Gavin Newsom vừa ban hành sắc lệnh hành pháp mới, đưa tiểu bang này vào vị trí tiên phong trong việc thiết lập khung pháp lý giám sát trí tuệ nhân tạo. Đáng chú ý nhất trong đề xuất lần này là yêu cầu xem xét khả năng bắt buộc các mô hình AI tiên tiến (frontier models) phải tích hợp một "công tắc ngắt khẩn cấp" (kill switch) để có thể vô hiệu hóa hệ thống ngay lập tức khi xuất hiện rủi ro nghiêm trọng.

Sắc lệnh chỉ đạo thành lập một nhóm chuyên gia chuyên trách, có nhiệm vụ nộp báo cáo khuyến nghị trong vòng hai tháng tới nhằm hoàn thiện các biện pháp an toàn AI đưa vào luật bang.

Giám sát độc lập tại chỗ và yêu cầu báo cáo sự cố mất kiểm soát

Theo định hướng của Thống đốc Newsom, nhóm chuyên gia sẽ nghiên cứu tính khả thi của hàng loạt biện pháp siết chặt hoạt động của các tập đoàn công nghệ lớn:

• Cơ chế "kill switch": Đòi hỏi các hãng AI phải duy trì tính năng ngắt khẩn cấp và thường xuyên kiểm tra, xác minh tính hiệu quả của công tắc này trên thực tế.
• Kiểm toán độc lập định kỳ: Yêu cầu các công ty AI phải cho phép các đoàn thanh tra, kiểm định độc lập làm việc tại cơ sở để đánh giá quy trình vận hành và kiểm tra an toàn thường xuyên.
• Minh bạch hóa rủi ro: Đưa các báo cáo minh bạch và đánh giá rủi ro nội bộ của doanh nghiệp vào diện phải tuân thủ chuẩn mực của đơn vị kiểm toán bên ngoài.
• Bắt buộc khai báo sự cố: Các sự cố "mất kiểm soát" (loss-of-control) — chẳng hạn như trường hợp sự cố giữa OpenAI và Hugging Face — sẽ bị xếp vào nhóm sự cố an toàn tối quan trọng và bắt buộc phải báo cáo cho cơ quan quản lý.

Bên cạnh đó, sắc lệnh cũng thúc đẩy một cơ quan cấp bang đẩy nhanh tiến độ thực thi hai đạo luật đã được Thống đốc ký trước đó, bao gồm khung đánh giá an toàn AI cho kiểm định viên độc lập và hệ thống lưu trữ, đăng ký các đơn vị kiểm toán AI chính thức của tiểu bang.

Bế tắc tại Đồi Capitol thúc đẩy chính quyền địa phương hành động

Động thái quyết liệt của California diễn ra trong bối cảnh các cuộc thảo luận lập pháp tại Quốc hội Mỹ vẫn đang giậm chân tại chỗ. Những lo ngại về an toàn AI gần đây đã bùng lên mạnh mẽ sau cảnh báo từ Jacob Coxon, một cựu nhà nghiên cứu tại Anthropic, cho rằng có hơn 10% khả năng AI "có thể tiêu diệt toàn bộ nhân loại" trong vòng một thập kỷ tới.

Dù các nghị sĩ tại Washington đã rục rịch đưa ra một số dự thảo luật, khả năng một đạo luật toàn diện được thông qua ở cấp liên bang trong tương lai gần là rất thấp. Hạ viện Mỹ đang trong kỳ nghỉ cho đến tháng 11, đồng thời cuộc bầu cử giữa nhiệm kỳ đang tới gần khiến Thượng viện khó có thể đạt được đồng thuận cho các dự luật quy mô lớn. Trong khi đó, Tổng thống Donald Trump vẫn giữ quan điểm rằng rào cản hay sự kiểm soát duy nhất mà AI cần chỉ là một vị tổng thống mạnh mẽ và thông minh, thay vì các bộ luật siết chặt quản lý. Do đó, California — cái nôi của Thung lũng Silicon — đang chủ động tự thiết lập luật chơi riêng cho các mô hình AI thế hệ mới.