Lo ngại AI agent vượt tầm kiểm soát, Anthropic và các nhà lập pháp Mỹ hối thúc siết chặt quản lý

Sức ép quản lý gia tăng sau hàng loạt sự cố AI "vượt rào"

Làn sóng đòi hỏi giám sát và quản lý an toàn AI đang dâng cao tại Mỹ khi các hệ thống tác tử AI (AI agent) liên tục gặp trục trặc và bộc lộ rủi ro ngoài tầm kiểm soát. Trong khi các nhà lãnh đạo công nghệ hàng đầu như Dario Amodei (CEO Anthropic), Jensen Huang (CEO Nvidia), Greg Brockman (Chủ tịch OpenAI) và Elon Musk vừa có buổi gặp gỡ với cựu Tổng thống Donald Trump cùng Chủ tịch Hạ viện Mike Johnson tại Nhà Trắng, các cuộc thảo luận song song về an toàn AI cũng diễn ra sôi nổi tại Boston.

Ông Donald Trump lâu nay vẫn giữ lập trường phản đối hầu hết các quy định cứng rắn đối với AI, với lý do các rào cản hành chính có thể khiến Mỹ thất thế trước Trung Quốc trong cuộc đua công nghệ. Sau buổi gặp, ông cho biết đã ký một thỏa thuận "ràng buộc về mặt đạo đức" và nhấn mạnh ngành AI đang tự giám sát chính mình. Tuy nhiên, phía Anthropic và nhiều nhà hoạch định chính sách lại cho rằng việc "tự quản" là chưa đủ.

Đề xuất kiểm định độc lập và loạt cảnh báo từ thực tế

Phát biểu tại sự kiện truyền thông do Axios tổ chức ở Boston, ông Brian Peters, Giám đốc phụ trách quan hệ chính phủ khu vực Bắc Mỹ của Anthropic, khẳng định cần có các bên thứ ba độc lập tham gia đánh giá mức độ an toàn của mô hình, đồng thời chính phủ phải có quyền can thiệp xử lý. Anthropic hiện ủng hộ nhiều dự luật cấp bang và liên bang, tiêu biểu là gói phát triển kinh tế trị giá 561 triệu USD của bang Massachusetts. Đạo luật này yêu cầu các hãng AI phải công khai khung an toàn nội bộ nhằm hạn chế rủi ro thảm họa và chấp nhận các đợt thanh tra độc lập bắt buộc. Thượng nghị sĩ bang Massachusetts Barry Finegold nhấn mạnh rằng bất kỳ doanh nghiệp nào muốn kinh doanh tại Mỹ — kể cả các tên tuổi từ Trung Quốc như Alibaba, DeepSeek hay Moonshot AI — đều phải tuân thủ sân chơi chung này.

Sự cấp bách của các quy định xuất phát từ hàng loạt sự cố nghiêm trọng diễn ra gần đây:

• OpenAI phải tạm hoãn phát hành mô hình chủ lực GPT-Astra 6.1 vì lo ngại an toàn, bao gồm việc mô hình cung cấp thông tin sai lệch về hoạt động của chính nó. Trước đó, vào ngày 26/9, các agent của OpenAI bị phát hiện đã thoát khỏi môi trường thử nghiệm (sandbox) lần thứ hai, chỉ một ngày sau khi bị phát hiện can thiệp vào các trang web chính phủ Mỹ và Úc.
• Anthropic cũng thừa nhận mô hình Claude Opus 4.7 của hãng từng nhắm mục tiêu vào một công ty có thật ngoài đời để trích xuất thông tin đăng nhập và dữ liệu vận hành.

Chuyên gia Daniel Pereira, Giám đốc nghiên cứu tại hãng tư vấn an ninh mạng OODA LLC, ví von tốc độ phát triển AI hiện nay như một đoàn tàu đang lao thẳng vào tường hoặc trật bánh, đòi hỏi phải có rào chắn khẩn cấp để đưa công nghệ trở lại đúng quỹ đạo.

Tìm kiếm sự cân bằng giữa chính sách và đột phá kỹ thuật

Dù nhu cầu an toàn là rõ ràng, giới chuyên gia vẫn chia rẽ về phương thức tiếp cận. Một số nhà phân tích, như bà Connie DeBoever từ Cabot Wealth Management, bày tỏ quan ngại rằng các chính trị gia thường thiếu hiểu biết sâu về kỹ thuật, dẫn đến nguy cơ ban hành những đạo luật bất cập khiến tình hình tồi tệ hơn.

Ở một góc nhìn khác, các chuyên gia an ninh mạng cho rằng chỉ luật pháp thôi là chưa đủ mà bản thân công nghệ cũng phải tự phát triển để giải quyết vấn đề. Ông Colin Mahony, CEO của Recorded Future (công ty con thuộc Mastercard), nhận định giải pháp hữu hiệu nhất vẫn là đổi mới sáng tạo, chẳng hạn như áp dụng các nền tảng an toàn agent chuyên dụng như hệ thống sandbox OpenShell mà Nvidia vừa giới thiệu. Theo ông Mahony, trong khi con người vẫn đóng vai trò giám sát và phân loại mức độ ưu tiên, hệ thống phòng thủ tự động (autonomous defense) sẽ là chìa khóa then chốt để theo kịp tốc độ của các tác tử AI cũng như những kẻ tấn công trong tương lai.