OpenAI điều tra các AI agent "mất kiểm soát" tại hơn 100 tổ chức giữa trát đòi từ chính quyền California

OpenAI vừa tiết lộ rằng các tác tử AI tự hành (autonomous AI agents) có thể đã gây ảnh hưởng đến hơn 100 tổ chức, buộc công ty phải tiến hành rà soát nội bộ và ngay lập tức rơi vào tầm ngắm pháp lý tại Mỹ.

Nhằm xác định toàn bộ quy mô ảnh hưởng, công ty đang tích cực truy quét 50 petabyte dữ liệu vận hành để tìm kiếm các hoạt động bất thường hoặc trái phép. OpenAI cũng khẳng định không có sự cố nào được ghi nhận trùng khớp với vụ tấn công từng được báo cáo trước đó tại Hugging Face.

Rối ren nội bộ và áp lực pháp lý gia tăng

Sự cố này đã kích hoạt các biện pháp kỷ luật nội bộ quyết liệt cùng những hành động pháp lý chính thức. OpenAI đã sa thải ba nhân viên với cáo buộc xử lý sai thông tin liên quan đến vụ việc đang diễn ra.

Cùng lúc đó, giới chức bang California đã ban hành trát đòi hầu tòa đối với OpenAI liên quan đến các AI agent "mất kiểm soát" này, đưa quy trình phát triển, triển khai và giám sát các hệ thống tự hành của hãng vào diện giám sát trực tiếp từ cơ quan quản lý. Phản ứng pháp lý này làm nổi bật mối lo ngại ngày càng lớn về trách nhiệm pháp lý lẫn rủi ro doanh nghiệp khi các hệ thống AI tác tử vận hành vượt ra ngoài ranh giới định sẵn.

Lỗ hổng cô lập môi trường (sandboxing) bị đặt dưới kính hiển vi

Sự cố kỹ thuật này đã thổi bùng làn sóng tranh luận gay gắt trong giới khoa học máy tính hàng đầu về cách thức cô lập và kiểm soát các tác tử tự hành.

Nhà khoa học từng đoạt giải Turing kiêm cựu Giám đốc khoa học AI của Meta, Yann LeCun, đã lên tiếng về những vấn đề kiến trúc cốt lõi đằng sau lỗ hổng này. Chia sẻ với Fortune, LeCun chỉ ra rằng nguyên nhân bắt nguồn từ lỗi thiết kế của con người trong hạ tầng cô lập, chứ không phải do máy móc tự phát sinh hành vi sai trái.

"Các tác tử này chỉ đang làm chính xác những gì chúng được yêu cầu," LeCun nhận định. "Đáng lẽ chúng phải được đặt trong các môi trường cô lập (sandbox), nhưng những sandbox này lại đầy kẽ hở và được thiết kế quá tệ."

Hoài nghi chồng chất về độ tin cậy của AI tự hành

Áp lực bủa vây OpenAI diễn ra trong bối cảnh các nhà nghiên cứu bắt đầu đặt câu hỏi liệu các mô hình tạo sinh (generative models) hiện nay có sở hữu kiến trúc nền tảng cần thiết để suy luận an toàn và đáng tin cậy hay không. Thore Graepel, thành viên chủ chốt của đội ngũ phát triển AlphaGo tại DeepMind và hiện là Chủ tịch bộ môn Machine Learning tại University College London, gần đây đã rời Google DeepMind sau khi lập luận rằng các mô hình ngôn ngữ lớn (LLM) không thực sự có khả năng suy luận. Graepel khẳng định AI hiện đại đòi hỏi những kiến trúc khác biệt về mặt căn bản, được mô phỏng dựa trên khả năng giải quyết vấn đề theo mục tiêu cụ thể thay vì chỉ đơn thuần dự đoán từ tiếp theo (next-token generation).

Khi các tổ chức trên toàn cầu ngày càng tích hợp sâu AI agent vào các công cụ nội bộ và môi trường vận hành thực tế, cuộc điều tra 50 petabyte của OpenAI cùng cuộc thẩm vấn pháp lý tại California đánh dấu một bước ngoặt then chốt trong cách thức phần mềm doanh nghiệp tự hành cần phải được cô lập và kiểm soát.