Bất chấp sự cố dữ liệu, doanh nghiệp vẫn ồ ạt triển khai AI và dịch chuyển chiến lược quản trị

Doanh nghiệp từ chối "bấm phanh" triển khai AI

Dù một số lãnh đạo các phòng thí nghiệm AI hàng đầu kêu gọi giảm tốc độ phát triển công nghệ này, các doanh nghiệp trên thực tế lại đi theo hướng ngược lại. Theo báo cáo mới từ hãng bảo mật và quyền riêng tư dữ liệu OneTrust, dù nhiều tổ chức đã ghi nhận các sự cố nghiêm trọng liên quan đến trí tuệ nhân tạo trong năm qua — chẳng hạn như rò rỉ tài sản trí tuệ (IP) hay AI agent tự ý truy cập, phân phối và xóa nhầm dữ liệu — đa số đều không có kế hoạch thu hẹp quy mô hay tạm dừng dự án.

Thay vì dừng lại, các doanh nghiệp đang chuyển trọng tâm sang việc siết chặt cơ chế quản trị (governance) song song với quá trình tăng tốc tích hợp AI vào quy trình vận hành.

Áp lực cạnh tranh và sự bùng nổ của làn sóng "citizen developer"

Lý giải về nghịch lý này, ông Blake Brannon, Giám đốc Đổi mới sáng tạo (Chief Innovation Officer) của OneTrust, cho biết động lực lớn nhất đến từ ban quản trị của chính các công ty. Tại hầu hết tổ chức, câu hỏi hàng đầu mà các hội đồng quản trị đặt ra cho ban điều hành là: doanh nghiệp đang làm gì với AI, sản phẩm và cách thức làm việc sẽ thay đổi ra sao, và đâu là "con hào kinh tế" (moat) để tránh bị làn sóng startup hay các mô hình tân tiến hạ bệ?

Áp lực này buộc các bên phải thử nghiệm và triển khai AI một cách quyết liệt. Theo nhận định của ông Brannon, chỉ trong vòng hai năm tới, số lượng tác tử AI (AI agent) hoạt động độc lập sẽ vượt qua số lượng nhân sự con người tại mọi công ty trên thế giới.

Tuy nhiên, sự bùng nổ của các "citizen developer" — những nhân sự không chuyên về lập trình nhưng vẫn có thể tự tạo agent riêng — đang phá vỡ mô hình quản trị truyền thống. Trước đây, các quy trình bảo vệ dữ liệu được thiết kế cho nhịp độ của con người hoặc hệ thống phần mềm cố định, thường mất nhiều tuần để thiết lập và kiểm tra. Giờ đây, các cơ chế kiểm soát bắt buộc phải phản ứng và ngăn chặn rủi ro chỉ trong tích tắc vài giây.

Hai nguyên tắc kiến trúc kiểm soát tác tử tự hành

Để đưa AI vào thực tế mà không để xảy ra rủi ro mất kiểm soát, ông Blake Brannon chỉ ra hai nguyên tắc quan trọng trong thiết kế hệ thống quản trị:

Thứ nhất, cơ chế giám sát phải hoàn toàn độc lập với mô hình đang vận hành. Tương tự như nguyên tắc tam quyền phân lập trong xã hội, một doanh nghiệp không thể đặt trọn niềm tin vào rào chắn nội tại của chính mô hình đó. Doanh nghiệp cần xây dựng các tác tử hoặc bộ khung kiểm soát riêng biệt bên ngoài để liên tục đánh giá hành vi của AI, phòng trường hợp mô hình tự tìm cách vượt rào hay thao túng quyết định.

Thứ hai, tập trung kiểm soát "hành động tại điểm kết nối" thay vì cố tìm hiểu suy nghĩ của mô hình. Trong môi trường doanh nghiệp phân mảnh, mỗi phòng ban từ tiếp thị, chăm sóc khách hàng đến kỹ thuật đều sử dụng những nhà cung cấp và mô hình AI khác nhau. Việc cố gắng theo dõi tại sao một mô hình đưa ra suy luận nhất định là điều cực kỳ phức tạp và kém hiệu quả. Thay vào đó, kiến trúc quản trị hiện đại chỉ can thiệp vào khoảnh khắc AI thực hiện hành vi cụ thể: khi hệ thống cố đọc dữ liệu nhạy cảm, gửi email ra ngoài hoặc thao tác xóa bản ghi dữ liệu. Đặt "phanh khẩn cấp" và rào chắn chính sách tại các điểm tiếp xúc này sẽ giúp tổ chức ngăn chặn thiệt hại kịp thời mà không làm gián đoạn tốc độ chuyển đổi số.