Doanh nghiệp "hụt hơi" trong việc kiểm soát các tác nhân AI tự chủ

Các doanh nghiệp đang ồ ạt mở rộng việc triển khai các tác nhân AI (AI agents) tự chủ trên toàn hệ thống, thế nhưng các cơ chế kiểm soát và khung quản trị doanh nghiệp lại đang chật vật để bắt kịp nhịp độ này. Theo các báo cáo gần đây từ các nhà lãnh đạo bảo mật và các nghiên cứu trong ngành, các công ty đang trao cho AI quyền hạn ngày càng cao trước khi thiết lập các hệ thống cần thiết để theo dõi, quản lý và ngăn chặn kịp thời hành vi của chúng.

Khoảng cách ngày càng lớn về khả năng quan sát và kiểm soát

Trong khi các tổ chức ban đầu chỉ sử dụng các mô hình AI chủ yếu để trả lời câu hỏi, thì các tác nhân AI doanh nghiệp hiện đại ngày nay đang ngày càng tự đưa ra quyết định và thực hiện các chuỗi hành động xuyên suốt các hệ thống kinh doanh. Sự chuyển dịch từ các công cụ thụ động sang các tác nhân chủ động này đã làm lộ rõ một lỗ hổng bảo mật căn bản: nhiều doanh nghiệp thậm chí không có nổi một bản kiểm kê cơ bản xem những tác nhân AI nào đang hoạt động, chúng có quyền truy cập vào loại dữ liệu hoặc ứng dụng nào, và liệu có thể ngắt kết nối chúng một cách hiệu quả khi xảy ra lỗi hay không.

Các nhà lãnh đạo bảo mật lưu ý rằng các hệ thống quản lý danh tính và quyền truy cập (IAM) truyền thống vốn chỉ được xây dựng để đánh giá xem một người dùng hay một phần mềm thông thường có nên được cấp quyền vào hệ thống hay không. Tuy nhiên, các tác nhân AI lại mang đến một tầng phức tạp hoàn toàn mới khi chúng có thể tự động đưa ra quyết định và thực hiện hành động sau khi quyền truy cập đã được cấp. Hệ quả là việc nắm giữ danh tính kỹ thuật số hoặc thông tin đăng nhập của một tác nhân AI là chưa đủ để xác định xem một hành động cụ thể có phù hợp hay nằm trong chủ đích của doanh nghiệp hay không.

Rủi ro từ việc triển khai "chín ép"

Sự chậm trễ trong công tác giám sát đã đẩy doanh nghiệp vào thế rủi ro cao hơn trước các sự cố bảo mật và nguy cơ vi phạm tuân thủ quy định. Một báo cáo từ Workato đã vạch ra bản chất bấp bênh của các đợt triển khai này, tiết lộ rằng 36% nhà lãnh đạo doanh nghiệp thừa nhận họ sẽ tìm cách xử lý âm thầm một sự cố bảo mật do AI gây ra thay vì công khai nó. Sự do dự này cho thấy các tổ chức có thể đang phải đối mặt với những lỗi vận hành hoặc lỗ hổng bị khai thác nghiêm trọng từ AI trước khi các quy trình quản trị và giám sát của họ thực sự hoàn thiện.

Song song với đó, nghiên cứu mới từ IBM nhấn mạnh rằng công tác quản trị, kiểm soát và lòng tin phải được tái định hình từ gốc để tương xứng với năng lực ngày càng mở rộng của AI dạng tác nhân (agentic AI). Các chuyên gia trong ngành lập luận rằng giai đoạn tiếp theo của việc áp dụng AI trong doanh nghiệp sẽ ít phụ thuộc vào số lượng tác nhân đơn thuần mà một công ty có thể triển khai, mà sẽ xoay quanh việc liệu ban quản trị có thể giám sát thành công quyền tự chủ mà họ đã trao cho hệ thống hay không.