Khi AI tự hành, quản trị phải gắn vào lớp dữ liệu

Khởi đầu: AI agent ngày càng tự chủ, câu hỏi quản trị trở nên cấp bách

Trong bối cảnh các doanh nghiệp đang trao cho AI agents quyền tự lên kế hoạch, đưa ra quyết định và thực thi trên nhiều hệ thống mà không cần sự phê duyệt từng bước của con người, câu hỏi “Ai sẽ ngăn chặn khi một agent thực hiện hành động chưa được cấp quyền?” đã trở thành trung tâm của mọi cuộc đánh giá kiến trúc. Sự kiện này được trình bày tại hội thảo do EDB (EnterpriseDB) tổ chức, trong đó các chuyên gia nhấn mạnh rằng trách nhiệm cuối cùng vẫn thuộc về doanh nghiệp và không thể dựa vào các chính sách trừu tượng chỉ tồn tại trên giấy tờ. Quy tắc phải được thực thi ngay trong lớp dữ liệu, tại thời điểm hành động diễn ra.

Chi tiết cụ thể: Quy tắc thực thi tại lớp dữ liệu và chín biện pháp kiểm soát

EDB chỉ ra rằng các AI agents – chạy trên mô hình, truy cập và biến đổi dữ liệu trong hạ tầng của doanh nghiệp – cần được ràng buộc bởi các quy tắc “ngay tại thời điểm” chứ không phải chỉ là các hướng dẫn chung. Ví dụ, quy tắc “không mở cửa xe” nếu áp dụng một cách cứng nhắc sẽ ngăn cản mọi hành động, kể cả trong trường hợp khẩn cấp như tai nạn, cháy nổ. Do đó, ngữ cảnh hiện tại là yếu tố quyết định.

Priyanka Jain, Phó Chủ tịch Quản lý Sản phẩm Data & AI Governance của EDB, nhấn mạnh: “Khi quản trị sống ở lớp dữ liệu, nó vẫn hiệu lực bất kể cách agent được xây dựng hay hành vi của nó ra sao, vì kiểm soát trở thành thuộc tính của cơ sở dữ liệu chứ không phải lời hứa của agent.” Cô giải thích rằng việc dựa vào mô hình để tự động tuân thủ chính sách là không đủ; hệ thống phải thực thi chính sách một cách chắc chắn.

EDB đề xuất chín biện pháp kiểm soát, được nhóm lại thành ba mục tiêu cốt lõi:

1. Thực thi (Enforce it)

• Kiểm soát truy cập dựa trên vai trò và thuộc tính (RBAC/ABAC) được áp dụng ngay khi truy vấn, cho cả agent và người dùng.
• Mặt nạ cột động (dynamic column masking) dựa trên cùng một luồng chính sách.
• Định danh agent như một thực thể chính (principal) độc lập, với mục đích (purpose) được khai báo khi phiên làm việc bắt đầu; thông tin người dùng thực thi được lưu lại.

1. Nhìn thấy và chứng minh (See it and prove it)

• Phân loại và gắn thẻ dữ liệu để dẫn dắt chính sách.
• Ghi nhật ký audit ở mức phiên, ghi lại agent nào, thực hiện cho người dùng nào, dưới mục đích nào.
• Theo dõi nguồn gốc (lineage) qua các pipeline, cho phép truy vết kết quả trở lại yêu cầu ban đầu.

1. Hợp nhất và củng cố (Unify and harden)

• Quản lý chính sách tập trung, di động.
• Mã hoá dữ liệu khi nghỉ và khi truyền.
• Đảm bảo thực thi nhất quán trên môi trường on‑prem, cloud, và các môi trường có yêu cầu chủ quyền dữ liệu hoặc không có kết nối mạng.

Trong thực tiễn, các biện pháp này đã có sẵn trong hầu hết các hệ quản trị cơ sở dữ liệu hiện đại: kiểm soát truy cập theo hàng và cột, phân loại dữ liệu, và audit log toàn diện. Điểm mới là việc đối xử với AI agent như một người dùng thực thụ, gắn mục đích khai báo vào lớp truy cập, và buộc mọi hành động phải qua các rào cản này.

EDB cũng giới thiệu nền tảng EDB Postgres AI, một hệ thống dữ liệu và AI mở nguồn, cho phép doanh nghiệp kiểm soát nơi dữ liệu lưu trữ, ai có thể truy cập và dưới chính sách nào, mà không phải nhượng quyền cho lớp quản trị bên ngoài. Đối với các ngành chịu quy định nghiêm ngặt, tính chủ quyền dữ liệu và khả năng thực thi chính sách ở mức nguồn (source‑level enforcement) không chỉ là “nice‑to‑have” mà là điều kiện tiên quyết để đưa các agent vào sản xuất.

Bối cảnh và so sánh: Xu hướng tự động hoá AI và nhu cầu quản trị dữ liệu

Sự gia tăng tốc độ và mức độ tự động hoá của AI agents đang khiến các doanh nghiệp phải tái cấu trúc cách quản trị rủi ro. Truyền thống, các cơ chế bảo vệ thường được đặt ở lớp ứng dụng hoặc mô hình, dựa vào “các chính sách trên giấy”. Tuy nhiên, khi một agent có thể thực hiện hàng nghìn thao tác trong mili giây, việc kiểm tra trước khi hành động không còn khả thi. Vì vậy, việc di chuyển kiểm soát lên lớp dữ liệu – nơi mọi truy cập và biến đổi đều phải qua, là xu hướng được nhiều nhà cung cấp hạ tầng dữ liệu đề xuất.

So sánh với các giải pháp khác, như việc triển khai “guardrails” ở mức mô hình (ví dụ: OpenAI’s policy‑engine hoặc Google’s AI Principles), EDB nhấn mạnh rằng các biện pháp này vẫn phụ thuộc vào độ tin cậy của đầu ra mô hình, trong khi các kiểm soát ở lớp dữ liệu không bị ảnh hưởng bởi tính ngẫu nhiên của AI. Điều này đồng nghĩa với việc doanh nghiệp có thể nhanh chóng triển khai AI mà không lo lắng về việc phải “điều chỉnh lại” các quy tắc mỗi khi mô hình được cập nhật.

Trong khi một số nhà cung cấp đám mây tập trung vào việc mã hoá và quản lý truy cập qua IAM (Identity and Access Management), EDB lại đưa ra mô hình “digital leash” – không khóa cửa hoàn toàn, mà chỉ giới hạn độ dài dây dẫn, cho phép agent thực hiện công việc hữu ích nhưng luôn trong giới hạn được xác định. Cách tiếp cận này hứa hẹn giúp các bộ phận an ninh, rủi ro và lãnh đạo tin tưởng hơn vào mô hình AI, từ đó đẩy nhanh tốc độ áp dụng AI trong doanh nghiệp.

Với xu hướng AI agent ngày càng thông minh và tự chủ, việc đặt nền tảng quản trị tại lớp dữ liệu không chỉ là biện pháp phòng ngừa mà còn là yếu tố quyết định để doanh nghiệp duy trì tốc độ đổi mới mà không đánh đổi an toàn dữ liệu.