IBM cảnh báo: AI Agent cho doanh nghiệp đòi hỏi mô hình vận hành mới giữa áp lực quản trị đè nặng

Khi trí tuệ nhân tạo dần chuyển mình từ việc phản hồi câu hỏi sang thực thi các tác vụ đa bước và trực tiếp đưa ra quyết định kinh doanh, giới lãnh đạo doanh nghiệp đang phải đối mặt với một "khoảng trống trách nhiệm giải trình" ngày càng lớn. Tại hội nghị Think on Tour EMEA 2026 của IBM diễn ra ở London, các lãnh đạo công nghệ cùng đối tác trong ngành đã nhóm họp để tìm lời giải cho bài toán cấp bách: làm thế nào để cân bằng giữa tốc độ tự động hóa chóng mặt với sự giám sát vận hành chặt chẽ.

Bà Ana Paula Assis, Phó Chủ tịch Cấp cao kiêm Chủ tịch khu vực EMEA và APAC tại IBM, đã chỉ ra sự lệch pha rõ rệt giữa tham vọng của doanh nghiệp và mức độ sẵn sàng về mặt vận hành. Dữ liệu được IBM công bố tại sự kiện cho thấy: 80% lãnh đạo kỳ vọng AI sẽ thúc đẩy tăng trưởng doanh thu, nhưng chỉ 20% trong số đó có thể vạch ra lộ trình cụ thể về cách hiện thực hóa nguồn tăng trưởng này.

Bên cạnh đó, 80% lãnh đạo khu vực EMEA tham gia khảo sát thừa nhận rằng họ đã có ít nhất một sự cố liên quan đến AI phải leo thang lên tới ban giám đốc hoặc các vị trí cấp C. Bất chấp những rào cản đó, xu hướng ứng dụng AI hướng tới quyền tự chủ cao hơn vẫn đang tăng tốc: 3/4 lãnh đạo được khảo sát tại EMEA kỳ vọng các AI agent sẽ có khả năng thực thi toàn bộ tác vụ kinh doanh và tự ra quyết định mà không cần con người can thiệp vào năm 2027.

"Câu hỏi đặt ra lúc này là: Liệu chúng ta có thể vận hành hệ thống đó ở quy mô lớn một cách an toàn và tin cậy hay không?", bà Assis nhấn mạnh trong bài phát biểu khai mạc. "Đó không còn là vấn đề về công nghệ, mà là bài toán vận hành. Và nó đòi hỏi một mô hình vận hành AI hoàn toàn mới từ gốc rễ."

Quản trị không thể là bước đi "nghĩ đến sau cùng"

Các chuyên gia đầu ngành có mặt trên sân khấu đều chung nhận định: muốn triển khai các agent tự chủ, doanh nghiệp buộc phải nắm quyền kiểm soát đối với các mô hình, khối dữ liệu nền tảng lẫn hạ tầng cốt lõi.

Ông Michael Nimhauser, Giám đốc Toàn cầu mảng Chủ quyền số (Sovereignty) tại tập đoàn tư vấn và dịch vụ CNTT Pháp Atos, nhận xét rằng dù các doanh nghiệp bị hấp dẫn bởi tiềm năng của AI, nỗi bất an về nguy cơ mất quyền kiểm soát vận hành vẫn đang lan rộng. Nimhauser nhấn mạnh rằng cơ chế kiểm soát không thể là thứ được "chắp vá" vào giai đoạn cuối của dự án. Thay vào đó, khâu quản trị phải được tích hợp sẵn vào kiến trúc hệ thống ngay từ giai đoạn thiết kế.

Đồng tình với quan điểm này, Craig Aston, CEO của nhà cung cấp dịch vụ quản lý Celerity (Anh), cũng nhấn mạnh sự cần thiết của việc duy trì thế cân bằng. Là đối tác của IBM và đang ứng dụng nội bộ công cụ phát triển phần mềm bằng AI mang tên Bob của hãng này, Celerity luôn tiến hành đánh giá song song cho mọi sáng kiến AI: một nhánh đo lường giá trị kinh doanh và tỷ suất hoàn vốn (ROI), trong khi nhánh còn lại độc lập đánh giá bảo mật dữ liệu, phân quyền truy cập và các rủi ro phát sinh.

Aston lưu ý rằng doanh nghiệp dù cần khuyến khích đổi mới sáng tạo nội bộ, song sự phấn khích không được phép vượt qua các rào chắn an toàn của tổ chức, đồng thời cảnh báo các rủi ro không được kiểm soát có thể đe dọa đến sự sống còn của doanh nghiệp.

Giữ con người luôn nằm trong quy trình

Các tổ chức đang đưa AI agent vào thực tế nhận thấy rằng sự giám sát của con người vẫn là yếu tố không thể thay thế. Markerstudy, một công ty bảo hiểm tại Anh, đã triển khai công cụ Bob của IBM để hiện đại hóa các hệ thống cốt lõi cũ kỹ vốn được xây dựng và bồi đắp suốt khoảng 30 năm qua.

Công cụ Bob đã phân tích 6 triệu dòng code kế thừa (legacy code) chỉ trong bốn tuần, lập ra một bản đồ nhiệt (heat map) nhằm khoanh vùng các thành phần quan trọng cần nâng cấp. Nhờ đó, Markerstudy có thể tiến hành hiện đại hóa một cách có mục tiêu, thay vì phải thay thế toàn bộ hệ thống với chi phí vô cùng tốn kém.

Dan Fiehn, CTO của Markerstudy, khẳng định quá trình triển khai này hoàn toàn không tự động 100%. Các lập trình viên con người vẫn tham gia chặt chẽ để xác thực kết quả đầu ra và huấn luyện mô hình trong suốt quá trình phân tích. Fiehn nhấn mạnh mục tiêu cốt lõi không nên là nhồi nhét càng nhiều AI càng tốt, mà phải đem lại những kết quả đo đếm được, hỗ trợ khách hàng và nhân viên đưa ra quyết định tốt hơn.

Bước chuyển dịch sang kiến trúc tích hợp và tự chủ

Nhằm giải quyết nhu cầu giám sát ngày càng lớn, IBM đã giới thiệu Sovereign Core – một nền tảng mã nguồn mở được thiết kế nhằm giúp các tổ chức nắm quyền kiểm soát tốt hơn đối với phương thức triển khai và vận hành môi trường AI của mình.

Các lãnh đạo IBM chỉ ra rằng các dự án AI thường vấp ngã khi dữ liệu vẫn bị cô lập trong các "ốc đảo" (silos) và hạ tầng CNTT còn phân mảnh. Như bà Assis kết luận, AI đang chuyển từ công cụ hỗ trợ ở hậu trường (back-office) thành nền móng cốt lõi cho mọi hoạt động của doanh nghiệp; điều này buộc các tổ chức phải tái định hình cách thức quy trình làm việc của con người, các quyết định kinh doanh và các hệ thống thuật toán tương tác an toàn với nhau trên quy mô lớn.