CEO Microsoft Satya Nadella kêu gọi trang bị 'phanh khẩn cấp' cho AI, cảnh báo ngành công nghệ nên mặc định mô hình đã bị xâm phạm

Giám đốc điều hành Microsoft, Satya Nadella, vừa lên tiếng kêu gọi áp dụng các giao thức an toàn nghiêm ngặt hơn trên toàn ngành trí tuệ nhân tạo, đồng thời cảnh báo rằng các tổ chức không thể tiếp tục đặt niềm tin tuyệt đối vào các hệ thống tiên tiến. Trong một bài đăng chi tiết trên mạng xã hội X, người đứng đầu gã khổng lồ công nghệ lập luận rằng các nhà phát triển và đơn vị vận hành cần phải thay đổi căn bản tư duy bảo mật bằng cách mặc định rằng mọi mô hình AI đều đã "bị xâm phạm" (compromised).

Theo Nadella, việc xem các mô hình phức tạp như những "hộp đen" không thể truy vết tiềm ẩn những rủi ro khó có thể chấp nhận được trong bối cảnh năng lực AI đang tiến bộ với tốc độ chóng mặt. Thay vào đó, ông ủng hộ việc bắt buộc áp dụng các rào chắn kiến trúc, bao gồm một cơ chế "phanh khẩn cấp" chuẩn hóa nhằm trao cho con người quyền can thiệp và kiểm soát trực tiếp, tức thì đối với các tác vụ đang chạy.

Chấm dứt kỷ nguyên của những 'hộp đen lồng nhau'

Nadella tuyên bố ngành công nghệ không thể tiếp tục chấp nhận một thực tế nơi trí tuệ nhân tạo vận hành như một "tập hợp các hộp đen lồng nhau", mà ở đó người dùng chỉ đơn thuần chấp nhận hoặc từ chối kết quả đầu ra cũng như các khuyến nghị mà không hề có khả năng quan sát sâu hơn.

Để giải quyết những rủi ro từ các mô hình ngày càng mang tính tự chủ cao — điều mà ông nhiều lần gọi là "siêu trí tuệ" (super intelligence) — Nadella nhấn mạnh sự cần thiết phải xây dựng các môi trường minh bạch, nơi hành vi của AI có thể được chủ động kiểm soát và giám sát liên tục. Trọng tâm của phương pháp này là đảm bảo các hệ thống luôn lưu lại "bằng chứng chống giả mạo mà con người có thể đọc được", cho phép các kỹ sư và cơ quan quản lý độc lập truy vết lại quy trình ra quyết định cũng như phát hiện các bất thường sau khi sự việc diễn ra.

Kiểm soát cô lập bắt buộc và chiếc 'phanh khẩn cấp'

Dù nhiều khuyến nghị của Nadella phản ánh những cuộc thảo luận quen thuộc trong ngành — chẳng hạn như kiểm toán độc lập, dữ liệu huấn luyện có thể xác minh và công bố sự cố kịp thời — quan điểm của ông về việc chủ động cô lập kiểm soát (active containment) đã vượt xa các thông lệ tiêu chuẩn hiện nay.

"Chúng ta phải mặc định rằng mô hình đã bị xâm phạm và cần kiểm soát cô lập nó ngay từ đầu. Hãy coi cơ chế này như một chiếc phanh khẩn cấp," Nadella viết. "Một nhân sự được ủy quyền phải luôn có khả năng tạm dừng hoặc tắt mô hình ngay giữa chừng tác vụ. Các mô hình càng tiên tiến sẽ càng đòi hỏi những công nghệ kiểm soát cô lập tiên tiến hơn mà chúng ta cần phải chuẩn hóa."

Theo đề xuất này, việc kiểm soát cô lập không phải là một giao thức phản ứng thụ động chỉ được kích hoạt sau khi xảy ra sự cố, mà là một yêu cầu về mặt kiến trúc bắt buộc phải có ngay từ ngày đầu tiên. Nadella nhấn mạnh rằng người vận hành phải nắm giữ quyền hạn tối cao để can thiệp và dừng ngay lập tức quá trình thực thi đang diễn ra mà không gặp bất kỳ độ trễ nào.

Thúc đẩy các tiêu chuẩn trên toàn ngành

Trong bối cảnh các hãng công nghệ lớn và các phòng thí nghiệm AI đang chạy đua triển khai những tác tử tự chủ (autonomous agent) ngày càng mạnh mẽ, các dấu hỏi xoay quanh vấn đề định hướng an toàn (alignment), bảo mật và giám sát đã trở thành tâm điểm của các cuộc tranh luận toàn cầu. Phát biểu của Nadella cho thấy nỗ lực của Microsoft trong việc thúc đẩy các tiêu chuẩn kiểm soát cô lập chính thức trên toàn bộ hệ sinh thái, bảo đảm rằng các rào chắn an toàn luôn bắt kịp đà tăng trưởng vũ bão của các thuật toán.