NVIDIA ra mắt Minerva: Nền tảng AIOps quan sát chuyên sâu cho các siêu "nhà máy AI"

NVIDIA vừa chính thức trình làng Minerva, nền tảng AIOps chuyên dụng được thiết kế nhằm cung cấp khả năng quan sát toàn diện (end-to-end observability) cho các hạ tầng AI quy mô lớn. Hướng tới các "nhà máy AI" (AI factories) hiện đại quy tụ tới hàng trăm nghìn GPU, hệ thống này liên kết trực tiếp dữ liệu đo từ xa (telemetry) của phần cứng vật lý với các tác vụ AI đang chạy, từ đó phát hiện các điểm nghẽn và duy trì các cụm máy chủ vận hành ở công suất tối đa.

Các quy trình huấn luyện và tác vụ suy luận AI hiện đại phụ thuộc rất lớn vào các cụm vi xử lý kết nối chằng chịt với nhau. Trong môi trường này, những trục trặc nhỏ nhất—chẳng hạn như một GPU chạy nóng hơn bình thường hay một ổ NVMe bị suy giảm hiệu năng do tải đọc-ghi lớn—cũng có thể âm thầm kéo tụt hiệu suất của toàn bộ tiến trình. Minerva giải quyết lỗ hổng này bằng cách chuyển đổi phương thức vận hành: từ khắc phục sự cố theo kiểu "mất bò mới lo làm chuồng" sang chủ động sửa chữa ngay từ sớm.

Hợp nhất cấu trúc liên kết cụm với khối lượng công việc AI

Các công cụ giám sát trung tâm dữ liệu truyền thống thường phân mảnh quy trình vận hành thành từng phần riêng biệt. Điều này khiến các đội ngũ học máy (machine learning), điện toán, mạng và kỹ thuật độ tin cậy hệ thống (SRE) không có được một cái nhìn tổng thể. Minerva xóa bỏ các ranh giới này bằng cách thu thập tín hiệu từ GPU NVIDIA, SuperNIC, thiết bị chuyển mạch, dây cáp, hệ thống lưu trữ, bộ điều phối (scheduler) và cả các tác vụ đang vận hành.

Từ những dữ liệu đo từ xa này, Minerva xây dựng một đồ thị tri thức (knowledge graph) động, liên kết phần cứng vật lý với các tác vụ cụ thể đang chạy trên toàn cụm. Nền tảng này xử lý hàng tỷ điểm dữ liệu mỗi giờ nhờ các thuật toán học máy có giám sát và không giám sát. Bằng việc học hỏi hành vi chuẩn (baseline), phát hiện các điểm bất thường mới xuất hiện và đối chiếu các sự kiện liên quan với cấu trúc liên kết cụm, Minerva có thể cô đọng những đợt "bão cảnh báo" dồn dập thành một sự cố trọng tâm duy nhất đi kèm nguyên nhân gốc rễ đã được xác định.

Minerva còn tích hợp một trợ lý AI có khả năng liên kết với các hệ thống AI tác tử (agentic AI) bên ngoài. Đội ngũ vận hành có thể tra cứu tình trạng cụm và kiểm tra hạ tầng bằng ngôn ngữ tự nhiên, sau đó nhận về các đề xuất xử lý sự cố dựa trên dữ liệu đo từ xa theo thời gian thực. Các kỹ sư có thể xem xét đề xuất này theo cách thủ công hoặc kết nối Minerva trực tiếp vào các luồng tự động hóa hạ tầng qua API.

Tối đa hóa hiệu suất cho các "nhà máy AI"

Nền tảng này được xây dựng xoay quanh mục tiêu cải thiện "năng suất nhà máy AI" (AI factory yield)—chỉ số đo lường bao gồm thời gian hoạt động của cụm (uptime), số giờ GPU hoạt động, thông lượng hữu ích (goodput) và tốc độ tạo token. NVIDIA vạch ra ba lợi thế vận hành cốt lõi:

• Kéo dài khoảng thời gian giữa các lần gián đoạn: Tính năng dự đoán lỗi giúp xử lý sự cố trước khi các tác vụ bị đình trệ.

• Rút ngắn thời gian sửa chữa: Việc xác định chính xác nguyên nhân gốc rễ giúp giảm đáng kể thời gian chẩn đoán lỗi phần cứng.

• Đưa ra các thông tin chi tiết có thể hành động ngay: Các mô hình học máy sẽ lọc qua các luồng dữ liệu khổng lồ để chỉ hiển thị những cảnh báo có mức độ ưu tiên cao.

"Khi mở rộng quy mô các nhà máy AI, chìa khóa để mang lại dịch vụ tốt nhất cho khách hàng là tối đa hóa năng suất của các GPU," Denis Skrinnikoff, Giám đốc Công nghệ tại đơn vị vận hành trung tâm dữ liệu IREN cho biết. "NVIDIA Minerva mang đến cho đội ngũ vận hành của chúng tôi một góc nhìn xuyên suốt từ hệ thống mạng, GPU cho đến các tác vụ đang chạy trên đó, giúp chúng tôi tập trung nhiều hơn vào việc bảo trì chủ động thay vì chỉ loay hoay xử lý sự cố."

Được triển khai rộng rãi trong toàn ngành

Hàng loạt nhà khai thác điện toán đám mây và doanh nghiệp lớn đang chuẩn bị tích hợp nền tảng này. Cùng với IREN, các tên tuổi như Tesla, IBM, Bitdeer AI, Lambda, Jio, Quake AI và Aolani đều đã lên kế hoạch triển khai Minerva.

Bên cạnh đó, các nhà sản xuất máy chủ doanh nghiệp như Dell Technologies, Lenovo và Supermicro cũng sẽ tích hợp trực tiếp Minerva vào danh mục giải pháp hạ tầng nhà máy AI của họ.