NVIDIA dona OpenShell a la CNCF y presenta infraestructura de Kubernetes de código abierto para fábricas de IA

En KubeCon + CloudNativeCon, NVIDIA anunció una importante expansión de sus contribuciones de código abierto orientadas a proteger los agentes autónomos de IA y escalar la infraestructura empresarial de IA en Kubernetes.

A medida que las fábricas de IA dependen cada vez más de Kubernetes para orquestar clústeres masivos de GPU, la gestión de la seguridad de los agentes, el ciclo de vida de las cargas de trabajo y los tiempos de despliegue de modelos se han convertido en un cuello de botella operativo crítico. Para responder a estas demandas, el fabricante de chips está cediendo la gobernanza de herramientas clave para agentes a la comunidad, al tiempo que introduce software de código abierto para acelerar el despliegue de infraestructura de GPU.

Protección de agentes de IA con OpenShell y la CNCF

NVIDIA está donando NVIDIA OpenShell a la Cloud Native Computing Foundation (CNCF), una organización sin fines de lucro bajo la tutela de la Linux Foundation. Aceptado como proyecto de CNCF Sandbox, OpenShell proporciona un entorno de ejecución de código abierto diseñado para proteger, monitorizar y gobernar agentes autónomos.

OpenShell permite a los equipos empresariales aplicar controles deterministas sobre el comportamiento de los agentes cuando acceden a endpoints de inferencia, ejecutan cargas de trabajo y utilizan herramientas de terceros. Su arquitectura modular se conecta con los backends de cómputo, almacenes de credenciales, suites de monitorización y proveedores de inferencia de una organización. Según NVIDIA, cientos de organizaciones han adoptado OpenShell, y el proyecto ha acumulado decenas de miles de contribuciones en un año desde su lanzamiento.

Jim Zemlin, director ejecutivo de la Linux Foundation, destacó que proteger los agentes autónomos se está convirtiendo en un desafío decisivo para la infraestructura en la nube, señalando que trasladar OpenShell a la CNCF garantiza una base comunitaria compartida para definir el futuro de los estándares de seguridad para agentes.

Colaboración con Google en Agent Substrate

Además de OpenShell, NVIDIA está contribuyendo activamente a Agent Substrate, un framework de código abierto originado por Google y aceptado en CNCF Sandbox. Diseñado para ejecutar a escala cargas de trabajo de agentes de larga duración, Agent Substrate permite a los sistemas suspender y reanudar entornos de ejecución de agentes en pools compartidos, liberando capacidad de cómputo de GPU durante períodos de inactividad sin cerrar las sesiones en curso.

NVIDIA está alineando Agent Substrate con su plataforma de inferencia Dynamo y con KAI Scheduler para la gestión compartida de recursos en clústeres. Además, NVIDIA y Google están colaborando directamente para integrar OpenShell con Agent Substrate, lo que permitirá a los desarrolladores aplicar políticas de seguridad y gestionar la ejecución de agentes de forma fluida en entornos híbridos y multinube.

Aceleración de fábricas de IA con GPU mediante NVKE y Snapshot

Para apoyar a las organizaciones que construyen infraestructura gestionada para fábricas de IA, NVIDIA presentó tres nuevos componentes de código abierto que amplían la plataforma NVIDIA DSX AI Factory Platform:

• NVIDIA Kubernetes Engine (NVKE) y NVIDIA Kubernetes Recipes (NVKR): Disponibles ahora en versión preliminar pública, estos proyectos ofrecen gestión automatizada del ciclo de vida del clúster e imágenes firmadas y ancladas a versiones específicas para gestionar la infraestructura de GPU en Kubernetes. Socios del ecosistema como Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus y SK Telecom están integrando NVKE y NVKR en sus pilas de infraestructura.

• NVIDIA Snapshot: Un componente modular de código abierto creado para mitigar la latencia al escalar clústeres de inferencia desde cero. En lugar de forzar a los nodos a recargar los pesos de los modelos y pasar por largos ciclos de calentamiento, Snapshot restaura réplicas basadas en puntos de control (checkpoints) en cuestión de segundos.

Las primeras evaluaciones destacan mejoras de velocidad significativas en sistemas NVIDIA HGX B300. El colaborador de upstream Crusoe probó el modelo GLM-5.3 en Crusoe Cloud, reduciendo los tiempos de disponibilidad de aproximadamente ocho minutos a 31 segundos. De manera similar, la plataforma de tokens Saturn Cloud evaluó el escalado de inferencia desde cero con vLLM, disminuyendo los tiempos de inicio de 2–8,5 minutos a entre 6 y 34 segundos.