Nvidia ha lanzado Minerva, un software de operaciones de IA que combina datos de GPU, redes, almacenamiento y cargas de trabajo para detectar tempranamente piezas defectuosas en grandes centros de datos de IA. Agrupa las alertas en incidentes únicos y cuenta con un asistente de IA. IREN lo utiliza, y Lambda, IBM y Tesla planean hacerlo.
Nvidia ha lanzado Minerva, un software que vigila los enormes grupos de GPU que llama fábricas de IA y detecta problemas antes de que ralenticen el trabajo. la empresa dijo el jueves. Se anunció en la conferencia GTC de Berlín de Nvidia, días después de que Nvidia firmó una asociación de IA con Alemania.
En clústeres de ese tamaño, una pieza defectuosa puede retrasar todo un trabajo de capacitación, afirma Nvidia. Podría ser una GPU que se calienta más que el resto o una unidad de almacenamiento que se ralentiza bajo carga. Esas señales son fáciles de pasar por alto cuando los equipos de redes, informática y aprendizaje automático observan cada uno una parte separada del sistema.
Minerva extrae datos de las GPU, equipos de red, almacenamiento, programadores de trabajos y las propias cargas de trabajo de IA en un mapa del centro de datos. Nvidia dice que esto permite a los operadores rastrear un trabajo lento hasta la pieza que lo causa, incluso en cientos de miles de GPU.
El software utiliza el aprendizaje automático para aprender cómo es lo normal y predecir fallas. En lugar de enviar a los operadores todas las alertas, agrupa los problemas relacionados en un solo incidente con una causa probable.
Un asistente de IA integrado permite al personal preguntar sobre el estado del clúster en un lenguaje sencillo y sugerir soluciones. Los equipos pueden aplicar esas correcciones manualmente o conectar Minerva a sus propias herramientas de automatización.
“NVIDIA Minerva le brinda a nuestro equipo de operaciones una vista de toda la red, las GPU y los trabajos que se ejecutan en ellas.» dijo Denis Skrinnikoff, director de tecnología de IREN. Nvidia puede invertir hasta $ 2,1 mil millones en el ex minero de Bitcoin en virtud de un acuerdo alcanzado en mayo.
Bitdeer AI, IBM, Jio, Lambda y Tesla también planean utilizar Minerva, dijo Nvidia. Dell, Lenovo y Supermicro lo ofrecerán a sus clientes.
El lanzamiento se suma al esfuerzo de Nvidia por vender más que chips a las empresas que construyen centros de datos de IA. El miércoles dijo que los socios europeos están adoptando su modelo DSX para reducir el uso de agua y energía, y lanzó un diseño para ejecutar agentes de IA de forma segura. Nvidia no dio el precio de Minerva.