A NVIDIA anunciou em 22 de outubro o Minerva, uma plataforma de AIOps feita para operar as chamadas fábricas de IA, data centers com grande número de GPUs dedicados a treinar e servir modelos. A proposta é reunir a telemetria da infraestrutura e das cargas de trabalho e usar modelos de IA próprios para transformar esses dados em alertas acionáveis.
Segundo a empresa, nessa escala um único componente degradado pode atrasar um treinamento inteiro, e os sinais costumam passar despercebidos, como uma GPU mais quente que as vizinhas ou um SSD perdendo desempenho sob carga. O Minerva conecta dados de GPUs, rede, armazenamento, agendadores e tarefas e monta um grafo da infraestrutura, o que permite rastrear um treinamento lento até a peça responsável.
A plataforma analisa bilhões de pontos de dados por hora com aprendizado de máquina para aprender o comportamento normal, detectar anomalias e prever falhas. Em vez de disparar cada sintoma separadamente, ela agrupa uma enxurrada de eventos em um único incidente com a causa provável, e oferece um assistente de IA para investigar a saúde do cluster por conversa.
As correções podem continuar nas mãos de uma pessoa ou ser ligadas a automações por meio de APIs. A IREN já usa a plataforma, e Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI e Tesla planejam adotá-la; Dell, Lenovo e Supermicro vão oferecer o Minerva em seus portfólios para operação de data centers de IA.
Fonte: NVIDIA Blog