NVIDIA e Oracle anunciaram em 27 de outubro um plano para expandir os OCI Superclusters, os grandes agrupamentos de GPUs da nuvem da Oracle, com sistemas NVIDIA Vera Rubin NVL72 até a escala de vários gigawatts. Os sistemas Vera Rubin NVL72 e as CPUs NVIDIA Vera também passaram a estar disponíveis para clientes da Oracle Cloud Infrastructure.
A proposta é separar dois tipos de trabalho. As GPUs cuidam do treino e da execução de modelos de fronteira, enquanto as CPUs Vera ficam com as tarefas que agentes de IA fazem entre uma chamada e outra ao modelo, como rodar ferramentas, testar código e buscar dados. Os clientes podem escalar CPU e GPU de forma independente, o que, segundo as empresas, reduz o tempo em que as GPUs ficam paradas.
Cada rack liga 72 GPUs pela interconexão NVLink, e a rede da Oracle consegue juntar centenas de milhares de GPUs. A Oracle também planeja oferecer o NVIDIA HGX Rubin NVL8, uma configuração menor com oito GPUs Rubin em servidor x86, com dois processadores Intel Xeon 6 e 4 TB de memória DDR5.
A OpenAI aparece como cliente de destaque. Segundo o comunicado, a empresa treinou e serve o GPT-6 Astra em um supercluster da Oracle em Abilene, no Texas, com mais de 100 mil GPUs Blackwell. A OpenAI também informou que está levando as CPUs Vera para produção na Oracle, para rodar os ambientes isolados (sandboxes) usados por seus agentes.
Fonte: NVIDIA Newsroom