Siga o Diário da Mídia no Google Clique em Seguir e não perca nenhuma novidade. Seguir Tecnologia

Modal consegue salto de 2x ao migrar para NVIDIA Vera

Resumo

Modal recebeu seus primeiros servidores com CPUs NVIDIA Vera em San Francisco e relata um aumento de 2× no throughput de sandboxes de Agentic AI depois de migrar de sistemas x86 baseados em Intel e AMD. A mudança exigiu ajustes profundos na infraestrutura e na construção de imagens, mas trouxe maior escalabilidade sob contenção e melhor aproveitamento de cargas concorrentes.

Publicidade
Modal consegue salto de 2x ao migrar para NVIDIA Vera
Foto: Divulgação
Pergunte à IA sobre isto:

Modal — a empresa relata que a substituição de servidores x86 por máquinas com CPUs NVIDIA Vera trouxe um ganho prático e mensurável para suas rotinas de Agentic AI, transformando a capacidade de executar centenas de contêineres concorrentes sem a queda de desempenho observada em chips Intel e AMD.

2× de throughput em sandboxes agentic

Os testes internos da Modal mostraram que, sob carga, os servidores com NVIDIA Vera entregaram um aumento de 2× no throughput em comparação a um Intel Xeon "Granite Rapids" equivalente. Esse salto aparece quando as cargas ficam densas e a contenção começa a penalizar CPUs x86.

Publicidade

Para quantificar o comportamento real, a Modal desenvolveu o "Agentless Agent Bench", um conjunto de benchmarks com 50 soluções Terminal‑Bench e verifiers que mede tanto a conclusão serial quanto o throughput concorrente em sandboxes de Agentic AI.

Em muitos sistemas, throughput e latência são um trade‑off. Latência mede o tempo de início ao fim de uma tarefa; throughput é a quantidade de tarefas concluídas por unidade de tempo. Quanto mais densamente as tarefas são empacotadas, maior o throughput, mas a contenção pode aumentar a latência de cada tarefa. A Modal aponta risco de “overpacking” quando a escala de contêineres é muito variável.

Escalabilidade sob carga e comparação com x86

Na prática, a vantagem da NVIDIA Vera se revela sob contenção: a arquitetura mantém o ritmo das tarefas mesmo à medida que o número de jobs cresce, em parte graças a uma banda de memória elevada que permite empacotar mais contêineres por core sem throttling. Isso explica por que Vera abriu vantagem sobre alternativas Intel e AMD nos testes de conclusão verificada.

A migração não foi trivial: mover uma frota que rodava exclusivamente em x86 (Intel e AMD) para um ecossistema Arm exigiu mudanças significativas na infraestrutura e na forma de construir imagens, mas, segundo os resultados internos, o custo de adaptação vem acompanhado de melhor escala para workloads densos e com picos.

Publicidade

O que você acha? Você concorda que a adoção de CPUs Arm, como a NVIDIA Vera, pode ser a resposta para escalar sandboxes de Agentic AI sem perder performance? Para acompanhar mais, acesse nossa editoria.

Foto: Divulgação

Deixe seu Like

0 reagiram

Perguntas Frequentes

Como a Modal conseguiu um ganho de 2× ao migrar para servidores com NVIDIA Vera?

Modal obteve um aumento de 2× no throughput em sandboxes de Agentic AI ao passar de servidores x86 para máquinas com NVIDIA Vera, avaliadas em seus escritórios de San Francisco. A medição usou o Agentless Agent Bench com 50 Terminal‑Bench, mostrando melhora especialmente quando múltiplos contêineres competem por recursos.

O que torna a NVIDIA Vera diferente das CPUs Intel e AMD em cargas com contenção?

A NVIDIA Vera se destaca por manter o desempenho mesmo com jobs acumulados: a arquitetura não reduz a velocidade à medida que a contenção cresce e oferece maior banda de memória, o que permitiu à Modal empacotar mais workloads por core. Em benchmarks sob carga, Vera entregou 2× de throughput frente a um Xeon "Granite Rapids".

Publicidade

Quais mudanças a Modal precisou implementar ao sair do ecossistema x86?

Modal teve de adaptar a infraestrutura e o processo de construção de imagens ao migrar de sistemas baseados em Intel e AMD (x86) para servidores Arm com Vera. A empresa recebeu os primeiros servidores em San Francisco e redesenhou pipelines e imagens para rodar o Agentless Agent Bench e as rotinas de Agentic AI de forma compatível.

Publicidade
Compartilhar:
POR Gloria Maria
Gloria Maria

Redação e entretenimento | Gloria Maria integra a equipe de redação com foco em entretenimento, cultura pop e atualidades. Produz conteúdos voltados ao público geral, com linguagem leve, acessível e informativa.

Talvez Você Goste