A lacuna entre os modelos de fronteira proprietários e os modelos de código aberto altamente transparentes está diminuindo mais rápido do que nunca. NVIDIA abriu oficialmente a cortina Nemotron 3 Superum impressionante modelo de raciocínio de 120 bilhões de parâmetros projetado especificamente para aplicações multiagentes complexas.
Lançado hoje, Nemotron 3 Super fica perfeitamente entre o leve Nemotron 3 Nano de 30 bilhões de parâmetros e o altamente antecipado Nemotron 3 Ultra de 500 bilhões de parâmetros, que será lançado no final de 2026. Oferecendo rendimento até 7x maior e com o dobro da precisão de sua geração anterior, este modelo é um grande avanço para desenvolvedores que se recusam a comprometer entre inteligência e eficiência de inferência.
Os ‘Cinco Milagres’ do Nemotron 3 Super
O desempenho sem precedentes do Nemotron 3 Super é impulsionado por cinco grandes avanços tecnológicos:
- Arquitetura Híbrida MoE: O modelo combina de forma inteligente camadas Mamba com eficiência de memória com camadas Transformer de alta precisão. Ao ativar apenas uma fração de parâmetros para gerar cada token, atinge um aumento de 4x no KV e eficiência de uso do cache SSM.
- Predição de vários tokens (MTP): O modelo pode prever vários tokens futuros simultaneamente, levando a tempos de inferência 3x mais rápidos em tarefas de raciocínio complexas.
- Janela de contexto de 1 milhão: Com um comprimento de contexto 7x maior do que a geração anterior, os desenvolvedores podem colocar enormes relatórios técnicos ou bases de código inteiras diretamente na memória do modelo, eliminando a necessidade de re-raciocinar em fluxos de trabalho de várias etapas.
- MoE latente: Isso permite que o modelo comprima informações e ativar quatro especialistas pelo mesmo custo de computação dee. Sem esta inovação, o modelo precisaria ser 35 vezes maior para atingir os mesmos níveis de precisão.
- Integração do Ginásio NeMo RL: Por meio de pipelines interativos de aprendizagem por reforço, o modelo aprende a partir de ciclos de feedback dinâmicos, em vez de apenas texto estático, dobrando efetivamente seu índice de inteligência.
Todas essas inovações levam a uma eficiência incrível em termos de tokens de saída por GPU
Por que o Nemotron 3 Super é o mecanismo definitivo para IA multiagente?
Nemotron 3 Super não é apenas um modelo padrão de linguagem grande; ele está especificamente posicionado como um mecanismo de raciocínio projetado para planejar, verificar e executar tarefas complexas dentro de um sistema mais amplo de modelos especializados. É exatamente por isso que sua arquitetura o torna um divisor de águas para fluxos de trabalho multiagentes:
- Alto rendimento para raciocínio mais profundo: O o rendimento 7x maior do modelo expande fisicamente seu espaço de pesquisa. Como pode processar e gerar tokens mais rapidamente, pode explorar significativamente mais trajetórias e avaliar melhores respostas. Isso permite que os desenvolvedores executem um raciocínio mais profundo com o mesmo orçamento computacional, o que é essencial para a construção de agentes autônomos e sofisticados.
- Zero “re-raciocínio” em fluxos de trabalho longos: Em sistemas multiagentes, os agentes passam constantemente o contexto de um lado para o outro. A janela de contexto de 1 milhão de tokens permite que o modelo retenha grandes quantidades de estado, como bases de código inteiras ou longos históricos de conversas de agentes em várias etapas, diretamente em sua memória. Isso elimina a latência e o custo de forçar o modelo a reprocessar o contexto em cada etapa.
- Ambientes de treinamento específicos para agentes: Em vez de depender apenas de conjuntos de dados de texto estáticos, o pipeline do modelo foi estendido com mais de 15 ambientes interativos de aprendizagem por reforço. Ao treinar em loops de simulação dinâmica (como ambientes dedicados para agentes de engenharia de software e pesquisa aumentada por ferramentas), o Nemotron 3 Super aprendeu as trajetórias ideais para a conclusão autônoma de tarefas.
- Capacidades avançadas de chamada de ferramentas: Em aplicações multiagentes do mundo real, os modelos precisam agir, e não apenas responder textualmente. Fora da caixa, O Nemotron 3 Super provou ser altamente proficiente na chamada de ferramentasnavegando com sucesso por enormes conjuntos de funções disponíveis, como selecionar dinamicamente entre mais de 100 ferramentas diferentes em fluxos de trabalho complexos de segurança cibernética.
Escala de código aberto e treinamento
A NVIDIA não está apenas lançando o pesos; eles estão abrindo completamente o código-fonte de toda a pilha do modelo, que inclui os conjuntos de dados de treinamento, bibliotecas e ambientes de aprendizagem por reforço.
Devido a esse nível de transparência, a Análise Artificial coloca o Nemotron 3 Super diretamente no “quadrante mais atraente”, observando que ele atinge a pontuação de abertura mais alta, mantendo a precisão líder ao lado dos modelos proprietários. A base dessa inteligência vem de um pipeline completamente redesenhado, treinado em 10 trilhões de tokens selecionados, complementado por 9 a 10 bilhões de tokens extras estritamente focados em tarefas avançadas de codificação e raciocínio.
Controle do desenvolvedor: apresentando ‘orçamentos de raciocínio‘
Embora a contagem bruta de parâmetros e as pontuações de benchmark sejam impressionantes, a equipe da NVIDIA entende que os desenvolvedores empresariais do mundo real precisam de controle preciso sobre a latência, a experiência do usuário e os custos de computação. Para resolver o dilema clássico de inteligência versus velocidade, o Nemotron 3 Super apresenta sistemas altamente flexíveis Modos de raciocínio diretamente por meio de sua API, colocando um nível sem precedentes de controle granular nas mãos do desenvolvedor.
Em vez de forçar uma saída única, os desenvolvedores podem ajustar dinamicamente exatamente quão duro o modelo ‘pensa’ com base na tarefa específica em questão:
- Raciocínio completo (padrão): O modelo é liberado para aproveitar suas capacidades máximas, explorando espaços de busca profundos e trajetórias de várias etapas para resolver os problemas de agente mais complexos.
- O ‘Orçamento Racional’: Isto é uma virada de jogo total para aplicativos sensíveis à latência. Os desenvolvedores podem limitar explicitamente o tempo de reflexão do modelo ou a permissão de computação. Ao definir um orçamento de raciocínio rigoroso, o modelo otimiza de forma inteligente seu espaço de pesquisa interno para fornecer a melhor resposta possível. dentro dessa restrição exata.
- ‘Modo de baixo esforço’: Nem todo prompt requer uma análise profunda e multiagente. Quando um usuário precisa apenas de uma resposta simples e concisa (como um resumo padrão ou perguntas e respostas básicas) sem a sobrecarga de raciocínio profundo, essa alternância transforma o Nemotron 3 Super em um respondedor extremamente rápido, economizando enormes quantidades de computação e tempo.
A configuração ‘dourada’
Ajustar modelos de raciocínio muitas vezes pode ser um processo frustrante de tentativa e erro, mas a equipe da NVIDIA desmistificou isso completamente para esta versão. Para extrair o melhor desempenho absoluto em todos desses modos dinâmicos, NVIDIA recomenda configuração global de Temperatura 1.0 e Top P 0.95.
De acordo com a equipe da NVIDIA, bloquear essas configurações exatas de hiperparâmetros garante que o modelo mantenha o equilíbrio matemático perfeito entre exploração criativa e precisão lógica, esteja ele sendo executado em um modo restrito de baixo esforço ou em um aprofundamento de raciocínio ilimitado.
Aplicações e disponibilidade do mundo real
Nemotron 3 Super já está provando seu valor em aplicações empresariais exigentes:
- Desenvolvimento de software: Ele lida com solicitações pull de nível júnior e supera os principais modelos proprietários na localização de problemas, encontrando com sucesso a linha exata de código que está causando o bug.
- Cibersegurança: O modelo é excelente na navegação em fluxos de trabalho ISV de segurança complexos com sua lógica avançada de chamada de ferramentas.
- IA soberana: Organizações em todo o mundo, em regiões como a Índia, o Vietname, a Coreia do Sul e a Europa, estão a utilizar a arquitetura Nemotron para construir modelos especializados e localizados, adaptados a regiões e quadros regulamentares específicos.
Nemotron 3 Super é rliberado nas quantizações BF16, FP8 e NVFP4, com NVFP4 necessário para executar o modelo em um DGX Spark.
Confira os modelos em Abraçando o rosto. Você pode encontrar detalhes em Artigo de pesquisa e Blog Técnico/Desenvolvedor.
Obrigado à equipe de IA da NVIDIA pela liderança inovadora/recursos para este artigo. A equipe de IA da NVIDIA apoiou e patrocinou este conteúdo/artigo.
A postagem NVIDIA lança Nemotron 3 Super: um modelo MoE híbrido Mamba-Attention de código aberto com parâmetros de 120B que oferece rendimento 5x maior para IA Agentic apareceu pela primeira vez no MarkTechPost.
Deseja saber mais sobre Inteligência Artificial, Clique Aqui!