NVIDIA Nemotron 3 Super agora disponível no Amazon Bedrock: alta performance para aplicações de IA generativa

Novo modelo NVIDIA Nemotron 3 Super chega ao Amazon Bedrock

A Amazon Web Services (AWS) anunciou a disponibilidade do NVIDIA Nemotron 3 Super como um modelo totalmente gerenciado e serverless dentro do serviço Amazon Bedrock. Essa novidade amplia o portfólio de modelos Nemotron já presentes na plataforma, oferecendo aos desenvolvedores e empresas uma solução de inteligência artificial generativa com alta eficiência computacional e precisão para tarefas complexas.

Características técnicas avançadas do Nemotron 3 Super

O Nemotron 3 Super é um modelo híbrido do tipo Mixture of Experts (MoE), utilizando a arquitetura Transformer-Mamba, que permite alta especialização e eficiência no processamento de linguagem natural. Entre os principais destaques técnicos estão:

Tamanho: 120 bilhões de parâmetros, com 12 bilhões ativos em inferência.
Contexto: suporta até 256 mil tokens, ideal para raciocínio de longo alcance.
Precisão: até 5 vezes mais eficiente que a versão anterior Nemotron Super e com até 2 vezes maior acurácia em tarefas de raciocínio e agentes especializados.
Latent MoE: especialistas operam sobre representações latentes compartilhadas, permitindo chamar 4 vezes mais especialistas sem custo adicional de inferência, melhorando o desempenho em estruturas semânticas complexas e raciocínio multi-etapas.
Multi-token prediction (MTP): capacidade de prever múltiplos tokens futuros em uma única passagem, reduzindo latência e melhorando a resposta em tarefas como planejamento e geração de código.
Idiomas suportados: inglês, francês, alemão, italiano, japonês, espanhol e chinês.

Casos de uso práticos para diversos setores

O Nemotron 3 Super foi desenvolvido para atender demandas sofisticadas em diferentes setores, incluindo:

Desenvolvimento de software: auxílio em sumarização e geração de código.
Finanças: aceleração de processamento de empréstimos, análise de padrões de renda e detecção de fraudes.
Segurança cibernética: triagem de incidentes, análise aprofundada de malwares e detecção proativa de ameaças.
Pesquisa e busca: compreensão avançada da intenção do usuário para ativação de agentes específicos.
Varejo: otimização de gestão de estoque e recomendações personalizadas em tempo real.
Fluxos de trabalho multi-agentes: orquestração de agentes especializados para automação completa de processos empresariais complexos.

Como começar a usar o Nemotron 3 Super no Amazon Bedrock

Para testar o modelo via console, siga estes passos:

Acesse o Amazon Bedrock Console e selecione o Chat/Text playground no menu lateral.
Clique em Select model no canto superior esquerdo.
Escolha a categoria NVIDIA e selecione NVIDIA Nemotron 3 Super.
Clique em Apply para carregar o modelo e iniciar os testes.

O modelo está preparado para desafios complexos que envolvem raciocínio avançado, como design de sistemas distribuídos e geração de código thread-safe com testes integrados.

Acesso programático via AWS CLI e SDKs

Além do console, o Nemotron 3 Super pode ser acessado programaticamente usando o ID nvidia.nemotron-super-3-120b por meio das APIs InvokeModel e Converse do Amazon Bedrock. Exemplos de uso incluem:

AWS CLI: invocação direta com o comando aws bedrock-runtime invoke-model.
SDK Python (Boto3): script para enviar prompts e receber respostas via API Converse.
OpenAI-compatible API: uso do SDK OpenAI adaptado para o Bedrock para integração com pipelines generativos.

Essas opções facilitam a incorporação do Nemotron 3 Super em fluxos de trabalho de IA generativa personalizados.

Impacto prático e próximos passos

Com a combinação da arquitetura híbrida avançada do Nemotron 3 Super e a infraestrutura gerenciada e serverless do Amazon Bedrock, organizações podem desenvolver aplicações de IA com alto nível de raciocínio e eficiência, sem a complexidade do gerenciamento de backend. Isso representa um avanço significativo para empresas que buscam inovação rápida e escalável em inteligência artificial generativa.

Para experimentar o modelo, visite o Amazon Bedrock Console e explore o playground de modelos. Desenvolvedores também podem integrar o Nemotron 3 Super em seus sistemas via SDKs da AWS para acelerar seus projetos de IA.