Tool Calling Explicado: Como Agentes de IA Decidem o Que Fazer
Se você vem acompanhando a evolução dos modelos de linguagem, já deve ter notado uma mudança fundamental: os LLMs deixaram de ser…
Tag: llm
24 publicações encontradas
Subquadratic afirma ter resolvido o gargalo matemático dos transformers — e tem benchmarks independentes para provar
Startup de Miami afirma ter resolvido o gargalo da atenção densa em transformers. Modelo SubQ seria 56x mais rápido e processa 12x…
Subquadratic afirma ter resolvido o gargalo que limita os LLMs — e os testes independentes mostram velocidade 56x maior
A startup americana Subquadratic saiu do modo stealth no mês passado com uma afirmação ambiciosa: resolveram o gargalo matemático que tem limitado…
AWS SageMaker ganha mais de 100 métricas detalhadas para inferência de IA generativa
AWS SageMaker AI agora emite mais de 100 métricas detalhadas de inferência com dashboard integrado no CloudWatch, cobrindo saúde de GPU, latência…
Amazon Bedrock AgentCore: agentes de IA em produção com duas chamadas de API
Há um ano, Simon Willison definiu agentes de IA com uma das descrições mais claras até hoje: "Um agente LLM executa ferramentas…
Corrida da Compressão KV Cache: TurboQuant vs OSCAR vs EpiCache
Modelos de linguagem grandes (LLMs) com contexto longo enfrentam um gargalo de memória que não tem nada a ver com os pesos…
Tokenomics: como empresas estão lidando com o custo crescente do uso de IA generativa
Enquanto empresas investem centenas de milhões de dólares em ferramentas de IA para codificação, marketing e atendimento ao cliente, uma nova obsessão…
AWS acelera carregamento de modelos LLM e amplia janelas de contexto com GPUDirect e Amazon FSx for Lustre
Para quem trabalha com grandes modelos de linguagem (LLMs) em instâncias GPU da AWS, o tempo de carregamento do modelo na memória…
Desafios e Métricas para Avaliação de Desempenho de LLMs: Insights de Legare Kerrison e Cedric Clyburn
Contexto e importância da avaliação de LLMs O avanço das Large Language Models (LLMs) tem impulsionado a adoção de aplicações de inteligência…
DoorDash revoluciona personalização com LLMs para momentos dinâmicos e hiperpersonalização
DoorDash avança na personalização dinâmica com modelos de linguagem de grande escala Na busca por transformar a experiência do consumidor, DoorDash…
Por que o Vale do Silício perdeu o contato com as necessidades reais dos usuários
O distanciamento do Vale do Silício em relação ao consumidor comum Em um artigo recente do The Verge, a jornalista Elizabeth Lopatto…
ToolSimulator: Testes Escaláveis e Seguros para Agentes de IA com Ferramentas Externas
A AWS lançou o ToolSimulator, um framework de simulação de ferramentas baseado em grandes modelos de linguagem (LLM) integrado ao Strands Evals…