AWS SageMaker AI agora suporta payloads inline na inferência assíncrona
A AWS anunciou uma atualização importante para o Amazon SageMaker AI Async Inference: agora é possível enviar os payloads de inferência diretamente…
Tag: HuggingFace
176 publicações encontradas
Flash-KMeans: Implementação Exata de K-Means Roda 200× Mais Rápido que FAISS em GPUs
Pesquisadores acabam de lançar o Flash-KMeans , uma implementação exata do algoritmo k-means de Lloyd que roda mais de 200× mais rápido…
NVIDIA Nemotron 3 Ultra chega ao Amazon SageMaker JumpStart com inferência 5x mais rápida e custo 30% menor
Lançamento do NVIDIA Nemotron 3 Ultra no Amazon SageMaker JumpStart A AWS anunciou a disponibilidade imediata do modelo NVIDIA Nemotron 3 Ultra…
Modelo NEXUS para dados tabulares agora disponível no Amazon SageMaker JumpStart
O que é o modelo NEXUS e por que ele importa para dados tabulares O NEXUS, desenvolvido pela Fundamental, é um modelo…
AWS reduz tempo de inicialização de containers Deep Learning com índice SOCI em DLAMI e DLC
A Amazon Web Services (AWS) anunciou suporte ao SOCI snapshotter e índice nas suas imagens Deep Learning AMIs (DLAMI) e Deep Learning…
Amazon SageMaker AI lança fine-tuning avançado para melhorar a precisão de chamadas de ferramentas em agentes de linguagem
Nova funcionalidade para aprimorar agentes de IA com Supervised Fine-Tuning e Direct Preference Optimization A Amazon Web Services (AWS) anunciou uma…
Amazon Nova 2 Lite: Detecção de Objetos Simplificada com Amazon Bedrock e AWS Lambda
Amazon lança Nova 2 Lite para detecção de objetos sem necessidade de treinamento A Amazon anunciou o Amazon Nova 2 Lite, um…
Amazon Nova Forge: Otimização Avançada de Hiperparâmetros para Modelos de Linguagem Especializados
Amazon Nova Forge: Personalização Precisa para Modelos de Linguagem Amazon Nova Forge é a nova solução da AWS que permite customizar modelos…
Amazon Quick Research: Revolucionando a Pesquisa em Cânceres Raros com Integração de Dados Biomédicos
Desafios na Pesquisa de Cânceres Raros A pesquisa em cânceres raros enfrenta um desafio crucial: a dispersão e heterogeneidade dos dados. Informações…
AWS acelera carregamento de modelos LLM e amplia janelas de contexto com GPUDirect e Amazon FSx for Lustre
Para quem trabalha com grandes modelos de linguagem (LLMs) em instâncias GPU da AWS, o tempo de carregamento do modelo na memória…
Arm libera Metis: framework de IA para segurança que supera ferramentas SAST tradicionais
Arm lança Metis, framework de segurança com inteligência artificial de última geração A Arm anunciou a abertura do código-fonte do Metis, um…
Observabilidade Completa para Inferência de LLMs no Amazon SageMaker: Do Uso de GPU à Qualidade dos Modelos
Monitoramento integrado para modelos de linguagem em produção Com o crescimento da adoção de grandes modelos de linguagem (LLMs) em ambientes de…