Otari e Otari.ai: a nova plataforma para gerenciar modelos de IA abertos e comerciais com controle total
Otari: o gateway open source que integra modelos de IA
Em um cenário onde o custo e a privacidade são cada vez mais críticos para equipes que desenvolvem com inteligência artificial, a Mozilla AI lançou Otari, um gateway open source que permite executar modelos de linguagem grandes (LLMs) de código aberto ou comerciais por meio de uma única API. Além disso, a plataforma hospedada Otari.ai oferece uma solução gerenciada para quem prefere não operar a infraestrutura por conta própria.
Por que Otari é um diferencial para desenvolvedores e equipes
Modelos comerciais fechados costumam disponibilizar mais do que apenas pesos treinados: eles vêm com ferramentas integradas como execução de código, busca na web, controle de gastos e monitoramento. Já os modelos open-weights, apesar de mais acessíveis e soberanos, normalmente oferecem apenas um endpoint de chat, exigindo que o desenvolvedor reconstrua essas funcionalidades do zero.
Otari preenche essa lacuna ao fornecer, de forma agnóstica ao modelo, um conjunto completo de ferramentas essenciais para aplicações modernas de IA, como:
- Execução de código sandboxed: ambiente Python isolado em Docker para que modelos possam interpretar e executar código sem necessidade de fine-tuning ou desenvolvimento extra;
- Busca na web atualizada: integração nativa com SearXNG, com opções para conectar provedores como Tavily, Brave ou Exa, para superar limitações da data de corte dos modelos;
- Transcrição e geração de imagens: endpoints compatíveis com OpenAI para manter pipelines multimodais funcionando independentemente do modelo escolhido;
- Reranking de documentos: reordenação inteligente de resultados para aplicações RAG, independente do modelo de geração;
- Processamento em lote assíncrono: API compatível com OpenAI para tarefas que priorizam custo sobre latência.
Camada operacional robusta para equipes e empresas
Além das funcionalidades técnicas, Otari oferece recursos essenciais para a gestão e operação segura de projetos com IA:
- Chaves API virtuais: chaves nomeadas, hashadas e com expiração opcional para proteger credenciais upstream;
- Gerenciamento de usuários e orçamentos: limites de gastos configuráveis por usuário e períodos de reset personalizáveis;
- Monitoramento de uso e custos: cálculo em tempo real dos gastos por provedor;
- Controle de taxa: limites de requisições por minuto por usuário, com métricas exportadas para Prometheus;
- Sistema de métricas de saúde e performance: integração com Prometheus para observabilidade.
Otari.ai: plataforma hospedada para acelerar a adoção
Para equipes que preferem não gerenciar a infraestrutura, Otari.ai oferece uma plataforma hospedada com foco em colaboração e facilidade de uso. Entre seus diferenciais estão:
- Gerenciamento de identidades e times com controle de acesso baseado em funções (owner, admin, membro);
- Organizações e workspaces com chaves e dashboards próprios;
- Políticas de roteamento configuráveis para distribuir requisições entre provedores e modelos;
- Cofre seguro para armazenamento criptografado das credenciais dos provedores;
- Provedores gerenciados para acesso a modelos frontier sem necessidade de chave própria;
- Orçamentos multissetoriais e controle granular de gastos por membro e chave;
- Configuração declarativa via YAML para replicar ambientes de forma simples e versionada;
- Observabilidade avançada com ingestão OTLP, análise via OpenSearch, explorador de sessões e dashboards de uso e custo.
Disponibilidade, preço e como começar
Otari está disponível como projeto open source no GitHub, permitindo que equipes instalem e executem localmente para garantir privacidade máxima. O repositório pode ser acessado em https://github.com/mozilla-ai/otari.
Já a plataforma Otari.ai pode ser utilizada via assinatura, com modelo de pagamento transparente por token consumido. Para começar, basta fazer cadastro e adicionar saldo na carteira digital em http://otari.ai.
Usuários podem optar por usar suas próprias chaves de API ou aproveitar os provedores gerenciados pela Mozilla.ai, que incluem modelos open-weights como primeira classe, sem necessidade de infraestrutura adicional.
Por que Otari é importante para o futuro da IA
Com a rápida elevação dos custos da IA em nuvem e o aumento das preocupações com privacidade e soberania, Otari e Otari.ai surgem como soluções que democratizam o acesso a modelos avançados, sem sacrificar funcionalidades essenciais. Sua arquitetura aberta e flexível permite que equipes mudem de modelos ou provedores sem reescrever código, mantendo controle total sobre dados, gastos e capacidades.
Além disso, a Mozilla AI planeja expandir recursos de segurança e classificação local com tecnologias como llamafile, encoderfile e any-guardrail, garantindo que a camada de segurança rode rápida e localmente, mesmo sem GPU.