Pramaana Labs capta US$ 27 milhões para levar verificação formal à IA

A startup Pramaana Labs anunciou uma rodada seed de US$ 27 milhões liderada pela Khosla Ventures, com participação da Accel, Boldcap, Nexus Venture Partners, Premji Invest e Unbound. A empresa quer resolver um dos maiores problemas da inteligência artificial atual — a confiabilidade — usando uma abordagem emprestada da ciência da computação: verificação formal.

O conceito é aplicar métodos matemáticos rigorosos para garantir que as respostas de um LLM estejam corretas, especialmente em domínios onde erros podem custar caro. A Pramaana vai focar inicialmente em três verticais: direito tributário, descoberta de medicamentos e preparação de impostos.

Como funciona

A arquitetura da Pramaana combina um LLM convencional — que oferece flexibilidade para processar linguagem natural — com uma camada determinística de verificação construída sobre a linguagem de programação LEAN, usada originalmente para provar teoremas matemáticos.

"É como matemática no sentido de que você tem muitas regras que precisa seguir", explicou o CEO e cofundador Ranjan Rajagopalan ao TechCrunch. "Uma vez que você tem uma versão codificada, o raciocínio em cima disso se torna determinístico."

Time de peso

Para cada vertical, a Pramaana está construindo seu próprio sistema de verificação formal supervisionado por especialistas. Na área tributária, a empresa trabalha com Danny Werfel, ex-comissário da Receita Federal americana (IRS). Professores do IIT Delhi, IIT Madras e UC Berkeley supervisionam os sistemas de cibersegurança e descoberta de fármacos.

Rajagopalan cita como inspiração o projeto francês CATALA, que formalizou grande parte do sistema tributário francês em código executável.

O problema da confiabilidade

A rodada acontece num momento em que empresas lutam para transformar pilotos de IA em partes funcionais do negócio. A confiabilidade — ou a falta dela — é o principal obstáculo. Alucinações e erros podem ser inconvenientes em um chatbot, mas em áreas como direito ou medicina, podem ter consequências graves.

"Os problemas mais difíceis do mundo não são insolúveis. Eles estão não-formalizados", diz Rajagopalan. "Todo domínio onde estar errado pode custar a alguém sua saúde, dinheiro ou liberdade tem regras." Agora, essas regras só precisam ser codificadas.

Fonte: TechCrunch