TypeSafe AI lança o Jev, modelo sem geração de texto focado em automação de software

A TypeSafe AI lançou o Jev, um novo modelo baseado em transformers desenvolvido especificamente para automação de software. Criada por Diogo Almeida, ex-pesquisador da OpenAI que participou da criação do ChatGPT e do desenvolvimento do aprendizado por reforço com feedback humano (RLHF), a startup estruturou uma tecnologia que não se enquadra na categoria de grandes modelos de linguagem (LLMs): em vez de gerar texto, a ferramenta entrega probabilidades estatísticas, chamadas pela empresa de decisões calibradas.

A renúncia ao formato tradicional de conversa elimina o risco de alucinações, uma vez que o desenvolvedor estabelece previamente as saídas possíveis. A abordagem também reduz drasticamente o consumo computacional. Os tokens de saída do modelo são gratuitos, enquanto a tarifação de entrada é contabilizada na casa dos bilhões, e não de milhões de tokens. A procura inicial chegou a suspender temporariamente o atendimento da API da TypeSafe AI devido ao volume de requisições.

Resultados práticos na engenharia de software

Empresas de tecnologia já começaram a testar o modelo em suas infraestruturas para substituir ferramentas tradicionais de linguagem em tarefas analíticas. A Vercel, desenvolvedora de infraestrutura para sistemas de agentes, trocou o ChatGPT Luna 5.6 da OpenAI pelo Jev em uma função classificadora de segurança para verificação de comandos. De acordo com o engenheiro de software Pranit Sharma, a velocidade das respostas aumentou entre 5 e 18 vezes, acompanhada de maior precisão técnica.

Em outra frente, a Bryo AI avaliou o Jev na classificação de e-mails corporativos em comparação direta com o Gemini. Nikhil Mudholkar, diretor de tecnologia da companhia, constatou que, embora o sistema concorrente tenha apresentado uma precisão ligeiramente superior, o custo operacional foi de 10 a 20 vezes maior. Mudholkar destacou as pontuações de confiança do Jev, afirmando que a ferramenta é a única a entregar uma probabilidade real, característica que viabiliza a automação consistente de fluxos de trabalho.

O problema é que estamos otimizando para a linguagem humana. Temos sido muito bons na linguagem humana há quatro anos, mas isso não é útil para a automação porque os computadores falam uma linguagem diferente.

Monitoramento de agentes e roteamento de tráfego

Além de atuar de forma independente, o Jev surge como alternativa para supervisionar outros modelos de inteligência artificial. O uso de agentes convencionais para fiscalizar a execução de outros agentes gera despesas elevadas, enquanto o sistema da TypeSafe AI pode rastrear o comportamento de LLMs e bloquear violações de segurança com baixo custo computacional.

Armin Ronacher, diretor de tecnologia da Earendil, desenvolvedora da ferramenta de código aberto Pi, ressalta a utilidade do modelo para o roteamento em tempo real, avaliando com rapidez se determinada tarefa exige ou não um processamento computacional mais robusto.

No final das contas, ele delega um pouco o problema da alucinação para o usuário. O usuário tem que dizer: se isso voltar com 50% de probabilidade, talvez seja como jogar uma moeda e eu desconsidero. Mas se for 95%, com certeza, aí posso fazer algo com isso.

Treinamento integral com dados sintéticos

O nome da ferramenta faz referência a William Stanley Jevons, economista britânico do século XIX responsável pelo paradoxo que descreve como o barateamento de uma mercadoria estimula o aumento expressivo do seu uso. A aposta de Almeida é que o barateamento da inteligência artificial produza softwares inteligentes distribuídos por todo o ecossistema digital.

Descrito pela empresa como um modelo de Sistema Um — voltado à intuição e execução direta em vez de raciocínio encadeado —, o Jev opera sob uma arquitetura mantida sob sigilo. Almeida revelou apenas que a tecnologia foi treinada integralmente com dados sintéticos por meio de um método próprio batizado de aprendizado por reforço a partir de decisões calibradas. Metade da estrutura da startup opera como um laboratório dedicado exclusivamente à pesquisa estatística de dados artificiais. A empresa confirmou planos para lançar novas modalidades do modelo no mercado.