ENPT

vLLM Semantic Router lança o Vela 3.0: seis modelos abertos para decisões e os trechos que você pedir

Última atualização:

Fonte · Ficha do modelo: Decision 3.0 (d3)

publicado (OK do Fabricio 29/10 BRT).

Xunzhuo Liu anunciou o Vela 3.0 em 28/10/2026 (09:53 BRT), uma família do vLLM Semantic Router com a KR Labs (coleção). Numa chamada, um modelo Vela responde decisões tipadas (Choice, Sim/Não, Score) e devolve os trechos exatos que você pedir: entidades, relações, dados pessoais, afirmações sem suporte e evidências, com probabilidades e posições de caractere. O foco é roteamento de LLMs e guardrails. Os seis modelos são Apache-2.0.

A coleção no Hugging Face traz vela3-fast, vela3-fast-vision, vela3-lite, vela3-mini, vela3-flash e vela3-turbo, mais um Space de demonstração. São dois desenhos:

  • vela3-turbo (27B) roda o d3-turbo v1.0 congelado e acrescenta adaptadores LoRA com porta para trechos e sinais de roteamento. O card diz que as decisões comuns saem do d3-turbo bit a bit (561 de 561 iguais na checagem do fornecedor), então a acurácia de decisão é a do d3-turbo.
  • vela3-fast (0,38B) é um encoder UltraBERT-380M com backbone de decisão próprio, destilado das distribuições de resposta dos modelos d3; só inglês, até 32K tokens.

Números do fornecedor (UnverifiedClaim). “#1 do Decision Index até 500M”, “supera o GPT-5-mini em classificação zero-shot” (vela3-turbo 81,4 contra 79,8 na suíte GLiFormer de 13 conjuntos, números reportados) e 18 ms por pergunta de trecho numa AMD MI325X.

O que o placar mostra. No Decision Index 0.4.1 (dados de 28/10), o vela3-fast tem a melhor nota pública até 500M de parâmetros (50,36, contra 49,74 do Amber 0.4B e 47,49 do GLiClass v4 edge). No Full, que soma os testes privados, fica em 29,27 (#170 de 243), atrás do GLiClass v4 edge (31,21). O vela3-fast-vision (0,25B) marca Full 22,11. O placar mediu ECE 0,12 no vela3-fast e mediana de 54 ms por linha.

Nota. A ficha do Decision 3.0 segue pontuada no d3 27B; o Vela não traz pesos de decisão novos no tamanho 27B. O vela3-fast, pequeno, é candidato à parte para o catálogo.