Decision 2.0 (Kai-0.6B a Vega-27B)

Última atualização:

Aberto5–71ms$0/M input

Notas do quadrante

Ver o quadrante completo

Pontuação pela rubrica pública do quadrante (maturidade × capability; bolha = adoção). Revisamos conforme a evidência.

  • Maturidade4.9/10

    Seis tamanhos Apache-2.0 com heads de decisão treinados; system_one() e pipeline no Transformers via trust_remote_code. O Vega-27B é uma LoRA que exige o Qwen3.8-27B. Cards curtos: quickstart e uma tabela, sem método, dados ou calibração. Ports MLX / ONNX da comunidade. Sem API nem SLA.

  • Capability7.1/10

    Placares oficiais (22/10): Decision Index 0.4.1 Full 58,01 (#56) para o Vega 27B; JevBench Intelligence 60,4, calibração 82,2, p50 0,190 s. Choice (até 255 opções) / Noul / Score numa passada. Calibração não definida no manifesto, sem ECE.

  • Adoção7/100

    Post de lançamento com ~740 curtidas / 39 mil views / 680 salvamentos; coleção com 24 upvotes; ~560 downloads nos seis repos em cerca de um dia; seis conversões MLX / ONNX da comunidade (incl. onnx-community). Sem integrações ou uso em produção relatados.

Vendor claims

Auditoria dos placares de 17/10/2026: veja a seção “Auditoria dos placares” abaixo; onde ela conflita com afirmações antigas de placar nesta página, ela vale.

Leia antes

  1. Todo score 2.0 no índice é rodada do próprio time. Os cards chamam de “reprodução independente com o kit oficial 0.2.1”, mas quem rodou foram os autores; o Decision Index público ainda mostra os modelos 1.0 de 28 de setembro. O “+11,2 sobre o Lux 2.0” do card do Vega não bate com a própria tabela (56,5 − 46,3 = 10,2).
  2. Sem etapa de calibração. O manifesto da release lista a calibração como não definida, e os cards não trazem ECE. As probabilidades são a saída crua do head.
  3. As fichas 1.0 continuam. O Decision 1.0 Lux-9B e o Kai mantêm suas páginas porque os scores deles se apoiam no índice oficial. Esta ficha cobre a família 2.0 inteira.

O Decision 2.0 é a segunda família aberta de modelos de decisão do projeto vLLM Semantic Router, anunciada em 2 de outubro de 2026 (news). Os pesos subiram em 28–29 de setembro. São seis tamanhos, todos Apache-2.0: Kai-0.6B, Eos-0.8B, Sol-2B, Nox-4B, Lux-9B e um novo topo, o Vega-27B. Cada um recebe um estado e perguntas tipadas e devolve uma probabilidade por opção sem gerar texto, pela mesma chamada system_one() da 1.0.

Os seis tamanhos

Modelo Parâmetros Construído a partir de Decision Index (1.0 → 2.0) Latência mediana
Kai-0.6B 0,60B Qwen3-0.6B-Base (o Kai 1.0 era um encoder da linhagem mmBERT) 6,5 → 16,3 4,9 ms
Eos-0.8B 0,75B Decision 1.0 Eos 18,4 → 20,1 6,0 ms
Sol-2B 1,88B Decision 1.0 Sol 25,3 → 29,5 7,2 ms
Nox-4B 4,21B Qwen3.5-4B-Base 34,4 → 43,8 12,9 ms
Lux-9B 7,94B Decision 1.0 Lux 43,5 → 46,3 18,4 ms
Vega-27B 29,37B Qwen3.8-27B + LoRA de rank 512 (só o adapter; base baixada à parte) — → 56,5 71,4 ms

Os seis compartilham o desenho, segundo os configs: um head de decisão bilinear-MLP compartilhado que pontua cada opção contra uma query global, até 255 opções por pergunta. O contexto é de 16.384 tokens na maioria dos tamanhos, 8.192 no Kai e 32.768 no Vega.

Evidências (UnverifiedClaim)

Dos model cards:

Modelo JevArena Transferência rotulada por humanos Comparado com
Vega-27B 74,0 58,7 AutoJev-27B 72,1 / 58,7, Eikos-27B 69,3, Jebadiah-27B 65,5
Lux-9B 68,1 56,2 Decision 1.0 Lux 65,8, Nimble v2 62,1
Nox-4B 63,6 52,3 Decider 4B 61,9 / 55,5, Jet v6.2 60,4
Sol-2B 52,1 51,3 Decider 2B 49,5, This-That 1.2 46,1
Eos-0.8B 53,9 50,3 Intern-Decision-0.8B 43,5, Kev-0.8B 43,2
Kai-0.6B 48,6 45,9 Decision 1.0 Kai 35,9

O JevArena é a comparação do próprio time entre modelos abertos do mesmo porte (prompts congelados, respostas inválidas contam como erro). Cada card lidera seu tamanho nessa tabela, mas o Nox-4B fica atrás do Decider 4B na coluna de transferência rotulada por humanos. Os cards dizem que os dados de treino foram “auditados linha a linha contra todos os itens de teste do Index”.

Claims do lançamento, como foram replicados (3/10)

O post de lançamento no LinkedIn, de Xunzhuo Liu, e um resumo bem compartilhado de David Hendrickson (@TeksEdge, 3/10, 16:00 BRT; cerca de 108 curtidas e 5,8 mil views) trazem afirmações que não estão nos cards (UnverifiedClaim):

  • “#1 do seu tamanho no Jev Decision Index” em 0.6B, 0.8B, 2B e 4B, e “o 27B é o #3 geral”. Isso compara as rodadas do próprio time para a 2.0 com o placar de 28/09.
    • O Nox-4B passa o JPT-4B por 0,8 ponto (43,8 vs 43,04), e o Sol-2B passa o Decider 2B por 0,5 (29,5 vs 28,97). Uma nova rodada pode apagar margens tão pequenas.
    • O Eos-0.8B (20,1 vs 19,22 do JPT-0.8B) e o Kai-0.6B (16,3 vs 14,32 do Bosun 0.6B) lideram com mais folga.
    • O Vega-27B (56,5) seria #3 entre os sistemas abertos, atrás do Surogate Rune (57,44) e do Decider chat Gemma-4-31B (57,33). Contando o Jev (57,91), seria #4.
  • “64 perguntas sobre uma requisição, respondidas em 63 ms numa única GPU.” O post não diz qual tamanho nem qual GPU. Os cards só dizem que várias perguntas sobre a mesma entrada são respondidas numa passada.
  • “20× mais rápido que a API do Jev para uma decisão.” Não diz tamanho nem setup. A mediana do Jev hospedado no índice é 524 ms, e isso inclui a rede.
  • “Até 2,5× a nota do Decision 1.0 no mesmo tamanho.” Bate com o Kai: 6,5 → 16,3.

Sem mudança de nota: a acurácia fica em 6 até os modelos 2.0 entrarem no índice público. Em 4/10 a coleção tinha 49 upvotes e cerca de 1.960 downloads nos seis repos. Apareceu um sétimo repo, Decision-2.0-Sol-2B-Reasoning, ainda sem números no card.

Fit / anti-fit

Fit: roteamento e checagens self-hosted em que você quer escolher o tamanho pelo orçamento de latência (medianas de 5–70 ms numa GPU); testar um modelo aberto de 27B que o time coloca perto do Jev, com as fichas 1.0 como base de terceiro.

Anti-fit: casos que precisam de probabilidades calibradas de fábrica ou de API gerenciada/SLA; a rota experimental System One Auto exige o vLLM Semantic Router e calibração para a carga desejada. Também não é adequada para times que exigem método e dados de treino documentados antes de adotar (os cards 2.0 não trazem nenhum dos dois).

Cada modelo 2.0 traz pesos de decisão treinados (fine-tune completo, ou LoRA no Vega) e um head de decisão próprio, devolve uma probabilidade por opção e cobre Choice, Noul e Score. Esse é o critério do catálogo. Uma ficha de família, como o StartLux-Decision, porque os seis compartilham receita e formato de card. A acurácia fica em 6 até os modelos 2.0 aparecerem no índice público ou numa rodada de terceiro.

Builds GGUF (8/10/2026)

O vLLM Semantic Router publicou builds GGUF dos seis tamanhos (por exemplo Vega-27B-GGUF e Kai-0.6B-GGUF). No Decision Index 0.3 oficial, o Vega 27B faz 55,88 (rank 13) e o Nox 4B 44,95 (rank 38).

System One Auto (10/10/2026)

O time do vLLM Semantic Router descreve o System One Auto como um cascade configurável, exposto em vllm-sr/auto: o Kai-0.6B responde primeiro, e o Vega-27B recebe as requisições que não passam pelo gate de aceitação. No piloto do time com 231 requisições públicas do JevBench, a acurácia de rótulo exato foi 65,80% para Kai sozinho, 82,25% para Auto e 87,88% para Vega sozinho. O intervalo bootstrap pareado por grupo de origem para o ganho de Auto sobre Kai foi de 11,34 a 21,72 pontos percentuais. São resultados dos autores em um subconjunto público, não do leaderboard selado nem do score composto; não alteram os scores dos modelos acima.

O post reporta economia estimada de 54,11% no custo de inferência e cerca de 20% menos latência média que Vega sozinho. A estimativa de custo supõe inferência do Kai quase sem custo e preço igual por chamada ao Vega; todas as requisições ainda passam pelo Kai, duas GPUs ficaram reservadas, e não se mediu redução real de faturamento. Sobre latência, o intervalo pareado da razão entre médias (0,723–0,856) é compatível com a manchete de ~20% menos, mas as médias brutas da primeira passada (126,61 ms Auto vs 210,98 ms Vega) implicam redução de ~40%; o artigo não reconcilia esses resumos. A estimativa pontual de p95 do Auto foi cerca de 8,5% maior, sem intervalo de confiança para a cauda nem vantagem de throughput demonstrada. O ponto de operação depende da carga; a documentação do cascade recomenda calibrar o gate para a carga desejada.

Sucessor (10/10/2026): Decision 3.0, seis tamanhos novos que também leem imagem e vídeo.

Auditoria dos placares (17/10/2026)

Conferido nos placares oficiais em 17/10/2026: Decision Index 0.3.2 (dados de 16/10, 19:00 UTC), JevBench e ImageJevBench ao vivo. Os placares são fontes separadas e nunca são combinados. Afirmações e posições antigas de placar mais abaixo nesta página ficam superadas quando conflitam com esta seção.

Placar Linha Resultado
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Vega 27B Full 55,88 (#42, grupo de empate 10); público 56,97 (#48); same-skills 55,71; new-domains 47,91
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Lux 9B Full 48,21 (#67, grupo de empate 16); público 46,76 (#79); same-skills 47,35; new-domains 44,45
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Nox 4B Full 44,95 (#79, grupo de empate 19); público 44,21 (#82); same-skills 43,72; new-domains 42,19
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Sol 2B Full 27,07 (#126, sem empate); público 30,05 (#126); same-skills 29,25; new-domains 23,04
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Eos 0.8B Full 17,47 (#142, grupo de empate 41); público 20,57 (#144); same-skills 21,31; new-domains 13,93
Decision Index 0.3.2 (16 out 19:00 UTC) vLLM-SR Decision 2.0 Kai 0.6B Full 13,61 (#148, grupo de empate 44); público 16,68 (#154); same-skills 16,9; new-domains 11,81
JevBench pesos abertos (ao vivo 17/10) Decision 2.0 Lux 9B Capability 61,6; Intelligence 35,8; calibração 87,5; p50 0,068 s; US$ 0,052/1k
JevBench pesos abertos (ao vivo 17/10) Decision 2.0 Vega 27B Capability 71,3; Intelligence 60,4; calibração 82,2; p50 0,190 s; US$ 0,22/1k

Atualização da nota (auditoria, 17/10/2026). Capability 6,7 → 6,9 = tipos × 0,30 + calibração × 0,25 + latência × 0,25 + acurácia × 0,20 = 10 × 0,30 + 3 × 0,25 + 7 × 0,25 + 7 × 0,20 = 6,90 → 6,9. Tipos, calibração e latência vêm da conta anterior (10 / 3 / 7); só a acurácia é refeita pelo placar (7; era 6): Decision Index Full 55,88 ÷ 60,11 × 8 = 7,4, arredondado para cima. Maturidade e adoção inalteradas.

Auditoria de placar (20/10/2026, DI 0.4)

O Decision Index 0.4 (20/10; Full agora só com as partes privadas) lista vLLM-SR Decision 2.0 Vega 27B com Full 60,17 (#41); era 55,88 na edição 0.3.2, arquivada. Regra de acurácia, referência Jev 1.13 no DI 0.4 Full (61,26): 8 × 60,17 ÷ 61,26 = 7,86 → 8 (era 7). Capability = 10 × 0,30 + 3 × 0,25 + 7 × 0,25 + 8 × 0,20 = 7,10 → 7,1 (era 6,9). Demais subnotas, maturidade e adoção inalteradas.

Auditoria de placar (22/10/2026, DI 0.4.1)

O Decision Index 0.4.1 (22/10; referência Jev 1.13 Full 59,22, era 61,26 no 0.4) lista a linha desta ficha com Full 58,01 (#56). Regra de acurácia: 8 × 58,01 ÷ 59,22 = 7,84 → 8 (era 8). Capability inalterada. Maturidade e adoção inalteradas.