ENPT

Decision 1.0 Kai 0.6B

Última atualização:

Aberto14–107ms$0/M input

Notas do quadrante

Ver o quadrante completo

Pontuação pela rubrica pública do quadrante (maturidade × capability; bolha = adoção). Revisamos conforme a evidência.

  • Maturidade5.1/10

    Apache-2.0, sem gate, card detalhado com arquitetura, benchmark e atribuição das fontes de treino; roda no Transformers padrão via trust_remote_code com uma chamada system_one(). O serving exige um runtime Decision do vLLM Semantic Router distribuído à parte. Sem API hospedada nem SLA.

  • Capability6.6/10

    Noul / Choice / Score num único passe de encoder. Sem calibração (temperatura 1). Rápido: mediana de 30 ms / p95 de 107 ms no Decision Index oficial para os pesos anteriores do Kai. Acurácia fraca: a mesma rodada deu 6,52 (#59 de 70); os pesos novos só foram medidos pelos autores.

  • Adoção4/100

    Cerca de 100 downloads e 9 likes nos pesos novos; a família Decision 1.0 tem várias entradas no Decision Index oficial. Nenhuma integração ou caso de produção reportado.

Vendor claims

Leia antes

  1. O único número de terceiros é baixo. O Decision Index oficial deu 6,52 aos pesos anteriores do Kai (#59 de 70), pouco acima do Laya (6,04) e longe do Jev (57,91). O card diz que os pesos novos ganham 7,04 pontos na suíte dos próprios autores; eles ainda não estão no índice.
  2. Limite rígido de 1.024 tokens. Uma pergunta mais longa derruba o request inteiro (max_length_exceeded); nada é truncado.
  3. As probabilidades não são calibradas. O card diz que o slot de calibração não é usado e a temperatura fica em 1.
  4. Há um sucessor. O Decision 2.0 Kai-0.6B (2 de outubro) é outro modelo: um decoder Qwen3-0.6B no lugar deste encoder, contexto de 8.192 tokens e score próprio de 16,3 no índice. Esta ficha segue nos pesos 1.0 porque os números dela vêm do índice oficial.

O Decision 1.0 Kai 0.6B é um modelo de decisão aberto do projeto vLLM Semantic Router, publicado em 21 de setembro de 2026 e atualizado em 1º de outubro (02:19 BRT). É um encoder, não um LLM: três caminhos bidirecionais de 22 camadas sobre o Vela-1.0-Encoder-307M (linhagem mmBERT), 571,9M de parâmetros no total. Lê o estado e as descrições dos candidatos juntos e devolve respostas System One (Noul, Choice, Score) com distribuições de probabilidade.

Especificações

Atributo Valor
Autor vllm-sr (vLLM Semantic Router), antes llm-semantic-router
Base llm-semantic-router/Vela-1.0-Encoder-307M (linhagem mmBERT)
Parâmetros 571,9M (FP32)
Contexto 1.024 tokens por pergunta, incluindo candidatos e estado
Tipos de pergunta Noul, Choice, Score
Uso AutoModel.from_pretrained(..., trust_remote_code=True).system_one(...); pipeline("decision"); ou um runtime Decision do vLLM Semantic Router (distribuído à parte)
Licença Apache-2.0 (mantidos os termos do tokenizer de origem Gemma)
Lançamento

Evidências

Fonte Número
Decision Index 0.2.1 oficial (pesos anteriores do Kai, 28/09) 6,52 de skill, #59 de 70; ECE 0,185; mediana 30,4 ms / p95 106,8 ms
Suíte dos autores (UnverifiedClaim) 53,52 vs Laya English 51,03
Latência dos autores (UnverifiedClaim) 13,6 ms para 1 pergunta; 163 ms para 128 perguntas mistas (AMD)

O resto da família no índice oficial: Decision 1.0 Lux-9B 43,49 (#14), Nox 34,36, Sol 25,32, Eos-0.8B 18,41, Lex 4,54. O Lux-9B, ponto mais forte da família, tem ficha própria. A geração 2.0 inteira está na ficha do Decision 2.0.

Quando usar / quando evitar

Usar: roteamento local e checagens sim/não muito baratas e rápidas em entradas curtas, especialmente multilíngues (base mmBERT), quando dá para testar a acurácia nos seus dados antes.

Evitar: documentos longos; qualquer coisa que precise de confiança calibrada; decisões com muito raciocínio.

O Kai é treinado para decisões (caminhos de encoder e heads próprios), publicado aberto e responde no formato System One com probabilidades. O score baixo no Decision Index é problema de qualidade, não de classificação; por isso entra com esse número no topo.