Decision 1.0 Lux-9B

Última atualização:

Aberto51–347ms$0/M input

Notas do quadrante

Ver o quadrante completo

Pontuação pela rubrica pública do quadrante (maturidade × capability; bolha = adoção). Revisamos conforme a evidência.

  • Maturidade5.1/10

    Apache-2.0, sem gate, card detalhado com métodos, avaliação em 54 tarefas, diagnósticos e atribuições; roda no Transformers padrão via trust_remote_code com system_one(). Para servir, precisa do runtime Decision do vLLM Semantic Router, distribuído à parte. Sem API hospedada nem SLA.

  • Capability7.7/10

    Choice (2–255), Noul e Score (2–10) com um head de candidatos compartilhado. Uma temperatura ajustada; ECE 0,076 no Decision Index oficial. Mediana de 51 ms / p95 de 347 ms no índice. Skill 43,49, 14º de 70: a melhor entrada aberta da família, bem abaixo do Jev. Limite de 16.384 tokens.

  • Adoção4/100

    112 downloads e 13 likes. Listado no Decision Index oficial junto com o resto da família Decision 1.0. Sem integrações nem casos em produção relatados.

Vendor claims

Leia antes

  1. O número de terceiros é sólido, mas não é nível Jev. O Decision Index oficial dá ao Lux-9B 43,49 (14º de 70), ECE 0,076, contra 57,91 do Jev. A rodada do índice é de 28 de setembro; assumimos que usou os pesos atuais (última mudança em 22 de setembro).
  2. A ordem das opções muda algumas respostas. O teste dos próprios autores troca 8,33% das respostas quando as opções são reordenadas (Jev: 0%).
  3. A organização mudou de nome. A org no Hugging Face passou de llm-semantic-router para vllm-sr em 2 de outubro; os links antigos redirecionam.
  4. Há um sucessor. O Decision 2.0 Lux-9B é um fine-tune destes pesos; o time reporta 46,3 no índice (+2,8) e mediana de 18,4 ms, em rodada própria. Esta ficha segue na 1.0 porque 43,49 é o número oficial de terceiro. Ver a news do Decision 2.0.

O Decision 1.0 Lux-9B é o maior modelo aberto da família Decision 1.0 do projeto vLLM Semantic Router, publicado em 22 de setembro de 2026. Ele adapta o backbone de texto do Qwen3.5-9B com treino de todos os parâmetros, tira o head de geração e coloca um head de candidatos compartilhado que devolve uma probabilidade por resposta fornecida. Fica ao lado do encoder pequeno da família, o Decision 1.0 Kai.

Especificações

Atributo Valor
Fabricante vllm-sr (vLLM Semantic Router), antes llm-semantic-router
Base Qwen/Qwen3.5-9B (backbone de texto; torre de visão e head de LM removidos)
Parâmetros 7,94B (backbone 7,937B + head de candidatos de 4,2M)
Tipos de pergunta Choice (2–255 opções), Noul, Score (2–10 níveis)
Contexto 16.384 tokens por pergunta, contando candidatos e estado; acima disso a requisição falha (max_length_exceeded)
Calibração Uma temperatura ajustada em 1.814 exemplos separados
Uso AutoModel.from_pretrained(..., trust_remote_code=True).system_one(...); pipeline("decision"); ou o runtime Decision do vLLM Semantic Router (/v1/systemone)
Licença Apache-2.0
Lançamento

Evidências

Fonte Número
Decision Index oficial 0.2.1 (28/09) skill 43,49, 14º de 70; ECE 0,076; mediana de 51 ms / p95 de 347 ms
Suíte de 54 tarefas dos autores (UnverifiedClaim) 77,40 vs Kev-9B 71,89, Nox-4B 73,09, Jev 81,05
Diagnósticos dos autores (UnverifiedClaim) Brier 0,291, ECE 4,79%; troca por ordem 8,33%

Os autores avisam que o gráfico de latência deles foi medido com pesos anteriores, numa GPU AMD.

Para quem serve / para quem não serve

Serve: roteamento e checagens auto-hospedados numa única GPU, quando você quer pesos abertos, entradas longas (até 16k tokens) e probabilidades para usar com limiar.

Não serve: deploy só em CPU (9B em FP32); casos que precisam da acurácia do Jev ou de respostas que nunca mudam com a ordem das opções; quem precisa de API hospedada.

O Lux é treinado para decisão (adaptação de todos os parâmetros, head de candidatos e calibração próprios), publicado aberto e responde no formato System One com probabilidades. Estava em observação na página do Kai e ganha página própria agora que o resultado dele no índice de terceiros é o melhor da família.