Decision Fast

Última atualização:

Aberto100–300ms$0/M input

Notas do quadrante

Ver o quadrante completo

Pontuação pela rubrica pública do quadrante (maturidade × capability; bolha = adoção). Revisamos conforme a evidência.

  • Maturidade3.8/10

    Release preview com pesos de avaliação congelados; LoRA + head + código de inferência abertos no HF, mas só com EVALUATION-PERMISSION — nenhuma licença comercial geral é declarada.

  • Capability6.2/10

    JevBench oficial (17/10): Intelligence 6,1, calibração 75,1, p50 0,058 s.

  • Adoção9/100

    Preview recém-lançado; interesse de nicho entre builders sensíveis a custo — ainda sem presença em produção.

Vendor claims

publicado (OK do Fabricio 17/10 BRT). Auditoria dos placares de 17/10/2026: veja a seção “Auditoria dos placares” abaixo; onde ela conflita com afirmações antigas de placar nesta página, ela vale.

O Decision Fast é um modelo de decisão de 0,6B ultrabarato da FlyMy.AI — LoRA adapter + pointer head sobre o Qwen3-0.6B-Base (checkpoint qwen3_06b_headfirst_ep2a_v53, 606M de parâmetros / ~10,6M treinados) — não é produto da TypeSafe e não é release de produção.

Um forward pass: estado + pergunta tipada (choice, score, noul → boolean no catálogo) entram, distribuição de probabilidade calibrada sai — sem tokens de saída, sem loop de decode. Pesos: flymy-ai/decision-fast-preview. O repo inclui o LoRA adapter, as linhas de tokens estruturais, o pointer head e código de inferência executável.

Por que importa: custo ultrabaixo

A ~US$ 0,0063 por mil decisões (métrica de custo do JevBench v1.4.2: 76,1), o Decision Fast empata com o Kev 0.5B/0.6B como o modelo de decisão mais barato do benchmark. Para cargas de alto volume e sensíveis a custo, em que a qualidade da calibração é secundária, é o ponto de entrada.

JevBench v1.4.2 Score
Geral 32,5 (#33)
Intelligence 37,1
Calibration 65,3
Speed 81,6
Cost 76,1

A troca é clara: você paga ~US$ 0,006 / mil decisões, mas a acurácia nas tarefas Hard cai para 39,64% e a calibração fica atrás dos modelos maiores. Para roteamento em volume, rótulos suaves em pipelines ou pré-filtragem antes de um modelo mais pesado, pode ser a troca certa.

Limites (leia antes de colocar em produção)

  • Só preview / avaliação — o EVALUATION-PERMISSION.md autoriza rodadas de benchmark; uma licença comercial geral dos pesos não é declarada.
  • O backbone tem 0,6B; #33 geral no JevBench quer dizer que não é um modelo frontier — a transferência para tarefas difíceis fora da distribuição será fraca.
  • O score de calibração (65,3) é menor que o da maioria dos pares; ajuste a temperatura nos seus rótulos se a confiança importa.
  • A mistura de treino inclui ~96 registros derivados de SNI/Gigaword com direitos upstream não resolvidos; ver provenance-review.json.
  • Limite de empacotamento de 4096 tokens — textos de estado longos podem ser truncados.
  • Irmão do Decision 2B (ainda fora do catálogo); o Fast usa a mistura v7 anterior, não as adições Fable H8/H9.

Rodar localmente

python -m venv .venv && . .venv/bin/activate
pip install torch==2.8.0 --index-url https://download.pytorch.org/whl/cu128
pip install numpy==2.1.2 -r requirements-minicpm.txt
python model.py --verify-only
import model
decider = model.load()  # uma vez por processo
result = decider.decide(
    "The customer was charged twice.",
    {
        "type": "choice",
        "instructions": "Choose the support queue.",
        "criteria": {"billing": "Billing and payments", "technical": "Technical support"}
    }
)
print(result["probabilities"])

Integração com o harness do JevBench:

git clone https://github.com/fstandhartinger/jevbench.git
git -C jevbench checkout 218511d85c5e9fc3dd12a08fae0e9818ea48bb68
python run_jevbench.py --harness ./jevbench --output ./new-results --price-input-per-million 0.01

Pesos públicos de LoRA + pointer head com I/O de decisão tipado, código de inferência documentado e a faixa de menor custo por decisão, ao lado do Kev. O status de preview e a calibração mais fraca o deixam abaixo do Decider, do NanoJev e do Kev em maturidade/capability — mas, para otimização pura de custo em cargas de alto volume, é o ponto de partida.

Auditoria dos placares (17/10/2026)

publicado (OK do Fabricio 17/10 BRT). Conferido nos placares oficiais em 17/10/2026: Decision Index 0.3.2 (dados de 16/10, 19:00 UTC), JevBench e ImageJevBench ao vivo. Os placares são fontes separadas e nunca são combinados. Afirmações e posições antigas de placar mais abaixo nesta página ficam superadas quando conflitam com esta seção.

Placar Linha Resultado
JevBench pesos abertos (ao vivo 17/10) Decision Fast Capability 40,6; Intelligence 6,1; calibração 75,1; p50 0,058 s; US$ 0,0046/1k

Afirmações de status de placar nesta página para reconferir com a tabela (podem estar superadas):

  • “A ~US$ 0,0063 por mil decisões (métrica de custo do JevBench v1.4.2: 76,1), o Decision Fast empata com o Kev 0.5B/0.6B como o modelo de decisão mais b…”

Atualização da nota (auditoria, 17/10/2026). Capability 5 → 6,2, primeira conta completa (a nota anterior não tinha detalhamento guardado) = tipos 10 × 0,30 + calibração 5 × 0,25 + latência 7 × 0,25 + acurácia 1 × 0,20 = 6,20 → 6,2. Tipos vêm de decisionTypes; calibração do eixo do JevBench 75,1 (≥90 → 7, 85–89,9 → 6, 75–84,9 → 5, 60–74,9 → 4, abaixo de 60 → 3; sem ECE do autor); latência do p50 self-hosted do placar 0,058 s, sem p99 (≤0,25 s → 7, ≤0,5 s → 6, ≤1 s → 5, acima → 3); acurácia JevBench Intelligence 6,1 ÷ 63,6 × 8 = 0,8, arredondado para cima. Maturidade e adoção inalteradas.

Hugging Face em 17/10 (flymy-ai/decision-fast-preview): 0 downloads, 0 likes, tag de licença nenhuma, última modificação 2026-09-23.