pplx-decider v1.2 (27B + Flash 4B)

Última atualização:

Aberto96–96ms$0.02/M input

Notas do quadrante

Ver o quadrante completo

Pontuação pela rubrica pública do quadrante (maturidade × capability; bolha = adoção). Revisamos conforme a evidência.

  • Maturidade6.3/10

    Pesos Apache-2.0 no Hugging Face e API hospedada com preço (US$ 0,02/M; Flash US$ 0,01/M), com quickstart, referência, cookbooks e 10 req/s por org. Exige o código incluso (atenção não causal, readout por pergunta). O card do HF ainda diz que o repo é privado. Sem SLA.

  • Capability8.1/10

    Noul / Choice / Score com imagens e formato de request conjunto. Full 65,55 no Decision Index 0.3.2 oficial (#4; Jev 60,11). Temperatura ajustada, ECE 0,014 no conjunto de desenvolvimento e cerca de 0,05 fora do treino. Os 96 ms são rodada da própria Perplexity, sem p95. Há splits de treino do DI nos dados.

  • Adoção18/100

    Modelo padrão da Decisions API da Perplexity (os nomes v1/v1.1 agora vão para ele). Posts de lançamento: CEO 623 curtidas / 32 mil views, Perplexity Devs 277 / 76 mil. HF: 129 + 224 downloads e 19 + 16 likes em 1–2 dias, várias quants da comunidade. Sem usuários de produção nomeados.

Vendor claims

publicado (OK do Fabricio 17/10 BRT).

Leia primeiro.

  1. Uma página, dois modelos. pplx-decider-v1.2 (27B) e pplx-decider-flash-v1.2 (4B) dividem o formato do card, a API e o formato de request. O 27B é o destaque; o Flash tem números próprios abaixo. A página do pplx-decider v1.1 continua para histórico.
  2. A Perplexity colocou os splits de treino do Decision Index no treino. O card diz que vários benchmarks do Decision Index trazem splits oficiais de treino e que agora os incluem (descontaminados contra os testes) “para tornar as comparações no board justas”. O Full do board também tem os testes privados dos mantenedores, então usamos esse; os 68,09 do card são a suíte pública, rodada pela Perplexity.
  3. O card ainda diz “the repository is private”. O repo é público e sem gate (lemos em 17/10). Mesmo erro de texto do v1.1.
  4. Os nomes antigos da API agora apontam para cá. A documentação diz que requests com pplx-decider-v1.1-27b ou pplx-decider-v1-27b “selecionam pplx-decider-v1.2 e cobram o preço dele”.

O que mudou em relação ao v1.1

  • Formato de request conjunto. O v1.1 respondia uma pergunta por passada, lida no último token. O v1.2 lê o estado e todas as perguntas numa só sequência, com um readout num token marcador depois das opções de cada pergunta. Várias perguntas sobre o mesmo estado custam quase o mesmo que uma. A atenção total continua não causal, então as perguntas enxergam umas às outras.
  • Agrupar pode piorar. A tabela do próprio card: agrupar ajuda quando as perguntas são facetas de uma decisão (SATA-Bench +11,3, ACOS +7,8, PhishNChips +5,1) e piora quando são candidatos concorrentes (ToolRet −4,8, BRIGHT −2,9, BFCL −1,1). Na dúvida, a Perplexity recomenda um candidato por request.
  • Dados novos e souping. Conjunto de treino refeito e várias rodadas combinadas por média de pesos. O Flash (Qwen3.5-4B) é destilado dos modelos de decisão de 27B nos requests de treino deles, com as distribuições completas de probabilidade.

Especificações

Atributo 27B pplx-decider-v1.2 Flash pplx-decider-flash-v1.2
Desenvolvedora Perplexity Perplexity
Base Qwen3.8-27B (26,1B parâmetros nos safetensors) Qwen3.5-4B (4,5B parâmetros guardados)
Licença Apache-2.0 Apache-2.0
Pesos ~52 GiB em BF16 + readout BF16 [255, 5120] ~9 GiB em BF16
Tipos choice (1–255 opções), noul, score (2–255 níveis no card; a API diz 10) igual
Entradas texto, imagens até 1,6 MP igual
Contexto 262.144 tokens por sequência no card; treinado até ~32k; 256K na documentação da API igual
Calibração temperatura 1,382 em decision_config.json temperatura 1,554
Serviço pacote pplx_decider incluso (referência e fast=True) ou a API hospedada igual
API hospedada POST /v1/decisions, alias pplx-decider-latest, US$ 0,02 por 1M de tokens de entrada, saída grátis alias pplx-decider-flash-latest, US$ 0,01 por 1M
Limite de taxa 10 requests por segundo por organização, compartilhado pelos dois modelos
Lançamento repos HF criados em 15/10/2026; anunciado no X em 16/10 repo HF em 15/10; anunciado em 16/10

Board oficial: Decision Index 0.3.2

Dados gerados em 16/10/2026 19:00 UTC (o board lista v1.2 e Flash como entradas novas; já não mostra linha do v1.1). Full = 0,2 público + 0,5 mesmas habilidades + 0,3 domínios novos.

Modelo Full Posição Público Posição pública Mesmas habilidades Domínios novos
pplx-decider v1.2 (27B) 65,55 #4 67,74 #3 64,30 55,78
pplx-decider Flash v1.2 (4B) 54,81 #47 60,06 #22 56,16 43,17
Jev 1.13 60,11 #18 57,96 #37

Para ter escala: o v1.1 era #1 com 62,75 no board de 6/10. O salto do v1.2 na suíte pública (62,30 → 68,09 no card) é maior que o salto no Full (62,75 → 65,55), coerente com a nota sobre os splits de treino. O Full é o número para comparar. Fora do JevBench e da Artificial Analysis até 17/10 (não achamos linha do v1.2).

O que é rodado pelo fornecedor

  • Os 68,09 / 67,75 do card e o vision 77,43 / 72,53 são rodadas da Perplexity. O número público do board para o 27B é 67,74.
  • A mediana de 96 ms para um request é número da Perplexity numa GB200 com o fast path; o card não dá p95. O “até 5x mais rápido” dos posts de lançamento se apoia no formato conjunto e não reproduzimos.
  • O ECE 0,014 é num conjunto de desenvolvimento de 1.497 perguntas, com a temperatura ajustada no formato conjunto em dados separados. Em datasets fora de todo o treino o card diz que o ECE é cerca de 0,05 e que “as probabilidades continuam um pouco superconfiantes”.

Quando usar / quando evitar

Serve para: um modelo de decisão hospedado ou local com acurácia independente entre as cinco melhores, imagens, e um request barato para várias facetas de uma decisão. O Flash serve para roteamento e rotulagem em volume, onde metade do preço de entrada pesa (o conselho da própria Perplexity é manter o Flash só se ele passar na sua régua de acurácia).

Evite quando: precisar ranquear vários candidatos independentes num request só, entradas acima de ~32k tokens sem validação própria, ou orçamento rígido de latência sem p95 publicado.

Limites

  • Exige o código incluso. Carregar como backbone causal comum dá respostas diferentes.
  • Treino até 32k; o card checou por amostragem até ~243k tokens (cerca de 95–107 GiB de pico numa GB200).
  • Limite hospedado: 10 requests por segundo, compartilhado pelos dois modelos; requests acima do limite de entrada são divididos em grupos e o estado é cobrado de novo em cada grupo.
  • Clientes do v1.1: os nomes pplx-decider-v1.1-27b e pplx-decider-v1-27b agora resolvem para o v1.2.

Pesos Apache-2.0 públicos, API tipada documentada com preços e resultado independente entre os cinco primeiros do board oficial. Substitui a página do v1.1 como a entrada atual da Perplexity.

Conta das notas (17/10/2026)

27B (destaque).

  • Maturidade = disp. 8 × 0,30 + docs 8 × 0,25 + integr. 5 × 0,25 + suporte 3 × 0,20 = 2,40 + 2,00 + 1,25 + 0,60 = 6,25 → 6,3
  • Capability = tipos 10 × 0,30 + calib. 7 × 0,25 + latência 7 × 0,25 + acurácia 8 × 0,20 = 3,00 + 1,75 + 1,75 + 1,60 = 8,10 → 8,1
  • Adoção = engajamento 30 × 0,35 + ecossistema 20 × 0,35 + produção 2 × 0,30 = 10,50 + 7,00 + 0,60 = 18,10 → 18

Flash (4B), conta separada.

  • Maturidade 6,3: mesmos subscores do 27B (8 / 8 / 5 / 3).
  • Capability = 10 × 0,30 + 7 × 0,25 + 4 × 0,25 + 8 × 0,20 = 3,00 + 1,75 + 1,00 + 1,60 = 7,35 → 7,4. Latência 4: o card não traz número específico do Flash.
  • Adoção = 22 × 0,35 + 15 × 0,35 + 2 × 0,30 = 7,70 + 5,25 + 0,60 = 13,55 → 14.

Disponibilidade 8: pesos Apache-2.0 e API hospedada, mas com código próprio obrigatório (precedente: v1.1). Docs 8: card, docs da API, cookbooks. Integrações 5: API hospedada e conversões MLX / GGUF / NF4 da comunidade, sem listagem em gateway (precedente: v1.1). Suporte 3: sem SLA, uma faixa de limite.

Calibração 7: temperatura e ECE de desenvolvimento publicados, mas ECE ≈ 0,05 fora do treino (nas palavras do card, ainda superconfiante). Latência 7: mediana de 96 ms numa GB200, rodada do fornecedor, sem p95. Acurácia 8: resultado independente no board (Full 65,55, #4). A ressalva dos splits de treino é o motivo de não ir a 9.

Engajamento 30 (o v1.1 tinha 25): posts de lançamento com 623 e 277 curtidas e 76 mil views no principal, 19 + 16 likes no HF em dois dias. Ecossistema 20 (igual): padrão da Decisions API, nomes antigos redirecionados, builds MLX / GGUF / NF4 da comunidade. Produção 2: sem usuários nomeados.