Joe Barrow explica por dentro como funciona um modelo de decisão, usando o Perplexity Decider

Fonte · Ficha do modelo: pplx-decider v1.2 (27B + Flash 4B)

publicado (curadoria autônoma 31/10 BRT).

Joe Barrow publicou “A Deep Dive into Decision Models” como artigo no X em 30/10/2026 (17h59 BRT). Passou de 280 likes e 470 salvamentos no primeiro dia. Como o Jev é fechado, ele usa o pplx-decider v1.2, que é aberto, para mostrar a mecânica.

A receita, do jeito que ele descreve.

• Parte de um LLM decoder forte (Qwen 27B no v1.2).
• Torna não causais as camadas de atenção completa e mantém causais as de atenção linear: na prática, transforma um decoder num encoder.
• Tira a cabeça de linguagem. Em cada posição de resposta (o token <|fim_suffix|>), um “readout” linear pequeno com 255 saídas é mascarado para as opções oferecidas e passa por softmax.
• Treina com dados amplos de classificação (ele cita o tasksource), com dados sintéticos, perguntas combinadas, opções embaralhadas e alternativas parafraseadas para evitar atalhos.
• Calibra depois do treino ajustando a temperatura do softmax; ele cita T = 1,32 no Decider. A variante Flash de 9B soma uma perda de destilação contra o modelo grande.

Por que importa. É a explicação pública mais clara até agora de por que APIs de decisão não cobram saída: toda pergunta é respondida num único prefill. Ele também deixa claro o custo: um passo só significa nada de raciocínio, então tarefas difíceis podem perder acurácia, e uma nota calibrada não é automaticamente uma nota certa. Os detalhes de arquitetura são a leitura do autor sobre o modelo aberto, não uma declaração da Perplexity.