vLLM v0.32.0 serve /v1/systemone por padrão, e o transformers serve agora tem o endpoint também
publicado (OK do Fabricio 18/10 BRT).
Duas stacks de inferência das mais usadas agora falam o formato /v1/systemone que a TypeSafe introduziu com o Jev.
O vLLM v0.32.0 saiu em 18 de outubro de 2026 (03:50 BRT). As notas da versão listam o endpoint /v1/systemone (novo no #59299) como “served by default” (#60677, #60696). A página de docs sobre modelos de decisão estruturados diz que ele responde perguntas choice, noul e score lendo as log-probabilidades do primeiro token gerado, então o servidor precisa rodar com --logprobs-mode raw_logprobs ou processed_logprobs. Modelo sem forma conhecida de ler as respostas recebe HTTP 501. As docs trazem limites de 64 perguntas por requisição, 26 opções e 10 níveis de score, e avisam que as probabilidades podem mudar com o batching e o estado do cache de prefixo. A mesma versão adiciona uma rota /v1/decisions só de texto, no estilo da OpenAI.
Entre os modelos documentados estão o Clef-Omni da Cloudflare (#61064), o Clef-Flash, a família d3 do vllm-sr, Qwen3 e Qwen3.5, o d1-3B da Liquid (#60676) e o DiffusionGemma (#60466). O v0.32.0 fixa transformers>=5.16.1,<5.20.0, então ainda não roda com a versão do transformers descrita abaixo.
O transformers v5.20.0 saiu em 15 de outubro. O PR #49322 (Marc Sun, mesclado em 12/10) adiciona /v1/systemone ao transformers serve para modelos autorregressivos, com um arquivo --decision-config opcional. As notas do v5.20.0 não citam o PR; conferimos o histórico de commits, e a versão vem 74 commits depois da mesclagem, então inclui o recurso. Uma issue aberta (13/10) relata erros HTTP 500 quando chat_template_kwargs é sobrescrito e em modelos sem chat template.
Por que importa. Até agora, servir um modelo de decisão queria dizer API de fornecedor, Ollama com arquivos GGUF ou um projeto menor como o vllm-jev. Com o endpoint no vLLM e no transformers, quem já roda essas stacks pode testar modelos de decisão abertos sem subir outro servidor. Os pesos ainda pesam mais que o servidor: as duas stacks só leem respostas de um modelo, e nenhuma treina um. É infraestrutura, então fica fora do quadrante e não muda nota de modelo.
Páginas de runtime: vLLM e transformers serve. O vllm-jev, de terceiros, é outro projeto e continua servindo checkpoints que o endpoint upstream não cobre.