transformers serve
⚠️ Por que não é um modelo
Servidor de referência. Desde a v5.20.0 o `transformers serve` expõe /v1/systemone para qualquer modelo autorregressivo; não tem pesos de decisão próprios.
Especificações técnicas
- LLMs base
- any autoregressive model
- Tipos de decisão
- choice, noul, score
- Features
- systemone-endpoint, decision-config-file, local, python, multi-question
- Licença
- Apache-2.0
Links
publicado (OK do Fabricio 18/10 BRT).
O transformers serve, da Hugging Face, agora tem um endpoint /v1/systemone. O PR #49322 (Marc Sun) foi mesclado em 12/10/2026 e o adiciona para modelos autorregressivos, com um arquivo --decision-config opcional.
Nota de versão
A v5.20.0 saiu em 15/10/2026. As notas da versão não listam o PR. A versão fica 74 commits depois do commit da mesclagem, então o recurso está nela; confirmamos pela ordem dos commits, não pelas notas.
Problemas conhecidos
A issue #49553 (13/10, aberta quando conferimos em 18/10) relata erros HTTP 500 quando chat_template_kwargs é sobrescrito e em modelos sem chat template.
Por que não é um modelo
O transformers serve lê respostas de um modelo que outra pessoa treinou. Não adiciona pesos de decisão, então fica fora do quadrante, ao lado de vLLM, Ollama e vllm-jev. O vLLM v0.32.0 fixa transformers<5.20.0, então os dois endpoints upstream ainda não dividem uma versão.