AnyJev
⚠️ Por que não é um modelo
Sem treino: lê respostas tipadas dos logits de próximo token de qualquer LLM, com média sobre rotações das opções (L0). Sem pesos de decisão próprios.
Especificações técnicas
- LLMs base
- any causal LLM (Transformers, vLLM, SGLang, llama.cpp), Qwen3-8B (examples)
- Tipos de decisão
- choice, score, boolean
- Features
- training-free, logit-readout, option-order-debiasing, pypi
- Licença
- Apache-2.0
Links
O AnyJev (GitHub, Apache-2.0, pip install anyjev, 0.3.0, relatório técnico) envolve qualquer LLM causal aberto e devolve uma probabilidade para cada opção de perguntas choice, yes_no ou score. O nível L0 lê os logits das opções uma vez por rotação e tira a média, então inverter a ordem das opções deixa de trocar a resposta. Um orçamento de rotações para cedo quando elas concordam; o repo relata 2,2–2,7× mais decisões por segundo com a mesma acurácia (UnverifiedClaim). Backends: Transformers, vLLM, SGLang e llama.cpp; o anyjev.serve expõe um endpoint HTTP.
Por que está aqui e não no catálogo. O Decider não acrescenta pesos treinados. Depois o projeto publicou o Tacit (1,7B–9B), modelos autodestilados que são treinados; estão na nossa lista de observação e seriam pontuados à parte.
