AnyJev

Última atualização:

MétodoApache-2.0~1,167 ★

⚠️ Por que não é um modelo

Sem treino: lê respostas tipadas dos logits de próximo token de qualquer LLM, com média sobre rotações das opções (L0). Sem pesos de decisão próprios.

Especificações técnicas

LLMs base
any causal LLM (Transformers, vLLM, SGLang, llama.cpp), Qwen3-8B (examples)
Tipos de decisão
choice, score, boolean
Features
training-free, logit-readout, option-order-debiasing, pypi
Licença
Apache-2.0

O AnyJev (GitHub, Apache-2.0, pip install anyjev, 0.3.0, relatório técnico) envolve qualquer LLM causal aberto e devolve uma probabilidade para cada opção de perguntas choice, yes_no ou score. O nível L0 lê os logits das opções uma vez por rotação e tira a média, então inverter a ordem das opções deixa de trocar a resposta. Um orçamento de rotações para cedo quando elas concordam; o repo relata 2,2–2,7× mais decisões por segundo com a mesma acurácia (UnverifiedClaim). Backends: Transformers, vLLM, SGLang e llama.cpp; o anyjev.serve expõe um endpoint HTTP.

Por que está aqui e não no catálogo. O Decider não acrescenta pesos treinados. Depois o projeto publicou o Tacit (1,7B–9B), modelos autodestilados que são treinados; estão na nossa lista de observação e seriam pontuados à parte.