simple-jev
⚠️ Por que não é um modelo
Transforma qualquer LM open compatível em classificador tipado via logits do próximo token — sem fine-tuning necessário.
Especificações técnicas
- LLMs base
- any-open-lm
- Tipos de decisão
- choice, score, noul
- Features
- demo-api, rfdt, model-agnostic
- Licença
- Apache-2.0
Links
simple-jev é a stack open da Featherless AI que transforma qualquer LLM open compatível em classificador tipado via extração de logits do próximo token.
Como funciona
simple-jev lê probabilidades de decisão da distribuição do próximo token:
- Formata a pergunta de decisão como prompt
- Extrai logits para cada token de opção
- Converte em probabilidades para
choice,scoreounoul
Não requer fine-tuning — qualquer LLM open que siga instruções pode ser usado como backend.
Por que não é um modelo
simple-jev é puramente uma técnica em tempo de inferência:
- Nenhum treino ou fine-tuning de modelo
- Funciona com qualquer LLM open compatível
- As capacidades de “decisão” vêm de prompt engineering + extração de logits
Features principais
- Model-agnostic: Use qualquer LLM open como backend
- API de demo: Teste em simple-jev.featherless.ai
- Suporte RFDT: Integra com o ecossistema Featherless
Ressalvas
- Probabilidades não são calibradas
- Performance depende inteiramente do LLM base
- Não reproduz o método de treino RLCD do TypeSafe