SemIf

Última atualização:

RuntimeMIT~1,900 ★

⚠️ Por que não é um modelo

Lê logits de opções tipadas de LLMs open congelados — sem pesos de decisão treinados, apenas extração de logits em tempo de inferência.

Especificações técnicas

LLMs base
Qwen3.5-4B, MiniCPM5-2B, MiniCPM5-4B, Qwen3-0.6B
Tipos de decisão
choice, score, boolean
Features
browser-webgpu, wllama, local-first, no-server
Licença
MIT

SemIf (antigo OpenJev) é um runtime que transforma LLMs open congelados em interfaces de decisão tipadas sem fine-tuning ou mudanças de peso.

Como funciona

Ao invés de treinar um modelo de decisão dedicado, SemIf:

  1. Carrega um LLM open congelado (Qwen3.5-4B por padrão)
  2. Extrai logits para opções tipadas em tempo de inferência
  3. Retorna decisões estruturadas (choice, score, boolean) com probabilidades

A versão browser usa WebGPU via wllama, suportando uma escada de modelos de 0.6B a 4B parâmetros.

Por que não é um modelo

SemIf não treina nem modifica pesos. É uma técnica em tempo de inferência que lê probabilidades de decisão da distribuição do próximo token de LLMs existentes. O modelo subjacente (Qwen, MiniCPM) nunca foi treinado especificamente para decisões tipadas.

Features principais

  • Browser-first: Roda inteiramente no browser via WebGPU
  • Sem servidor: Arquitetura local-first
  • Escada de modelos: Escolha de 0.6B a 4B baseado na capacidade do dispositivo
  • API TypeSafe-compatível: Mesma interface choice/score/boolean

Ressalvas

  • Probabilidades não são calibradas como os outputs RLCD do Jev
  • Performance depende das capacidades do LLM base
  • Comparações de agreement/speed vs Jev são UnverifiedClaim