Unsloth publica um treinador local que transforma um LLM em modelo de decisão
Em 7 de outubro de 2026 (13:21 BRT) a Unsloth postou que dá para treinar um modelo de decisão localmente com o repo aberto deles. A fonte é o guia e o código FastDecisionModel / DecisionTrainer em unslothai/unsloth. Isto é um método de treino, não um modelo novo no catálogo: a Unsloth não publicou os pesos do fine-tune.
O que faz
O LLM lê o estado uma vez. Uma head pequena, que o guia descreve como o mesmo desenho do Clef da Cloudflare, pontua cada pergunta e cada opção juntas. O modelo não escreve texto. Dá para partir de um LLM comum (unsloth/Qwen3.5-4B, Llama 3.2 3B, Gemma 4 E4B) ou continuar o fine-tune de Laya ou Clef. predict() devolve respostas choice, noul e score com probabilidades. UNSLOTH_SYSTEMONE_MODEL=... unsloth studio serve a pasta mesclada, e requests que pedem laya, default ou jev-latest passam a ser respondidos pela sua rodada.
Um commit no dia seguinte, 8/10 (94a00e9), acrescenta o mesmo caminho de treino no Apple Silicon via MLX.
Números para ler com cuidado
O post diz que o Qwen3.5 0.8B foi de 20,7% para 74,3% de acurácia agregada em três benchmarks de decisão, em 4 GB de VRAM, com head Clef, LoRA rank 64 e uma época, e que a acurácia downstream foi de 30–37% para 78%.
A tabela do guia é a abertura desse agregado: typed-decisions 36% → 73%, BANKING77 7% → 74%, CLINC150 19% → 76% (a média dos três inícios é 20,7; a dos três finais é 74,3). A acurácia de holdout é 78% no 0.8B, 81% no Qwen3.5 2B, 79% no Llama 3.2 3B, 77% no Gemma 4 E4B e 77% num fine-tune extra do Laya. A mistura é de 12 conjuntos públicos mais LocalLLaMA/typed-decisions. UnverifiedClaim.
A mesma página manda reproduzir “nossos resultados” com 2 épocas e LoRA rank 16, não com o rank 64 e uma época do post. As duas configurações não são a mesma rodada. Não há repo no Hugging Face dos checkpoints treinados (checado em 8/10).
Por que é news, e não ficha de catálogo
A head é treinada, então uma rodada terminada seria um modelo de decisão. Enquanto ninguém publicar pesos, o que existe é o treinador. O mesmo tratamento de outras receitas abertas que param no código.
Atualização, 9/10: notebook grátis no Colab
A Unsloth publicou um notebook gratuito no Colab que treina o Qwen3.5-4B como modelo de decisão em cerca de 8 GB de VRAM, com o LocalLLaMA/typed-decisions (state, perguntas, respostas gold). São 60 passos (cerca de 1,7 época): umas 2 horas numa T4 grátis, 12 minutos numa RTX PRO 6000. A acurácia começa perto de 30% com a cabeça nova e chega a 75–78% no split de teste nas rodadas da Unsloth (UnverifiedClaim). Depois, a calibração nas linhas separadas imprime um ECE. Ainda sem checkpoint publicado.
Rodada da comunidade (10/10)
Akshay Pachaar publicou um vídeo de treino com um fine-tune local de Qwen3.5 0.8B no estilo Jev usando Unsloth: 60 passos em cerca de 10 minutos e 4 GB de VRAM. O post relata que a acurácia subiu de 37% para 65%. O post não liga um checkpoint nem dá detalhes suficientes da avaliação para comparar o resultado com a tabela de benchmarks da Unsloth acima. Trate os números como UnverifiedClaim; é mais uma rodada do método já coberto, não um novo modelo para o catálogo. O explicador sobre Jev do autor saiu em 18/09 e serve de contexto, não é lançamento novo.