TurinTech publica builds GGUF Artemis de oito modelos de decisão abertos que rodam no llama.cpp padrão

Fonte · Ficha do modelo: pplx-decider v1.1 27B

Desde 12/10/2026 a TurinTech publica no Hugging Face builds GGUF Artemis de modelos de decisão abertos: pplx-decider 27B, Clef, Clef-Flash, Kev 4B e Kev 9B, e depois Kev 27B, d3-flash e d3 27B em 14/10. São conversões, não modelos novos, e a TurinTech diz não ter vínculo com os autores originais. As licenças seguem as originais (Apache-2.0 nas que lemos).

Os arquivos rodam no llama.cpp padrão (builds de 9/10 em diante) atrás do /v1/systemone do llama-server. O card avisa para manter -ub 4096 -b 4096: no padrão de 512, o /v1/systemone recusa entradas maiores que 512 tokens. Para o pplx-decider, a TurinTech também entrega um projetor de visão convertido dos pesos originais, porque a Perplexity não publica um para llama.cpp.

Números da TurinTech para o pplx-decider 27B (UnverifiedClaim): o arquivo padrão tem 15,28 GB contra 53,8 GB do BF16 e pede 16,6 GiB de memória de GPU contra 50,8 GiB. Dá a mesma resposta do original em 96,8% de 2.000 decisões de teste do typed-decisions, com acurácia de 70,8% contra 70,5%, e não mudou nenhuma resposta em que o original tinha mais de 80% de certeza numa A100. Um Q4_K_M comum concorda 95,7% das vezes.

Fichas: pplx-decider · Clef · Kev · Decision 3.0.