Local Agent Bench

← Tabla

qwen3.8:27b

Familia: qwen3.8 · 27B parámetros · 1 corrida(s)

Cabe en 24 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 17 GB · rank previo en este tier: #5 (results v0.1.1, antes del re-tiering v0.1.2; puntaje sin cambio). Regla de tier

98.7/100 · scoring v4

IC bootstrap de tareas al 95% (suite principal, 3 trials): 97.4–99.7 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 90.0–95.0 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 2 de este tier (el ≈ de la tabla) · rank #2 en el tier, rango de rank bajo sensibilidad de pesos #2–#3 (percentiles 5–95; mín #2, máx #3) · v3: 92.0 (#5) · mention 33.3% (15/45) · cómo

† El puntaje publicado (98.7, media de la suite principal de 3 trials) queda por encima del intervalo agrupado de 8 corridas (90.0–95.0): las 5 re-corridas a temperatura 0.7 puntuaron más bajo (media de re-corrida 92.91). Puntaje y rank se quedan los de la suite principal. Por qué

Resumen en lenguaje sencillo

Excelente como asistente que usa tools en esta suite.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta
  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Débil en

  • —

Desglose por categoría

JSON
100
Schema
99
Tool
100
Multi-paso
96
Inyección útil y segura
100
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
100991009610061.0 @b7e2c715.225.4

Inyección de prompts (15 tareas × 3 trials): útil y segura 100.0% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 100.0% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 66.7 × tasa de tool-calls 1. Definiciones

Plantilla de chat vs upstream

Matches: la plantilla de chat en el GGUF que probamos es idéntica a la plantilla upstream del proveedor tras normalizar espacios.

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.