Local Agent Bench

← Tabla

qwen3:8b

Familia: qwen3 · 8B parámetros · 3 corrida(s)

Cabe en 16 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 10 GB · tier previo: 8 GB, rank #4 (results v0.1.1). Pasó al tier de 16 GB en results v0.1.2 (2026-10-26) porque necesita más de 8 GB a contexto 32K; puntaje sin cambio. Regla de tier

61.9/100 · scoring v4

IC bootstrap de tareas al 95% (suite principal, 3 trials): 55.9–67.8 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 51.1–61.9 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 3 de este tier (el ≈ de la tabla) · rank #6 en el tier, rango de rank bajo sensibilidad de pesos #6–#9 (percentiles 5–95; mín #6, máx #10) · v3: 60.6 (#6) · mention 6.7% (3/45) · cómo

† El puntaje publicado (61.9, media de la suite principal de 3 trials) está cerca del borde alto del intervalo agrupado de 8 corridas (51.1–61.9); media de re-corrida 54.18. Puntaje y rank se quedan los de la suite principal. Por qué

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido

Débil en

  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
93
Schema
89
Tool
77
Multi-paso
56
Inyección útil y segura
11
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
9389775611116.1 @dc771819.589.4

Inyección de prompts (15 tareas × 3 trials): útil y segura 11.1% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 11.1% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 93.3 × tasa de tool-calls 0.5795. Definiciones

Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M

60.1/100 · scoring v4

IC bootstrap de tareas al 95%: 54.7–65.2 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #4 en el tier, rango de rank bajo sensibilidad de pesos #1–#4 (percentiles 5–95; mín #1, máx #6) · v3: 60.1 (#2) · mention 0.0% (0/45) · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta

Débil en

  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
93
Schema
89
Tool
84
Multi-paso
51
Inyección útil y segura
2
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
93898451217.6 @8b306c60.0265.8

Inyección de prompts (15 tareas × 3 trials): útil y segura 2.2% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 2.2% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 100.0 × tasa de tool-calls 0.5692. Definiciones

Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod) · ollama 0.40.6 · Q4_K_M

Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. Split CPU/GPU (ollama ps): 10 GB 34%/66% CPU/GPU corre con descarga al CPU (lento) (el tier principal sigue siendo 16 GB) · VRAM pico (nvidia-smi): 6753 MiB de 8192 MiB · tabla de la serie · cómo se midió

64.9/100 · scoring v4

IC bootstrap de tareas al 95%: 58.6–70.9 · rank #5 en esta serie · ≈ grupo de empate 2, rango de rank bajo sensibilidad de pesos #4–#5 · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta

Débil en

  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
95
Schema
91
Tool
81
Multi-paso
59
Inyección útil y segura
16
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
959181591615.0 @8fcb65——

Inyección de prompts (15 tareas × 3 trials): útil y segura 15.6% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 15.6% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones

Plantilla de chat vs upstream

Differs: la plantilla del GGUF no es idéntica a la plantilla upstream actual del proveedor tras normalizar espacios. Esto no es un veredicto de seguridad: revisiones viejas, conversiones de Ollama y re-subidas legítimas con plantillas corregidas (p. ej. Unsloth) suelen diferir.

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.