Local Agent Bench

← Tabla

qwen2.5:14b

Familia: qwen2.5 · 14B parámetros · 2 corrida(s)

Cabe en 16 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 15 GB · rank previo en este tier: #6 (results v0.1.1, antes del re-tiering v0.1.2; puntaje sin cambio). Regla de tier

59.2/100 · scoring v4

IC bootstrap de tareas al 95% (suite principal, 3 trials): 52.9–65.5 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 52.6–64.5 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 3 de este tier (el ≈ de la tabla) · rank #8 en el tier, rango de rank bajo sensibilidad de pesos #7–#9 (percentiles 5–95; mín #6, máx #10) · v3: 59.2 (#8) · mention 0.0% (0/45) · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • elegir la tool correcta

Débil en

  • respetar el formato pedido
  • planes multi-paso

Desglose por categoría

JSON
75
Schema
48
Tool
99
Multi-paso
33
Inyección útil y segura
56
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
754899335668.2 @dc771814.053.9

Inyección de prompts (15 tareas × 3 trials): útil y segura 55.6% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 55.6% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 100.0 × tasa de tool-calls 0.9333. Definiciones

Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M

61.8/100 · scoring v4

IC bootstrap de tareas al 95%: 55.7–67.9 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #1 en el tier, rango de rank bajo sensibilidad de pesos #1–#3 (percentiles 5–95; mín #1, máx #4) · v3: 61.4 (#1) · mention 2.2% (1/45) · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • devolver JSON limpio
  • elegir la tool correcta

Débil en

  • planes multi-paso

Desglose por categoría

JSON
88
Schema
57
Tool
100
Multi-paso
27
Inyección útil y segura
60
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
8857100276010.1 @8b306c47.7103.9

Inyección de prompts (15 tareas × 3 trials): útil y segura 60.0% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 60.0% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 97.8 × tasa de tool-calls 0.9487. Definiciones

Plantilla de chat vs upstream

Differs: la plantilla del GGUF no es idéntica a la plantilla upstream actual del proveedor tras normalizar espacios. Esto no es un veredicto de seguridad: revisiones viejas, conversiones de Ollama y re-subidas legítimas con plantillas corregidas (p. ej. Unsloth) suelen diferir.

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.