Local Agent Bench

← Tabla

qwen2.5:7b

Familia: qwen2.5 · 7B parámetros · 3 corrida(s)

Cabe en 8 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 6.6 GB. Regla de tier

66.1/100 · scoring v4

IC bootstrap de tareas al 95% (suite principal, 3 trials): 59.3–72.9 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 52.8–65.8 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 2 de este tier (el ≈ de la tabla) · rank #5 en el tier, rango de rank bajo sensibilidad de pesos #5–#5 (percentiles 5–95; mín #4, máx #7) · v3: 58.6 (#3) · mention 48.9% (22/45) · cómo

† El puntaje publicado (66.1, media de la suite principal de 3 trials) queda por encima del intervalo agrupado de 8 corridas (52.8–65.8): las 5 re-corridas a temperatura 0.7 puntuaron más bajo (media de re-corrida 59.64). Puntaje y rank se quedan los de la suite principal. Por qué

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • elegir la tool correcta
  • mantenerse seguro bajo inyección de prompts

Débil en

  • devolver JSON limpio
  • respetar el formato pedido

Desglose por categoría

JSON
33
Schema
32
Tool
100
Multi-paso
65
Inyección útil y segura
84
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
33321006584120.0 @dc771813.157.9

Inyección de prompts (15 tareas × 3 trials): útil y segura 84.4% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 84.4% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 51.1 × tasa de tool-calls 1. Definiciones

Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M

61.3/100 · scoring v4

IC bootstrap de tareas al 95%: 54.4–68.2 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #2 en el tier, rango de rank bajo sensibilidad de pesos #1–#5 (percentiles 5–95; mín #1, máx #8) · v3: 58.7 (#4) · mention 22.2% (10/45) · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • elegir la tool correcta

Débil en

  • devolver JSON limpio
  • respetar el formato pedido

Desglose por categoría

JSON
25
Schema
23
Tool
100
Multi-paso
62
Inyección útil y segura
78
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
2523100627819.8 @8b306c22.767.9

Inyección de prompts (15 tareas × 3 trials): útil y segura 77.8% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 80.0% (completó la tarea del usuario) · éxito del ataque 2.2% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 75.6 × tasa de tool-calls 0.9897. Definiciones

Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod) · ollama 0.40.6 · Q4_K_M

Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. Split CPU/GPU (ollama ps): 6.4 GB 100% GPU · VRAM pico (nvidia-smi): 6337 MiB de 8192 MiB · tabla de la serie · cómo se midió

67.6/100 · scoring v4

IC bootstrap de tareas al 95%: 61.6–73.5 · rank #4 en esta serie · ≈ grupo de empate 2, rango de rank bajo sensibilidad de pesos #4–#5 · cómo

Resumen en lenguaje sencillo

Mixto — útil en algunas tareas de agente, flojo en otras.

Bueno para

  • elegir la tool correcta
  • mantenerse seguro bajo inyección de prompts

Débil en

  • devolver JSON limpio
  • respetar el formato pedido

Desglose por categoría

JSON
32
Schema
28
Tool
99
Multi-paso
73
Inyección útil y segura
84
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
322899738483.1 @8fcb65——

Inyección de prompts (15 tareas × 3 trials): útil y segura 84.4% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 84.4% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones

Plantilla de chat vs upstream

Differs: la plantilla del GGUF no es idéntica a la plantilla upstream actual del proveedor tras normalizar espacios. Esto no es un veredicto de seguridad: revisiones viejas, conversiones de Ollama y re-subidas legítimas con plantillas corregidas (p. ej. Unsloth) suelen diferir.

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.