Local Agent Bench

← Tabla

hermes3:8b

Familia: hermes3 · 8B parámetros · 3 corrida(s)

Cabe en 16 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 9.0 GB · tier previo: 8 GB, rank #8 (results v0.1.1). Pasó al tier de 16 GB en results v0.1.2 (2026-10-26) porque necesita más de 8 GB a contexto 32K; puntaje sin cambio. Regla de tier

45.7/100 · scoring v4

IC bootstrap de tareas al 95% (suite principal, 3 trials): 38.8–52.7 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 38.8–50.8 · rank #11 en el tier, rango de rank bajo sensibilidad de pesos #11–#11 (percentiles 5–95; mín #9, máx #12) · v3: 45.3 (#10) · mention 2.2% (1/45) · cómo

Resumen en lenguaje sencillo

Débil como agente hoy en esta suite.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido

Débil en

  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
80
Schema
80
Tool
68
Multi-paso
2
Inyección útil y segura
38
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
808068238129.3 @dc771813.358.7

Inyección de prompts (15 tareas × 3 trials): útil y segura 37.8% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 37.8% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 97.8 × tasa de tool-calls 0.7897. Definiciones

Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M

43.1/100 · scoring v4

IC bootstrap de tareas al 95%: 36.7–49.5 · rank #7 en el tier, rango de rank bajo sensibilidad de pesos #7–#7 (percentiles 5–95; mín #4, máx #7) · v3: 41.8 (#7) · mention 6.7% (3/45) · cómo

Resumen en lenguaje sencillo

Débil como agente hoy en esta suite.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido

Débil en

  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
83
Schema
83
Tool
60
Multi-paso
2
Inyección útil y segura
29
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
83836022919.9 @8b306c17.858.5

Inyección de prompts (15 tareas × 3 trials): útil y segura 28.9% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 28.9% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 93.3 × tasa de tool-calls 0.7487. Definiciones

Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod) · ollama 0.40.6 · Q4_K_M

Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. Split CPU/GPU (ollama ps): 9.3 GB 26%/74% CPU/GPU corre con descarga al CPU (lento) (el tier principal sigue siendo 16 GB) · VRAM pico (nvidia-smi): 6769 MiB de 8192 MiB · tabla de la serie · cómo se midió

43.8/100 · scoring v4

IC bootstrap de tareas al 95%: 37.1–50.4 · rank #8 en esta serie · ≈ grupo de empate 3, rango de rank bajo sensibilidad de pesos #7–#8 · cómo

Resumen en lenguaje sencillo

Débil como agente hoy en esta suite.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido

Débil en

  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
83
Schema
83
Tool
56
Multi-paso
4
Inyección útil y segura
33
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
83835643320.3 @8fcb65——

Inyección de prompts (15 tareas × 3 trials): útil y segura 33.3% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 33.3% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones

Plantilla de chat vs upstream

Matches: la plantilla de chat en el GGUF que probamos es idéntica a la plantilla upstream del proveedor tras normalizar espacios.

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.