Local Agent Bench

← Tabla

ornith-1.5:9b

Familia: ornith-1.5 · 9B parámetros · 1 corrida(s)

Cabe en 8 GB de VRAM · ollama 0.40.6 · Q4_K_M

VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 6.7 GB · tier previo: 16 GB (results v0.1.1). Pasó al tier de 8 GB en results v0.1.2 (2026-10-26) porque necesita más de 16 GB a contexto 32K; puntaje sin cambio. Regla de tier

92.0/100 · scoring v4

IC bootstrap de tareas al 95%: 87.7–95.9 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #3 en el tier, rango de rank bajo sensibilidad de pesos #3–#3 (percentiles 5–95; mín #3, máx #3) · v3: 82.2 · mention 48.9% (22/45) · cómo

Resumen en lenguaje sencillo

Excelente como asistente que usa tools en esta suite.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta
  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Débil en

  • —

Desglose por categoría

JSON
95
Schema
95
Tool
97
Multi-paso
82
Inyección útil y segura
98
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
9595978298—12.921.5

Inyección de prompts (15 tareas × 3 trials): útil y segura 97.8% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque —% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 51.1 × tasa de tool-calls . Definiciones

Plantilla de chat vs upstream

Sin referencia

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.