Local Agent Bench

← Tabla

gemma4:31b-it-q8_0

Familia: gemma4 · 31B parámetros · 1 corrida(s)

Tarjeta grande: NVIDIA A100 SXM4 80 GB (contenedor RunPod) · ollama 0.40.6 · Q8_0

Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. El trial 3 (run_id 20261104-gemma4-31b-it-q8_0-cf9fc7) es el outlier: multistep 0% contra 88.57% en los otros dos. Se publica, no se descarta, y es lo que baja la media del modelo de ~96.6 a 80.78. · tabla de la serie

80.8/100 · scoring v4

IC bootstrap de tareas al 95%: 78.5–82.5 · rank #2 en esta serie · ≈ grupo de empate 2, rango de rank bajo sensibilidad de pesos #2–#3 · cómo

Resumen en lenguaje sencillo

Sólido para agentes — resuelve bien la mayoría de tareas con tools.

Bueno para

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta

Débil en

  • —

Desglose por categoría

JSON
100
Schema
100
Tool
99
Multi-paso
59
Inyección útil y segura
67
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
10010099596720.1 @ae7605——

Inyección de prompts (15 tareas × 3 trials): útil y segura 66.7% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 66.7% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones

Plantilla de chat vs upstream

Sin referencia

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.