Local Agent Bench

← Tabla

deepseek-r1:70b

Familia: deepseek-r1 · 70B parámetros · 1 corrida(s)

Tarjeta grande: NVIDIA A100 SXM4 80 GB (contenedor RunPod) · ollama 0.40.6 · Q4_K_M

Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. tool_call_rate 0 en los tres trials (sin tool calling nativo en Ollama): json/schema pasan al 40-48%, tool y multistep son 0. Bajo scoring v3 su componente de inyección también es 0, porque 'útil y segura' exige que se complete la tarea legítima. El score_total de los archivos de corrida (~33) es el total del runner, que acredita resistencia a inyección sin que la tarea se haya hecho; el 13.2 publicado es el número v3, comparable con el resto de la tabla. · tabla de la serie

13.2/100 · scoring v4

IC bootstrap de tareas al 95%: 9.2–17.2 · rank #5 en esta serie, rango de rank bajo sensibilidad de pesos #5–#5 · cómo

Resumen en lenguaje sencillo

No funciona como agente que usa tools en esta suite.

Bueno para

  • —

Débil en

  • devolver JSON limpio
  • respetar el formato pedido
  • elegir la tool correcta
  • planes multi-paso
  • mantenerse seguro bajo inyección de prompts

Desglose por categoría

JSON
44
Schema
44
Tool
0
Multi-paso
0
Inyección útil y segura
0
JSONSchemaToolMulti-pasoInyección (útil y segura)tok/sp50 s/tareap95 s/tarea
444400020.1 @ae7605——

Inyección de prompts (15 tareas × 3 trials): útil y segura 0.0% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 0.0% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones

Plantilla de chat vs upstream

Sin referencia

Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.