qwen2.5:7b
Familia: qwen2.5 · 7B parámetros · 3 corrida(s)
Cabe en 8 GB de VRAM · ollama 0.40.6 · Q4_K_M
VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 6.6 GB. Regla de tier
66.1/100 · scoring v4
IC bootstrap de tareas al 95% (suite principal, 3 trials): 59.3–72.9 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 52.8–65.8 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 2 de este tier (el ≈ de la tabla) · rank #5 en el tier, rango de rank bajo sensibilidad de pesos #5–#5 (percentiles 5–95; mín #4, máx #7) · v3: 58.6 (#3) · mention 48.9% (22/45) · cómo
† El puntaje publicado (66.1, media de la suite principal de 3 trials) queda por encima del intervalo agrupado de 8 corridas (52.8–65.8): las 5 re-corridas a temperatura 0.7 puntuaron más bajo (media de re-corrida 59.64). Puntaje y rank se quedan los de la suite principal. Por qué
Resumen en lenguaje sencillo
Mixto — útil en algunas tareas de agente, flojo en otras.
Bueno para
- elegir la tool correcta
- mantenerse seguro bajo inyección de prompts
Débil en
- devolver JSON limpio
- respetar el formato pedido
Desglose por categoría
| JSON | Schema | Tool | Multi-paso | Inyección (útil y segura) | tok/s | p50 s/tarea | p95 s/tarea |
|---|---|---|---|---|---|---|---|
| 33 | 32 | 100 | 65 | 84 | 120.0 @dc7718 | 13.1 | 57.9 |
Inyección de prompts (15 tareas × 3 trials): útil y segura 84.4% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 84.4% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 51.1 × tasa de tool-calls 1. Definiciones
- Corrida:
20261020-qwen2.5-7b-5ea37d· 2026-10-20T22:28:12+00:00 - GPU: NVIDIA GeForce RTX 3090 (24 GB) · Linux 6.8.0-57-generic
- Host:
dc7718586fbe· container (RunPod) · host AMD EPYC 7663 56-Core Processor, 251.5 GB RAM · medido 2026-10-20T22:28:12+00:00 · hosts - Harness: hermes-agent Hermes Agent v0.22.2+2363.g9cb34e9 (2026.9.24) · stable · local 9cb34e9e285d · trials 3 · muestreo: default de Ollama (temperatura y seed no los pone el harness) · ventana de contexto: 32768 tokens cargados por Ollama (el campo no usado del runner registra 8192; ver Metodología)
- Puntaje por trial (v3): 61.91 / 55.39 / 58.39 (DE 3.26, rango 55.39–61.91)
- GGUF sha256:
2bada8a7450677000f678be90653b85d364de7db25eb5ea54136ada5f3933730 - Divulgación de patrocinio: none
Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M
61.3/100 · scoring v4
IC bootstrap de tareas al 95%: 54.4–68.2 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #2 en el tier, rango de rank bajo sensibilidad de pesos #1–#5 (percentiles 5–95; mín #1, máx #8) · v3: 58.7 (#4) · mention 22.2% (10/45) · cómo
Resumen en lenguaje sencillo
Mixto — útil en algunas tareas de agente, flojo en otras.
Bueno para
- elegir la tool correcta
Débil en
- devolver JSON limpio
- respetar el formato pedido
Desglose por categoría
| JSON | Schema | Tool | Multi-paso | Inyección (útil y segura) | tok/s | p50 s/tarea | p95 s/tarea |
|---|---|---|---|---|---|---|---|
| 25 | 23 | 100 | 62 | 78 | 19.8 @8b306c | 22.7 | 67.9 |
Inyección de prompts (15 tareas × 3 trials): útil y segura 77.8% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 80.0% (completó la tarea del usuario) · éxito del ataque 2.2% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 75.6 × tasa de tool-calls 0.9897. Definiciones
- Corrida:
20261021-qwen2.5-7b-79d3e8· 2026-10-21T05:08:45+00:00 - Hardware: Apple M2 16GB unified memory, macOS · Apple M2 GPU (unified memory) · macOS 27.0.1 (arm64)
- Host:
8b306c4ac94a· tipo sin registrar · host Apple M2, 16 GB RAM · medido 2026-10-21T05:08:45+00:00 · hosts - Harness: hermes-agent Hermes Agent v0.22.2+2363.g9cb34e9.dirty (2026.9.24) · stable · local 9cb34e9e285d · trials 3 · muestreo: default de Ollama (temperatura y seed no los pone el harness) · ventana de contexto: 32768 tokens cargados por Ollama (el campo no usado del runner registra 8192; ver Metodología)
- Puntaje por trial (v3): 59.27 / 60.33 / 56.38 (DE 2.04, rango 56.38–60.33)
- GGUF sha256:
2bada8a7450677000f678be90653b85d364de7db25eb5ea54136ada5f3933730 - Divulgación de patrocinio: none
Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod) · ollama 0.40.6 · Q4_K_M
Serie aparte, no forma parte del ranking del tier. 3 corrida(s) de un solo trial fusionadas, scoring v3 desde los logs. Split CPU/GPU (ollama ps): 6.4 GB 100% GPU · VRAM pico (nvidia-smi): 6337 MiB de 8192 MiB · tabla de la serie · cómo se midió
67.6/100 · scoring v4
IC bootstrap de tareas al 95%: 61.6–73.5 · rank #4 en esta serie · ≈ grupo de empate 2, rango de rank bajo sensibilidad de pesos #4–#5 · cómo
Resumen en lenguaje sencillo
Mixto — útil en algunas tareas de agente, flojo en otras.
Bueno para
- elegir la tool correcta
- mantenerse seguro bajo inyección de prompts
Débil en
- devolver JSON limpio
- respetar el formato pedido
Desglose por categoría
| JSON | Schema | Tool | Multi-paso | Inyección (útil y segura) | tok/s | p50 s/tarea | p95 s/tarea |
|---|---|---|---|---|---|---|---|
| 32 | 28 | 99 | 73 | 84 | 83.1 @8fcb65 | — | — |
Inyección de prompts (15 tareas × 3 trials): útil y segura 84.4% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 84.4% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). Definiciones
- Corrida:
real8gb-qwen2.5-7b· 2026-10-27T00:59:24+00:00 - Hardware: Real 8 GB card: NVIDIA RTX 3070 8 GB (RunPod container) · NVIDIA GeForce RTX 3070 · Linux 6.8.0-85-generic
- Host:
8fcb655dfb7d· container (RunPod) · pod b3o5tul56pnqfv · asignación del pod 8 vCPU / 30 GB · host AMD Ryzen 7 5700X 8-Core Processor, 62.7 GB RAM · medido 2026-10-27T00:59:24+00:00 · hosts - Harness: hermes-agent Hermes Agent v0.22.2+2363.g9cb34e9 (2026.9.24) · stable · local 9cb34e9e285d · trials 3 · muestreo: default de Ollama (temperatura y seed no los pone el harness) · ventana de contexto: 32768 tokens cargados por Ollama (el campo no usado del runner registra ; ver Metodología)
- Puntaje por trial (v3): 58.78 / 63.94 / 64.14 (DE 3.04, rango 58.78–64.14)
- GGUF sha256:
2bada8a7450677000f678be90653b85d364de7db25eb5ea54136ada5f3933730 - Divulgación de patrocinio: none
Plantilla de chat vs upstream
Differs: la plantilla del GGUF no es idéntica a la plantilla upstream actual del proveedor tras normalizar espacios. Esto no es un veredicto de seguridad: revisiones viejas, conversiones de Ollama y re-subidas legítimas con plantillas corregidas (p. ej. Unsloth) suelen diferir.
- sha256 de plantilla GGUF (normalizado):
4decfd53f02771e5790c014338af259a87c446aa7470b71a021173e4d9e4a42e - sha256 de referencia upstream (normalizado):
705d5782da398f5ce4bb10e19b2358aba0bd78710233d5f1811d7068cba1b58a· fuente
Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.