qwen2.5:14b
Familia: qwen2.5 · 14B parámetros · 2 corrida(s)
Cabe en 16 GB de VRAM · ollama 0.40.6 · Q4_K_M
VRAM medida a contexto 32K (KV cache incluido, ollama ps en la RTX 3090): 15 GB · rank previo en este tier: #6 (results v0.1.1, antes del re-tiering v0.1.2; puntaje sin cambio). Regla de tier
59.2/100 · scoring v4
IC bootstrap de tareas al 95% (suite principal, 3 trials): 52.9–65.5 · agrupado sobre 8 corridas (3 trials de la suite principal + 5 re-corridas a temperatura 0.7): 52.6–64.5 · ≈ empatado estadísticamente con otros modelos en el grupo de empate agrupado 3 de este tier (el ≈ de la tabla) · rank #8 en el tier, rango de rank bajo sensibilidad de pesos #7–#9 (percentiles 5–95; mín #6, máx #10) · v3: 59.2 (#8) · mention 0.0% (0/45) · cómo
Resumen en lenguaje sencillo
Mixto — útil en algunas tareas de agente, flojo en otras.
Bueno para
- elegir la tool correcta
Débil en
- respetar el formato pedido
- planes multi-paso
Desglose por categoría
| JSON | Schema | Tool | Multi-paso | Inyección (útil y segura) | tok/s | p50 s/tarea | p95 s/tarea |
|---|---|---|---|---|---|---|---|
| 75 | 48 | 99 | 33 | 56 | 68.2 @dc7718 | 14.0 | 53.9 |
Inyección de prompts (15 tareas × 3 trials): útil y segura 55.6% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 55.6% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 100.0 × tasa de tool-calls 0.9333. Definiciones
- Corrida:
20261021-qwen2.5-14b-bfd007· 2026-10-21T08:17:32+00:00 - GPU: NVIDIA GeForce RTX 3090 (24 GB) · Linux 6.8.0-57-generic
- Host:
dc7718586fbe· container (RunPod) · host AMD EPYC 7663 56-Core Processor, 251.5 GB RAM · medido 2026-10-21T08:17:32+00:00 · hosts - Harness: hermes-agent Hermes Agent v0.22.2+2363.g9cb34e9 (2026.9.24) · stable · local 9cb34e9e285d · trials 3 · muestreo: default de Ollama (temperatura y seed no los pone el harness) · ventana de contexto: 32768 tokens cargados por Ollama (el campo no usado del runner registra 8192; ver Metodología)
- Puntaje por trial (v3): 58.89 / 61.45 / 57.4 (DE 2.05, rango 57.4–61.45)
- GGUF sha256:
2049f5674b1e92b4464e5729975c9689fcfbf0b0e4443ccf10b5339f370f9a54 - Divulgación de patrocinio: none
Apple M2 16GB memoria unificada, macOS · ollama 0.40.6 · Q4_K_M
61.8/100 · scoring v4
IC bootstrap de tareas al 95%: 55.7–67.9 · ≈ empatado estadísticamente con otros modelos en el grupo de empate 1 de este tier · rank #1 en el tier, rango de rank bajo sensibilidad de pesos #1–#3 (percentiles 5–95; mín #1, máx #4) · v3: 61.4 (#1) · mention 2.2% (1/45) · cómo
Resumen en lenguaje sencillo
Mixto — útil en algunas tareas de agente, flojo en otras.
Bueno para
- devolver JSON limpio
- elegir la tool correcta
Débil en
- planes multi-paso
Desglose por categoría
| JSON | Schema | Tool | Multi-paso | Inyección (útil y segura) | tok/s | p50 s/tarea | p95 s/tarea |
|---|---|---|---|---|---|---|---|
| 88 | 57 | 100 | 27 | 60 | 10.1 @8b306c | 47.7 | 103.9 |
Inyección de prompts (15 tareas × 3 trials): útil y segura 60.0% (tarea completada y no comprometida; cuenta en el puntaje) · utilidad bajo ataque 60.0% (completó la tarea del usuario) · éxito del ataque 0.0% (siguió la instrucción inyectada). v2.1 usaba resistencia a inyección 97.8 × tasa de tool-calls 0.9487. Definiciones
- Corrida:
20261021-qwen2.5-14b-84e803· 2026-10-22T02:01:39+00:00 - Hardware: Apple M2 16GB unified memory, macOS · Apple M2 GPU (unified memory) · macOS 27.0.1 (arm64)
- Host:
8b306c4ac94a· tipo sin registrar · host Apple M2, 16 GB RAM · medido 2026-10-22T02:01:39+00:00 · hosts - Harness: hermes-agent Hermes Agent v0.22.2+2363.g9cb34e9.dirty (2026.9.24) · stable · local 9cb34e9e285d · trials 3 · muestreo: default de Ollama (temperatura y seed no los pone el harness) · ventana de contexto: 32768 tokens cargados por Ollama (el campo no usado del runner registra 8192; ver Metodología)
- Puntaje por trial (v3): 61.06 / 60.49 / 62.51 (DE 1.04, rango 60.49–62.51)
- GGUF sha256:
2049f5674b1e92b4464e5729975c9689fcfbf0b0e4443ccf10b5339f370f9a54 - Divulgación de patrocinio: none
Plantilla de chat vs upstream
Differs: la plantilla del GGUF no es idéntica a la plantilla upstream actual del proveedor tras normalizar espacios. Esto no es un veredicto de seguridad: revisiones viejas, conversiones de Ollama y re-subidas legítimas con plantillas corregidas (p. ej. Unsloth) suelen diferir.
- sha256 de plantilla GGUF (normalizado):
4decfd53f02771e5790c014338af259a87c446aa7470b71a021173e4d9e4a42e - sha256 de referencia upstream (normalizado):
705d5782da398f5ce4bb10e19b2358aba0bd78710233d5f1811d7068cba1b58a· fuente
Las etiquetas solo son “matches / differs / no reference”, nunca safe/unsafe. Ollama puede usar una plantilla o renderer Go integrado en lugar del Jinja del GGUF. Por qué importan las plantillas: Backdoors en plantillas de chat. No forma parte del puntaje.