Local Agent Bench · suite v0.1.5

Resultados completos

Todas las tablas, tal como se publicaron. Salta a la memoria GPU que te interesa.

¿Cuáles LLMs locales sí sirven para agentes?

Rankeamos modelos locales en tool-calling de agentes con el harness Hermes Agent y un servidor MCP de tools mock, separados por cuánta memoria GPU necesitan. Todos los resultados actuales corren en Ollama; está planeada una comparación de motores (LM Studio, llama.cpp).

Resultados actuales: quants Q4_K_M, Ollama, probados en octubre 2026. Los tiers significan “cabe en 8 / 16 / 24 GB de VRAM”: desde results v0.1.2, un modelo aparece en un tier solo si su VRAM medida al contexto de 32K del bench, KV cache incluido, es como máximo esa cantidad (ollama ps en la 3090; ver Metodología). Los tiers y ranks vienen de corridas en hosts NVIDIA RTX 3090 (24 GB). Desde results v0.1.3 el tier de 8 GB también se corrió en una tarjeta real de 8 GB (RTX 3070, contenedor RunPod), listada como serie aparte. Desde results v0.1.4 la misma suite también corre en una NVIDIA A100 SXM4 80 GB (results/a10064/ — el directorio conserva su nombre histórico; la tarjeta es de 80 GB, no de 64 GB), también como serie aparte. Aún no se ha probado ninguna tarjeta de 12 GB, 16 GB o 48 GB. tok/s se mide por host (se muestra como @host) y solo es comparable entre modelos del mismo host. Los resultados del Mac Apple M2 16 GB (macOS, memoria unificada) van en su propio tier.

Changelog técnico y notas de la suite (expertos)

Suite results v0.1.5 · scoring v4. Results v0.1.4 (2026-11-09): sin cambios de puntaje ni rank en los tiers. Se agrega la misma suite en una NVIDIA A100 SXM4 80 GB (contenedor RunPod, results/a10064) como segunda serie aparte: qwen3:32b-q8_0 87.25, gemma4:31b-it-q8_0 80.78, qwen2.5:72b 79.17, llama3.3:70b 68.35, deepseek-r1:70b 13.20. Tres corridas de un solo trial por modelo, cada trial publicado — incluido el trial de gemma4 que sacó 0% en multistep. Results v0.1.3 (2026-10-28): sin cambios de puntaje ni rank en los tiers; la misma suite en una RTX 3070 8 GB real se agrega como serie aparte (scoring v3 desde los logs). Los seis modelos del tier de 8 GB corrieron ahí, qwen3:4b con descarga parcial al CPU; los seis modelos de 8–10 GB se quedan en el tier de 16 GB y también se muestran en la vista de 8 GB como corriendo con descarga al CPU (lento). Results v0.1.2 (2026-10-26): sin cambios de puntaje; seis modelos que necesitan más de 8 GB a 32K de contexto (mistral:7b, hermes3:8b, llama3.1:8b, qwen3:8b, deepseek-r1:8b, qwen3-vl:8b, medidos 8.9–10 GB) pasaron del tier de 8 GB al de 16 GB. Su tier y rank previos aparecen junto a sus nombres. Scoring v3 (2026-10-23): el componente de inyección ahora es “útil y segura”: la proporción de tareas de inyección donde el modelo completó la tarea del usuario y no siguió la instrucción inyectada (estilo AgentDojo). Reemplaza resistencia a inyección × tasa de tool-calls. El puntaje y rank previos de v2.1 se muestran en una columna atenuada para comparar. Los puntajes se midieron con el muestreo por defecto (no determinista) de Ollama en 3 trials; “± corridas” es la DE entre corridas de una re-corrida aparte de cada modelo GPU 5 veces a temperatura 0.7 con seeds fijos (modelos Mac: DE de 3 trials, marcados), “≈” marca modelos cuyos intervalos bootstrap de tareas al 95% (trials principales y de re-corrida juntos) se solapan (empate estadístico), y “Rango de rank” muestra cómo se mueve el rank bajo 10,000 ponderaciones plausibles. Changelog · Empates y rangos de rank · Varianza

JSON 15Schema 15Selección de tool 20Multi-paso 30Inyección: útil y segura 20La velocidad se reporta aparte

Todo lo que cabe en 8 GB de VRAM

Todos los modelos de los tiers 8 GB, rankeados juntos por puntaje. La columna “Tier” muestra el tier en el que se midió cada modelo (todos en hosts RTX 3090). Estos modelos se midieron en más de un host, así que tok/s no se muestra aquí: ver Velocidad por host.

#	Modelo	Tier	Puntaje	± corridas	v2.1	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	VRAM @32K
1	qwen3:4b prev. #2	8 GB	97.7^†	±2.6	92.9	100	91	100	97	100	7.6 GB
2	gemma4:e4b prev. #1	8 GB	94.7	±0.6	94.7	99	95	100	89	96	sin medir
3	ornith-1.5:9b previous tier: 16 GB	8 GB	92.0	—	82.2	95	95	97	82	98	6.7 GB
4	nemotron-3-nano:4b	8 GB	79.0	—	78.1	100	91	96	61	64	3.5 GB
5	qwen2.5:7b	8 GB	66.1^†	±1.2	58.6	33	32	100	65	84	6.6 GB
6	llama3.2:3b prev. #7	8 GB	52.1	±4.6	49.8	91	45	93	18	38	6.0 GB
7	qwen2.5-coder:7b prev. #10	8 GB	26.0	±0.7	26.0	100	73	0	0	0	6.6 GB
—	gemma3:4b Sin soporte nativo de tools	8 GB	n/a^*	—	—	0	0	0	0	0	sin medir

Los rangos de rank y los grupos de empate se calculan dentro de cada tier medido; ver la vista por tier.

Todo lo que cabe en 16 GB de VRAM

Todos los modelos de los tiers 8 GB + 16 GB, rankeados juntos por puntaje. La columna “Tier” muestra el tier en el que se midió cada modelo (todos en hosts RTX 3090). Estos modelos se midieron en más de un host, así que tok/s no se muestra aquí: ver Velocidad por host.

#	Modelo	Tier	Puntaje	± corridas	v2.1	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	VRAM @32K
1	gemma4:12b	16 GB	98.3	±1.2	98.3	100	95	100	97	100	sin medir
2	qwen3:4b prev. #2	8 GB	97.7^†	±2.6	92.9	100	91	100	97	100	7.6 GB
3	gemma4:e4b prev. #1	8 GB	94.7	±0.6	94.7	99	95	100	89	96	sin medir
4	qwen3.5:9b prev. #4	16 GB	94.1	±1.6	90.6	100	97	100	85	96	6.7 GB
5	gpt-oss:20b prev. #2	16 GB	93.9	±1.9	93.4	100	97	100	94	80	12 GB
6	qwen3-vl:8b previous tier: 8 GB (#3)	16 GB	93.9^†	±2.3	91.6	95	83	100	92	98	10 GB
7	ornith-1.5:9b previous tier: 16 GB	8 GB	92.0	—	82.2	95	95	97	82	98	6.7 GB
8	qwen3:14b prev. #3	16 GB	92.0	±2.1	90.6	100	76	100	87	98	14 GB
9	nemotron-3-nano:4b	8 GB	79.0	—	78.1	100	91	96	61	64	3.5 GB
10	qwen2.5:7b	8 GB	66.1^†	±1.2	58.6	33	32	100	65	84	6.6 GB
11	qwen3:8b previous tier: 8 GB (#4)	16 GB	61.9^†	±3.3	60.6	93	89	77	56	11	10 GB
12	mistral-nemo:12b prev. #5	16 GB	61.5	±2.9	60.2	80	68	100	20	67	12 GB
13	qwen2.5:14b prev. #6	16 GB	59.2	±1.8	59.2	75	48	99	33	56	15 GB
14	ministral-3:8b previous tier: 8 GB	16 GB	56.3	—	55.4	77	63	65	37	56	9.8 GB
15	llama3.1:8b previous tier: 8 GB (#6)	16 GB	54.1	±2.3	53.2	80	29	100	19	60	9.2 GB
16	llama3.2:3b prev. #7	8 GB	52.1	±4.6	49.8	91	45	93	18	38	6.0 GB
17	hermes3:8b previous tier: 8 GB (#8)	16 GB	45.7	±10.1	45.3	80	80	68	2	38	9.0 GB
18	ministral-3:14b	16 GB	39.7	—	39.7	61	44	64	16	31	sin medir
19	deepseek-r1:8b previous tier: 8 GB (#9)	16 GB	29.2^†	±0.3	29.2	99	96	0	0	0	10 GB
20	deepseek-r1:14b prev. #7	16 GB	26.6	±1.9	26.6	91	87	0	0	0	15 GB
21	qwen2.5-coder:7b prev. #10	8 GB	26.0	±0.7	26.0	100	73	0	0	0	6.6 GB
22	qwen2.5-coder:14b prev. #8	16 GB	24.2	±0.0	24.2	89	72	0	0	0	15 GB
23	mistral:7b previous tier: 8 GB (#11)	16 GB	22.0	±0.7	22.0	93	53	0	0	0	8.9 GB
—	gemma3:4b Sin soporte nativo de tools	8 GB	n/a^*	—	—	0	0	0	0	0	sin medir
—	phi4:14b modo tools → Sin soporte nativo de tools	16 GB	n/a^*	—	—	0	0	0	0	0	sin medir

Los rangos de rank y los grupos de empate se calculan dentro de cada tier medido; ver la vista por tier.

Todo lo que cabe en 24 GB de VRAM

Todos los modelos de los tiers 8 GB + 16 GB + 24 GB, rankeados juntos por puntaje. La columna “Tier” muestra el tier en el que se midió cada modelo (todos en hosts RTX 3090). Estos modelos se midieron en más de un host, así que tok/s no se muestra aquí: ver Velocidad por host.

#	Modelo	Tier	Puntaje	± corridas	v2.1	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	VRAM @32K
1	gemma4:26b	24 GB	99.7	±0.6	99.7	100	100	100	99	100	sin medir
2	qwen3.8:27b prev. #5	24 GB	98.7^†	±1.5	92.0	100	99	100	96	100	17 GB
3	qwen3:30b-a3b prev. #2	24 GB	98.5	±1.0	98.5	100	95	100	99	98	21 GB
4	gemma4:12b	16 GB	98.3	±1.2	98.3	100	95	100	97	100	sin medir
5	qwen3:4b prev. #2	8 GB	97.7^†	±2.6	92.9	100	91	100	97	100	7.6 GB
6	qwen3.6:27b prev. #3	24 GB	95.2	±0.8	95.2	100	99	100	85	100	17 GB
7	qwen3.5:27b prev. #4	24 GB	95.0	±0.4	95.0	99	97	100	87	98	18 GB
8	gemma4:e4b prev. #1	8 GB	94.7	±0.6	94.7	99	95	100	89	96	sin medir
9	qwen3.5:9b prev. #4	16 GB	94.1	±1.6	90.6	100	97	100	85	96	6.7 GB
10	gpt-oss:20b prev. #2	16 GB	93.9	±1.9	93.4	100	97	100	94	80	12 GB
11	qwen3-vl:8b previous tier: 8 GB (#3)	16 GB	93.9^†	±2.3	91.6	95	83	100	92	98	10 GB
12	ornith-1.5:9b previous tier: 16 GB	8 GB	92.0	—	82.2	95	95	97	82	98	6.7 GB
13	qwen3:14b prev. #3	16 GB	92.0	±2.1	90.6	100	76	100	87	98	14 GB
14	glm-4.7-flash:q4_K_M	24 GB	88.0	—	88.0	87	80	100	81	93	20 GB
15	qwen3-coder:30b prev. #6	24 GB	87.9	±2.1	86.6	100	100	92	83	73	21 GB
16	nemotron-3-nano:4b	8 GB	79.0	—	78.1	100	91	96	61	64	3.5 GB
17	qwen2.5:7b	8 GB	66.1^†	±1.2	58.6	33	32	100	65	84	6.6 GB
18	qwen3:8b previous tier: 8 GB (#4)	16 GB	61.9^†	±3.3	60.6	93	89	77	56	11	10 GB
19	mistral-nemo:12b prev. #5	16 GB	61.5	±2.9	60.2	80	68	100	20	67	12 GB
20	qwen2.5:14b prev. #6	16 GB	59.2	±1.8	59.2	75	48	99	33	56	15 GB
21	ministral-3:8b previous tier: 8 GB	16 GB	56.3	—	55.4	77	63	65	37	56	9.8 GB
22	llama3.1:8b previous tier: 8 GB (#6)	16 GB	54.1	±2.3	53.2	80	29	100	19	60	9.2 GB
23	llama3.2:3b prev. #7	8 GB	52.1	±4.6	49.8	91	45	93	18	38	6.0 GB
24	hermes3:8b previous tier: 8 GB (#8)	16 GB	45.7	±10.1	45.3	80	80	68	2	38	9.0 GB
25	mistral-small3.2:24b prev. #7	24 GB	42.8	±4.3	42.4	47	43	80	18	40	19 GB
26	ministral-3:14b	16 GB	39.7	—	39.7	61	44	64	16	31	sin medir
27	deepseek-r1:8b previous tier: 8 GB (#9)	16 GB	29.2^†	±0.3	29.2	99	96	0	0	0	10 GB
28	mistral-small:24b prev. #8	24 GB	28.9^†	±4.4	28.1	44	33	55	10	18	19 GB
29	deepseek-r1:14b prev. #7	16 GB	26.6	±1.9	26.6	91	87	0	0	0	15 GB
30	qwen2.5-coder:7b prev. #10	8 GB	26.0	±0.7	26.0	100	73	0	0	0	6.6 GB
31	qwen2.5-coder:14b prev. #8	16 GB	24.2	±0.0	24.2	89	72	0	0	0	15 GB
32	mistral:7b previous tier: 8 GB (#11)	16 GB	22.0	±0.7	22.0	93	53	0	0	0	8.9 GB
—	gemma3:4b Sin soporte nativo de tools	8 GB	n/a^*	—	—	0	0	0	0	0	sin medir
—	phi4:14b modo tools → Sin soporte nativo de tools	16 GB	n/a^*	—	—	0	0	0	0	0	sin medir

Los rangos de rank y los grupos de empate se calculan dentro de cada tier medido; ver la vista por tier.

Cabe en 8 GB de VRAM

Modelos cuya VRAM medida a contexto 32K (KV cache incluido) es como máximo 8 GB en una RTX 3090 (24 GB); puntajes y ranks vienen de esas corridas. Las corridas de este tier vienen de más de un host RTX 3090, así que tok/s no se muestra en la tabla: ver Velocidad por host (nunca se compara entre hosts).

Tarjeta real de 8 GB: verificado en una tarjeta real de 8 GB (RTX 3070): los seis modelos del tier de 8 GB corrieron ahí; qwen3:4b necesitó descarga parcial al CPU. Results v0.1.2: medido solo en la RTX 3090; aún no corrido en una tarjeta real de 8 GB.

#	Modelo	Quant	Motor	Puntaje	± corridas	v3	Rango de rank	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	Mención	VRAM @32K
1	qwen3:4b prev. #2 descarga parcial al CPU	Q4_K_M	ollama 0.40.6	≈1 97.7^†	±2.6	92.9 (#2)	#1	100	91	100	97	100	24.4%	7.6 GB
2	gemma4:e4b prev. #1	Q4_K_M	ollama 0.40.6	≈1 94.7	±0.6	94.7 (#1)	#2	99	95	100	89	96	0.0%	sin medir
3	ornith-1.5:9b previous tier: 16 GB nuevo	Q4_K_M	ollama 0.40.6	≈1 92.0	—	82.2	#3	95	95	97	82	98	48.9%	6.7 GB
4	nemotron-3-nano:4b nuevo	Q4_K_M	ollama 0.40.6	79.0	—	78.1	#4	100	91	96	61	64	4.4%	3.5 GB
5	qwen2.5:7b	Q4_K_M	ollama 0.40.6	≈2 66.1^†	±1.2	58.6 (#3)	#5	33	32	100	65	84	48.9%	6.6 GB
6	llama3.2:3b prev. #7	Q4_K_M	ollama 0.40.6	≈2 52.1	±4.6	49.8 (#4)	#6	91	45	93	18	38	11.1%	6.0 GB
7	qwen2.5-coder:7b prev. #10	Q4_K_M	ollama 0.40.6	26.0	±0.7	26.0 (#5)	#7	100	73	0	0	0	0.0%	6.6 GB
—	gemma3:4b Sin soporte nativo de tools	Q4_K_M	ollama 0.40.6	n/a^*	—	—	—	0	0	0	0	0	0.0%	sin medir

#	Modelo	Puntaje	JSON	Schema	Tool	Multi-paso	Inyección útil y segura
1	qwen3:4b prev. #2	97.7	100	91	100	97	100
2	gemma4:e4b prev. #1	94.7	99	95	100	89	96
3	ornith-1.5:9b previous tier: 16 GB	92.0	95	95	97	82	98
4	nemotron-3-nano:4b	79.0	100	91	96	61	64
5	qwen2.5:7b	66.1	33	32	100	65	84
6	llama3.2:3b prev. #7	52.1	91	45	93	18	38
7	qwen2.5-coder:7b prev. #10	26.0	100	73	0	0	0
—	gemma3:4b Sin soporte nativo de tools	n/a	0	0	0	0	0

Sombreado: <25 · 25–59 · 60–84 · 85–94 · ≥95 (rojo más intenso = más alto). Cada columna es el porcentaje de categoría que alimenta el puntaje.

En una tarjeta real de 8 GB: NVIDIA GeForce RTX 3070 (container)

La misma suite en una tarjeta real de 8 GB, puntuada con v3 desde los logs (3 trials salvo que se marque). Los modelos totalmente en GPU, o con descarga parcial al CPU, son el tier de 8 GB de arriba; las filas marcadas “corre con descarga al CPU (lento)” necesitan 8.9–10 GB en la 3090 y se quedan en el tier de 16 GB (su tier y rank principales), pero sí corren en una tarjeta de 8 GB con parte del modelo en la CPU, al tok/s mostrado. Los puntajes de 3090 y 3070 son mediciones aparte y no se promedian. tok/s aquí es solo del host 3070; los tok/s de 3090 están en Velocidad por host y no se comparan con estos.

Modelo	Tier principal	Puntaje 3090	Puntaje 3070	CPU/GPU	VRAM pico 3070	tok/s 3070 @host
qwen3:4b	8 GB #1	97.7	91.9	7.7 GB 12%/88% CPU/GPU	6713 MiB	57.6 @8fcb65	descarga parcial al CPU
gemma4:e4b	8 GB #2	94.7	94.1	398 MB 100% GPU	5255 MiB	171.3 @8fcb65	100% GPU
qwen2.5:7b	8 GB #5	66.1	62.3	6.4 GB 100% GPU	6337 MiB	83.1 @8fcb65	100% GPU
llama3.2:3b	8 GB #6	52.1	49.4	5.9 GB 100% GPU	5807 MiB	160.4 @8fcb65	100% GPU
qwen2.5-coder:7b	8 GB #7	26.0	25.6	6.4 GB 100% GPU	6337 MiB	83.1 @8fcb65	100% GPU
gemma3:4b	8 GB	n/a^*	n/a^*	2.9 GB 100% GPU	4429 MiB^‡	119.7 @8fcb65	100% GPU
qwen3-vl:8b	16 GB #3 v0.1.2: 16 GB only	91.6	87.1	10 GB 44%/56% CPU/GPU	6991 MiB	11.7 @8fcb65	corre con descarga al CPU (lento)
qwen3:8b	16 GB #6 v0.1.2: 16 GB only	60.6	62.7	10 GB 34%/66% CPU/GPU	6753 MiB	15.0 @8fcb65	corre con descarga al CPU (lento)
llama3.1:8b	16 GB #9 v0.1.2: 16 GB only	53.2	51.0	9.6 GB 29%/71% CPU/GPU	6683 MiB	17.6 @8fcb65	corre con descarga al CPU (lento)
hermes3:8b	16 GB #10 v0.1.2: 16 GB only	45.3	42.9	9.3 GB 26%/74% CPU/GPU	6769 MiB	20.3 @8fcb65	corre con descarga al CPU (lento)
deepseek-r1:8b	16 GB #11 v0.1.2: 16 GB only	29.2	27.6 n=1	10 GB 34%/66% CPU/GPU	6753 MiB	15.1 @8fcb65	corre con descarga al CPU (lento)
mistral:7b	16 GB #14 v0.1.2: 16 GB only	22.0	21.8	8.6 GB 19%/81% CPU/GPU	6813 MiB	21.5 @8fcb65	corre con descarga al CPU (lento)

^‡ Pasa el cursor para una nota sobre las muestras de VRAM. No se han probado tarjetas de 12 GB ni 16 GB. Cómo se midió la serie de tarjeta real

Cabe en 16 GB de VRAM

Modelos cuya VRAM medida a contexto 32K (KV cache incluido) es como máximo 16 GB en una RTX 3090 (24 GB); puntajes y ranks vienen de esas corridas. Las corridas de este tier vienen de más de un host RTX 3090, así que tok/s no se muestra en la tabla: ver Velocidad por host (nunca se compara entre hosts).

Tarjeta real de 16 GB: no probado en una tarjeta real de 16 GB (ni de 12 GB): medido solo en la RTX 3090.

#	Modelo	Quant	Motor	Puntaje	± corridas	v3	Rango de rank	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	Mención	VRAM @32K
1	gemma4:12b	Q4_K_M	ollama 0.40.6	98.3	±1.2	98.3 (#1)	#1	100	95	100	97	100	0.0%	sin medir
2	qwen3.5:9b prev. #4	Q4_K_M	ollama 0.40.6	≈2 94.1	±1.6	90.6 (#5)	#2–#4	100	97	100	85	96	17.8%	6.7 GB
3	gpt-oss:20b prev. #2	MXFP4	ollama 0.40.6	≈2 93.9	±1.9	93.4 (#2)	#2–#5	100	97	100	94	80	2.2%	12 GB
4	qwen3-vl:8b previous tier: 8 GB (#3)	Q4_K_M	ollama 0.40.6	≈2 93.9^†	±2.3	91.6 (#3)	#2–#4	95	83	100	92	98	11.1%	10 GB
5	qwen3:14b prev. #3	Q4_K_M	ollama 0.40.6	≈2 92.0	±2.1	90.6 (#4)	#4–#5	100	76	100	87	98	6.7%	14 GB
6	qwen3:8b previous tier: 8 GB (#4)	Q4_K_M	ollama 0.40.6	≈3 61.9^†	±3.3	60.6 (#6)	#6–#9	93	89	77	56	11	6.7%	10 GB
7	mistral-nemo:12b prev. #5	Q4_K_M	ollama 0.40.6	≈3 61.5	±2.9	60.2 (#7)	#6–#8	80	68	100	20	67	6.7%	12 GB
8	qwen2.5:14b prev. #6	Q4_K_M	ollama 0.40.6	≈3 59.2	±1.8	59.2 (#8)	#7–#9	75	48	99	33	56	0.0%	15 GB
9	ministral-3:8b previous tier: 8 GB nuevo	Q4_K_M	ollama 0.40.6	≈3 56.3	—	55.4	#8–#10	77	63	65	37	56	6.7%	9.8 GB
10	llama3.1:8b previous tier: 8 GB (#6)	Q4_K_M	ollama 0.40.6	≈3 54.1	±2.3	53.2 (#9)	#8–#10	80	29	100	19	60	4.4%	9.2 GB
11	hermes3:8b previous tier: 8 GB (#8)	Q4_K_M	ollama 0.40.6	45.7	±10.1	45.3 (#10)	#11	80	80	68	2	38	2.2%	9.0 GB
12	ministral-3:14b nuevo	Q4_K_M	ollama 0.40.6	≈4 39.7	—	39.7	#12	61	44	64	16	31	0.0%	sin medir
13	deepseek-r1:8b previous tier: 8 GB (#9)	Q4_K_M	ollama 0.40.6	29.2^†	±0.3	29.2 (#11)	#13	99	96	0	0	0	0.0%	10 GB
14	deepseek-r1:14b prev. #7	Q4_K_M	ollama 0.40.6	≈6 26.6	±1.9	26.6 (#12)	#14	91	87	0	0	0	0.0%	15 GB
15	qwen2.5-coder:14b prev. #8	Q4_K_M	ollama 0.40.6	≈6 24.2	±0.0	24.2 (#13)	#15	89	72	0	0	0	0.0%	15 GB
16	mistral:7b previous tier: 8 GB (#11)	Q4_K_M	ollama 0.40.6	22.0	±0.7	22.0 (#14)	#16	93	53	0	0	0	0.0%	8.9 GB
—	phi4:14b modo tools → Sin soporte nativo de tools	Q4_K_M	ollama 0.40.6	n/a^*	—	—	—	0	0	0	0	0	0.0%	sin medir

#	Modelo	Puntaje	JSON	Schema	Tool	Multi-paso	Inyección útil y segura
1	gemma4:12b	98.3	100	95	100	97	100
2	qwen3.5:9b prev. #4	94.1	100	97	100	85	96
3	gpt-oss:20b prev. #2	93.9	100	97	100	94	80
4	qwen3-vl:8b previous tier: 8 GB (#3)	93.9	95	83	100	92	98
5	qwen3:14b prev. #3	92.0	100	76	100	87	98
6	qwen3:8b previous tier: 8 GB (#4)	61.9	93	89	77	56	11
7	mistral-nemo:12b prev. #5	61.5	80	68	100	20	67
8	qwen2.5:14b prev. #6	59.2	75	48	99	33	56
9	ministral-3:8b previous tier: 8 GB	56.3	77	63	65	37	56
10	llama3.1:8b previous tier: 8 GB (#6)	54.1	80	29	100	19	60
11	hermes3:8b previous tier: 8 GB (#8)	45.7	80	80	68	2	38
12	ministral-3:14b	39.7	61	44	64	16	31
13	deepseek-r1:8b previous tier: 8 GB (#9)	29.2	99	96	0	0	0
14	deepseek-r1:14b prev. #7	26.6	91	87	0	0	0
15	qwen2.5-coder:14b prev. #8	24.2	89	72	0	0	0
16	mistral:7b previous tier: 8 GB (#11)	22.0	93	53	0	0	0
—	phi4:14b Sin soporte nativo de tools	n/a	0	0	0	0	0

Sombreado: <25 · 25–59 · 60–84 · 85–94 · ≥95 (rojo más intenso = más alto). Cada columna es el porcentaje de categoría que alimenta el puntaje.

Cabe en 24 GB de VRAM

Modelos cuya VRAM medida a contexto 32K (KV cache incluido) es como máximo 24 GB en una RTX 3090 (24 GB); puntajes y ranks vienen de esas corridas. Las corridas de este tier vienen de más de un host RTX 3090, así que tok/s no se muestra en la tabla: ver Velocidad por host (nunca se compara entre hosts).

Tarjeta real de 24 GB: medido en una tarjeta real de 24 GB (la RTX 3090).

#	Modelo	Quant	Motor	Puntaje	± corridas	v3	Rango de rank	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	Mención	VRAM @32K
1	gemma4:26b	Q4_K_M	ollama 0.40.6	≈1 99.7	±0.6	99.7 (#1)	#1	100	100	100	99	100	0.0%	sin medir
2	qwen3.8:27b prev. #5	Q4_K_M	ollama 0.40.6	≈2 98.7^†	±1.5	92.0 (#5)	#2–#3	100	99	100	96	100	33.3%	17 GB
3	qwen3:30b-a3b prev. #2	Q4_K_M	ollama 0.40.6	≈1 98.5	±1.0	98.5 (#2)	#2–#3	100	95	100	99	98	2.2%	21 GB
4	qwen3.6:27b prev. #3	Q4_K_M	ollama 0.40.6	≈2 95.2	±0.8	95.2 (#3)	#4–#5	100	99	100	85	100	0.0%	17 GB
5	qwen3.5:27b prev. #4	Q4_K_M	ollama 0.40.6	≈2 95.0	±0.4	95.0 (#4)	#4–#5	99	97	100	87	98	0.0%	18 GB
6	glm-4.7-flash:q4_K_M nuevo	Q4_K_M	ollama 0.40.6	≈2 88.0	—	88.0	#6–#7	87	80	100	81	93	0.0%	20 GB
7	qwen3-coder:30b prev. #6	Q4_K_M	ollama 0.40.6	87.9	±2.1	86.6 (#6)	#6–#7	100	100	92	83	73	6.7%	21 GB
8	mistral-small3.2:24b prev. #7	Q4_K_M	ollama 0.40.6	≈4 42.8	±4.3	42.4 (#7)	#8	47	43	80	18	40	4.4%	19 GB
9	mistral-small:24b prev. #8	Q4_K_M	ollama 0.40.6	≈4 28.9^†	±4.4	28.1 (#8)	#9	44	33	55	10	18	4.4%	19 GB

#	Modelo	Puntaje	JSON	Schema	Tool	Multi-paso	Inyección útil y segura
1	gemma4:26b	99.7	100	100	100	99	100
2	qwen3.8:27b prev. #5	98.7	100	99	100	96	100
3	qwen3:30b-a3b prev. #2	98.5	100	95	100	99	98
4	qwen3.6:27b prev. #3	95.2	100	99	100	85	100
5	qwen3.5:27b prev. #4	95.0	99	97	100	87	98
6	glm-4.7-flash:q4_K_M	88.0	87	80	100	81	93
7	qwen3-coder:30b prev. #6	87.9	100	100	92	83	73
8	mistral-small3.2:24b prev. #7	42.8	47	43	80	18	40
9	mistral-small:24b prev. #8	28.9	44	33	55	10	18

Sombreado: <25 · 25–59 · 60–84 · 85–94 · ≥95 (rojo más intenso = más alto). Cada columna es el porcentaje de categoría que alimenta el puntaje.

Apple M2 16GB memoria unificada, macOS

Misma suite, harness Hermes Agent, quants Q4_K_M y Ollama 0.40.6 (macOS nativo, Metal) que los tiers de GPU, corrido en un Mac mini Apple M2 rentado con 16 GB de memoria unificada (unos 11.8 GB usables por la GPU). tok/s es velocidad de decode de un solo stream (generación de 256 tokens, mediana de 3).

#	Modelo	Quant	Motor	Puntaje	± corridas	v3	Rango de rank	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	Mención	tok/s @host
1	qwen2.5:14b	Q4_K_M	ollama 0.40.6	≈1 61.8	±1.0 3 trials	61.4 (#1)	#1–#3	88	57	100	27	60	2.2%	10.1 @8b306c
2	qwen2.5:7b	Q4_K_M	ollama 0.40.6	≈1 61.3	±2.0 3 trials	58.7 (#4)	#1–#5	25	23	100	62	78	22.2%	19.8 @8b306c
3	mistral-nemo:12b	Q4_K_M	ollama 0.40.6	≈1 60.4	±2.3 3 trials	59.9 (#3)	#2–#4	80	67	97	20	64	4.4%	13.0 @8b306c
4	qwen3:8b	Q4_K_M	ollama 0.40.6	≈1 60.1	±2.6 3 trials	60.1 (#2)	#1–#4	93	89	84	51	2	0.0%	17.6 @8b306c
5	llama3.2:3b	Q4_K_M	ollama 0.40.6	≈1 52.6	±1.7 3 trials	50.4 (#5)	#4–#5	93	45	95	16	40	13.3%	40.7 @8b306c
6	llama3.1:8b	Q4_K_M	ollama 0.40.6	≈1 50.3	±1.9 3 trials	49.8 (#6)	#6	79	31	100	18	42	2.2%	18.7 @8b306c
7	hermes3:8b	Q4_K_M	ollama 0.40.6	43.1	±5.5 3 trials	41.8 (#7)	#7	83	83	60	2	29	6.7%	19.9 @8b306c
8	qwen2.5-coder:7b	Q4_K_M	ollama 0.40.6	26.4	±1.0 3 trials	26.4 (#8)	#8	100	76	0	0	0	0.0%	19.8 @8b306c
—	gemma3:4b Sin soporte nativo de tools	Q4_K_M	ollama 0.40.6	n/a^*	—	—	—	0	0	0	0	0	0.0%	32.8 @8b306c

#	Modelo	Puntaje	JSON	Schema	Tool	Multi-paso	Inyección útil y segura
1	qwen2.5:14b	61.8	88	57	100	27	60
2	qwen2.5:7b	61.3	25	23	100	62	78
3	mistral-nemo:12b	60.4	80	67	97	20	64
4	qwen3:8b	60.1	93	89	84	51	2
5	llama3.2:3b	52.6	93	45	95	16	40
6	llama3.1:8b	50.3	79	31	100	18	42
7	hermes3:8b	43.1	83	83	60	2	29
8	qwen2.5-coder:7b	26.4	100	76	0	0	0
—	gemma3:4b Sin soporte nativo de tools	n/a	0	0	0	0	0

Sombreado: <25 · 25–59 · 60–84 · 85–94 · ≥95 (rojo más intenso = más alto). Cada columna es el porcentaje de categoría que alimenta el puntaje.

No corridos en este hardware:

Modelo	No se corrió porque	Soporte de tools (Ollama)
phi4:14b	se acabó el tiempo: un modelo 14B tarda unas 5 h en este Mac (tope de tiempo)	sin soporte nativo de tools en Ollama
mistral-small:24b	no cabe en 16 GB de memoria unificada (pesos Q4_K_M unos 14 GB)	nativo
qwen3:30b-a3b	no cabe en 16 GB de memoria unificada (pesos Q4_K_M unos 18-19 GB)	nativo

Tarjeta grande: NVIDIA A100 SXM4 80 GB (contenedor RunPod)

Misma suite y harness Hermes Agent que los tiers de GPU, corrido en una NVIDIA A100-SXM4-80GB (81,920 MiB; el directorio de resultados se llama a10064 por razones históricas; la tarjeta NO es de 64 GB), como 3 corridas de un solo trial por modelo. Los quants son los que lleva cada nombre de modelo (Q8_0 para qwen3:32b-q8_0 y gemma4:31b-it-q8_0, Q4_K_M para el resto), Ollama 0.40.6. Los puntajes publicados son scoring v3 recalculados desde los logs de corrida, así que difieren del score_total guardado en cada archivo: v3 puntúa la inyección como 'útil y segura' (la tarea legítima debe completarse y el trazo no comprometerse), mientras que el total del runner acredita la resistencia cruda a la inyección. Se publica cada trial, incluido el outlier del trial 3 de gemma4:31b-it-q8_0 (49.2 bajo v3). Serie aparte: sus puntajes no se promedian con los tiers de RTX 3090. tok/s es solo de este host y nunca se compara entre hosts. Contexto: el settings.ctx=8192 del runner nunca se aplicó; Ollama cargó 32768 (`ollama ps` y los archivos .ctx por modelo), así que ctx_loaded=32768 es el número real y settings.ctx se conserva como quedó registrado en los archivos de corrida. Rankeado solo dentro de esta serie, un host (ae76059e168d, container). Las corridas con menos de 3 trials se listan sin rank ni IC.

#	Modelo	Puntaje (v3)	IC 95%	Trials	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	CPU/GPU	VRAM pico	tok/s @host
1	qwen3:32b-q8_0	92.6	89.6–95.4	92.09 / 91.81 / 93.87	95	69	99	97	96	—	—	20.0 @ae7605
≈2 2	gemma4:31b-it-q8_0	80.8	78.5–82.5	96.57 / 96.57 / 49.2	100	100	99	59	67	—	—	20.1 @ae7605
≈2 3	qwen2.5:72b	79.2	72.8–85.2	78.91 / 78.57 / 80.03	83	81	100	49	100	—	—	20.1 @ae7605
4	llama3.3:70b	68.3	62.1–74.5	67.53 / 68.87 / 68.65	100	87	100	22	69	—	—	20.1 @ae7605
5	deepseek-r1:70b	13.2	9.2–17.2	13.2 / 14.4 / 12	44	44	0	0	0	—	—	20.1 @ae7605

Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod)

Misma suite, harness Hermes Agent, quants Q4_K_M, Ollama 0.40.6 y contexto 32K que los tiers de GPU, corrido en una tarjeta real de 8 GB (RTX 3070) en un contenedor RunPod, como 3 corridas de un solo trial por modelo. Ollama puso parte de algunos modelos en la CPU (split CPU/GPU de `ollama ps`); los puntajes son scoring v3 recalculados desde los logs. Serie aparte: sus puntajes no se promedian con los tiers de RTX 3090. tok/s es solo de este host. Rankeado solo dentro de esta serie, un host (8fcb655dfb7d, container). Las corridas con menos de 3 trials se listan sin rank ni IC.

#	Modelo	Puntaje (v3)	IC 95%	Trials	JSON	Schema	Tool	Multi-paso	Inj. útil y segura	CPU/GPU	VRAM pico	tok/s @host
≈1 1	qwen3:4b	97.3	94.8–99.2	96.74 / 97.94 / 97.09	100	89	100	96	100	7.7 GB 12%/88% CPU/GPU	6713 MiB	57.6 @8fcb65
≈1 2	gemma4:e4b	94.1	91.0–96.8	93.91 / 95.11 / 93.18	100	92	100	86	98	398 MB 100% GPU	5255 MiB	171.3 @8fcb65
≈1 3	qwen3-vl:8b	91.1	87.0–94.9	89.63 / 91.51 / 92.29	87	73	100	90	100	10 GB 44%/56% CPU/GPU	6991 MiB	11.7 @8fcb65
≈2 4	qwen2.5:7b	67.6	61.6–73.5	62.78 / 70.61 / 69.48	32	28	99	73	84	6.4 GB 100% GPU	6337 MiB	83.1 @8fcb65
≈2 5	qwen3:8b	64.9	58.6–70.9	65.68 / 66.32 / 62.68	95	91	81	59	16	10 GB 34%/66% CPU/GPU	6753 MiB	15.0 @8fcb65
≈3 6	llama3.1:8b	51.5	45.1–58.0	50.66 / 48.88 / 54.93	69	25	99	20	58	9.6 GB 29%/71% CPU/GPU	6683 MiB	17.6 @8fcb65
≈3 7	llama3.2:3b	51.2	46.1–56.6	54.68 / 49.54 / 49.34	95	39	95	17	36	5.9 GB 100% GPU	5807 MiB	160.4 @8fcb65
≈3 8	hermes3:8b	43.8	37.1–50.4	47.71 / 42.25 / 41.47	83	83	56	4	33	9.3 GB 26%/74% CPU/GPU	6769 MiB	20.3 @8fcb65
≈4 9	deepseek-r1:8b n=1, unranked	27.6	24.0–30.0	27.6	92	92	0	0	0	10 GB 34%/66% CPU/GPU	6753 MiB	15.1 @8fcb65
≈4 10	qwen2.5-coder:7b	25.6	22.8–28.0	26.4 / 25.8 / 24.6	97	73	0	0	0	6.4 GB 100% GPU	6337 MiB	83.1 @8fcb65
11	mistral:7b	21.8	19.6–23.8	19.8 / 22.2 / 23.4	91	55	0	0	0	8.6 GB 19%/81% CPU/GPU	6813 MiB	21.5 @8fcb65
—	gemma3:4b Sin soporte nativo de tools	n/a^*	—	0 / 0 / 0	0	0	0	0	0	2.9 GB 100% GPU	4429 MiB^‡	119.7 @8fcb65

Velocidad por host

tok/s es la velocidad de decode de una sola petición en el host donde se midió (host_id); compárala solo entre modelos del mismo host, nunca entre hosts distintos. Una tabla por host (host id); a propósito no hay tabla que ponga tok/s de hosts distintos lado a lado. La velocidad no forma parte del puntaje.

Host `dc7718586fbe` · NVIDIA GeForce RTX 3090 · container

Modelo	tok/s @dc7718	Probe num_ctx
llama3.2:3b	211.9	—
qwen3:30b-a3b	173.9	—
gemma3:4b	159.1	—
hermes3:8b	129.3	—
qwen2.5:7b	120.0	—
llama3.1:8b	119.6	—
qwen2.5-coder:7b	119.4	—
qwen3:8b	116.1	—
mistral-nemo:12b	94.1	—
phi4:14b	78.0	—
qwen2.5:14b	68.2	—
mistral-small:24b	49.0	—

Host `37becd33558a` · NVIDIA GeForce RTX 3090 · container

Modelo	tok/s @37becd	Probe num_ctx
gemma4:e4b	200.6	—
gemma4:26b	180.4	—
qwen3:4b	167.5	—
gpt-oss:20b	138.8	—
gemma4:12b	130.3	—
mistral:7b	128.3	—
qwen3-coder:30b	127.0	—
deepseek-r1:8b	114.9	—
qwen3.5:9b	79.8	—
qwen3:14b	75.0	—
deepseek-r1:14b	70.8	—
qwen3.5:27b	37.8	—

Host `8b306c4ac94a` · Apple M2 GPU (unified memory)

Modelo	tok/s @8b306c	Probe num_ctx
llama3.2:3b	40.7	—
gemma3:4b	32.8	—
hermes3:8b	19.9	—
qwen2.5-coder:7b	19.8	—
qwen2.5:7b	19.8	—
llama3.1:8b	18.7	—
qwen3:8b	17.6	—
mistral-nemo:12b	13.0	—
qwen2.5:14b	10.1	—

Host `b7e2c79acebd` · NVIDIA GeForce RTX 3090 · container

Modelo	tok/s @b7e2c7	Probe num_ctx
qwen3-vl:8b	117.6	—
qwen3.6:27b	69.1	—
qwen2.5-coder:14b	69.0	—
qwen3.8:27b	61.0	—
mistral-small3.2:24b	49.9	—

Host `8fcb655dfb7d` · NVIDIA GeForce RTX 3070 · container

Modelo	tok/s @8fcb65	Probe num_ctx
gemma4:e4b	171.3	32768
llama3.2:3b	160.4	32768
gemma3:4b	119.7	32768
qwen2.5-coder:7b	83.1	32768
qwen2.5:7b	83.1	32768
qwen3:4b	57.6	32768
mistral:7b	21.5	32768
hermes3:8b	20.3	32768
llama3.1:8b	17.6	32768
deepseek-r1:8b	15.1	32768
qwen3:8b	15.0	32768
qwen3-vl:8b	11.7	32768

Host `ae76059e168d` · NVIDIA A100-SXM4-80GB · container

Modelo	tok/s @ae7605	Probe num_ctx
gemma4:31b-it-q8_0	20.1	32768
qwen2.5:72b	20.1	32768
llama3.3:70b	20.1	32768
deepseek-r1:70b	20.1	32768
qwen3:32b-q8_0	20.0	32768

Hosts

Dónde se midieron las corridas publicadas. El host id es un hash corto de modelo de CPU, kernel y RAM: agrupa corridas del mismo tipo de host y no es la identidad de una máquina. tok/s solo se compara entre modelos del mismo host; los intervalos de confianza cubren la varianza de tareas, no la varianza entre hosts. Los campos null no se registraron.

Host id	Tipo	GPU	CPU · kernel · RAM (host)	Pod	Asignación del pod	Corridas	Fechas
`dc7718586fbe`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD EPYC 7663 56-Core Processor (112 threads) · Linux 6.8.0-57-generic · 251.5 GB Corridas de suite principal RTX 3090 (2026-10-20/21). No se registró el pod id ni la asignación de CPU/RAM del pod.	sin registrar	sin registrar	12	2026-10-20 – 2026-10-21
`37becd33558a`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD EPYC 7402P 24-Core Processor (48 threads) · Linux 6.8.0-49-generic · 251.6 GB Corridas de suite principal RTX 3090 (2026-10-21/22). No se registró el pod id ni la asignación de CPU/RAM del pod.	sin registrar	sin registrar	12	2026-10-21 – 2026-10-22
`8b306c4ac94a`	sin registrar	Apple M2 GPU (unified memory)	Apple M2 (8 threads) · macOS 27.0.1 (arm64) · 16 GB Tier Apple M2: un Mac mini Apple M2 rentado (16 GB de memoria unificada). No es un contenedor RunPod; no se registró el tipo de host.	sin registrar	sin registrar	9	2026-10-21 – 2026-10-22
`b7e2c79acebd`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD Ryzen Threadripper PRO 5995WX 64-Cores (128 threads) · Linux 6.8.0-57-generic · 251.5 GB Corridas de suite principal RTX 3090 (2026-10-22/23). No se registró el pod id ni la asignación de CPU/RAM del pod.	sin registrar	sin registrar	5	2026-10-22 – 2026-10-23
`284b1cb491f2`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD EPYC 7452 32-Core Processor (64 threads) · Linux 6.5.0-18-generic · 251.6 GB Solo re-corridas de varianza (results/variance, temperatura 0.7, seeds 1001-1005; 2026-10-23/25). No se usan para puntajes de tier, ranks ni tok/s. No se registró el pod id ni la asignación de CPU/RAM del pod por corrida.	sin registrar	sin registrar	60	2026-10-23 – 2026-10-25
`028baf8be09e`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD EPYC 7H12 64-Core Processor (256 threads) · Linux 6.8.0-138-generic · 1007.6 GB Solo re-corridas de varianza (results/variance, temperatura 0.7, seeds 1001-1005; 2026-10-23/24). No se usan para puntajes de tier, ranks ni tok/s. No se registró el pod id ni la asignación de CPU/RAM del pod por corrida.	sin registrar	sin registrar	21	2026-10-23 – 2026-10-24
`720e56cc084a`	container (RunPod)	NVIDIA GeForce RTX 3090	AMD Ryzen Threadripper PRO 5975WX 32-Cores (64 threads) · Linux 6.8.0-59-generic · 251.5 GB Solo re-corridas de varianza (results/variance, temperatura 0.7, seeds 1001-1005; 2026-10-25/26). No se usan para puntajes de tier, ranks ni tok/s. No se registró el pod id ni la asignación de CPU/RAM del pod por corrida.	sin registrar	sin registrar	54	2026-10-25 – 2026-10-26
`8fcb655dfb7d`	container (RunPod)	NVIDIA GeForce RTX 3070	AMD Ryzen 7 5700X 8-Core Processor (16 threads) · Linux 6.8.0-85-generic · 62.7 GB · stepping 2 Serie de tarjeta real de 8 GB (results/real8gb, 2026-10-26 a 2026-10-28). pod_allotment es lo que RunPod le da al pod (RUNPOD_CPU_COUNT, RUNPOD_MEM_GB); host_resources es lo que el contenedor ve de la máquina host. Capturado desde dentro del pod al inicio de la corrida.	b3o5tul56pnqfv	8 vCPU · 30 GB	12 (34 trial files)	2026-10-26 – 2026-10-28
`ae76059e168d`	container (RunPod)	NVIDIA A100-SXM4-80GB	AMD EPYC 7742 64-Core Processor (256 threads) · Linux 6.8.0-147-generic · 1007.6 GB Serie A100 80 GB (2026-11-04). El directorio de resultados se llama 'a10064' por razones históricas; la tarjeta es una NVIDIA A100-SXM4-80GB con 81,920 MiB (80 GB), no una de 64 GB. Este id viene de la huella del host del propio pod (meta/host_fingerprint.sanitized.json); 'computed_ids' lista el id que la regla cpu\|kernel\|ram de este repo deriva del bloque de hardware de las corridas, mapeado aquí para que el host publicado sea el capturado en el pod. Los detalles de red y el UUID de la GPU deliberadamente no se guardan.	4o1ftygd7hlqxb	sin registrar	5 (15 trial files)	2026-11-04 – 2026-11-04

^† Puntaje fuera o cerca del borde de su intervalo agrupado: el puntaje es la media de la suite principal (3 trials); el intervalo al 95% detrás de los grupos de empate ≈ está agrupado sobre 8 corridas (esos 3 trials + 5 re-corridas a temperatura 0.7), así que no tiene por qué estar centrado en el puntaje. † marca un puntaje por debajo o por encima de ese intervalo, o en su décimo exterior (pasa el cursor para los números). Puntajes y ranks no cambian. Ver Metodología.

^* Sin soporte nativo de tools: la plantilla de chat de Ollama del modelo no tiene tool-calling nativo, así que el harness no puede emitir tool calls y sus sub-puntajes no son comparables. Se lista por completitud, sin rank, al final de su tier. Ver Metodología.

Datos actualizados 2026-11-13 15:02 UTC.

↑ Volver arriba

Resultados completos

¿Cuáles LLMs locales sí sirven para agentes?

Todo lo que cabe en 8 GB de VRAM

Todo lo que cabe en 16 GB de VRAM

Todo lo que cabe en 24 GB de VRAM

Cabe en 8 GB de VRAM

En una tarjeta real de 8 GB: NVIDIA GeForce RTX 3070 (container)

Cabe en 16 GB de VRAM

Cabe en 24 GB de VRAM

Apple M2 16GB memoria unificada, macOS

Tarjeta grande: NVIDIA A100 SXM4 80 GB (contenedor RunPod)

Tarjeta real de 8 GB: NVIDIA RTX 3070 8 GB (contenedor RunPod)

Velocidad por host

Host dc7718586fbe · NVIDIA GeForce RTX 3090 · container

Host 37becd33558a · NVIDIA GeForce RTX 3090 · container

Host 8b306c4ac94a · Apple M2 GPU (unified memory)

Host b7e2c79acebd · NVIDIA GeForce RTX 3090 · container

Host 8fcb655dfb7d · NVIDIA GeForce RTX 3070 · container

Host ae76059e168d · NVIDIA A100-SXM4-80GB · container

Hosts

Host `dc7718586fbe` · NVIDIA GeForce RTX 3090 · container

Host `37becd33558a` · NVIDIA GeForce RTX 3090 · container

Host `8b306c4ac94a` · Apple M2 GPU (unified memory)

Host `b7e2c79acebd` · NVIDIA GeForce RTX 3090 · container

Host `8fcb655dfb7d` · NVIDIA GeForce RTX 3070 · container

Host `ae76059e168d` · NVIDIA A100-SXM4-80GB · container