Autoalojamiento

Bastan la RAM y si tienes GPU. Todo lo demás es opcional. La clasificación es aritmética sobre recuentos de parámetros con fuente: NVIDIA no elige al ganador.

20 filas del catálogo marcadas como pesos abiertos. Nada más es candidato.
20 de ellas tienen un recuento de parámetros con fuente. El resto aparece como desconocido, no adivinado.
1 GiB de margen de ejecución, declarado, no medido en tu máquina.
GPU
Sistema operativo (opcional — solo software)
Contexto a presupuestar
La caché KV crece con esto. No damos por supuesto el máximo de la ficha del modelo.

6 de 20 modelos de pesos abiertos perfilados caben en 24 GiB (vram) con contexto 8192. El mejor puntuado que cabe: Qwen3.8 27B (Q5_K_M).

Pesos 18.563 GiB Caché KV 0.5 GiB Ejecución 1 GiB Margen 3.9 GiB / 24 GiB

VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.

32 GiB eleva la cuantización de Qwen3.8 27B a Q8_0. El mismo modelo, no una puntuación de inteligencia mayor.

Entre los modelos que caben

Qwen3.8 27B tiene las puntuaciones más altas de Artificial Analysis en inteligencia (52), programación (68.1) y agéntica (50.9) entre los modelos que caben.

Mayor Elo de LMArena entre los que caben: Gemma 4 31B 1441.7. El Elo es una escala de preferencia humana, no el índice de inteligencia.

Los índices de Artificial Analysis y el Elo de LMArena son escalas distintas. Una celda vacía está sin medir, no vale cero. El eje más alto de un modelo es relativo a sus propias puntuaciones, no una afirmación de que lidera el catálogo.

Modelos puntuados que caben

ModeloGeneralProgramaciónAgénticaPreferencia humanaCuantización que cabeGiB estimadosMargen
Qwen3.8 27B
Máximo AA: Programación visiónvídeorazonamientoherramientas
5268.150.91440.8Q5_K_M20.0633.938
Gemma 4 31B
Máximo AA: Programación visiónvídeorazonamientoherramientas
29.743.414.41441.7Q5_K_M22.1061.894
Olmo 3 32B Think
razonamiento
1298.5Q4_K_M22.321.68
Granite 4.1 8B
herramientas
9.51291.6F1618.255.75
Phi 4 1216.8Q8_017.4386.563
  • Hybrid: only 16 of 64 layers are Gated Attention. KV uses kvLayers=16, not nLayers=64. Measured Q4 is Unsloth UD-Q4_K_M, not a vanilla Q4_K_M.

Caben, sin puntuar

  • Muse Glimmer 30B — Q5_K_M, 21.756 GiB sin puntuar visiónrazonamientoherramientas

Qué compra realmente una mejora

El cuello de botella es la memoria de GPU. Más RAM del sistema no cargará más pesos en esta tarjeta.

GiB estimadosDesbloqueaEjemploPrecio de lista
32 GiBQwen3.8 27B — Q8_0mismo modelo, cuantización superiorGeForce RTX 5090 (32 GiB)USD 1999 desde

El siguiente modelo del catálogo mejor puntuado es Kimi K3, y ni siquiera Q4_K_M baja de 1691.5 GiB. Eso no es una tarjeta de escritorio.

NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.

Las mejoras usan la misma fórmula de ajuste que la clasificación. Los precios de lista son «desde» de NVIDIA, con fecha 2026-08-25. El precio de calle suele ser mayor. Las tarjetas de 24 GB de segunda mano y las GPU de centro de datos no tienen precio de lista aquí. Los módulos de RAM no llevan precio.

No caben, o no perfilados

  • qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
  • moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
  • z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
  • moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
  • nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
  • minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
  • mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
  • deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
  • openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
  • meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
  • meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
  • cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB

Detalles adicionales (opcional)

No cambia la clasificación. Análisis opcional con IA de tus notas frente a las cifras anteriores, usando los modelos más potentes de NVIDIA NIM.

Cómo se obtiene la cifra

Pesos: el tamaño GGUF medido cuando lo tenemos; si no, parámetros totales × bits por peso ÷ 8. Q4_K_M se trata como 4,83 bits por parámetro. La memoria de los MoE usa los parámetros totales, no los activos.

Caché KV, cuando la geometría de capas y cabezales tiene fuente: 2 × kvLayers × kvHeads × headDim × contexto × 2 bytes (FP16, lote 1). Los modelos híbridos usan el número de capas de atención, no todas. Si falta la geometría, se omite la caché y así se indica.

Se añaden 1 GiB para CUDA y el entorno de ejecución. La memoria unificada de Apple usa la RAM como conjunto. Solo CPU es un ajuste de memoria, no una afirmación de velocidad. La generación de DDR se ignora para el ajuste: cambia el ancho de banda, no si los pesos caben en memoria.

Solo son candidatas las filas del catálogo con openWeights=true. Existen 20 filas así; 20 tienen tamaños con fuente. Los modelos sin puntuar que caben se listan aparte. Una puntuación mayor no implica un reemplazo directo.

El tipo de RAM (DDR4/DDR5/LPDDR) no es un campo. No cambia si un modelo cabe.