Auto-hospedagem
Bastam a RAM e saber se você tem GPU. Todo o resto é opcional. A classificação é aritmética sobre contagens de parâmetros com fonte — a NVIDIA não escolhe o vencedor.
7 de 25 modelos de pesos abertos perfilados cabem em 24 GiB (vram) com contexto 8192. O melhor avaliado que cabe: Gemma 4 31B (Q5_K_M).
VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.
48 GiB eleva a quantização de Gemma 4 31B para Q8_0. Mesmo modelo, não uma nota de inteligência maior.
Entre os modelos que cabem
Maior Elo do LMArena entre os que cabem: Gemma 4 31B 1443,4. O Elo é uma escala de preferência humana, não o índice de inteligência.
The arena boards are separate scales and are never blended. A missing cell is unmeasured, not zero. A model’s highest axis is relative to its own scores, not a claim it leads the catalogue.
Modelos avaliados que cabem
| Modelo | Preferência humana | Quantização que cabe | GiB estimados | Folga |
|---|---|---|---|---|
| Gemma 4 31B | 1443,4 | Q5_K_M | 22,106 | 1,894 |
| Qwen3.8 27B | 1440,7 | Q5_K_M | 20,063 | 3,938 |
| Phi 4 | 1216,7 | Q8_0 | 17,438 | 6,563 |
- KV heads and head dim are not in the public size table we used. Cache is not estimated.
- KV cache not estimated — layer/head geometry is not in the sourced profile. Longer context may not fit.
Cabem, sem nota
- Muse Glimmer 30B — Q5_K_M, 21,756 GiB sem nota visãoraciocínioferramentas
- Ministral 3 14B 2512 — Q8_0, 17,019 GiB sem nota visãoferramentas
- Ministral 3 8B 2512 — F16, 19,663 GiB sem nota visãoferramentas
- Ministral 3 3B 2512 — F16, 9,413 GiB sem nota visãoferramentas
O que uma atualização realmente compra
O gargalo é a memória de GPU. Mais RAM de sistema não vai carregar pesos adicionais nesta placa.
| GiB estimados | Desbloqueia | Exemplo | Preço de tabela |
|---|---|---|---|
| 48 GiB | Gemma 4 31B — Q8_0mesmo modelo, quantização maior | rtx a6000, rtx 6000 ada, rtx pro 6000 blackwell | Sem preço de consumo neste arquivo |
O próximo modelo do catálogo mais bem avaliado é Kimi K3, e mesmo em Q4_K_M ele pede 1691,5 GiB. Isso não é uma placa de desktop.
NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.
As atualizações usam a mesma fórmula de encaixe da classificação. Os preços de tabela são os “a partir de” da NVIDIA, datados de 2026-08-25. Os preços de mercado costumam ser maiores. Placas de 24 GB usadas e GPUs de datacenter não têm preço de tabela aqui. Pentes de RAM não são precificados.
Não cabem, ou não perfilados
- cohere/command-a-plus — even Q4_K_M wants 132.618 GiB; pool is 24 GiB
- deepseek/deepseek-v4-flash-vision-exp — even Q4_K_M wants 184.902 GiB; pool is 24 GiB
- z-ai/glm-5.3 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
- qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
- moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
- z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
- moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
- nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
- minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
- deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
- deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
- mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
- mistralai/mistral-large-2512 — even Q4_K_M wants 408.531 GiB; pool is 24 GiB
- deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
- openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
- meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
- meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
- cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB
Detalhes adicionais (opcional)
Não altera a classificação. Análise opcional por IA das suas anotações diante dos números acima, usando os modelos mais fortes do NVIDIA NIM.
Como o número é obtido
Pesos: o tamanho GGUF medido quando temos um; caso contrário, parâmetros totais × bits por peso ÷ 8. Q4_K_M é tratado como 4,83 bits por parâmetro. A memória de MoE usa os parâmetros totais, não os ativos.
Cache KV, quando a geometria de camadas e cabeças tem fonte: 2 × kvLayers × kvHeads × headDim × contexto × 2 bytes (FP16, lote 1). Modelos híbridos usam a contagem de camadas de atenção, não todas as camadas. Se faltar a geometria, o cache é omitido e isso é declarado.
1 GiB são somados para CUDA e tempo de execução. A memória unificada da Apple usa a RAM como conjunto. Somente CPU é um encaixe de memória, não uma promessa de velocidade. A geração de DDR é ignorada no encaixe — ela muda a banda, não se os pesos cabem na memória.
Apenas linhas do catálogo com openWeights=true são candidatas. Existem 25 linhas assim; 25 têm tamanhos com fonte. Modelos sem nota que cabem são listados à parte. Uma nota maior não significa substituição direta.
O tipo de RAM (DDR4/DDR5/LPDDR) não é um campo. Ele não muda se um modelo cabe.