Auto-hospedagem

Bastam a RAM e saber se você tem GPU. Todo o resto é opcional. A classificação é aritmética sobre contagens de parâmetros com fonte — a NVIDIA não escolhe o vencedor.

20 linhas do catálogo marcadas como pesos abertos. Nada mais é candidato.
20 dessas têm contagem de parâmetros com fonte. As demais aparecem como desconhecidas, não adivinhadas.
1 GiB de folga de execução, declarada, não medida na sua máquina.
GPU
Sistema operacional (opcional — apenas software)
Contexto a reservar
O cache KV cresce com isso. Não presumimos o máximo do cartão do modelo.

6 de 20 modelos de pesos abertos perfilados cabem em 24 GiB (vram) com contexto 8192. O melhor avaliado que cabe: Qwen3.8 27B (Q5_K_M).

Pesos 18.563 GiB Cache KV 0.5 GiB Execução 1 GiB Folga 3.9 GiB / 24 GiB

VRAM as entered. Driver reservation is inside the 1 GiB overhead, not extra.

32 GiB eleva a quantização de Qwen3.8 27B para Q8_0. Mesmo modelo, não uma nota de inteligência maior.

Entre os modelos que cabem

Qwen3.8 27B tem as maiores notas da Artificial Analysis em inteligência (52), programação (68.1) e agêntica (50.9) entre os modelos que cabem.

Maior Elo do LMArena entre os que cabem: Gemma 4 31B 1441.7. O Elo é uma escala de preferência humana, não o índice de inteligência.

Os índices da Artificial Analysis e o Elo do LMArena são escalas diferentes. Uma célula vazia não foi medida, não vale zero. O eixo mais alto de um modelo é relativo às próprias notas dele, não uma afirmação de que lidera o catálogo.

Modelos avaliados que cabem

ModeloGeralProgramaçãoAgênticoPreferência humanaQuantização que cabeGiB estimadosFolga
Qwen3.8 27B
Pico AA: Programação visãovídeoraciocínioferramentas
5268.150.91440.8Q5_K_M20.0633.938
Gemma 4 31B
Pico AA: Programação visãovídeoraciocínioferramentas
29.743.414.41441.7Q5_K_M22.1061.894
Olmo 3 32B Think
raciocínio
1298.5Q4_K_M22.321.68
Granite 4.1 8B
ferramentas
9.51291.6F1618.255.75
Phi 4 1216.8Q8_017.4386.563
  • Hybrid: only 16 of 64 layers are Gated Attention. KV uses kvLayers=16, not nLayers=64. Measured Q4 is Unsloth UD-Q4_K_M, not a vanilla Q4_K_M.

Cabem, sem nota

O que uma atualização realmente compra

O gargalo é a memória de GPU. Mais RAM de sistema não vai carregar pesos adicionais nesta placa.

GiB estimadosDesbloqueiaExemploPreço de tabela
32 GiBQwen3.8 27B — Q8_0mesmo modelo, quantização maiorGeForce RTX 5090 (32 GiB)USD 1999 a partir de

O próximo modelo do catálogo mais bem avaliado é Kimi K3, e mesmo em Q4_K_M ele pede 1691.5 GiB. Isso não é uma placa de desktop.

NVIDIA 'Starting at' list prices as published 2026-08-25, not a store quote and not a used-market index. Street prices in August 2026 are often much higher (Tom's Hardware Newegg median RTX 5090 $4,699 vs $1,999 list). Last-gen 24 GB cards (4090, 3090) have no current NVIDIA starting-at in this file. Datacenter cards have no consumer list here. RAM DIMMs are not priced — they move weekly.

As atualizações usam a mesma fórmula de encaixe da classificação. Os preços de tabela são os “a partir de” da NVIDIA, datados de 2026-08-25. Os preços de mercado costumam ser maiores. Placas de 24 GB usadas e GPUs de datacenter não têm preço de tabela aqui. Pentes de RAM não são precificados.

Não cabem, ou não perfilados

  • qwen/qwen3.8-2.4t-a95b — even Q4_K_M wants 1450.719 GiB; pool is 24 GiB
  • moonshotai/kimi-k3 — even Q4_K_M wants 1691.5 GiB; pool is 24 GiB
  • z-ai/glm-5.2 — even Q4_K_M wants 455.624 GiB; pool is 24 GiB
  • moonshotai/kimi-k2.7-code — even Q4_K_M wants 604.75 GiB; pool is 24 GiB
  • nvidia/nemotron-3-ultra-550b-a55b — even Q4_K_M wants 333.063 GiB; pool is 24 GiB
  • minimax/minimax-m3 — even Q4_K_M wants 259.405 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-pro — even Q4_K_M wants 967 GiB; pool is 24 GiB
  • deepseek/deepseek-v4-flash — even Q4_K_M wants 172.465 GiB; pool is 24 GiB
  • mistralai/mistral-small-2603 — even Q4_K_M wants 73.2 GiB; pool is 24 GiB
  • deepseek/deepseek-v3.2 — even Q4_K_M wants 406.116 GiB; pool is 24 GiB
  • openai/gpt-oss-120b — even Q4_K_M wants 72.201 GiB; pool is 24 GiB
  • meta-llama/llama-4-maverick — even Q4_K_M wants 242.5 GiB; pool is 24 GiB
  • meta-llama/llama-4-scout — even Q4_K_M wants 66.809 GiB; pool is 24 GiB
  • cohere/command-a — even Q4_K_M wants 68.016 GiB; pool is 24 GiB

Detalhes adicionais (opcional)

Não altera a classificação. Análise opcional por IA das suas anotações diante dos números acima, usando os modelos mais fortes do NVIDIA NIM.

Como o número é obtido

Pesos: o tamanho GGUF medido quando temos um; caso contrário, parâmetros totais × bits por peso ÷ 8. Q4_K_M é tratado como 4,83 bits por parâmetro. A memória de MoE usa os parâmetros totais, não os ativos.

Cache KV, quando a geometria de camadas e cabeças tem fonte: 2 × kvLayers × kvHeads × headDim × contexto × 2 bytes (FP16, lote 1). Modelos híbridos usam a contagem de camadas de atenção, não todas as camadas. Se faltar a geometria, o cache é omitido e isso é declarado.

1 GiB são somados para CUDA e tempo de execução. A memória unificada da Apple usa a RAM como conjunto. Somente CPU é um encaixe de memória, não uma promessa de velocidade. A geração de DDR é ignorada no encaixe — ela muda a banda, não se os pesos cabem na memória.

Apenas linhas do catálogo com openWeights=true são candidatas. Existem 20 linhas assim; 20 têm tamanhos com fonte. Modelos sem nota que cabem são listados à parte. Uma nota maior não significa substituição direta.

O tipo de RAM (DDR4/DDR5/LPDDR) não é um campo. Ele não muda se um modelo cabe.